代理程式流量錯誤
抓取您網站的AI代理程式會遇到與人類瀏覽器相同的HTTP錯誤,但結果會不同。 當AI代理程式點選404、403或5xx錯誤時,它無法存取或引用該內容,直接降低您的品牌在AI產生的回應中的可見度。
代理流量錯誤機會會監視您的CDN記錄檔中傳回給AI代理的HTTP錯誤,並顯示受影響的URL及其點選量以及修復建議。 它涵蓋三種錯誤型別 — 每種在控制面板中都有自己的機會:
- 404找不到 — 中斷的連結導致AI代理程式無法存取在預期URL中不再存在的內容。
- 403禁止存取 — 存取限制會封鎖AI爬蟲應該能夠存取的內容。
- 5xx伺服器錯誤 — 伺服器端不穩定,導致AI代理程式暫時或持續無法使用內容。
根據為您的網站偵測到的錯誤,每種錯誤型別都可能在您的儀表板中顯示為個別的機會。
機會也會針對每種錯誤型別顯示兩個關鍵量度:
- 總URL — 傳回錯誤給AI代理程式的唯一URL數目。
- 總點選數 — 所有AI代理程式請求中記錄的錯誤回應總數。
運作方式
LLM Optimizer透過Athena查詢您的CDN記錄,以識別傳回404、403或5xx狀態代碼給AI代理使用者代理程式的URL。 使用者代理包括ChatGPT、Claude、Perplexity和Gemini。 每個稽核最多可分析500個URL,並按流量排名。 依預設,稽核會每週執行。
URL會在出現之前進行驗證,以篩選掉誤判和過時資料。 LLM Optimizer會重新測試每個URL以確認其目前狀態,並比較AI代理程式回應與人類瀏覽器回應,以識別爬蟲特定問題。
針對404錯誤,建議為AI支援。 因此,LLM Optimizer會分析中斷的URL結構和內容,以建議保留使用者意圖的替代URL,以及說明建議的信賴分數和理由。
針對403和5xx錯誤,建議是以範本為基礎,提供每種錯誤型別的目標指引。
錯誤詳細資料表格
錯誤詳細資料表格列出所有受影響的URL,依使用者代理程式、國家代碼和 類別 篩選。 對於它顯示的每個URL:
- URL — 受影響的頁面。
- 總計 — 來自AI代理程式的錯誤點選總數。
- 最近幾週的每週點選計數,因此您可以追蹤問題是否持續或改善。
建議詳細資料
按一下任何建議會開啟 建議詳細資料 面板,其中顯示:
- 受影響的URL和建議的動作,例如「應為有效的URL或重新導向至替代的URL」。
- 顯示AI代理程式使用者代理程式每週點選總數的 統計資料 圖表,讓您瞭解流量影響以及問題持續存在或改善的程度。
- 共用和 解除 動作以管理建議。
對於某些5xx (及類似)案例,面板可能會指出沒有相同的網域替代URL可用,並說明建議如何遵循網域和清單規則。 例如,建議在無法提供更接近的相符專案時,使用基本網域URL來保留SEO值。
如何修正
此修正取決於錯誤型別:
404錯誤 — 建議包括AI根據損毀URL的結構和內容所建議的一或多個替代URL,以及信賴分數和理由。 實作伺服器端重新導向,從中斷的URL恢復到建議的替代方案,以還原AI代理程式存取權並保留內容可發現性。
403錯誤 — 檢閱存取許可權以確保AI爬蟲不會遭到封鎖,無法存取他們應該能夠存取的內容。 具體來說:
- 檢閱存取許可權 — 已封鎖AI爬蟲。
- 確認安全性設定不會封鎖合法的爬蟲。
5xx錯誤 — 調查影響已標幟頁面的伺服器端問題。 具體來說:
- 調查高流量頁面的伺服器穩定性。
- 檢查應用程式記錄檔中是否有週期性錯誤。
- 監視基礎建設狀況和容量。
在示範中試用
使用Frescopa示範環境檢視代理流量錯誤使用中的機會。
常見問題
為何HTTP錯誤對AI可見度很重要?
在擷取增強型系統中,AI爬蟲會探索連結並嘗試擷取頁面內容,以納入其回應中。 如果頁面遺失、傳回錯誤或無法存取,則無法擷取或引用其內容。 修正這些技術錯誤會直接改善AI系統成功索引和引用您的內容的可能性。
404和403錯誤之間有何差異?
404錯誤表示頁面不存在請求的URL中 — 它已被刪除或移動而沒有重新導向。 403錯誤表示頁面存在,但所有爬蟲或特定AI代理程式的存取遭到拒絕。 兩者都會防止AI代理程式存取您的內容,但每個的修正不同。
為何403錯誤只會影響AI代理程式,而不會影響人類訪客?
某些安全性設定或存取控制設定可能會封鎖AI代理程式使用者代理程式,使其無法存取人類訪客正常可存取的內容。 LLM Optimizer會比較AI代理程式回應與人類瀏覽器回應,特別標示這些案例。
如何篩選掉誤判?
LLM Optimizer會重新測試URL以確認其目前狀態,然後將其顯示為建議,並比較AI代理程式回應與人類瀏覽器回應,以識別爬蟲特定問題。 不再傳回錯誤的URL不會顯示。
分析多久更新一次?
稽核預設會每週執行,從上週的CDN記錄檔提取錯誤資料。 錯誤詳細資料表格會顯示每週點選計數,以便您追蹤一段時間內的趨勢。
監視哪些AI代理程式?
LLM Optimizer會監控來自所有偵測到的AI代理程式使用者代理程式模式的錯誤回應,包括:ChatGPT、Claude、Perplexity和Gemini爬蟲。