代理式流量错误
AI 代理在抓取您的网站时会与人类浏览器一样遇到相同的 HTTP 错误,但造成的结果不一样。 当 AI 代理遇到 404、403 或 5xx 错误时,它无法访问或引用此内容,这就直接降低了您的品牌在 AI 生成的回答中的可见性。
“代理式流量错误”机会能够监控您的内容传递网络日志中记录的返回给 AI 代理的 HTTP 错误,并显示受影响的 URL 及其尝试访问量,提供修复建议。 它涵盖了三种错误类型,每一种在仪表板中都有自己的机会:
- 404 未找到:链接损坏,阻止了 AI 代理访问,相应内容在预期的 URL 中不再存在。
- 403 禁止访问:限制访问,阻止了 AI 爬虫访问那些它们本应能够访问的内容。
- 5xx 服务器错误:服务器端不稳定,导致 AI 代理暂时或永久无法访问这些内容。
根据检测到的网站错误,每种错误类型都可能会作为一个单独的机会显示在您的仪表板中。
这个机会还会提供每种错误类型的两个关键量度:
- URL 总数:给 AI 代理返回错误的独特 URL 的数量。
- 总访问量:在所有 AI 代理请求中记录的错误回答总数。
工作原理
LLM Optimizer 通过 Athena 查询您的内容传递网络日志,以识别那些给 AI 代理用户代理返回 404、403 或 5xx 状态代码的 URL。 用户代理包括 ChatGPT、Claude、Perplexity 和 Gemini。 每次审核最多可分析 500 个 URL,并按流量排名。 默认情况下,审核每周运行一次。
URL 在显示之前会进行验证,以过滤掉误报和过时的数据。 LLM Optimizer 会重新测试每个 URL,确认其当前状态,并将 AI 代理的回答与人类浏览器的响应进行比较,以识别爬虫特有的问题。
针对 404 错误的建议是 AI 驱动的。 为此,LLM Optimizer 会分析损坏的 URL 的结构和内容,推荐符合用户意图的其他替代 URL,并提供置信度分数和推荐理由。
针对 403 和 5xx 错误的建议是基于模板的,为每种错误类型提供有针对性的指导。
错误详情表
错误详情表中列出了所有受影响的 URL,并按用户代理、国家/地区代码和 类别 进行了筛选。 它为每个 URL 显示:
- URL:受影响的页面。
- 总计:来自 AI 代理的访问错误总数。
- 最近几周的每周访问计数,这样您就可以跟踪相关问题是否仍然存在还是已得到改善。
建议详细信息
点击任何建议,可打开一个 建议详情 面板,其中显示:
- 受影响的 URL 和建议的操作。例如,“应该是一个有效的 URL 或者重定向到另一个 URL”。
- 统计数据图中显示了 AI 代理用户代理每周访问总数,这样您就可以了解流量影响以及相关问题是否仍然存在还是已得到改善。
- 用于管理建议的 共享 和 忽略 操作。
对于有些 5xx(和类似的)情况,面板中可能会注明没有相同域的替代 URL 可用,并说明这些建议如何遵循域和列表规则。 例如,当无法提供更接近的匹配地址时,建议使用基本域 URL 以保留 SEO 价值。
如何修复
修复取决于错误类型:
404 错误:建议包括 AI 基于损坏的 URL 结构和内容推荐的一个或多个替代 URL,以及置信度分数和推荐理由。 实施服务器端重定向,即从损坏的 URL 改为建议的替代地址,以恢复 AI 代理访问,保持内容可发现性。
403 错误:审阅访问权限,确保不会阻止 AI 爬虫访问它们本应能够访问的内容。 具体情况如下:
- 审阅访问权限:AI 爬虫被阻止。
- 验证安全设置不会阻止合法的爬虫。
5xx 错误:调查影响了带标记页面的服务器端问题。 具体情况如下:
- 调查高流量页面的服务器稳定性。
- 检查应用程序日志中是否有定期出现的错误。
- 监控基础架构的健康状况和容量。
在演示中尝试此操作
使用 Frescopa 演示环境了解“代理式流量错误”机会的实际运作。
常见问题解答
为什么 HTTP 错误对于 AI 可见性很重要?
在检索增强的系统中,AI 爬虫会发现链接并尝试获取页面内容,以将其包含在回答中。 如果页面缺失、返回错误或无法访问,就无法检索或引用其中的内容。 修复这些技术错误能够直接提高 AI 系统成功索引和引用您的内容的可能性。
404 错误和 403 错误有什么区别?
404 错误表示所请求的 URL 中不存在此页面,页面已删除或移动,且没有重定向。 403 错误表示此页面存在,但所有爬虫或 AI 代理特定的访问请求都被拒绝。 这两种错误都会阻止 AI 代理访问您的内容,但它们的修复方法不一样。
为什么 403 错误只影响 AI 代理,但不影响人类访客?
有些安全配置或访问控制设置可能会阻止 AI 代理用户代理访问那些人类访客可以正常访问的内容。 LLM Optimizer 会通过比较 AI 代理响应与人类浏览器响应,专门标记这类情况。
如何过滤掉误报?
LLM Optimizer 会重新测试 URL,确认其当前状态,然后再将这些 URL 显示为建议,并将 AI 代理的响应与人类浏览器的响应进行比较,以识别爬虫特有的问题。 不再返回错误的 URL 将不会显示。
分析会以怎样的频率进行更新?
在默认情况下,审核每周运行一次,从上一周的内容传递网络日志中提取错误数据。 错误详情表中显示每周访问总数,这样您就可以跟踪一段时间内的变化趋势。
会监控哪些 AI 代理?
LLM Optimizer 会监控来自所有识别到的 AI 代理用户代理模式的错误响应,包括:ChatGPT、Claude、Perplexity 和 Gemini 爬虫。