內部爬蟲流量和內容請求使用量計算

本文說明Adobe Experience Manager (AEM) as a Cloud Service如何在使用量計算中識別及處理內部爬蟲流量,並釐清適當的排除機制。

說明 description

環境

Adobe Experience Manager as a Cloud Service

問題/症狀

使用搜尋解決方案的組織可能會執行索引AEM內容的內部爬蟲。 這些爬蟲可能會產生大量請求,這些請求可能會出現在流量記錄中,並令人擔心它們對可計費使用計算的影響。

原因

內部爬蟲通常使用不同的User-Agent字串和已知的IP範圍。 可能會擔心這類系統到系統流量計入可計費的AEMaaCS內容請求,而不是被排除為非使用者流量。

解決方法 resolution

若要修正影響內容請求使用量計算的內部爬蟲流量相關問題,請執行下列步驟:

  1. 請確認您的內部爬蟲使用不同的User-Agent字串,並在可能的情況下,從已知的IP範圍執行。
  2. 確認爬蟲的請求路徑與預期的爬蟲活動(例如Sitemap導向的URL)一致。
  3. 請檢閱您的AEMaaCS使用報告和流量記錄,以識別爬蟲流量模式。
  4. Adobe對內容請求的使用量計算是根據發佈層流量。 某些已知機器人和系統流量會根據已識別的簽章(User-Agent或IP)從使用計算中排除。
  5. 內部或客戶特定的爬蟲只有在符合既定的排除模式時,才會從使用計算中排除。 如果爬蟲使用可辨識的簽名,其流量不會計入計費使用量。
  6. 如果您發現您的爬蟲有非預期的使用情況,請收集相關的記錄詳細資料(例如User-Agent、IP範圍和請求路徑),並聯絡Adobe支援以進一步檢閱。

注意在確認爬蟲的簽章之後,請檢閱您的使用情況報告,以確認其流量已從可計費內容請求計數中排除。

recommendation-more-help
experience-cloud-kcs-help-kbarticles