內部爬蟲流量和內容請求使用量計算
本文說明Adobe Experience Manager (AEM) as a Cloud Service如何在使用量計算中識別及處理內部爬蟲流量,並釐清適當的排除機制。
說明 description
環境
Adobe Experience Manager as a Cloud Service
問題/症狀
使用搜尋解決方案的組織可能會執行索引AEM內容的內部爬蟲。 這些爬蟲可能會產生大量請求,這些請求可能會出現在流量記錄中,並令人擔心它們對可計費使用計算的影響。
原因
內部爬蟲通常使用不同的User-Agent字串和已知的IP範圍。 可能會擔心這類系統到系統流量計入可計費的AEMaaCS內容請求,而不是被排除為非使用者流量。
解決方法 resolution
若要修正影響內容請求使用量計算的內部爬蟲流量相關問題,請執行下列步驟:
- 請確認您的內部爬蟲使用不同的
User-Agent字串,並在可能的情況下,從已知的IP範圍執行。 - 確認爬蟲的請求路徑與預期的爬蟲活動(例如Sitemap導向的URL)一致。
- 請檢閱您的AEMaaCS使用報告和流量記錄,以識別爬蟲流量模式。
- Adobe對內容請求的使用量計算是根據發佈層流量。 某些已知機器人和系統流量會根據已識別的簽章(
User-Agent或IP)從使用計算中排除。 - 內部或客戶特定的爬蟲只有在符合既定的排除模式時,才會從使用計算中排除。 如果爬蟲使用可辨識的簽名,其流量不會計入計費使用量。
- 如果您發現您的爬蟲有非預期的使用情況,請收集相關的記錄詳細資料(例如
User-Agent、IP範圍和請求路徑),並聯絡Adobe支援以進一步檢閱。
注意:在確認爬蟲的簽章之後,請檢閱您的使用情況報告,以確認其流量已從可計費內容請求計數中排除。
recommendation-more-help
experience-cloud-kcs-help-kbarticles