監視您的AI模型 ai-model-observability
無論您是行銷人員、資料科學家或決策管理員,瞭解您的個人化最佳化模型的表現和行為方式可協助您使用AI為每位客戶選取最佳優惠方案。
若要這麼做,您可以直接在Journey Optimizer中監視AI模型的健康狀態、訓練狀態和演變。
這可讓您清楚瞭解模型是否運作、上次訓練時間、訓練期間發生的情況、如何推動業務成果(例如轉換或收入),以及運作不正常時的疑難排解。
➡️ 在影片中探索此功能
檢視訓練狀態 from-ai-model-list
一旦模型設定為有效,它就會進入持續的生命週期:收集資料並定期重新訓練模型,以最佳化優惠排名。 您可以在AI模型清單中檢視個人化最佳化模型的訓練狀態。
-
移至決策 > 策略設定 > AI模型以開啟AI模型詳細目錄。
-
您可以檢視所有可用的AI模型及其狀態。
-
對於個人化最佳化型別的每個即時 AI模型,有兩個欄可讓您看到:
- 上次訓練工作執行時間(上次訓練時間),以及
- 每個模型是否已成功訓練(訓練結果)。
這可讓您快速找出需要進一步調查或疑難排解的模型。
存取模型狀態報表 access-ai-model-details
從清單按一下進入個人化最佳化AI模型。 您可以在該處檢視下列元素:
-
目前部署的模型 — 此區段顯示目前部署的模型、部署時間、使用的資料日期範圍、包含和個人化的決定專案(優惠)數目,以及子模型間的目前流量分配。
在此範例中,模型已接受五個決定專案的訓練,且模型有足夠的流量為三個決定專案開發個人化預測。 其餘兩個決定專案會隨機提供。
您還可以看到模型目前將40%的流量分配給個人化神經網路、40%的流量分配給情境賭博機,以及20%的流量分配給隨機探索。
-
上次訓練工作 — 此區段顯示上次訓練工作的狀態、執行時間以及任何錯誤訊息。 進一步瞭解錯誤狀態
在此範例中,您可以觀察到,部署的模型如預期般符合培訓工作。
-
屬性 — 此區段顯示模型的屬性,例如使用的資料集、最佳化量度,以及用來訓練個人化最佳化模型的對象。
按一下 編輯屬性 以修改這些元素。 系統會將您重新導向至「建立AI模型」畫面。 了解更多
-
Model performance — 此段落顯示模型各元件在一段時間內的效能,例如每個子模型的流量分配和轉換率。 您可以在 最近7天 與 最近30天 之間切換。 提升度和統計顯著性是模型是否實際改善行銷結果的關鍵指標。
在此範例中,您可以看到在過去30天內,個人化子模型的轉換率提升超過60%,而且此提升在統計上是顯著的,表示此AI模型正對您的業務造成影響。
-
隨時間變化的模型流量分配 — 本節說明模型如何隨時間演化。 首次部署模型時,100%的流量是隨機的,因為尚未收集任何選件資料。 在第一次重新訓練後,流量通常會轉向個人化手臂。
在此範例中,您可以看到流量分配已從100%隨機探索移至神經網路和關聯式吃角子老虎機流量,因為模型會隨著時間重新訓練。
瞭解訓練錯誤 check-for-error-states
若要檢視個人化最佳化AI模型(其上次訓練工作失敗)的錯誤詳細資料,請遵循下列步驟。
-
從清單中按一下進入模型。 模型狀態詳細資訊隨即顯示。
{width="95%"}
在此範例中,您可以看到由於上次訓練工作失敗,因此未部署任何模型。
note note NOTE 未部署任何模型時,決策請求會使用統一的隨機流量分配來提供。 -
瀏覽 上次訓練工作 區段中的錯誤詳細資料。
{width="70%"}
當您為此模型選取的資料集內沒有意見回饋事件時,訓練工作通常會失敗。 這表示您需要填入資料集,或選取包含適當轉換事件的新資料集。
-
您可以檢查在模型的 屬性 中選取的資料集。 按一下 編輯屬性 以選取其他資料集。 了解更多
{width="45%"}
常見問題 faq
根據最佳化量度是二進位還是連續,每個模型臂的Gini索引計算方式不同:
二進位最佳化量度 (例如點按數、訂購):Gini索引是根據接收者操作特性(ROC)曲線的曲線(AUC)下的區域計算,通常稱為ROC AUC或簡稱為AUC。 ROC AUC的範圍從0.5 (零預測能力的隨機模型)到1.0 (完美預測能力)。 使用公式Gini = 2 x (ROC AUC) - 1將ROC AUC轉換為Gini索引。
持續最佳化量度 (例如收入、訂購值):Gini索引是根據與模型的累積預測正向相對母體中的累積真實正向相關的Lorenz曲線下的區域來計算的。 Lorenz曲線下方的區域介於0.0 (完美預測能力)到0.5 (零預測能力的隨機模型)之間。 使用公式Gini = 1 - 2 x (Lorenz AUC)將Lorenz AUC轉換為Gini索引。
作法影片 video
瞭解如何監視您的AI排名模型,並解譯Journey Optimizer中的訓練狀態和績效。