监控您的AI模型 ai-model-observability
无论您是营销人员、数据科学家还是决策管理员,了解您的个性化优化模型的表现和行为方式都可以帮助您使用AI为每个客户选择最佳选件。
为此,您可以直接在Journey Optimizer中监视AI模型的运行状况、培训状态和演变。
这让您清楚地了解模型是否正常工作、模型上次培训的时间、培训期间发生的情况、模型如何推动业务成果(例如,转化或收入),以及模型不工作时进行故障排除。
➡️ 通过观看视频了解此功能
查看培训状态 from-ai-model-list
一旦模型设置为实时,它就会进入持续的生命周期:收集数据并定期重新训练模型以优化选件排名。 您可以在AI模型列表中检查个性化优化模型的训练状态。
-
转到决策 > 策略设置 > AI模型以打开AI模型清单。
-
您可以查看所有可用的AI模型及其状态。
-
对于个性化优化类型的每个Live AI模型,有两列可让您看到:
- 上次训练作业运行时间(上次训练时间),并且
- 每个模型是否已成功训练(训练结果)。
这使您能够快速识别需要进一步调查或故障排除的模型。
访问模型状态报表 access-ai-model-details
从列表中单击进入个性化优化AI模型。 从该位置,您可以查看以下列出的元素:
-
当前部署的模型 — 此部分显示当前部署的模型、其部署时间、它使用的数据的日期范围、包含并个性化的决策项(选件)的数量,以及当前跨子模型的流量分配。
在此示例中,该模型被训练在五个决策项上,并且模型具有足够的流量来针对三个决策项开发个性化预测。 其余两个决策项目是随机提供的。
您还可以看到该模型当前将40%的流量分配给个性化神经网络,40%的流量分配给上下文老虎机,20%的流量分配给随机探索。
-
上次培训作业 — 此部分显示上次培训作业的状态、运行时间以及所有错误消息。 了解有关错误状态的更多信息
在此示例中,您可以观察到,已部署的模型与预期的培训作业匹配。
-
属性 — 此部分显示模型的属性,例如使用的数据集、优化量度和用于训练个性化优化模型的受众。
单击 编辑属性 以修改这些元素。 您将被重定向到创建AI模型屏幕。 了解详情
-
Model performance — 此部分显示随时间变化的模型每个分支的性能,例如每个子模型的流量分配和转化率。 您可以在 最近7天 和 最近30天 之间切换。 提升度和统计重要性是指示模型是否实际改善了营销结果的关键指标。
在此示例中,您可以看到在过去30天内,个性化子模型的转化率提升了60%以上,而且这种提升在统计上是显着的,这意味着此AI模型正对您的业务产生重大影响。
-
随时间变化的模型流量分配 — 此部分显示模型随时间的演变。 首次部署模型时,100%的流量是随机的,因为尚未收集选件数据。 在第一次重新训练后,流量通常会转向个性化胳膊。
在此示例中,您可以看到随着模型的重新训练,流量分配已从100%随机探索转变为神经网络和上下文盗用型流量。
了解训练错误 check-for-error-states
要查看上次训练作业失败的个性化优化AI模型的错误详细信息,请执行以下步骤。
-
从列表中单击进入模型。 将显示模型状态详细信息。
{width="95%"}
在此示例中,您可以看到由于上一个训练作业失败,未部署任何模型。
note note NOTE 当未部署模型时,使用统一的随机流量分配提供决策请求。 -
查看 上次训练作业 部分中的错误详细信息。
{width="70%"}
当为此模型选择的数据集内没有反馈事件时,训练作业通常会失败。 这意味着您需要填充数据集或选择具有适当转化事件的新数据集。
-
您可以检查在模型的 属性 中选择的数据集。 单击 编辑属性 以选择另一个数据集。 了解详情
{width="45%"}
常见问题 faq
每个模型臂的基尼指数的计算方式各不相同,具体取决于优化量度是二进制还是连续:
二进制优化量度(例如点击次数、订购次数):基尼指数是根据接收方操作特性(ROC)曲线的曲线(AUC)下的面积计算的,通常称为ROC AUC或简称为AUC。 ROC AUC的范围从0.5(具有零预测能力的随机模型)到1.0(完美预测能力)。 使用公式Gini = 2 x (ROC AUC) - 1将ROC AUC转换为基尼指数。
连续优化量度(例如收入、订单值):基尼指数的计算基于与模型的累积预测正值相对于群体中累积真实正值关联的Lorenz曲线下的区域。 Lorenz曲线下方的面积介于0.0(完美预测能力)到0.5(零预测能力的随机模型)之间。 使用公式Gini = 1 - 2 x (Lorenz AUC)将Lorenz AUC转换为Gini索引。
操作方法视频 video
了解如何在Journey Optimizer中监视您的AI排名模型并解释培训状态和表现。