在AI Assistant中验证数据
您可以使用AI Assistant验证Adobe Experience Platform数据集的数据质量。 由Agent Orchestrator提供的数据验证功能可以对数据集执行统计和语义验证,分析数据集字段,识别数据质量问题,并返回具有可操作洞察信息的自然语言摘要。 数据工程师、分析人员和数据管理员可以通过AI Assistant使用此功能执行快速数据质量评估,而无需编写SQL查询或浏览复杂的架构层次结构。
借助AI Assistant中Agent Orchestrator支持的数据验证,您可以:
- 填补载入流程和日常诊断中的基本空白。
- 减少数据集上的手动QA。
- 加快客户的价值实现。
阅读本文档以了解如何验证AI Assistant中的数据。
用例
UI指南
在Adobe CX Enterprise中使用 AI Assistant 验证您的数据。 人工智能助手是对话界面,而Agent Orchestrator在后台协调验证工作流。 以下步骤遵循您将看到的主屏幕。
开始验证
在左侧导航中,选择AI助手。 接下来,使用环境选择器,并选择数据集所在的Experience Platform组织或沙盒(例如,Experience Platform - Prod)。 在提示字段中,键入验证请求(例如,按名称请求验证数据集)。 选择 发送 提交提示。
读取数据集摘要和字段表
请让Agent Orchestrator稍等片刻完成运行(推理完成)。 运行完成后,请阅读数据集名称的摘要、已验证的字段数以及样本大小(通常最多大约1,000行)。
使用 字段摘要 查看每个字段的路径、类型和有效值(包括有效性指示器)。 此外,您可以使用信息卡上的表格、图表或文档图标来更改结果的显示方式(如果可用)。
当您需要除第一个视图之外的其他列或行时,选择显示所有结果。
在拆分视图中工作
在展开视图中,使用拆分布局:详细统计和叙述一侧,图表另一侧。
- 在叙述方面,审查有效性、不同的值、空值、最高不同的值和任何无效值消息。
- 在可视化方面,使用图表快速读取示例中的有效值和无效值。
使用 相关建议 或底部的提示字段验证其他字段、重新运行数据集或继续对话。
使用相关建议进行跟进
在响应之后,在对话下方找到相关建议。 选择建议(例如,验证同一数据集上的特定字段)以将其加载到提示字段中。 根据需要调整文本,确认环境,然后选择 发送 以运行跟进。
在字段级别验证
打开字段级 验证结果 信息卡(例如,验证单个字段后)。 当您需要可视化摘要而不是表格时,请使用视图控件切换到图表(或其他视图)。 在此步骤中,您可以选择选择 属性 以查看有关该字段的更多信息。
选择 在展开视图 中显示,打开该字段验证的更详细、更大型视图。
通过扩展视图,您可以根据给定字段最多1000条记录的示例,查看整个字段的明细列表。 您可以使用此功能检索有关有效、独特和空值的信息。
验证的工作方式
在AI Assistant中启动验证时,Agent Orchestrator会分析数据集的代表性示例(通常是最近的~1,000行),而不是处理整个数据集历史记录。 此过程严格为只读,可确保您的数据、架构和映射保持不变。 无论数据如何进入Experience Platform,无论是通过源、流式传输、文件上传、数据准备还是其他摄取方法,验证结果都是一致的。 结果用作指示性检查,帮助您快速识别数据质量模式或潜在问题,使您能够根据需要采取进一步措施(例如使用查询服务进行浏览)。 这种由Agent Orchestrator提供支持的方法允许在不中断数据引入或影响生产工作负载的情况下进行快速评估。
验证结果
对于每个已验证的字段,AI Assistant会显示验证工作流生成的结果,包括:
基本统计信息
- 用于示例的总行数
- nullCount(和可选的% null)
- uniqueCount(可用时)
- 顶级唯一值(例如,前10个)及其频率
语义验证
- 可疑无效值的列表
- 对于每个无效值,都有一个解释(例如,“不是有效的电子邮件格式”、“时间戳超出预期范围”)
自然语言摘要
- 现场质量的简短叙述性摘要
- 建议的后续操作,如“审核字段X的映射”、“由于空率较高而考虑删除字段Y”或“加强电子邮件格式的验证”。
nullCount = 9,532 (95.3%)uniqueCount = 3"True" (255), "False" (243)"abc@, reason: "not a valid email address"验证类型
可以使用AI助手执行两种主要验证类型:
- 字段验证:验证数据集中的特定字段。
- 数据集验证:验证数据集中最多五(5)个字段。
使用AI Assistant中的字段验证来验证给定数据集中的特定字段。 此验证技能提供以下内容:
- Null计数和唯一值计数。
- 顶级唯一值及其相应频率。
- 人工智能辅助的语义验证(根据可用元数据和数据的实际值检测无效值的能力)。
字段验证的示例提示包括:
- 验证Customers_2024数据集中的email字段。
- 验证数据集customer_events_2024的字段状态。
- 验证客户数据集的字段person.address.city。
在AI Assistant中使用数据集验证来验证整个数据集,从而总结整体质量和关键问题。 虽然您可以明确提供这些字段,但Agent Orchestrator也可以分析数据集并自动确定最相关的字段。 此技能提供与字段验证相同类型的信息,但跨多个目标字段。 在给定数据集中,最多可以验证五个字段。
数据集验证提示示例包括:
- 验证Customer Data 2024数据集
- 验证字段email、phone for Customers_2024。
- 汇总客户数据的firstName、lastName、birthDate。
- 总结数据集693012a4b8c98b09cea350bc。
由数据验证执行的检查
对每个字段和数据集执行以下类型的验证:
-
完整性检查: null/缺少计数和百分比。
-
分布检查:最高唯一值及其分布、高基数检测。
-
语义检查与架构:使用XDM字段名称、类型和描述推断出“有效”的外观,然后标记异常。
-
数据类型感知检查 (如果适用):
- 电子邮件:格式和域可行性
- 电话:格式准备就绪(例如,E.164)
- 日期/时间戳:基本格式健全性(例如,ISO-8601)
-
与身份相关的检查 (将来/扩展):候选身份字段或组合键的唯一性。
这些检查将确定性统计与LLM辅助的语义验证结合使用,以检测“看起来错误”的值,即使它们在技术上与架构匹配也是如此。
限制
在验证数据之前,请务必了解一些关键限制。 这些约束旨在平衡性能和功能,并有助于设定对您可以期待的分析和见解类型的期望。
- 仅采样:验证操作针对数据集的示例(通常是最后~1,000行),而不是处理整个数据集。 完整数据集扫描不可用。
- 字段数限制:验证数据集时,代理最多为每个请求分析五个字段。 您可以指定这些字段,或允许代理自动选择它们。
- 概率语义:无效值的检测部分依赖于基于LLM的推理,这种推理偶尔会遗漏细微的错误或标记边界值。
- 只读操作:代理未对您的数据或其架构进行任何更改。 它提供见解并突出显示潜在问题,但不执行自动修复。
如果您的验证需求更详尽或需要应用复杂的业务逻辑,请考虑使用其他工具(如查询服务或数据准备验证)来补充AI Assistant中显示的结果。