批量摄取API概述

Adobe Experience Platform批量摄取API允许您将数据作为批处理文件接入Platform。 所摄取的数据可以是平面文件(如Parquet文件)的配置文件数据,也可以是与 Experience Data Model (XDM)注册表。

批量摄取API参考 提供了有关这些API调用的其他信息。

下图概述了批量摄取流程:

快速入门

本指南中使用的API端点是 批量摄取API. 在继续之前,请查看 快速入门指南 有关相关文档的链接、阅读本文档中示例API调用的指南,以及有关成功调用任何Experience PlatformAPI所需的所需标头的重要信息。

Data Ingestion 先决条件

  • 要上传的数据必须为Parquet或JSON格式。
  • 在中创建的数据集 Catalog services.
  • Parquet文件的内容必须与要上传到的数据集的架构子集匹配。
  • 在身份验证后具有您的唯一访问令牌。

批量摄取最佳实践

  • 建议的批处理大小在256 MB和100 GB之间。
  • 每个批次应最多包含1500个文件。

批量摄取约束

批量数据摄取有一些限制:

  • 每批次的最大文件数:1500
  • 最大批次大小:100 GB
  • 每行属性或字段的最大数量:10000
  • 每个用户每分钟数据湖的最大批次数:2000
NOTE
要上载大于512MB的文件,需要将该文件分成较小的块。 有关上载大文件的说明,请参见 本文档的大型文件上传部分.

类型

摄取数据时,请务必了解如何 Experience Data Model (XDM)架构有效。 有关XDM字段类型如何映射到不同格式的更多信息,请阅读 架构注册开发人员指南.

在摄取数据时有一定的灵活性 — 如果类型与目标架构中的类型不匹配,数据将转换为表达的目标类型。 如果失败,它将使批处理失败 TypeCompatibilityException.

例如,JSON和CSV均不具有 datedate-time 类型。 因此,这些值将使用 ISO 8601格式字符串 (“2018-07-10T15”:05:59.000-08:00”)或以毫秒(1531263959000)为单位的Unix时间,并在摄取时转换为目标XDM类型。

下表显示了摄取数据时支持的转化。

入站(行)与目标(列)
字符串
字节
整数
两次
日期
日期时间
对象
地图
字符串
X
X
X
X
X
X
X
X
字节
X
X
X
X
X
X
X
X
X
X
X
X
整数
X
X
X
X
X
X
X
X
X
X
X
X
X
X
两次
X
X
X
X
X
X
日期
X
日期时间
X
对象
X
X
地图
X
X
NOTE
无法将布尔值和数组转换为其他类型。

使用API

此 Data Ingestion API允许您将数据作为批量(由要作为单个单元摄取的一个或多个文件组成的数据单元)摄取到 Experience Platform 在三个基本步骤中:

  1. 创建新批次。
  2. 将文件上传到与数据的XDM架构匹配的指定数据集。
  3. 表示批次的结束。

创建批次

将数据添加到数据集之前,必须将其链接到批次,稍后将这些批次上传到指定的数据集。

POST /batches

请求

curl -X POST "https://platform.adobe.io/data/foundation/import/batches" \
  -H "Content-Type: application/json" \
  -H "x-gw-ims-org-id: {ORG_ID}" \
  -H "x-sandbox-name: {SANDBOX_NAME}" \
  -H "Authorization: Bearer {ACCESS_TOKEN}" \
  -H "x-api-key: {API_KEY}"
  -d '{
          "datasetId": "{DATASET_ID}"
      }'
属性
描述
datasetId
要将文件上传到的数据集的ID。

响应

{
    "id": "{BATCH_ID}",
    "imsOrg": "{ORG_ID}",
    "updated": 0,
    "status": "loading",
    "created": 0,
    "relatedObjects": [
        {
            "type": "dataSet",
            "id": "{DATASET_ID}"
        }
    ],
    "version": "1.0.0",
    "tags": {},
    "createdUser": "{USER_ID}",
    "updatedUser": "{USER_ID}"
}
属性
描述
id
刚刚创建的批次的ID(在后续请求中使用)。
relatedObjects.id
要将文件上传到的数据集的ID。

文件上传

成功创建新的上传批次后,可以将文件上传到特定数据集。

您可以使用小文件上传API上传文件。 但是,如果文件过大,并且超过了网关限制(例如扩展超时、请求超出正文大小以及其他限制),则可以切换到大文件上传API。 此API以块形式上传文件,并使用大文件上传完成API调用将数据拼合在一起。

NOTE
批量摄取可用于以增量方式更新用户档案存储中的数据。 有关更多信息,请参阅以下部分: 更新批次批量摄取开发人员指南.
INFO
下面的示例使用 Apache Parquet 文件格式。 有关使用JSON文件格式的示例,请参见 批量摄取开发人员指南.

小文件上传

创建批次后,可将数据上传到预先存在的数据集。 要上传的文件必须与其引用的XDM架构匹配。

PUT /batches/{BATCH_ID}/datasets/{DATASET_ID}/files/{FILE_NAME}
属性
描述
{BATCH_ID}
批次的ID。
{DATASET_ID}
要上传文件的数据集的ID。
{FILE_NAME}
将在数据集中看到的文件的名称。

请求

curl -X PUT "https://platform.adobe.io/data/foundation/import/batches/{BATCH_ID}/datasets/{DATASET_ID}/files/{FILE_NAME}.parquet" \
  -H "content-type: application/octet-stream" \
  -H "x-gw-ims-org-id: {ORG_ID}" \
  -H "x-sandbox-name: {SANDBOX_NAME}" \
  -H "Authorization: Bearer {ACCESS_TOKEN}" \
  -H "x-api-key: {API_KEY}" \
  --data-binary "@{FILE_PATH_AND_NAME}.parquet"
属性
描述
{FILE_PATH_AND_NAME}
要上传到数据集的文件的路径和文件名。

响应

#Status 200 OK, with empty response body

大文件上传 — 创建文件

要上载大文件,必须将文件拆分为较小的块,并一次上载一个。

POST /batches/{BATCH_ID}/datasets/{DATASET_ID}/files/{FILE_NAME}?action=initialize
属性
描述
{BATCH_ID}
批次的ID。
{DATASET_ID}
摄取文件的数据集的ID。
{FILE_NAME}
将在数据集中看到的文件的名称。

请求

curl -X POST "https://platform.adobe.io/data/foundation/import/batches/{BATCH_ID}/datasets/{DATASET_ID}/files/part1=a/part2=b/{FILE_NAME}.parquet?action=initialize" \
  -H "x-gw-ims-org-id: {ORG_ID}" \
  -H "x-sandbox-name: {SANDBOX_NAME}" \
  -H "Authorization: Bearer {ACCESS_TOKEN}" \
  -H "x-api-key: {API_KEY}"

响应

#Status 201 CREATED, with empty response body

大文件上传 — 上传后续部分

创建文件后,可以通过重复的PATCH请求(文件的每个部分各一个)上传所有后续的块。

PATCH /batches/{BATCH_ID}/datasets/{DATASET_ID}/files/{FILE_NAME}
属性
描述
{BATCH_ID}
批次的ID。
{DATASET_ID}
要将文件上传到的数据集的ID。
{FILE_NAME}
将在数据集中看到的文件的名称。

请求

curl -X PATCH "https://platform.adobe.io/data/foundation/import/batches/{BATCH_ID}/datasets/{DATASET_ID}/files/part1=a/part2=b/{FILE_NAME}.parquet" \
  -H "content-type: application/octet-stream" \
  -H "x-gw-ims-org-id: {ORG_ID}" \
  -H "x-sandbox-name: {SANDBOX_NAME}" \
  -H "Authorization: Bearer {ACCESS_TOKEN}" \
  -H "x-api-key: {API_KEY}" \
  -H "Content-Range: bytes {CONTENT_RANGE}" \
  --data-binary "@{FILE_PATH_AND_NAME}.parquet"
属性
描述
{FILE_PATH_AND_NAME}
要上传到数据集的文件的路径和文件名。

响应

#Status 200 OK, with empty response

信号批次完成

将所有文件都上载到批处理之后,可以向批处理发出完成信号。 通过这样做, Catalog 为已完成的文件创建DataSetFile条目,并与上面生成的批处理关联。 此 Catalog 然后,将批处理标记为成功,这会触发下游流摄取可用数据。

请求

POST /batches/{BATCH_ID}?action=COMPLETE
属性
描述
{BATCH_ID}
要上传到数据集的批次的ID。
curl -X POST "https://platform.adobe.io/data/foundation/import/batches/{BATCH_ID}?action=COMPLETE" \
-H "x-gw-ims-org-id: {ORG_ID}" \
-H "x-sandbox-name: {SANDBOX_NAME}" \
-H "Authorization: Bearer {ACCESS_TOKEN}" \
-H "x-api-key: {API_KEY}"

响应

#Status 200 OK, with empty response

检查批次状态

在等待将文件上载到批次时,可以检查批次的状态以查看其进度。

API格式

GET /batch/{BATCH_ID}
属性
描述
{BATCH_ID}
正在检查的批次的ID。

请求

curl GET "https://platform.adobe.io/data/foundation/catalog/batch/{BATCH_ID}" \
  -H "Authorization: Bearer {ACCESS_TOKEN}" \
  -H "x-gw-ims-org-id: {ORG_ID}" \
  -H "x-sandbox-name: {SANDBOX_NAME}" \
  -H "x-api-key: {API_KEY}"

响应

{
    "{BATCH_ID}": {
        "imsOrg": "{ORG_ID}",
        "created": 1494349962314,
        "createdClient": "MCDPCatalogService",
        "createdUser": "{USER_ID}",
        "updatedUser": "{USER_ID}",
        "updated": 1494349963467,
        "externalId": "{EXTERNAL_ID}",
        "status": "success",
        "errors": [
            {
                "code": "err-1494349963436"
            }
        ],
        "version": "1.0.3",
        "availableDates": {
            "startDate": 1337,
            "endDate": 4000
        },
        "relatedObjects": [
            {
                "type": "batch",
                "id": "foo_batch"
            },
            {
                "type": "connection",
                "id": "foo_connection"
            },
            {
                "type": "connector",
                "id": "foo_connector"
            },
            {
                "type": "dataSet",
                "id": "foo_dataSet"
            },
            {
                "type": "dataSetView",
                "id": "foo_dataSetView"
            },
            {
                "type": "dataSetFile",
                "id": "foo_dataSetFile"
            },
            {
                "type": "expressionBlock",
                "id": "foo_expressionBlock"
            },
            {
                "type": "service",
                "id": "foo_service"
            },
            {
                "type": "serviceDefinition",
                "id": "foo_serviceDefinition"
            }
        ],
        "metrics": {
            "foo": 1337
        },
        "tags": {
            "foo_bar": [
                "stuff"
            ],
            "bar_foo": [
                "woo",
                "baz"
            ],
            "foo/bar/foo-bar": [
                "weehaw",
                "wee:haw"
            ]
        },
        "inputFormat": {
            "format": "parquet",
            "delimiter": ".",
            "quote": "`",
            "escape": "\\",
            "nullMarker": "",
            "header": "true",
            "charset": "UTF-8"
        }
    }
}
属性
描述
{USER_ID}
创建或更新批次的用户的ID。

"status" 字段显示所请求批次的当前状态。 批次可以具有以下状态之一:

批量摄取状态

状态
描述
已放弃
该批次未在预期时间范围内完成。
已中止
中止操作具有 明确 已为指定批次调用(通过批量摄取API)。 批次处于“已加载”状态后,无法中止。
活动
已成功提升该批次,可用于下游使用。 此状态可与“Success”互换使用。
已删除
批次的数据已完全删除。
失败
因配置错误和/或数据错误导致的终端状态。 失败批次的数据将 出现。 此状态可与“失败”互换使用。
不活跃
批次已成功提升,但已还原或已过期。 该批次不再可用于下游消耗。
已加载
批次的数据已完成,批次已准备好进行升级。
正在加载
该批次的数据正在上传,该批次当前为 准备提升。
正在重试
正在处理此批次的数据。 但是,由于系统或临时错误,批次失败 — 因此,将重试此批次。
已暂存
批次的升级过程的暂存阶段已完成,并且引入作业已运行。
暂存
正在处理批次的数据。
已搁置
正在处理批次的数据。 但是,在多次重试后,批次升级已停止。
recommendation-more-help
2ee14710-6ba4-4feb-9f79-0aad73102a9a