查詢服務中的增量載入

累加式負載設計模式是管理資料的解決方案。 此模式只會處理資料集中自上次載入執行以來已建立或修改的資訊。

增量載入會使用Adobe Experience Platform查詢服務提供的各種功能，例如匿名區塊和快照。 此設計模式會提高處理效率，因為會略過已從來源處理的任何資料。 它可同時用於串流和批次資料處理。

本檔案提供一系列指示，說明如何建立用於增量處理的設計模式。 這些步驟可用作範本，以建立您自己的增量資料載入查詢。

快速入門

本檔案中的SQL範例需要您瞭解匿名區塊和快照集功能。 建議您閱讀 範例匿名區塊查詢 檔案以及 快照子句 說明檔案。

如需本指南使用之任何術語的指引，請參閱 SQL語法指南.

逐步載入資料

以下步驟示範如何使用快照和匿名區塊功能來建立和逐步載入資料。 設計模式可作為您自己的查詢序列的範本。

  1. 建立 checkpoint_log 資料表，用來追蹤最近用來成功處理資料的快照。 追蹤表格(checkpoint_log 在此範例中)必須先初始化為 null 以逐步處理資料集。

    DROP TABLE IF EXISTS checkpoint_log;
CREATE TABLE  checkpoint_log AS
SELECT
   cast(NULL AS string) process_name,
   cast(NULL AS string) process_status,
   cast(NULL AS string) last_snapshot_id,
   cast(NULL AS TIMESTAMP) process_timestamp
   WHERE false;

  2. 填入 checkpoint_log 資料集有一個空白記錄的表格，需要累加處理。 DIM_TABLE_ABC 是要在以下範例中處理的資料集。 首次處理時 DIM_TABLE_ABC，則 last_snapshot_id 已初始化為 null. 這可讓您在第一次處理整個資料集時，以及之後逐步處理。

    INSERT INTO
   checkpoint_log
   SELECT
      'DIM_TABLE_ABC' process_name,
      'SUCCESSFUL' process_status,
      cast(NULL AS string) last_snapshot_id,
      CURRENT_TIMESTAMP process_timestamp;

  3. 接下來，初始化 DIM_TABLE_ABC_Incremental 以包含已處理的輸出 DIM_TABLE_ABC. 中的匿名區塊 必填 以下SQL範例的執行區段（如步驟1至4所述）會依序執行，以逐步處理資料。

    1. 設定 from_snapshot_id 表示處理作業從何處開始。 此 from_snapshot_id 在此範例中，是從 checkpoint_log 搭配使用的表格 DIM_TABLE_ABC. 初次執行時，快照ID將會是 null 這表示會處理整個資料集。
    2. 設定 to_snapshot_id 作為來源資料表的目前快照集ID (DIM_TABLE_ABC)。 在此範例中，這是從來源表格的中繼資料表中查詢的。
    3. 使用 CREATE 要建立的關鍵字 DIM_TABLE_ABC_Incremenal 作為目的地表格。 目的地表格會儲存來自來源資料集的已處理資料(DIM_TABLE_ABC)。 這允許來自來源表格的已處理資料介於 from_snapshot_id 和 to_snapshot_id，以遞增方式附加至目的地表格。
    4. 更新 checkpoint_log 表格與 to_snapshot_id 用於來源資料，該資料 DIM_TABLE_ABC 已成功處理。
    5. 如果匿名區塊的任一循序執行查詢失敗， 可選 例外狀況區段已執行。 這會傳回錯誤並結束程式。
    注意

    此 history_meta('source table name') 是一種用於存取資料集中可用快照的便利方法。

    $$ BEGIN
    SET @from_snapshot_id = SELECT coalesce(last_snapshot_id, 'HEAD') FROM checkpoint_log a JOIN
                            (SELECT MAX(process_timestamp)process_timestamp FROM checkpoint_log
                                WHERE process_name = 'DIM_TABLE_ABC' AND process_status = 'SUCCESSFUL' )b
                                ON a.process_timestamp=b.process_timestamp;
    SET @to_snapshot_id = SELECT snapshot_id FROM (SELECT history_meta('DIM_TABLE_ABC')) WHERE  is_current = true;
    SET @last_updated_timestamp= SELECT CURRENT_TIMESTAMP;
    CREATE TABLE DIM_TABLE_ABC_Incremental AS
     SELECT  *  FROM DIM_TABLE_ABC SNAPSHOT BETWEEN @from_snapshot_id AND @to_snapshot_id ;

INSERT INTO
   checkpoint_log
   SELECT
       'DIM_TABLE_ABC' process_name,
       'SUCCESSFUL' process_status,
      cast( @to_snapshot_id AS string) last_snapshot_id,
      cast( @last_updated_timestamp AS TIMESTAMP) process_timestamp;

EXCEPTION
  WHEN OTHER THEN
    SELECT 'ERROR';
END
$$;

  4. 在下列匿名區塊範例中使用增量資料載入邏輯，可允許源資料集的任何新資料（由於最近的時間戳記）以固定步調處理並附加至目的地表格。 在此範例中，資料變更為 DIM_TABLE_ABC 將會處理並附加至 DIM_TABLE_ABC_incremental.

    注意

    _ID 是兩者中的主索引鍵 DIM_TABLE_ABC_Incremental 和 SELECT history_meta('DIM_TABLE_ABC').

    $$ BEGIN
    SET @from_snapshot_id = SELECT coalesce(last_snapshot_id, 'HEAD') FROM checkpoint_log a join
                            (SELECT MAX(process_timestamp)process_timestamp FROM checkpoint_log
                                WHERE process_name = 'DIM_TABLE_ABC' AND process_status = 'SUCCESSFUL' )b
                                ON a.process_timestamp=b.process_timestamp;
    SET @to_snapshot_id = SELECT snapshot_id FROM (SELECT history_meta('DIM_TABLE_ABC')) WHERE  is_current = true;
    SET @last_updated_timestamp= SELECT CURRENT_TIMESTAMP;
    INSERT INTO DIM_TABLE_ABC_Incremental
     SELECT  *  FROM DIM_TABLE_ABC SNAPSHOT BETWEEN @from_snapshot_id AND @to_snapshot_id WHERE NOT EXISTS (SELECT _id FROM DIM_TABLE_ABC_Incremental a WHERE _id=a._id);

INSERT INTO
   checkpoint_log
   SELECT
       'DIM_TABLE_ABC' process_name,
       'SUCCESSFUL' process_status,
      cast( @to_snapshot_id AS string) last_snapshot_id,
      cast( @last_updated_timestamp AS TIMESTAMP) process_timestamp;

EXCEPTION
  WHEN OTHER THEN
    SELECT 'ERROR';
END
$$;

此邏輯可套用至任何表格以執行增量載入。

過期的快照

重要

快照中繼資料過期時間： 二 天。 過期的快照會讓上述指令碼的邏輯失效。

若要解決快照ID過期的問題，請在匿名區塊的開頭插入以下命令。 下列程式碼行會覆寫 @from_snapshot_id 具有最早可用的 snapshot_id 來自中繼資料。

SET resolve_fallback_snapshot_on_failure=true;

整個程式碼區塊如下所示：

$$ BEGIN
    SET resolve_fallback_snapshot_on_failure=true;
    SET @from_snapshot_id = SELECT coalesce(last_snapshot_id, 'HEAD') FROM checkpoint_log a JOIN
                            (SELECT MAX(process_timestamp)process_timestamp FROM checkpoint_log
                                WHERE process_name = 'DIM_TABLE_ABC' AND process_status = 'SUCCESSFUL' )b
                                on a.process_timestamp=b.process_timestamp;
    SET @to_snapshot_id = SELECT snapshot_id FROM (SELECT history_meta('DIM_TABLE_ABC')) WHERE  is_current = true;
    SET @last_updated_timestamp= SELECT CURRENT_TIMESTAMP;
    INSERT INTO DIM_TABLE_ABC_Incremental
     SELECT  *  FROM DIM_TABLE_ABC SNAPSHOT BETWEEN @from_snapshot_id AND @to_snapshot_id WHERE NOT EXISTS (SELECT _id FROM DIM_TABLE_ABC_Incremental a WHERE _id=a._id);

Insert Into
   checkpoint_log
   SELECT
       'DIM_TABLE_ABC' process_name,
       'SUCCESSFUL' process_status,
      cast( @to_snapshot_id AS string) last_snapshot_id,
      cast( @last_updated_timestamp AS TIMESTAMP) process_timestamp;
EXCEPTION
  WHEN OTHER THEN
    SELECT 'ERROR';
END
$$;

後續步驟

閱讀本檔案後，您應該更瞭解如何使用匿名區塊和快照功能來執行增量載入，並可將此邏輯套用至您自己的特定查詢。 如需查詢執行的一般指引，請參閱 查詢服務中的查詢執行指南.

本頁內容