自動最佳化模型 auto-optimization-model

自動最佳化模型旨在提供可大幅提升業務客戶所設定回報(KPI)的優惠方案。 這些KPI可以是轉換率、收入等形式。 此時,自動最佳化的重點是最佳化優惠點按,並將優惠轉換作為我們的目標。 自動最佳化是非個人化的,並根據選件的「全域」效能進行最佳化。

限制 limitations

使用自動最佳化模型以進行決策管理時,必須遵守下列限制:

  • 自動最佳化模型不適用於批次決策API。
  • 建立模型所需的意見反應必須作為體驗事件傳入中。 此檔案不應自動傳入中 Journey Optimizer 管道。

術語 terminology

討論自動最佳化時,下列字詞相當實用:

  • 多臂吃角子老虎:A 多臂吃角子老虎 最佳化方法可平衡探索學習和該學習的利用。

  • Thomson取樣:Thompson取樣是一種用於線上決策問題的演演算法,其中採取的動作會依序進行,必須在利用已知會最大化立即效能與投資累積可能改善未來效能的新資訊之間取得平衡。 了解更多

  • Beta版分佈: Set of continuous probability distributions defined on the interval [0, 1] parameterized by two positive shape parameters.

Thompson取樣 thompson-sampling

自動最佳化基礎的演演算法是 Thompson取樣. 在本節中,我們將討論Thompson取樣背後的直覺。

Thompson取樣或稱為Bayesian盜賊,是多臂盜賊問題的貝葉斯方法。 基本思想是將每個優惠的平均獎勵??視為一個 隨機變數  並運用我們目前所收集的資料來更新我們對於平均獎勵的「信念」。 這個「信念」在數學上以 後驗概率分佈 — 基本上是平均報酬的值範圍,以及每個優惠中報酬具有該值的可能性(或機率)。 接著,我們針對每項決定進行 從這些後驗獎勵分佈中的每個分佈取樣點 並選取抽樣報酬值最高的優惠方案。

此程式如下圖所示,我們有3個不同的選件。 起初,我們無法從資料中取得任何證據,而且我們假設所有優惠方案都有一個統一的後驗獎勵分佈。 我們會從每個優惠方案的前端回報分佈中抽取樣本。 從選件2的分佈中選取的範例具有最高值。 以下範例為 探索. 顯示優惠方案2後,我們會收集任何潛在獎勵(例如轉換/不轉換),並使用貝葉斯定理更新優惠方案2的後驗分佈,如下所述。 我們將繼續此程式,並在每次顯示優惠方案並收集獎勵時更新後續分配。 在第二個數字中,已選取「選件3」 — 儘管選件1的平均報酬最高(其後方的報酬分佈最靠右),從每個分佈取樣的程式已導致我們選擇明顯次優的選件3。 我們藉此機會進一步瞭解Offer 3的真正獎勵分配。

當收集到更多的範例時,可信度會提高,並取得可能獎勵的更準確預估(對應於較窄的獎勵分佈)。 在有更多證據時更新我們信念的過程稱為  貝葉斯推斷.

最終,如果一個選件(例如選件1)是明確的獲勝者,其後驗獎勵分配將與其他選件分開。 此時,對於每個決定,從選件1取得的抽樣獎勵可能是最高的,而我們將以較高的機率選擇它。 這是 開發 — 我們堅信Offer 1是最佳選擇,因此選擇它是為了獲得最大回報。

圖1對於每項決定,我們都會從後驗獎勵分佈中取樣一個分數。 將會選擇具有最高範例值(轉換率)的選件。 在初始階段,所有選件具有統一分佈,因為我們沒有任何證據可以證明資料中選件的轉換率。 當我們收集到更多樣本時,後驗分佈會變得更窄且更準確。 最終,每次都會選擇轉換率最高的優惠方案。

技術細節

若要計算/更新分配,請使用 Bayes定理. 針對每個選件 ì,我們想計算它們的​ P(??i | 資料),即每個選件的 ì,報酬值發生的機率 ??i 是,根據我們目前為止為該選件收集的資料。

從貝葉斯定理:

後方=可能性 先前*

優先概率 是產生輸出的機率的初始猜測。 收集到一些證據後的機率稱為 後驗概率.

自動最佳化的設計會考量二進位獎勵(按一下/不按一下)。 在此案例中,可能性代表N次嘗試的成功數量,並由 二項式分佈. 對於某些似然函式,如果您選擇特定的前一個,則後一個分佈會與前一個分佈相同。 這類前置詞則稱為 共軛先驗. 這種先驗使後驗分佈的計算非常簡單。 此 Beta版分佈 是二項式可能性(二進位獎勵)之前的共軛值,因此對於前後概率分佈來說,這是一個方便而合理的選擇。Beta分佈有兩個引數: αβ. 這些引數可視為成功和失敗的計數,以及下列引數提供的平均值:

如上所述的Likelihood函式是由二項式分佈模型化,具有s成功(轉換)和f失敗(無轉換),而q是 隨機變數 with a beta distribution.

前一個分佈是以Beta版分佈建模,而後一個分佈採用以下形式:

計算後驗的方法為將成功和失敗數加到現有引數 αβ.

針對自動最佳化(如上述範例所示),我們以先前的分佈開始 Beta(1, 1) (均勻分佈)對於所有選件,在給定選件成功和失敗後,後驗會成為具有引數的Beta分佈  (s+α, f+β) 以取得該優惠方案。

相關主題

如需深入瞭解Thompson取樣,請閱讀下列研究檔案:

冷啟動問題 cold-start

將新優惠方案新增至行銷活動時,會發生「冷啟動」問題,且沒有新優惠方案的轉換率相關資料可用。 在此期間,我們必須提出一項策略,決定選擇此新選件的頻率,以便將效能下降降至最低,同時收集此新選件轉換率的相關資訊。 有多種解決方案可以解決這個問題。 關鍵是要在這項新優惠方案探索之間取得平衡,同時不犧牲太多開發成果。 目前我們使用「統一分送」,作為新優惠方案轉換率(先前分送)的初步猜測。 基本上,我們提供所有轉換率值等於發生機率。

圖2考慮包含3個選件的行銷活動。 行銷活動進行時,選件4會新增至行銷活動。 我們最初沒有有關Offer 4轉換率的資料,因此必須處理冷啟動問題。 我們使用統一分佈來做我們對Offer 4轉換率的初步猜測,同時我們收集這個新選件的資料。 如中所述 Thompson取樣 區段,若要選擇向使用者顯示哪個優惠方案,我們會從優惠方案的後驗獎勵分佈中取樣點,並選取具有最高取樣值的優惠方案。 在上述範例中,已選取優惠方案4,稍後會根據所收集的獎勵,更新此優惠方案的後續分佈,如 Thompson取樣 區段。

提升度測量 lift

「提升度」量度可用來測量排名服務中部署的任何策略與基線策略(隨機提供選件)的效能。

例如,如果我們想要測量用於排名服務的Thompson取樣(TS)策略效能,而KPI是轉換率(CVR),則TS策略相對於基準策略的「提升度」定義為:

recommendation-more-help
b22c9c5d-9208-48f4-b874-1cefb8df4d76