[舊版]{class="badge informative"}
個人化最佳化模型 personalized-optimization-model
透過在監督的機器學習和深度學習中運用最先進的技術,個人化最佳化可讓業務使用者(行銷人員)定義業務目標並利用其客戶資料來訓練業務導向的模型,以提供個人化優惠並最大化KPI。
非個人化排名會根據每個優惠方案的全域效能進行最佳化,而個人化最佳化則會瞭解個別客戶的屬性與最可能為該客戶推動所選KPI的優惠方案之間的關係。 結果會為每個設定檔量身打造優惠方案選擇,而不是為所有人提供單一的最佳優惠方案。
使用案例和優點 use-cases
個人化最佳化非常適合決策案例,其中不同客戶對可用優惠方案的回應會不同,且優惠方案目錄會有重大差異,而且不常變更。 常見的使用案例包括:
- 下一個最佳優惠方案選擇:從數個競爭優惠方案或促銷方案中選取要即時呈現給每位客戶的方案。
- 內容個人化:選擇每個客戶在網頁、行動裝置、電子郵件和其他管道中的內容(例如橫幅、創意)或訊息。
- 受眾感知個人化:結合受眾成員資格和內容訊號,讓建議可反映客戶身分和互動內容。
- 收入和價值最佳化:除了點按和轉換等二進位結果之外,還針對收入或客戶期限值等持續結果最佳化。
主要優點:
- 透過提供每位客戶最有可能回應的優惠方案,而非單一全球最佳優惠方案,將您選取的業務KPI最大化。
- 持續因應新互動資料的到來,在探索未充分測試的優惠方案與開發備受肯定的執行者之間取得平衡。
- 支援二進位和持續最佳化量度,而排名分數可直接用於AI模型公式產生器運算式。
- 藉由自動學習適合客戶的選件,減少A/B測試和規則編寫的手動工作量。
資料集需求 dataset
若要訓練個人化最佳化模型,資料集在過去30天內必須至少有兩個具有至少250個顯示事件(例如曝光數)和一個成功事件(例如點選或轉換)的選件。
具有少於250個顯示事件和/或過去30天內沒有成功事件的選件,仍符合納入探索流量的資格。 他們也將符合納入個人化流量的資格,但將視為等同於決策中最差的分數預測選件,直到他們達到所需的最低顯示/成功事件且模型重新訓練為止。
在第一次訓練個人化最佳化模型之前,會隨機提供使用個人化最佳化模型之選擇策略中的選件。
運作方式 how
該模型會學習優惠方案、使用者資訊和內容資訊之間的複雜功能互動,以向一般使用者建議個人化優惠方案。 特徵是模型的輸入。
共有3種功能:
模型有兩個階段:
- 在 離線模型訓練 階段中,藉由學習並記憶歷史資料中的功能互動來訓練模型。
- 在 線上推斷 階段,候選優惠方案會根據模型產生的即時分數進行排名。 傳統協同篩選技術很難加入使用者功能和選件,而個人化最佳化屬於深度學習型推薦方法,可加入並學習複雜及非線性功能的互動模式。
除了二進位變數(例如點按和轉換)外,模型還支援最佳化連續變數(例如收入和客戶期限值)。 二進位量度(例如點按)的預測值一律介於0和1之間。 連續量度(例如訂單值)的預測值一律為大於或等於零的數字。 排名分數會正規化,以確保在公式或比較中使用時,兩種量度型別的行為一致。
說明性範例 illustrative-example
二進位回應(轉換) binary-response
考慮使用者和選件之間歷史互動的簡化資料集。 每一列會記錄顯示的優惠、兩個客戶訊號 — 忠誠度等級(高= 1)以及客戶是否開啟最近的電子郵件(是= 1) — 以及客戶是否轉換(是= 1)。
若為選件A,兩個訊號一致時(高或低)轉換的可能性較高。 針對選件B,無論忠誠度等級為何,在電子郵件開啟時轉換的可能性都較大。 根據已學習的模式,模型可以根據客戶的訊號預測每個客戶的更佳優惠方案。
根據客戶訊號
圖1:在醒目提示的不相符列中,訊號不相符且未轉換時會顯示選件A。 根據已學習的模式,選件B將是該客戶下次的較佳建議。
這就是方法的本質:學習和記住歷史功能的互動,並套用這些互動,為每位客戶產生個人化的預測。
持續回應(收入) continuous-response
同樣的想法也適用於連續的結果。 此模型不會預測客戶是否轉換,而是預測每個優惠方案和客戶區段的連續值(預期收入),並根據該預測值對優惠方案進行排名。
圖2:四個客戶區段中兩個優惠方案的預測收入。 對於已開啟電子郵件的高忠誠度客戶,方案A預計將帶來最多收入;對於已開啟電子郵件的低忠誠度客戶,方案B是更強大的選擇。 模型會選取每個區段具有最高預測值的選件,而非套用一個規則至所有客戶。
組合模型元件 ensemble
個人化最佳化會以整體模型的形式提供 — 數個互補模型臂會一起運作,而監督層會決定每個臂接收多少即時流量。 此設計可讓系統同時追求兩個目標:學習哪些選件執行最佳(探索),以及提供已知執行良好的選件(利用)。
平衡探索與開發
每個決策系統都面臨一個權衡,一邊是探索未充分測試的優惠方案以收集資訊,一邊是開發經過實證的優惠方案以取得最大即時回報。 為探索保留太少的流量會導致高潛力的優惠未被發現;對已執行的優惠保留過多的犧牲提升。 組合會保留最低的探索層級,同時隨著時間推移將剩餘流量轉向表現較佳的個人化分支,藉此自動管理此平衡。
該組合由四個流量分支組成:
均勻隨機(探索臂) uniform-random
統一的隨機分支會從符合資格的優惠方案中隨機將優惠指派給客戶。 因為它不喜歡任何優惠方案,所以會在整個目錄中產生客戶如何回應的無偏見資料,這是個人化部門學習的原始資料。 在第一個模型訓練之前,它是唯一作用中的手臂,之後它會繼續保持最低限度的探索地板,讓系統持續學習。
- 初始化時:100%的流量。
- 首次成功訓練回合後:根據每個選件的觀察曝光和轉換事件數量,至少5-20%的流量,最高可達85%。
神經網路(個人化臂) neural-network
神經網路是個人化的分支,可根據特定客戶的屬性和受眾會籍,預測適合該客戶的最佳優惠方案。 它會學習選件、客戶功能和內容之間的複雜非線性互動,非常適合擷取許多功能中的細微模式。
- 初始化時:0%的流量。
- 首次成功訓練回合後:至少5%的流量,最多達85%。
關聯式吃角子老虎機(個人化分支) contextual-bandit
關聯式Bandit是第二個個人化分支,也會根據客戶的受眾成員資格,使用不斷平衡學習與績效的Bandit方法,預測每位客戶的最佳優惠方案。 搭配神經網路執行,讓組合運用兩種獨特個人化方法的優勢。
- 初始化時:0%的流量。
- 首次成功訓練回合後:至少5%的流量,最多達85%。
新的優惠方案增強器(非個人化arm) new-offer-booster
新的優惠方案提升器是整體成功者Thompson Sampling Bandit (非個人化),會對新優惠方案的效能(模型回顧期間內幾乎沒有記錄印象事件的優惠方案)做出樂觀的假設。 這樣一來,有希望的新優惠方案就能及早獲得證明所需的曝光度,進而解決已知的冷啟動缺點,也就是模型難以將足夠的流量導向新的或高效能但受限合格的優惠方案。
- 收集真實的曝光次數和轉換資料後,每個選件的預估效能都會快速接近其真正的基本效能,而樂觀假設的影響會降至接近零。
- 如果沒有相對較新的選件(例如,當所有選件都有相似數量的曝光數,或都有超過1,000次曝光數時),樂觀效應幾乎為零,而且這臂實際上表現為非個人化的整體成功者模型。
- 初始化時:0%的流量。
- 首次成功訓練回合後:5%的流量。
如何跨武器分配流量 traffic-allocation
初始化時,模型尚未訓練,因此100%的流量會流向統一的隨機基線,也就是唯一具有學習分佈以從中取樣的手臂。 在第一次成功訓練回合後,每個手臂會收到最低流量下限(5%),而主管吃角子老虎機會根據觀察到的效能分配剩餘流量。 當模型經過連續輪次時,流量會向最高效能的武器匯聚,最大可能分配為85%的流量。
圖3:在初始化時跨越四個組合臂並跨越連續訓練回合的可能流量分配軌跡。 初始化時,所有流量都會流向隨機基準。 每次訓練回合後,監督的Thompson Sampling Bandit會將配置轉移到表現較好的武器,同時保持至少5%的流量。 實際配置會根據觀察到的手臂效能而有所不同。
主要模型假設及限制 key
為了最大化使用個人化最佳化的優勢,請注意一些重要假設和限制。
- 優惠方案差異足夠大,使用者在所考慮的優惠方案之間會有不同的偏好設定。 如果選件太類似,則產生的模型影響會較小,因為回應似乎是隨機的。例如,如果銀行有兩個信用卡優惠方案,唯一差異是顏色,那麼建議使用哪張卡可能無關緊要,但如果每張卡都有不同的詞語,這就能為某些客戶選擇一張卡片提供充分的理由,並提供足夠的優惠方案差異,以建立更有影響力的模型。
- 使用者流量構成穩定。 如果使用者流量構成在模型訓練和預測期間發生大幅變更,模型效能可能會降低。 例如,假設在模型訓練階段中,只有對象A中使用者的資料可用,但已訓練的模型用於產生對象B中使用者的預測,則模型效能可能會受到影響。
- 此模型每週更新,且模型更新時傳遞效能的變更,因此短時間內的優惠效能不會大幅變更。 例如,某產品之前非常受歡迎,但公開報告指出該產品對我們的健康有害,並且此產品很快變得不受歡迎。 在此案例中,模型可以繼續預測此產品,直到模型更新為使用者行為的變化。
冷啟動問題 cold-start
當沒有足夠的資料來進行建議時,就會發生冷啟動問題。 針對個人化最佳化,有四種型別的冷啟動問題。
- 建立不含歷史資料的新AI模型後,將會隨機提供一段時間選件以收集所需的資料,然後用於訓練第一個模型。
- 第一個AI模型發行後,總流量的一部分會配置給統一的隨機探索,其餘則用於模型建議。 系統會根據選件數量及其效能臨界值等因素,自動調整整個勘探和開發Bandit元件的流量分佈。
- 將新優惠方案新增至與AI排名模型相關之策略中所選的優惠方案集合後,這些優惠方案會成為適用對象,同時透過統一隨機和新的優惠方案增強模型分支(在60分鐘內)進行探索。 在下次排程的重新訓練回合中,優惠方案的預估效能將會在新的優惠方案加強模型臂中更新,而且如果優惠方案符合曝光數和點選數臨界值,將符合資格包含在個人化模型臂中。
- 將新設定檔新增至與AI排名模型相關之選擇策略相關聯的現有對象集後,它們會繼承對象集本身的個人化屬性。 因此,他們將會開始根據這些屬性從get-go接收個人化優惠,而不會出現任何冷啟動問題。
重新訓練 re-training
模型將接受重新培訓,以學習最新功能互動,並每週減緩模型效能的下降。