基於深度學習的推薦模型已廣泛應用於各種電商平臺中，爲用戶提供推薦。目前常用的方法通常會將用戶和商品 embedding 向量 連接起來輸入 多層感知器 （ multilayer perceptron ）以生成最終的預測。但是，這些方法無法捕獲實時用戶行爲信號，並且沒有考慮到重要的 情景特徵 （例如時間和位置等）的影響，以致最終的推薦不能準確地反映用戶的實時偏好，這個問題在快餐推薦的應用場景中更爲重要，因爲：
- 如果當用戶的購物車中已經添加了飲料時，用戶不太可能再購買其他飲料。
- 用戶的購買偏好會在給定的地點、時間和當前的天氣條件下發生很大變化。例如，人們幾乎從不在半夜給孩子們買食物，也不太可能在寒冷的雨天購買冰鎮飲料。
在此文章中，我們介紹了 Transformer Cross Transformer （ T x T ）模型，該模型可以利用到實時用戶點餐行爲以及情景特徵來推斷用戶的當前偏好。該模型的主要優點是，我們應用了多個 Transformer編碼器來提取用戶點單行爲和複雜的 情景特徵 ，並通過點積的方法將 Transformer輸出 組合在一起以生成推薦。
此外，我們利用 Analytics Zoo提供 的 RayOnSpark功能， 使用 Ray, Apache Spark和 Apache MXNet 構建了一個完整的端到端的推薦系統。它將數據處理（使用 Spark ）和分佈式訓練（使用 MXNet 和 Ray ）集成到一個統一的數據分析和 AI 流水線中，並直接運行在存儲數據的同一個大數據集羣上。我們已經在 Burger King成功部署了這套推薦系統，並且已經在生產環境中取得了卓越的成果。
T x T 推薦模型
我們提出了 Transformer Cross Transformer （ T x T ）模型，該模型使用 Sequence Transformer 對客戶訂單行爲進行編碼，使用 Context Transformer 對 情景特徵 （例如天氣，時間和位置等）進行編碼，然後使用 點積的方式 將它們組合（“ cross ”部分）以產生最終輸出，如圖 1 所示。我們利用 MXNet API 實現了我們的模型代碼。
圖 1: T x T 模型結構
Sequence Transformer 我們基於 Transformer架構創建了一個 Sequence Transformer ，用於學習客戶購物車中包含每件產品加入順序信息的 embedding 向量 ，如圖 1 的左下部分所示。爲了確保商品位置信息可以在其原始的 購物行爲 中得到考慮，除了商品特徵 embedding 之外，我們還對商品進行基於位置的 embedding 。兩個 embedding 的輸出加在一起，輸入到一個 multi-head self-attention神經網絡 中。
爲了從每個商品的隱藏向量中提取客戶整個購物車信息的向量表示，我們將 mean-pooling 和 max-pooling 分別與最終 Sequence Transformer 的輸出連接起來。通過這種方式， pooling 層的輸出既考慮到了在 購物車 中包含的所有產品，同時又專注提取了少數關鍵產品的顯著特徵。
Sequence Transformer 可以使用 Analytics Zoo 中的 API 直接構建，如下：
| from zoo.models.recommendation import SequenceTransformersequence_transformer = SequenceTransformer( num_items=num_items, item_embed= 200 , item_hidden_size= 200 , item_max_length= 10 , item_num_heads= 4 , item_num_layers= 2 , item_transformer_dropout= 0.1 , item_pooling_dropout= 0.1 , cross_size= 100 )item_outs = sequence_transformer(input_items, padding_mask) |
|---|
Context Transformer 合併情景特徵的一種常見方法是將它們與帶時間序列 的輸入特徵 直接連接起來。但是簡單地將 非時間序列的 特徵與 時間序列的 特徵連接起來的意義不大。以前的一些解決方案使用相加來處理多個 情景特徵 ，然而 簡單的相加 只能綜合多個情景特徵對輸出做出的貢獻，但大多數情況下，這些 情景特徵 對用戶最終決策的貢獻並不相等。
因此，我們使用 Context Transformer 對情景特徵進行編碼，如圖 1 右下方所示。使用 Transformer 的 multi-head self-attention ，我們不僅可以捕獲每一個 情景特徵 的影響，還可以捕獲不同 情景特徵 之間的內部關係和複雜的交互作用。
Context Transformer 可以使用 Analytics Zoo 中的 API 直接構建，如下：
| context_transformer = ContextTransformer( context_dims=context_dims, context_embed= 100 , context_hidden_size= 200 , context_num_heads= 2 , context_transformer_dropout= 0.1 , context_pooling_dropout= 0.1 , cross_size= 100 )context_outs = context_transformer(input_context_features) |
|---|
Transformer Cross Transformer 爲了聯合訓練 Sequence Transformer 和 Context Transformer ，我們在這兩個 transformer 輸出之間做 點積 進行聯合訓練，同時優化商品的 embedding ， 情景特徵 的 embedding 及其交互的所有參數。最後我們使用 LeakyRelu 作爲激活函數，使用 softmax 層來預測每個候選商品的概率。
T x T 由 Sequence Transformer 和 Context Transformer 組成，可以使用 Analytics Zoo 中的 API 直接構建，如下：
| from zoo.models.recommendation import TxTnet = TxT(num_items, context_dims, item_embed= 100 , context_embed= 100 , item_hidden_size= 256 , item_max_length= 8 , item_num_heads= 4 , item_num_layers= 2 , item_transformer_dropout= 0.0 , item_pooling_dropout= 0.1 , context_hidden_size= 256 , context_max_length= 4 , context_num_heads= 2 , context_num_layers= 1 , context_transformer_dropout= 0.0 , context_pooling_dropout= 0.0 , activation= “leakyRelu” , cross_size= 100 ) net .hybridize(static_alloc=True, static_shape=True) output = net(sequence, valid_length, context) |
|---|
端到端的系統架構 通常情況下，構建一個完整的推薦系統會建立兩個單獨的集羣，一個集羣用於大數據處理，另一個集羣用於深度學習（例如，使用 GPU 集羣）。但這不僅會帶來跨集羣數據傳輸的巨大開銷，而且還需要在生產環境中去管理獨立的系統和工作流。爲了應對這些挑戰，我們在 Analytics Zoo的 RayOnSpark之上構建了我們的推薦系統，將 Spark 數據處理和使用 Ray的 分佈式 MXNet 訓練集成到一個統一的流水線中，直接運行在數據存儲的集羣上。
圖2展示了我們系統的總體架構。Spark的程序中，在Driver節點上會創建一個SparkContext對象去負責啓動多個Spark Executor來運行Spark任務。 RayOnSpark 會在 Spark Driver上 另外創建一個 RayContext 對象，去自動把 Ray 進 程和Spark Executor 一起啓動，並在每個 Spark Executor裏創 建一個 RayManager 來管理 Ray 進程（例如， 在Ray程序退 出時自動關閉進程）。
圖 2: 基於 RayOnSpark 的推薦系統流水線架構
在我們的推薦系統中，我們首先啓動 Spark 任務去讀取存儲在分佈式文件系統上的餐廳交易數據，然後使用 Spark對這些數據 進行數據清理， ETL 和預處理。 Spark 任務完成後，我們將處理後在內存中的 Spark RDD通過 Plasma直接輸入給 Ray 進行分佈式訓練。
參考 RaySGD的設計，我們實現了 MXNet Estimator，它提供了一個輕量級的 wrapper ，可以在 Ray 上自動地部署分佈式 MXNet 訓練。 MXNet worker和parameter server都是用Ray actor實現和 運行的，它們之間通過 MXNet 提供的分 布式key-value store 來相互通信，每個 MXNet worker從Plasma 中拿取本地節點上的部分數據來訓練模型。通過這種方式，用戶就可以使用下面簡單的 scikit-learn 風格的 API， 通過 Ray 無縫地將 MXNet的模型 訓練代碼從單個節點擴展到生產集羣：
| from zoo.orca.learn.mxnet import Estimatormxnet_estimator = Estimator(train_config, model, loss, metrics, num_workers, num_servers)mxnet_estimator.fit(train_rdd, validation_rdd, epochs, batch_size) |
|---|
這種統一的設計架構將基於 Spark的 數據處理和基於 Ray 的分佈式 MXNet 訓練集成到一個端到端的、基於內存的流水線中，能夠在存儲大數據的同一集羣上直接運行。因此，構建整個 推薦系統的 流水線我們只需要維護一個集羣，避免了不同集羣之間額外的數據傳輸，也不需要額外的集羣維護成本。這樣充分地利用了現有的集羣資源，並且顯著地提升了整個系統的端到端性能。
模型評估 我們使用了過去 12 個月中 漢堡王 客戶的交易記錄進行了離線的實驗，其中前 11 個月的歷史數據用於訓練，最後一個月的數據用於驗證。我們用這些數據對模型進行訓練，讓模型能夠預測客戶下一個最有可能購買的產品。從圖表 1 中，我們可以看到我們的 T x T 優 於其他用於推薦的基準模 型（包括 Association Rule Learning和 GRU4Rec）。相比 GRU4Rec ，我們可以看到， T x T能 利用各種 情景特徵 大大提高了 預測的 準確性 （Top1和Top3準確 率分別提升了約 5.65 ％和 7.32 ％）。
| 選用的模型 | Top1準確率 | Top3準確率 | |
|---|---|---|---|
| 1 | Association Rule Learning | 20.14% | 35.04% |
| 2 | GRU4Rec | 30.65% | 45.72% |
| 3 | Transformer Cross Transformer (T x T) | 35.03% | 53.04% |
圖表 1: 不同推薦模型的離線訓練結果
爲了評估我們的模型在實際生產環境中的有效性，我們在 Burger King 的手機客戶端上同時對比了 T x T 模型和 Google Recommendation AI*提供的推薦模型 。我們從推薦轉化率和附加銷售額的提升這兩個方面評估了不同模型的在線效果，在生產環境做了 4 周的 A/B 測試。我們隨機選擇了 20 ％的用戶作爲對照組，爲他們提供之前在生產環境使用的基於規則（ Rule Based ）的推薦系統。如圖表 2 ，與對照組相比， T x T 將下單頁面上的推薦轉化率提高了 264 ％，附加銷售額提高了 137 ％。與運行 Google Recommendation AI 的測試組相比， T x T 進一步提高了 100 ％的轉換收益和 73 ％的附加銷售收益。
| 推薦系統 | 轉化率提升 | 附加銷售額提升 |
|---|---|---|
| Rule Based Recommendation (Control) | 0% | 0% |
| Google Recommendation AI | +164% | +64% |
| Transformer Cross Transformer (T x T) | +264% | +137% |
圖表 2: 不同推薦解決方案的在線結果
結論 這篇文章描述了我們如何在 Burger King的生產環境 中構建一個端到端的推薦系統。我們通過 Transformer Cross Transformer （ T x T ）模型成功地捕獲了用戶訂單行爲和複雜的 情景特徵爲用戶做合適的推薦 ，並且使用 RayOnSpark 實現了統一的數據處理（使用 Spark ）和 深度學習模型 訓練（使用 Ray ）的流水線。 TxT模型和 RayOnSpark均已在 Analytics Zoo項目中開源。
- 其他名稱和品牌可能是其他所有者的財產
作者簡介：
Luyang Wang ([email protected]), Kai Huang ([email protected]), Jiao Wang ([email protected]), Shengsheng Huang ([email protected]), Jason Dai ([email protected])