原创 華爲聯合中科大提出知識圖譜結合預訓練模型新方法,節省20%計算成本

如何將知識圖譜的信息嵌入到預訓練語言模型中,已經成爲當前的研究熱點。近日,來自華爲雲、華爲諾亞方舟實驗室和中科大的研究人員共同發佈了一項新研究成果,通過提取知識圖譜中的子圖,並輸入到基於Transformer的模型中來學習知識嵌入,在多個

原创 阿里提出針對多目標優化的全新算法框架,同時提升電商推薦場景GMV和CTR

在推薦系統中,多目標優化一直是熱門話題,阿里巴巴的Xiao Lin、Hongjie Chen等人針對推薦中的多目標優化問題提出了一種基於帕累託效率的優化算法框架,並應用在電商推薦場景中,對GMV和CTR多個目標同時優化,線上實驗效果好於L

原创 MSRA開源基於注意力機制的全新推薦模型,融合用戶長短期偏好

基於歷史交互行爲的用戶建模是構建精準推薦系統的核心環節,如何融合用戶長短期的偏好一直是推薦系統中的熱點話題。本文主要探討的兩個話題是:(1)改進已有的RNN結構,使其能夠適應複雜的上下文狀態,更好地學習用戶的短期偏好;(2)基於用戶的歷史

原创 阿里將Transformer用於淘寶電商推薦,效果優於DIN和谷歌WDL

論文作者系阿里巴巴搜索推薦事業部Qiwei Chen、Huan Zhao、Wei Li、Pipei Huang、Wenwu Ou,由AI前線編譯整理 論文原文鏈接:https://arxiv.org/pdf/1905.06874.pdf