最近總有幾位關注者希望我們可以分享一些“推薦系統”類的乾貨，最近正好一不小心看到一篇比較好的博主寫的推送，在此我通過自己理解和該博主的內容，爲大家帶來一次推薦系統的分享！

前言

隨着電子商務的發展，網絡購物成爲一種趨勢，當你打開某個購物網站比如淘寶、京東的時候，會看到很多給你推薦的產品，你是否覺得這些推薦的產品都是你似曾相識或者正好需要的呢。這個就是現在電子商務裏面的推薦系統，向客戶提供商品建議和信息，模擬銷售人員完成導購的過程。

推薦系統是一個相當火熱的研究方向，在工業界和學術界都得到了大家的廣泛關注。希望通過下面的介紹，總結一些關於推薦系統領域相關的會議、知名學者，以及做科研常用的數據集、代碼庫等，希望能夠幫助想入門推薦系統的童鞋們提供一個參考，希望能夠儘快上手推薦系統，進而更好更快的深入科研也好、工程也罷。

那下面開始正式介紹，過程會給大家推薦一些比較好的會議、文章、作者等，記得收藏記錄下來。

介紹

什麼是推薦系統呢？剛剛前面也簡單的介紹了下，在維基百科這樣解釋：推薦系統屬於資訊過濾的一種應用。推薦系統能夠將可能受喜好的資訊或實物（例如：電影、電視節目、音樂、書籍、新聞、圖片、網頁）推薦給使用者。

推薦系統首先收集用戶的歷史行爲數據,然後通過預處理的方法得到用戶-評價矩陣,再利用機器學習領域中相關推薦技術形成對用戶的個性化推薦。有的推薦系統還蒐集用戶對推薦結果的反饋,並根據實際的反饋信息實時調整推薦策略,產生更符合用戶需求的推薦結果。

推薦系統的作用：

將網站的瀏覽者轉爲購買者或者潛在購買者（購物車）；
提高購物網站的交叉銷售能力和成交轉化率；
提高客戶對網站的忠誠度和幫助用戶迅速找到產品。

推薦系統的表現形式：

Browsing：客戶提出對特定商品的查詢要求，推薦系統根據查詢要求返回高質量的推薦；
Similar Item：推薦系統根據客戶購物籃中的商品和客戶可能感興趣的商品推薦類似的商品；
Email：推薦系統通過電子郵件的方式通知客戶可能感興趣的商品信息；
Text Comments：推薦系統向客戶提供其他客戶對相應產品的評論信息；
Average Rating：推薦系統向客戶提供其他客戶對相應產品的等級評價；
Top-N：推薦系統根據客戶的喜好向客戶推薦最可能吸引客戶的N件產品；
Ordered Search Results：推薦系統列出所有的搜索結果，並將搜索結果按照客戶的興趣降序排列。

推薦技術分類：

基於用戶統計信息的推薦;
基於其他客戶對該產品的平均評價，這種推薦系統獨立於客戶，所有的客戶得到的推薦都是相同的(Non-PersonalizedRecommendation)；
基於產品的屬性特徵(Attributed-Based Recommendation)；
根據客戶感興趣的產品推薦相關的產品(Item-to-ItemCorrelation)；
協同過濾，推薦系統根據客戶與其他已經購買了商品的客戶之間的相關性進行推薦(People-to-PeopleCorrelation)。

相關學者

1、Yehuda Koren

個人主頁：Koren's HomePage

主要貢獻：Netflix Prize的冠軍隊成員，是推薦系統領域的大神級人物，現就職於雅虎

代表文獻：Matrix Factorization Techniques For Recommender Systems

2、Hao Ma

個人主頁：HaoMa's HomePage

主要貢獻：社會化推薦領域的大牛，提出了許多基於社會化推薦的有效算法，現就職於微軟

代表文獻：SoRec: Social Recommendation Using Probabilistic Matrix Factorization

3、郭貴冰

個人主頁：Guibing Guo's HomePage

主要貢獻：國內推薦系統大牛，創辦了推薦系統開源項目LibRec

代表文獻：TrustSVD: Collaborative Filtering with Both the Explicit and Implicit Influence of User Trust and of Item Ratings

4、Hao Wang

個人主頁：HaoWang's HomePage

主要貢獻：擅長運用深度學習技術提高推薦系統性能

代表文獻：Collaborative deep learning for recommender systems

5、何向南

個人主頁：Xiangnan He's Homepage

主要貢獻：運用深度學習技術提高推薦系統性能

代表文獻：Neural Collaborative Filtering

6、Robin Burke

個人主頁：rburke's HomePage

主要貢獻：混合推薦方向的大牛

代表文獻：Hybrid recommender systems: Survey and experiments

7、項亮

主要貢獻：國內推薦系統領域中理論與實踐並重的專家，Netflix Prize第二名

代表文獻：《推薦系統實踐》。

8、石川

個人主頁：shichuan's HomePage

主要貢獻：研究方向爲異質信息網絡上的推薦，提出了加權的異質信息相似度計算等

代表文獻：Semantic Path based Personalized Recommendation on Weighted Heterogeneous Information Networks

基於內容的推薦（Content-basedRecommendation）

基於內容的推薦是建立在產品的信息上作出推薦的，而不需要依據用戶對項目的評價意見，更多地需要用機器學習的方法從關於內容的特徵描述的事例中得到用戶的興趣資料。

系統首先對商品書籍的屬性進行建模，圖中用類型作爲屬性。在實際應用中，只根據類型顯然過於粗糙，還需要考慮其他信息。通過相似度計算，發現書籍A和C相似度較高，因爲他們都屬於武俠小說類。系統還會發現用戶A喜歡書籍A，由此得出結論，用戶A可能對書籍C也感興趣。於是將書籍C推薦給A。接下來，舉一個明瞭的例子：

下面是亞馬遜中國的一個例子，未登錄用戶瀏覽了關於Hadoop的書籍，於是在首頁會出現如下相關產品的推薦：

優點：

對用戶興趣可以很好的建模，並通過對商品和用戶添加標籤，可以獲得更好的精確度；
能爲具有特殊興趣愛好的用戶進行推薦。

缺點：

物品的屬性有限，難以區分商品信息的品質；
物品相似度的衡量標準只考慮到了物品本身，有一定的片面性；
不能爲用戶發現新的感興趣的產品。

Burke et al. HybridRecommender Systems: Survey and Experiments. USER MODEL USER-ADAP,2002.
Adomavicius et al. Toward thenext generation of recommender systems: A survey of the state-of-the-art andpossible extensions. IEEE TKDE, 2005.
Su et al. A survey ofcollaborative filtering techniques. Advances in artificialintelligence, 2009.
Cacheda et al. Comparison ofcollaborative filtering algorithms: Limitations of current techniques andproposals for scalable, high-performance recommender systems. ACMTWEB, 2011.
Zhang et al. Tag-awarerecommender systems: a state-of-the-art survey. J COMPUT SCITECHNOL, 2011.
Tang et al. Socialrecommendation: a review. SNAM, 2013.
Yang et al. A survey ofcollaborative filtering based social recommender systems. COMPUTCOMMUN, 2014.
Shi et al. Collaborativefiltering beyond the user-item matrix: A survey of the state of the art andfuture challenges. ACM COMPUT SURV, 2014.
Chen et al. Recommendersystems based on user reviews: the state of the art. USER MODELUSER-ADAP, 2015.
Xu et al. Social networkingmeets recommender systems: survey. Int.J.Social Network Mining,2015.
Yu et al. A survey ofpoint-of-interest recommendation in location-based social networks. InWorkshops at AAAI, 2015.
Zhang et al. Deep learningbased recommender system: A survey and new perspectives. arXiv,2017.
Singhal et al. Use of DeepLearning in Modern Recommendation System: A Summary of Recent Works. arXiv,2017.
Zhang et al. ExplainableRecommendation: A Survey and New Perspectives. arXiv, 2018.

協同過濾推薦（CollaborativeFiltering Recommendation）

背景：協同過濾的場景是這樣的：要爲某用戶推薦他真正感興趣的內容/商品，首先要找到與此用戶有相似興趣的其他用戶，然後將他們感興趣的內容推薦給該用戶。協同過濾就是利用這個思想，基於其他用戶對某一個內容的評價來向目標客戶進行推薦。

基於協同過濾的推薦系統可以說是從用戶的角度來進行相應的自動的推薦，即用戶獲得的推薦是系統從購買模式或瀏覽行爲等隱式獲得的。

比較：這裏你是否覺得協同過濾推薦和基於用戶統計信息的推薦以及基於內容的推薦有很多相似之處呢？下面我們先來比較一下協同過濾推薦和上述兩種推薦的區別。

協同過濾推薦 VS 基於用戶統計信息推薦

基於用戶的協同過濾推薦機制和基於用戶統計信息推薦機制都是計算用戶的相似度，並基於“鄰居”用戶羣計算推薦，但它們所不同的是如何計算用戶的相似度，基於用戶統計信息只考慮用戶本身的特徵，而基於用戶的協同過濾機制是在用戶的歷史偏好的數據上計算用戶的相似度，它的基本假設是，喜歡類似物品的用戶可能有相同或者相似的興趣愛好。

系統過濾推薦 VS 基於內容的推薦

基於項目的協同過濾推薦和基於內容的推薦其實都是基於物品相似度預測推薦，只是相似度計算的方法不一樣，前者是從用戶歷史的偏好推斷，而後者是基於物品本身的屬性特徵信息。

描述：協同過濾算法，顧名思義就是指用戶可以齊心協力，通過不斷的和網站互動，是自己的推薦列表能夠不斷過濾掉自己不感興趣的物品，從而越來越滿足自己的需求。

協同過濾算法主要有兩種，一種是基於用戶的協同過濾算法（UserCF），另一種是基於物品的協同過濾算法（ItemCF）。

基於用戶的協同過濾算法：

通過計算用戶對商品評分之間的相似性，搜索目標用戶的最近鄰居，然後根據最近鄰居的評分向目標用戶產生推薦。

1. 相似度計算

常用的相似度計算方法有歐式距離、餘弦距離算法、傑卡德相似性算法，這裏主要介紹餘弦距離算法。

餘弦距離更多的是從方向上區分差異，而對絕對的數值不敏感，更多的用於使用用戶對內容評分來區分興趣的相似度和差異，同時修正了用戶間可能存在的度量標準不統一的問題（因爲餘弦距離對絕對數值不敏感）。

幾何中夾角餘弦可用來衡量兩個向量方向的差異，機器學習中借用這一概念來衡量樣本向量之間的差異。

在二維空間中向量A(x1,y1)與向量B(x2,y2)的夾角餘弦公式：

對於兩個n維a(x11,x12,…,x1n)和b(x21,x22,…,x2n)，可以使用類似於夾角餘弦的概念來衡量它們間的相似程度

定義：

推薦系統中的數據源D=（U,I,R）,其中U ={User1,User2,User3,…,Useri}是用戶的基本集合，I = {Item1,Item2,…,Itemj}是項目集合；i*j階矩陣R是基本用戶對各項目的評分矩陣，第m行第n列的元素Rmn代表用戶m對項目n的評分。

餘弦相似性：

應用到推薦系統的場景是這樣的：兩個項目i和j被當作兩個n維的向量a和b。每個用戶的評分都可以看作爲n維空間上的向量，如果用戶對產品沒有進行評分，則將用戶對該項目的評分設爲0。用戶間的相似性通過向量間的餘弦夾角度量：

其中，分子爲兩個用戶評分向量的內積，分母爲兩個用戶向量模的乘積。

修正餘弦相似性

餘弦相似性未考慮到用戶評分尺度問題，如在評分區間[1，5]的情況下，對用戶甲來說評分3以上就是自己喜歡的，而對於用戶乙，評分4以上纔是自己喜歡的。通過減去用戶對項目的平均評分，修正的餘弦相似性度量方法改善了以上問題。

用戶a和b共同評分過的項目集合用來表示， = （和分別表示用戶a和用戶b評分過的項目的集合，結果是它們的交集）。因此，用戶a和b的相似性:

表示用戶a對項目d的評分，和分別表示用戶a和用戶b對所有商品的平均評分。

查找最近鄰居

通過上面對目標用戶相似度的計算，我們可以找到與目標用戶最相似的N個鄰居的集合。

選擇相似度大於設定閾值的用戶；
選擇相似度最大的前 N個用戶；
選擇相似度大於預定閾值的 N個用戶。

產生推薦商品

其中sim(i,j)表示用戶i與用戶j之間的相似性，表示最近鄰居用戶j對項目d的評分，和分別表示用戶i和用戶j的平均評分，實質是在用戶的最近鄰居集NESi中查找用戶，並將目標用戶與查找到的用戶的相似度的值作爲權值，然後將鄰居用戶對該項目的評分與此鄰居用戶的所有評分的差值進行加權平均。

通過上述方法預測出目標用戶對未評價項目的評分，然後選擇預測評分最高的TOP-N項推薦給目標用戶。

代碼與工具

1、LibRec

java版本開源推薦系統，包含了70多種經典的推薦算法。

2、Surprise

python版本開源推薦系統，包含了多種經典的推薦算法。

3、LibMF

c++版本開源推薦系統，主要實現了基於矩陣分解的推薦算法。

4、Recommender-System

python版本開源推薦系統，包含了多種經典的推薦算法。

5、Neural Collaborative Filtering

python實現神經協同過濾推薦算法。

根據前面用戶計算的相似度和尋找最近鄰居來計算推薦度，這裏舉例圖示說明。

示例1：

下面是新浪網新聞熱點推薦，用戶在新浪網瀏覽了一系列的財經類新聞，根據用戶相似性，即兩個用戶有相同的愛好做出的推薦。

基於項目的協同過濾算法：

基於項目協同過濾在於透過計算項目之間的相似性來代替使用者之間的相似性。所建立的一個基本的假設：”能夠引起使用者興趣的項目，必定與其之前評分高的項目相似”。

基於項目的協同過濾算法的關鍵步驟仍然是計算項目之間的相似性並選出最相似的項目，這一點與基於用戶的協同過濾類似。

計算兩個項目i和j之間相似性的基本思想是首先將對兩個項目共同評分的用戶提取出來，並將每個項目獲得的評分看作是n維用戶空間的向量，再通過相似性度量公式計算兩者之間的相似性。

分離出相似的項目之後，下一步就要爲目標項目預測評分，通過計算用戶u對與項目i相似的項目集合的總評價分值來計算用戶u對項目i的預期。

這裏我們主要來關注一下基於用戶的協同過濾和基於項目的協同過濾算法的區別：

基於用戶的協同過濾是推薦用戶所在興趣小組中的熱點，更注重社會化；比如：如上面示例1所示，新浪網給目標客戶推薦其他有相同或相似興趣愛好的人關注的新聞，這樣就保證了新聞門戶網站需要的時效性，給用戶最新最及時最感興趣的新聞信息。
基於項目的協同過濾算法則是根據用戶歷史行爲推薦相似物品，更注重個性化。比如購物網站，用戶的興趣愛好一般比較固定，網站一般是給目標用戶推薦他所感興趣領域的產品。可參考示例2.

示例2：

下面是淘寶網站的例子，“猜你喜歡”就是將相同類型的東西推薦給用戶。

再來看京東網站的例子。用戶瀏覽書籍《Hadoop實戰》

然後下面就會產生“熱門推薦”，即鄰居項目的產生。

優點：

能夠過濾難以進行機器自動內容分析的信息，如藝術品，音樂等；
共享其他人的經驗，避免了內容分析的不完全和不精確，並且能夠基於一些複雜的，難以表述的概念（如信息質量、個人品味）進行過濾；
有推薦新信息的能力。可以發現內容上完全不相似的信息，用戶對推薦信息的內容事先是預料不到的。這也是協同過濾和基於內容的過濾一個較大的差別，基於內容的過濾推薦很多都是用戶本來就熟悉的內容，而協同過濾可以發現用戶潛在的但自己尚未發現的興趣偏好；
能夠有效的使用其他相似用戶的反饋信息，較少用戶的反饋量，加快個性化學習的速度。

不足：

稀疏性問題。大多數用戶只評價了部分項目,這樣導致用戶-評分矩陣十分稀疏,這樣不利於推薦系統爲用戶推薦信息;
冷啓動問題。新產品沒有任何用戶的評分,在協同過濾中是無法推薦的。新用戶沒有歷史信息,也是無法推薦的；
同一性問題。對於那些內容相同但是名稱不同的項目,協同過濾是無法發現它們內在的聯繫。

基於關聯規則的推薦（AssociationRule-based Recommendation）

描述：關聯規則算法首先由Agrawal和Swami提出，最早的成型爲經典的Apriori算法。它的基本思想是：使用一種稱作逐層搜索的迭代方法，k項集用於探索(k+1)項集。首先，通過掃描事務（交易）記錄，找出所有的頻繁1項集，該集合記做L1，然後利用L1找頻繁2項集的集合L2，L2找L3，如此下去，直到不能再找到任何頻繁k項集。最後再在所有的頻繁集中找出強規則，即產生用戶感興趣的關聯規則。

關於這個算法有一個非常有名的故事："尿布和啤酒"：美國的婦女們經常會囑咐她們的丈夫下班後爲孩子買尿布，而丈夫在買完尿布後又要順手買回自己愛喝的啤酒，因此啤酒和尿布在一起被購買的機會很多。這個舉措使尿布和啤酒的銷量雙雙增加，並一直爲衆商家所津津樂道。

概念介紹：

支持度：S(Support) 事物包含A B = P(x),表示事件x出現的概率；
置信度：C(Confidence) 在A發生的事件中同時發生B的概率 P(AB)/P(A) = P(B|A);
頻繁項集：(Frequent Itemset)支持度大於等於特定的最小支持度（MinimumSupport/minsup）的項集。表示爲L k。
連接步：L(k-1) 與其自身進行連接，產生候選項集 C(k) 。 L(k-1) 中某個元素與其中另一個元素可以執行連接操作的前提是它們中有(k-2) 個項是相同的。也就是隻有一個項是不同的。如：項集 {I1,I2} 與 {I1,I5} 連接之後產生的項集是 {I1,I2,I5} ，而項集 {I1,I2} 與 {I3,I4}不能進行連接操作。
剪枝步：C k是L k的超集，也就是說，C k的成員可能是也可能不是頻繁的。通過掃描所有的事務（交易），確定C k中每個候選的計數，判斷是否小於最小支持度計數，如果不是，則認爲該候選是頻繁的。爲了壓縮Ck,可以利用Apriori性質：任一頻繁項集的所有非空子集也必須是頻繁的，反之，如果某個候選的非空子集不是頻繁的，那麼該候選肯定不是頻繁的，從而可以將其從C k中刪除。

下面我們通過一個例子來解釋：

Apriori算法的缺點：

由頻繁k-1項集進行自連接生成的候選頻繁k項集數量巨大；
在驗證候選頻繁k項集的時候需要對整個數據庫進行掃描，非常耗時。

Apriori算法的優化 ——Fp-tree 算法

這裏簡單介紹下優化思想：

以樹形的形式來展示、表達數據的形態；可以理解爲水在不同河流分支的流動過程；步驟如下：

掃描原始項目集；
排列數據；
創建ROOT節點；
按照排列的數據進行元素的流動；
節點+1；

優點：

能發現新興趣點；
不要領域知識。

不足：

算法的第一步關聯規則的發現最爲關鍵且最耗時，是算法的瓶頸，但可以離線進行；
其次，商品名稱的同義性問題也是關聯規則的一個難點。

其他推薦算法介紹：

除了上面比較詳細介紹的集中推薦算法，這裏再簡單介紹一下其他幾種算法。

基於效用推薦

基於效用的推薦（Utility-basedRecommendation）是建立在對用戶使用項目的效用情況上計算的，其核心問題是怎麼樣爲每一個用戶去創建一個效用函數，因此，用戶資料模型很大程度上是由系統所採用的效用函數決定的。基於效用推薦的好處是它能把非產品的屬性，如提供商的可靠性（VendorReliability）和產品的可得性（ProductAvailability）等考慮到效用計算中。

基於知識推薦

基於知識的推薦（Knowledge-basedRecommendation）在某種程度是可以看成是一種推理（Inference）技術，它不是建立在用戶需要和偏好基礎上推薦的。基於知識的方法因它們所用的功能知識不同而有明顯區別。效用知識（FunctionalKnowledge）是一種關於一個項目如何滿足某一特定用戶的知識，因此能解釋需要和推薦的關係，所以用戶資料可以是任何能支持推理的知識結構，它可以是用戶已經規範化的查詢，也可以是一個更詳細的用戶需要的表示。

組合推薦

由於各種推薦方法都有優缺點，所以在實際中，組合推薦（HybridRecommendation）經常被採用。研究和應用最多的是內容推薦和協同過濾推薦的組合。最簡單的做法就是分別用基於內容的方法和協同過濾推薦方法去產生一個推薦預測結果，然後用某方法組合其結果。儘管從理論上有很多種推薦組合方法，但在某一具體問題中並不見得都有效，組合推薦一個最重要原則就是通過組合後要能避免或彌補各自推薦技術的弱點。

在組合方式上，有研究人員提出了七種組合思路： 1）加權（Weight）：加權多種推薦技術結果。 2）變換（Switch）：根據問題背景和實際情況或要求決定變換採用不同的推薦技術。 3）混合（Mixed）：同時採用多種推薦技術給出多種推薦結果爲用戶提供參考。 4）特徵組合（Featurecombination）：組合來自不同推薦數據源的特徵被另一種推薦算法所採用。 5）層疊（Cascade）：先用一種推薦技術產生一種粗糙的推薦結果，第二種推薦技術在此推薦結果的基礎上進一步作出更精確的推薦。 6）特徵擴充（Featureaugmentation）：一種技術產生附加的特徵信息嵌入到另一種推薦技術的特徵輸入中。 7）元級別（Meta-level）：用一種推薦方法產生的模型作爲另一種推薦方法的輸入。

推薦系統的未來與發展方向：

增加推薦的多維性：

當前的大部分研究都是基於對象-用戶的二維度量空間的，未考慮相關信息。然而，用戶對對象的評價和選擇常常由很多環境因素來決定，比如某個對象在特定時段很流行，用戶在某個地方瀏覽對象的時候偏向於選擇某類對象等。推薦系統除了融合了計算機科學的很多領域，它還融合了心理學、社會學。

個性化搜索結果會把搜索引擎變成上下文感知的推薦系統：

推薦系統是一個臨界線，可以說這是個性化搜索。它可以發現用戶“現在”所關心的事，比如系統發現你之前買過鞋，現在在搜索襯衫，那你現在其實是想幹什麼？推薦系統可以根據你是想和朋友一起去看電影，還是想和家人呆在一起，做出不同推薦。

增加向用戶解釋的推薦結果

根據用戶的知識庫，可以向用戶做出更好的解釋，向它們說明是什麼樣的因素在幫助系統做出這樣的推薦。利用這樣的系統，使用者確實體驗更好了，他們對於系統的信任程度也提高了。

當然，推薦系統的發展方向和研究熱點還有很多。隨着對推薦系統功能需求特別是實時性及準確性上的需求水平的不斷提高,其實現技術也都面臨着嚴峻的挑戰,需要不斷的完善。

最後感謝“AnnieJ”博客的詳細介紹和“張小磊啊”的資料。

2018年最全的推薦系統乾貨（ECCV、CVPR、AAAI、ICML）

相關會議

相關學者

相關文章

代碼與工具

簡單易懂的講解深度學習（入門系列之八）

簡單易懂的講解深度學習（入門系列之九）

簡單易懂的講解深度學習（入門系列之六）

簡單易懂的講解深度學習（入門系列之七）

簡單易懂的講解深度學習（入門系列之五）

Mac下配置sublime實現LaTeX

https://yachay.unat.edu.pe/blog/index.php?comment_area=format_blog&comment_component=blog&comment_co

linux以太網驅動總結