深度/機器學習基礎知識要點：Matrix Factorization

MF(Matrix Factorization)

• MF的基本原理
  將一個矩陣D分解爲U和V的乘積，即對於一個特定的規模爲$m*n$ 的矩陣D，估計出規模分別爲$m*k$ 和$n*k$ 的矩陣U和V，使得$UV^T$的值儘可能逼近矩陣D，一般來講，k的取值應該滿足 $k≤min{(m,n)}$ 。

  如果在推薦系統中，D代表用戶對商品的行爲矩陣的話，那麼U和V則分別代表embedding表示的用戶和商品向量。
  以公式來表示的話，就是 ：
  

  其中$U_i$表示$U$ 矩陣第 $i$ 行的向量，$V_j$ 表示$V$ 矩陣第j行向量。

  爲了限制$U,V$的取值呈現一個以0爲中心的正態分佈，這裏對$U,V$的值加上正則項，得到目標優化項：
  
  對$L$求$U_i$的偏微分，得到對應梯度：
  

  將該結果擴展，可以得到對$L求U和V$的偏微分爲：
  
  得到梯度以後，既可以通過梯度對$U，V$的值進行迭代。如果是採用最簡單的梯度下降的話，則迭代公式如下：
  
  其中 $α$ 表示學習速率。

• 推薦閱讀
  矩陣分解