Softmax迴歸---多分類問題

在讀文章之前,先讀Logistic迴歸,Logistic迴歸是Softmax迴歸的特殊情況,即二分類情況。
softmax函數的本質就是將一個K維的任意實數向量壓縮(映射)成另一個K維的實數向量,其中向量中的每個元素取值都介於(0,1)之間。
softmax的迴歸函數是:在這裏插入圖片描述
寫成矩陣的形式如下:
在這裏插入圖片描述
最後實際求的是:在這裏插入圖片描述
softmax的損失函數爲:
在這裏插入圖片描述
用梯度下降法求解,對seta求偏導如下。
在這裏插入圖片描述
seta的迭代公式是:
在這裏插入圖片描述

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章