可以參考：https://blog.csdn.net/qian99/article/details/78046329
第一篇博客中：
將 
或者：
![L=-\frac{1}{m}\left[\sum_{i=1}^{m} \sum_{j=1}^{k} 1\left\{y_{(i)}=j\right\} \log \frac{e^{z_{j}}}{\sum_{t=1}^{k} e^{z_{k}}}\right]](https://pic1.xuehuaimg.com/proxy/csdn/https://private.codecogs.com/gif.latex?L%3D-%5Cfrac%7B1%7D%7Bm%7D%5Cleft%5B%5Csum_%7Bi%3D1%7D%5E%7Bm%7D%20%5Csum_%7Bj%3D1%7D%5E%7Bk%7D%201%5Cleft%5C%7By_%7B%28i%29%7D%3Dj%5Cright%5C%7D%20%5Clog%20%5Cfrac%7Be%5E%7Bz_%7Bj%7D%7D%7D%7B%5Csum_%7Bt%3D1%7D%5E%7Bk%7D%20e%5E%7Bz_%7Bk%7D%7D%7D%5Cright%5D)
![=-\frac{1}{m}\left[\sum_{i=1}^{m} \hat{y}_{i} \log \frac{e^{z_{i}}}{\sum_{t=1}^{k} e^{z_{k}}}\right]=-\frac{1}{m}\left[\sum_{i=1}^{m} \hat{y}_{i} \log y_{i}\right]](https://pic1.xuehuaimg.com/proxy/csdn/https://private.codecogs.com/gif.latex?%3D-%5Cfrac%7B1%7D%7Bm%7D%5Cleft%5B%5Csum_%7Bi%3D1%7D%5E%7Bm%7D%20%5Chat%7By%7D_%7Bi%7D%20%5Clog%20%5Cfrac%7Be%5E%7Bz_%7Bi%7D%7D%7D%7B%5Csum_%7Bt%3D1%7D%5E%7Bk%7D%20e%5E%7Bz_%7Bk%7D%7D%7D%5Cright%5D%3D-%5Cfrac%7B1%7D%7Bm%7D%5Cleft%5B%5Csum_%7Bi%3D1%7D%5E%7Bm%7D%20%5Chat%7By%7D_%7Bi%7D%20%5Clog%20y_%7Bi%7D%5Cright%5D)
將會更加容易理解
softmax損失函數的求導
發表評論
所有評論
還沒有人評論，想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章
「機器學習_8」Bag-of-Words
Bag-of-Words 1.文字問題 2. 什麼是Bag-of-Words(具體例子） 3. 侷限性 1.文字問題 文本建模的一個問題是它很雜亂，機器學習算法之類的技術更喜歡定義明確的
迴歸損失函數：L1 Loss, L2 Loss, Smooth L1 Loss
講解的很清楚： https://www.cnblogs.com/wangguchangqing/p/12021638.html