神經網絡
神經元-邏輯迴歸模型
神經元——最小的神經網絡
神經元的基本圖示,這裏x1、x2、x3.....代表特徵數據的輸入,最後一個1是一個特殊的特徵,表示x^0項,對應的就是一個截距b。它們經過加權W•x,這裏W,x都是向量,再經過一個函數h(W•x)就得到了一個輸出。整個公式如下
而這個f()函數,我們一般使用邏輯迴歸的函數(關於邏輯迴歸的內容請參考機器學習算法整理(三) )
而這單個神經元就相當於是一個邏輯迴歸的分類。輸出的結果就是一個[0,1]之間的概率數字。那麼這裏就是一個二分類的問題,比如說這個貓、狗二分類的圖。
神經元多輸出
在神經元多輸出的時候,W從向量擴展成矩陣。W•x就變成了一個向量(矩陣點乘向量爲向量)。這種情況下,我們可以得到一個多分類的神經元-邏輯迴歸模型。