反向傳播算法

一文徹底搞懂BP算法：原理推導+數據演示+項目實戰

BP算法推導

圖1所示是一個簡單的三層（兩個隱藏層，一個輸出層）神經網絡結構，假設我們使用這個神經網絡來解決二分類問題，我們給這個網絡一個輸入樣本 ，通過前向運算得到輸出 。輸出值越接近0，代表該樣本是“0”類的可能性越大，反之是“1”類的可能性大。

向前傳播的計算

爲了便於理解後續的內容，我們需要先搞清楚前向傳播的計算過程，以圖1所示的內容爲例：

輸入的樣本爲：

第一層網絡的參數爲：
,
第二層網絡的參數爲：
,
第三層網絡的參數爲：

第一層隱藏層的計算