BP算法的反向傳播和權值修正(1)

BP神經網絡典型結構：


（1）信號的前向傳播過程：

隱含層第i個節點的輸入neti：

隱含層第i個節點的輸出yi：

輸出層第k個節點的輸入netk，k=1：

輸出層第k個節點的輸出ok ，k=1：

（2）誤差的反向傳播過程：

誤差的反向傳播，即首先由輸出層開始逐層計算各層神經元的輸出誤差，然後根據誤差梯度下降法來調節各層的權值和閾值，使修改後的網絡的最終輸出能接近期望值。 Tk爲預期輸出
對於每一個樣本p的二次型誤差準則函數爲Ep：

系統對P個訓練樣本的總誤差準則函數爲：

（3）權值和閾值修正：
根據誤差梯度下降法依次修正

輸出層權值的修正量Δwki：

輸出層閾值的修正量Δak：

隱含層權值的修正量Δwij：

隱含層閾值的修正量Δθi：

輸出層權值調整公式：

輸出層閾值調整公式：

隱含層權值調整公式：

隱含層閾值調整公式：

又因爲一下式子成立：

所以最後得到以下公式：

生成新的權值：

然後進入下一步的循環，
計算誤差，直到誤差滿足要求爲止，然後程序結束


*計劃做一個具體的實驗，並將實驗的過程及結果放於–BP算法的反向傳播和權值修正實驗(2)–中 *