BP神經網絡算法推導

1、前饋神經網絡、反饋神經網絡、BP網絡等,他們之間的關係
前饋型神經網絡:
取連續或離散變量,一般不考慮輸出與輸入在時間上的滯後效應,只表達輸出與輸入的映射關係;在此種神經網絡中,各神經元從輸入層開始,接收前一級輸入,並輸入到下一級,直至輸出層。整個網絡中無反饋,可用一個有向無環圖表示。常見的前饋神經網絡有感知機(Perceptrons)、BP(Back Propagation)網絡、RBF(Radial Basis Function)網絡等。
BP網絡:
BP網絡是指連接權調整採用了反向傳播(Back Propagation)學習算法的前饋網絡。與感知器不同之處在於,BP網絡的神經元變換函數採用了S形函數(Sigmoid函數),因此輸出量是0~1之間的連續量,可實現從輸入到輸出的任意的非線性映射。
由上可知BP網絡是通過BP算法來修正誤差的前饋神經網絡
反饋型神經網絡:
取連續或離散變量,考慮輸出與輸入之間在時間上的延遲,需要用動態方程來描述系統的模型。

前饋型神經網絡的學習主要採用誤差修正法(如BP算法),計算過程一般比較慢,收斂速度也比較慢;
而反饋型神經網絡主要採用Hebb學習規則,一般情況下計算的收斂速度很快。
神經網絡分類:
這裏寫圖片描述
這裏寫圖片描述
這裏寫圖片描述
這裏寫圖片描述
這裏寫圖片描述
這裏寫圖片描述
這裏寫圖片描述
這裏寫圖片描述
這裏寫圖片描述
這裏寫圖片描述

參考:http://www.cnblogs.com/wengzilin/archive/2013/04/24/3041019.html

發佈了25 篇原創文章 · 獲贊 62 · 訪問量 19萬+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章