徑向基神經網絡

免責聲明:本文僅代表個人觀點,如有錯誤,請讀者自己鑑別;如果本文不小心含有別人的原創內容,請聯繫我刪除;本人心血製作,若轉載請註明出處

本文出處:本博客是根據 “何同弟” 的博士論文 “高光譜圖像的分類技術研究”的“RBF神經網絡模型的建立”一節而寫,大部分細節皆取自此文,如有興致,請直接查看原文。

1徑向基函數 (Radial Basis Function,RBF) 神經網絡是一種性能良好的前向網絡,具有最佳逼近、訓練簡潔、學習收斂速度快以及克服局部最小值問題的性能,目前已經證明徑向基網絡能夠以任意精度逼近任意連續的函數。因此它已經被廣泛應用於模式識別、非線性控制和圖像處理等領域。

2、RBF神經網絡的結構--RBF 神經網絡的基本思想是用徑向基函數(RBF)作爲隱單元,的“基” ,構成隱含層的空間,隱含層對輸入矢量進行變換,將低維的模式輸入數據轉換到高位空間內,使得在低維空間內的線性不可分爲題在高維空間內線性可分。

3、RBF 神經網絡神經網絡有很強的非線性擬合能力,可映射任意複雜的非線性關係,而且學習規則簡單,便於計算機實現。具有很強的魯棒性、記憶能力、非線性映射能力以及強大的自學習能力,因此有很大的應用市場。RBF 神經網絡是一種性能優良的前饋型神經網絡,RBF 網絡可以任意精度逼近任意的非線性函數,且具有全局逼近能力,從根本上解決了BP網絡的局部最優問題,而且拓撲結構緊湊,結構參數可實現分離學習,收斂速度快。RBF 網絡和模糊邏輯能夠很好的實現互補,提高神經網絡的學習泛化能力。

4、RBF 神經網絡結構與多層前向網絡類似,它一般由輸入層、隱含層和輸出層構成。第一層爲輸入層,由信號源節點組成,傳遞信號到隱層。第二層爲隱層,隱層節點的變換函數是對中心點徑向對稱且衰減的非負非線性函數。第三層爲輸出層,一般是簡單的線性函數,對輸入模式作出響應。其結構如圖3.8所示

RBF 神經網絡輸入層到隱含層之間的權值固定爲1,隱含層單元的傳遞函數採用了徑向基函數,隱含層神經元是將該層權值向量Wi與輸入向量Xi之間的矢量距離與偏差bi 相乘後作爲該神經元激活函數的輸入。若取徑向基函數爲高斯函數,則神經元的輸出爲:


xi爲核函數的中心,σ爲函數寬度參數,用它來確定每一個徑向基層神經元對其輸入矢量,也就是X與w之間距離相對應的徑向基函數的寬度。從上面的RBF網絡的結構圖我們可以,確定RBF網絡結構的過程就是確定隱含層神經元的中心
xi、寬度σ以及輸出權值w的過程。

5、RBF網絡的學習算法

RBF網絡要學習的參數有三個:基函數的中心xi和方差σ以及隱含層與輸出層之間的權值w 。根據徑向基函數中心選取方法的不同,RBF網絡有多種學習方法,其中最常用的有四種學習方法:隨機選取中心法、k-均值聚類算法、自組織選取中心法和正交最小二乘法。

①、確定基函數的中心xi


②、確定基函數的方差σ

一旦RBF 神經網絡的中心確定以後,那麼其寬度由下列公式來確定:


其中,n爲隱含層單元的個數,di爲所選中心之間的最大距離。

③、隱含層到輸出層之間的權值w


發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章