LCA筆記

本筆記在個人博客空間我的個人博客裏同步

LCA結構如圖所示,Y層神經元突觸權重的bottom-up向量和top-down向量,與Z層神經元突觸權重的bottom-up向量得到更新。對於網絡層L=(V, G,r),其中V=(v1,v2,··· ,vc), 包含c個突觸權重向量,G=(g1,g2,··· ,gc),存儲着神經元激活年齡,r是各神經元的響應向量。
LPA示意圖

  1. 初始化:隨機初始化突觸權重vi,且將各神經元激活年齡置零,即 gi = 0,i = 1,2,··· ,c
  2. LCA 更新過程:
  • 計算神經元突觸的預響應向量:令輸入量p=((1−k)x,kz),x是X層的外部輸入,z是Z層的內部輸入,k 是top-down輸入的權重0< k < 1.(即1-k是bottom-up輸入的權重)預響應向量:
    公式一

  • top-k競爭機制:爲了模擬神經元側抑制效應,降低神經元更新率,採用top-k競爭機制,令ri最大的那個神經元爲優勝神經元,網絡只更新優勝神經元的突觸權重向量,其他的不予更新.

  • 視覺神經的赫布學習(Hebbian learning):神經元之間的鏈接因爲神經元本身的激發行爲自行調整鏈接強弱,然後又返回來影響以後的神經元接收刺激產生的反應,這樣,就不斷產生一個學習效果.由以上分析可知,此處只更新優勝神經元突觸權重向量,更新過程如下式所示:
    公式二
    其中,w1和w2爲控制神經元突觸權重更新率的學習因子。w2/w1越大,vj的狀態將更多反映對新知識的學習,w1和w2由遺忘平均算法(amnesic mean)得到:
    公式三
    公式四
    式中,u(gi) 爲遺忘方程,定義如下:
    公式五

  • 優勝神經元激發年齡更新,gi←gi+1.

  1. 預測過程:在發育神經網絡完成學習後,預測過程僅使用Y層與Z層神經元突觸權重向量的bottom-up,(也使用x層與Y層的bottom-up),根據X層的外部輸入,經過內部神經元突觸鏈接,並最終選擇Z層的效應器,在本文中X層神經元的輸入爲機器人當前所處環境圖像,Z層的效應器爲對應場景.
    公式七

LCA是增量學習的,能夠很好地模仿人大腦的智力發育過程.人從降生起便開始接受外界紛繁的信息,對於嬰兒,他完全不理解自己所見所聽,只有通過不斷地學習、實踐,運用智力、理解力、記憶分析等能力才能逐步發展.如果只是簡單地針對特定任務編程,機器人永遠不可能真正“理解”自己所做的一切,只有讓機器人自己去辨認、區分,纔可能形 成真正的“智能”。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章