LCA笔记

本笔记在个人博客空间我的个人博客里同步

LCA结构如图所示,Y层神经元突触权重的bottom-up向量和top-down向量,与Z层神经元突触权重的bottom-up向量得到更新。对于网络层L=(V, G,r),其中V=(v1,v2,··· ,vc), 包含c个突触权重向量,G=(g1,g2,··· ,gc),存储着神经元激活年龄,r是各神经元的响应向量。
LPA示意图

  1. 初始化:随机初始化突触权重vi,且将各神经元激活年龄置零,即 gi = 0,i = 1,2,··· ,c
  2. LCA 更新过程:
  • 计算神经元突触的预响应向量:令输入量p=((1−k)x,kz),x是X层的外部输入,z是Z层的内部输入,k 是top-down输入的权重0< k < 1.(即1-k是bottom-up输入的权重)预响应向量:
    公式一

  • top-k竞争机制:为了模拟神经元侧抑制效应,降低神经元更新率,采用top-k竞争机制,令ri最大的那个神经元为优胜神经元,网络只更新优胜神经元的突触权重向量,其他的不予更新.

  • 视觉神经的赫布学习(Hebbian learning):神经元之间的链接因为神经元本身的激发行为自行调整链接强弱,然后又返回来影响以后的神经元接收刺激产生的反应,这样,就不断产生一个学习效果.由以上分析可知,此处只更新优胜神经元突触权重向量,更新过程如下式所示:
    公式二
    其中,w1和w2为控制神经元突触权重更新率的学习因子。w2/w1越大,vj的状态将更多反映对新知识的学习,w1和w2由遗忘平均算法(amnesic mean)得到:
    公式三
    公式四
    式中,u(gi) 为遗忘方程,定义如下:
    公式五

  • 优胜神经元激发年龄更新,gi←gi+1.

  1. 预测过程:在发育神经网络完成学习后,预测过程仅使用Y层与Z层神经元突触权重向量的bottom-up,(也使用x层与Y层的bottom-up),根据X层的外部输入,经过内部神经元突触链接,并最终选择Z层的效应器,在本文中X层神经元的输入为机器人当前所处环境图像,Z层的效应器为对应场景.
    公式七

LCA是增量学习的,能够很好地模仿人大脑的智力发育过程.人从降生起便开始接受外界纷繁的信息,对于婴儿,他完全不理解自己所见所听,只有通过不断地学习、实践,运用智力、理解力、记忆分析等能力才能逐步发展.如果只是简单地针对特定任务编程,机器人永远不可能真正“理解”自己所做的一切,只有让机器人自己去辨认、区分,才可能形 成真正的“智能”。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章