浅析卷积神经网络RNN (Convolutional Neural Networks)

人工智能之父

第一个提出并实现人工神经网络, 人工智能之父 Marvin Minsky, 他在1970年说道:

"3~8年内, 机器可以获得跟人类同等智商的人工智能."

也许最大的阻碍是受限于计算机的性能.

1970, 过去快五十年了, 计算机性能提升了无数倍,

人工智能诞生了N个模型, 经历了N次繁荣, 每次都陷入寒冬.

这个目标到目前还没实现. 不过, 他创立的人工神经网络的仍然是目前最先进的理论模型.

人是怎么预测事情的发生概率?

人预测某件事情发生的概率, 往往都是凭经验,

一方面考察他对过往的记忆, 一方面也需要他对记忆的分析. 

比如预测考试成绩, 就可以根据以往的考试难度, 考试成绩来预测.

而机器学习也是类似的方式, 通过对历史数据进行分析来预测新场景下的结果.

动物神经末梢

神经末梢遇到外部刺激, 发出电信号到神经元
大量神经元由神经纤维构成神经网络, 处理收到的电信号
神经网络对电信号进行处理返回结果电信号
人体根据电信号指令,做出动作反应.
 

如何通过算法模拟出神经呢?

模拟一个简单的神经元, 每个输入都单独加权,

经过特定的计算得到一个输出.

模拟神经网络工作的方式,

利用把多个感知器组合成网络结构的模型来对数据进行分析

输入层、隐含层、输出层

这是27种神经网络, 不同颜色的节点对应不同的功能单元.

如何理解一个句子?

对于要理解一个句子的情况, 往往使用的RNN递归神经网络,

因为它的递归方式把每一轮的结果往后传递, 因此具有短期记忆的效果.

从这个动图看到最后的结算结果存在严重问题, 就是最后一个字符对结果的影响最大.

 

主要由两部分组成

一部分是特征提取(卷积、激活函数、池化)

另一部分是分类识别(全连接层)

对于要理解一个句子的情况, 往往使用的RNN递归神经网络,

因为它的递归方式把每一轮的结果往后传递, 因此具有短期记忆的效果.

从这个动图看到最后的结算结果存在严重问题, 就是最后一个字符对结果的影响最大.

SimpleCNN, LSTM, GRU

为了优化前面的问题, 研究人员先后提出了LSTMGRU两种神经网.

这个神经元的计算过程就这样, 后者的计算要简单一点.

识别图像

卷积, 特征提取

池化, 每四个方格取max, 或平均

激活, ReLU

这个计算过程叫全连接层

每个位置的值对应不同字母有不同的加权累加, 获得识别值,

X的识别值越高, 则越近似.

卷积, 激活, 池化, 计算识别度构成了多层卷积神经网

 

思考:

从以上算法可以看出, 即使是目前最先进的人工智能算法, 还只是停留在对数据处理的阶段.

虽然机器的智能还没能达到产生意识的程度, 我相信随着算法的进步, 电脑性能的不断提升, 总有一天, 机器会产生智能. 不过我认为机器产生智能之后, 并不会消灭人类, 因为他们会像人类与地球上其它所有物种一样, 与万物和谐共处.

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章