淺析卷積神經網絡RNN (Convolutional Neural Networks)

人工智能之父

第一個提出並實現人工神經網絡, 人工智能之父 Marvin Minsky, 他在1970年說道:

"3~8年內, 機器可以獲得跟人類同等智商的人工智能."

也許最大的阻礙是受限於計算機的性能.

1970, 過去快五十年了, 計算機性能提升了無數倍,

人工智能誕生了N個模型, 經歷了N次繁榮, 每次都陷入寒冬.

這個目標到目前還沒實現. 不過, 他創立的人工神經網絡的仍然是目前最先進的理論模型.

人是怎麼預測事情的發生概率?

人預測某件事情發生的概率, 往往都是憑經驗,

一方面考察他對過往的記憶, 一方面也需要他對記憶的分析. 

比如預測考試成績, 就可以根據以往的考試難度, 考試成績來預測.

而機器學習也是類似的方式, 通過對歷史數據進行分析來預測新場景下的結果.

動物神經末梢

神經末梢遇到外部刺激, 發出電信號到神經元
大量神經元由神經纖維構成神經網絡, 處理收到的電信號
神經網絡對電信號進行處理返回結果電信號
人體根據電信號指令,做出動作反應.
 

如何通過算法模擬出神經呢?

模擬一個簡單的神經元, 每個輸入都單獨加權,

經過特定的計算得到一個輸出.

模擬神經網絡工作的方式,

利用把多個感知器組合成網絡結構的模型來對數據進行分析

輸入層、隱含層、輸出層

這是27種神經網絡, 不同顏色的節點對應不同的功能單元.

如何理解一個句子?

對於要理解一個句子的情況, 往往使用的RNN遞歸神經網絡,

因爲它的遞歸方式把每一輪的結果往後傳遞, 因此具有短期記憶的效果.

從這個動圖看到最後的結算結果存在嚴重問題, 就是最後一個字符對結果的影響最大.

 

主要由兩部分組成

一部分是特徵提取(卷積、激活函數、池化)

另一部分是分類識別(全連接層)

對於要理解一個句子的情況, 往往使用的RNN遞歸神經網絡,

因爲它的遞歸方式把每一輪的結果往後傳遞, 因此具有短期記憶的效果.

從這個動圖看到最後的結算結果存在嚴重問題, 就是最後一個字符對結果的影響最大.

SimpleCNN, LSTM, GRU

爲了優化前面的問題, 研究人員先後提出了LSTMGRU兩種神經網.

這個神經元的計算過程就這樣, 後者的計算要簡單一點.

識別圖像

卷積, 特徵提取

池化, 每四個方格取max, 或平均

激活, ReLU

這個計算過程叫全連接層

每個位置的值對應不同字母有不同的加權累加, 獲得識別值,

X的識別值越高, 則越近似.

卷積, 激活, 池化, 計算識別度構成了多層卷積神經網

 

思考:

從以上算法可以看出, 即使是目前最先進的人工智能算法, 還只是停留在對數據處理的階段.

雖然機器的智能還沒能達到產生意識的程度, 我相信隨着算法的進步, 電腦性能的不斷提升, 總有一天, 機器會產生智能. 不過我認爲機器產生智能之後, 並不會消滅人類, 因爲他們會像人類與地球上其它所有物種一樣, 與萬物和諧共處.

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章