【讀一本書】《昇騰AI處理器架構與編程》--神經網絡基本知識學習(1)

哈嘍大家好,我是鵬哥。

今天我們要講的主題是 —— 神經網絡基礎知識

1    聊聊爲啥寫這個系列

我最開始玩公衆號的前因,其實在第一篇博客裏就提過了,主要是爲了督促自己學習並記錄、分享自己的想法。因此斷斷續續地寫了20+python相關的博客,也收穫了一些陌生同學的善意。雖然也很羨慕大神們的上千、上萬粉絲(過500就能賺錢了呢),但是這都不重要,正如那句詩:

白茶清歡無別事,我在等風也等你。

知識和能力的吸取和成長,要麼實戰演練,要麼閱書思考。由於自己不是純正的python碼農,因此想到寫寫讀書筆記。又機緣巧合,被獎勵了一本《昇騰AI處理器架構與編程:深入理解CANN技術原理及應用》,所以就誕生了這個系列。通過閱讀學習,記錄自己的理解。(希望自己能堅持記錄下去

當然,python成長之路系列,我也會繼續寫下去。

2《昇騰AI處理器架構與編程》

爲了後續引入不必要的麻煩,先聲明下後續昇騰AI處理器架構的博客無論是貼圖或者部分內容都來源於此書,主要是寫公式或者畫圖什麼的太麻煩。

另外關於此書有興趣的同學,可以去京東購買。

作者:樑曉嶢

 

人工智能/機器學習概貌

當前很多行業都會不自覺地帶上人工智能。一旦帶上這個ID,立刻就會讓人產品覺得高大上,從而幫助產品高價銷售。但是我相信,其實多數人並不瞭解自己的產品到底有沒有使用人工智能算法。

此書關於人工智能和深度學習也主要講了些歷史發展,我並不關心,反正又不會有人出題考我,“誰是計算機之父”、“誰首次提出了人工神經網絡”這類問題。好啦,直接跳過10頁。

4  神經網絡理論:瞭解爲啥叫神經網絡

先發個M-P神經網絡(初代神經網絡模型)的核心公式 y = f(w*x + b):

然後生物學上的神經元圖大致如下:

那神經網絡這個抽象的數據模型與生物學的神經元有什麼相似之外呢?神經網絡中有多個輸入x對應樹突,而對每個輸入都會進入相應的權重加權求和並輸出,這就對應每個樹突將收到的神經衝動通過軸突又輸出給了下一個突觸。總結來講 ,樹突是x,軸突爲f()中的處理,突觸即爲y。

由於神經元有興奮和不興奮兩種狀態,因此M-P模型中對應的f()函數是階躍函數,效果如下:

5  神經網絡理論:感知機的進化

(1)感知機 

基於M-P神經元模型產生了第一個感知機 。(名字好奇怪,不過看到後面的感受野,或許當前的感知機還是能理解的)

這個圖其實和M-P模型圖很相似

這個感知機是個二分類器件,只能做線性判斷。這個要怎麼理解呢?相當於只能識別這是男人或者女人,但是要識別男人中的帥哥,這就搞不定了。如果一次識別不了,那就再來一次嘛。這樣就引出了多層感知機的概念。

(2)多層感知機

多層感知機 又叫 全連接神經網絡(後面這個概念會多次用到),英文是FCNN。

上圖就是FCNN。可以看到比之前的感知機多了個隱藏層,對於 y = f(w*x+b)來說,w和b就變成了向量了,維數即爲隱藏層層數。這樣看上去,好像就可以解決所有分類問題了,有多種類別就用多層就好了嘛。

可是 問題來了,當僅有一層隱藏層 時,即“輸入層-隱藏層-輸出層”,如果輸入層有700個輸入 ,隱藏層有400個神經元,那麼最後整個多層感知機分別需要近30萬次的乘法、加法。而且,對圖像識別來說,每個 像素與周邊像素有緊密聯繫,距離遠的像素聯繫就少,因此如果用多層感知機來處理圖像,所有像素都被相同對待,太浪費性能了。

因此,爲了提升性能,就有了最經典的卷積神經網絡了!這個內容我們下次再講。

 

點擊下方詩句,可以留言互動喔 

 

發佈了38 篇原創文章 · 獲贊 17 · 訪問量 1萬+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章