【吳恩達深度學習】【神經網絡和深度學習】 第三章 第一節 神經網絡概覽

本章節主要講述的是淺層神經網絡。而這一節則是對整個章節的概覽

一、神經元

神經網絡,神經元連接而成的網絡

如圖就是一個神經元,可以看出,有輸出,有輸出,中間經過了一些運算,這將來接下來的blog中進行討論。

這是一個基於losgitic迴歸函數的神經元的具體的例子。

 

二、淺層神經網絡

在一個神經網絡中,我們把輸入稱作輸入層,輸出稱作輸出層,其餘內部的稱作隱藏層。

而對於只有一個隱藏層的神經網絡我們一般稱作淺層神經網絡。

同時,我們一般從0開始計數,所以在這個如圖所示的神經網絡中,輸入層就是第0層,隱藏層是第1層,輸出層是第2層。

輸入輸出一般都有很多個,不一定是隻有3個1個這樣的形式,這裏只是舉了一個具體的例子。

這裏同時約定一個符號標記,對於所有的神經網絡中出現的參數,我們對其右上角的角標進行如下規定:

右上角有一個方括號角標,裏面表示的是其在神經網絡中的層數。

右上角有一個圓括號角標,其代表的是這是第幾個訓練樣本

 

三、正向傳播與反向傳播

我們在之前的學習中知道了正向傳播和反向傳播的概念,這一個神經網絡中,這是同樣適用的。

因此,原來有關的概念在這裏也一樣可以拿過來使用。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章