本章節主要講述的是淺層神經網絡。而這一節則是對整個章節的概覽
一、神經元
神經網絡,神經元連接而成的網絡
如圖就是一個神經元,可以看出,有輸出,有輸出,中間經過了一些運算,這將來接下來的blog中進行討論。
這是一個基於losgitic迴歸函數的神經元的具體的例子。
二、淺層神經網絡
在一個神經網絡中,我們把輸入稱作輸入層,輸出稱作輸出層,其餘內部的稱作隱藏層。
而對於只有一個隱藏層的神經網絡我們一般稱作淺層神經網絡。
同時,我們一般從0開始計數,所以在這個如圖所示的神經網絡中,輸入層就是第0層,隱藏層是第1層,輸出層是第2層。
輸入輸出一般都有很多個,不一定是隻有3個1個這樣的形式,這裏只是舉了一個具體的例子。
這裏同時約定一個符號標記,對於所有的神經網絡中出現的參數,我們對其右上角的角標進行如下規定:
右上角有一個方括號角標,裏面表示的是其在神經網絡中的層數。
右上角有一個圓括號角標,其代表的是這是第幾個訓練樣本
三、正向傳播與反向傳播
我們在之前的學習中知道了正向傳播和反向傳播的概念,這一個神經網絡中,這是同樣適用的。
因此,原來有關的概念在這裏也一樣可以拿過來使用。