神經網絡筆記
今天想到了神經網絡的激活函數 tanh,sigmoid 它們的不同，找了以下資料
- sigmoid
Sigmoid函數由下列公式定義
其對x的導數可以用自身表示:
函數圖像 值在【0，1】之間
- tanh
雙曲正切函數
其對x的導數可以用自身表示:
函數圖像 值在【-1,1】之間
神經網絡入門知識點
由一個神經元構成的神經網絡
將多個神經元組合一起組成一個大的神經網絡
我們使用圓圈來表示神經網絡的輸入，標上“\textstyle +1”的圓圈被稱爲偏置節點，也就是截距項。神經網絡最左邊的一層叫做輸入層，最右的一層叫做輸出層（本例中，輸出層只有一個節點）。中間所有節點組成的一層叫做隱藏層，因爲我們不能在訓練樣本集中觀測到它們的值。同時可以看到，以上神經網絡的例子中有3個輸入單元（偏置單元不計在內），3個隱藏單元及一個輸出單元。
之前總是感覺學的很模糊 今天糾正一下自己之前的錯誤 ，對神經網絡認識更加清晰。