1、初始化網絡結構及w參數
2、nnff前向傳播計算a:
訓練集初始化a{1};
循環計算a{i}=f(a{i-1},w,…)。
3、nnbp誤差反向傳播計算d
計算e=a{n}-y,初始化d{n}=e;
循環計算d{i}=f(d{i+1},a{i},…)。
循環計算dW{i}4、更新w
dW=dW*學習率+ 隨機動量
w =w – dW
1、初始化網絡結構及w參數
2、nnff前向傳播計算a:
訓練集初始化a{1};
循環計算a{i}=f(a{i-1},w,…)。
3、nnbp誤差反向傳播計算d
計算e=a{n}-y,初始化d{n}=e;
循環計算d{i}=f(d{i+1},a{i},…)。
循環計算dW{i}4、更新w
dW=dW*學習率+ 隨機動量
w =w – dW
引入激活函數的意義: 激活函數是用來加入非線性因素的,提高神經網絡對模型的表達能力,解決線性模型所不能解決的問題(比如線性不可分的問題)。 激活函數的作用: 在沒有激活函數的神經網絡中所