NN（BP）算法

1、初始化网络结构及w参数

2、nnff前向传播计算a:

训练集初始化a{1};

循环计算a{i}=f(a{i-1},w,…)。

3、nnbp误差反向传播计算d

计算e=a{n}-y，初始化d{n}=e;

循环计算d{i}=f(d{i+1},a{i},…)。

循环计算dW{i}

4、更新w

dW=dW*学习率+ 随机动量

w =w – dW