正向傳播forward propagation：神經網絡的輸出表示 及其 向量化與遞推關係

正向傳播就是輸入x一步一步從輸出層經過各隱層到達輸出層的過程

見下圖筆記

NN基本結構

符號約定

上角標[ ]，代表層數；上角標()，代表不同樣本；無括號下角標，代表不同特徵。

計算過程

向量化（將多個樣本寫成矩陣）

 

i層與i+1層的遞推關係

維數的對應關係

Z^[i+1]: (n^[i+1], m)

W^[i+1]: (n^[i+1], n^[i])

A^[i]: (n^[i], m)

b^[i+1]: (n^[i+1], m)

可知其符合矩陣乘法的維數對應，與事實相符