1、逻辑回归
模型:
首先,你需要输入特征x,参数w和b,计算出z,然后利用z就可以计算出a, 这里将符号换为表示输出的𝑦,然后就可以计算出loss fuction L(a,𝑦)。计算步骤如下:
2、神经网络
模型
在这个神经网络模型中对应的3个节点,首先计算第一层网络中的各个节点相关的数𝑧[1],接着计算𝛼[1],在计算下一层网络同理;我们会使用符号[𝑚]表示第m层网络中节点相关的数,这些节点的集合被称为第m层网络。这样可以保证[𝑚]不会和我们之前用来表示单个的训练样本的[𝑖](即我们使用表示第i个训练样本)混淆;整个计算过程,公式如下:
接下来,你需要使用另外一个线性方程对应的参数计算𝑧[2], 计算 𝑎[2], 此时𝑎[2]就是整个神经网络最终的输出,用𝑦表示网络的输出。
在神经网络中,我们反复的计算z和a,最后得到了最终的输出loss function。
同样,在神经网络中也有从后向前的计算,如上图,最后需要计算d𝑎[2]、d𝑧[2],计算出来之后,然后计算d𝑤[2]、𝑑𝑏[2]等,按上图箭头表示的那样,从右到左反向计算。