第十七篇 神经网络的概述

1、逻辑回归

模型:

首先,你需要输入特征x,参数w和b,计算出z,然后利用z就可以计算出a, 这里将符号换为表示输出的𝑦,然后就可以计算出loss fuction L(a,𝑦)。计算步骤如下:

 

2、神经网络

模型

 

在这个神经网络模型中对应的3个节点,首先计算第一层网络中的各个节点相关的数𝑧[1],接着计算𝛼[1],在计算下一层网络同理;我们会使用符号[𝑚]表示第m层网络中节点相关的数,这些节点的集合被称为第m层网络。这样可以保证[𝑚]不会和我们之前用来表示单个的训练样本的[𝑖](即我们使用表示第i个训练样本)混淆;整个计算过程,公式如下:

接下来,你需要使用另外一个线性方程对应的参数计算𝑧[2],  计算 𝑎[2], 此时𝑎[2]就是整个神经网络最终的输出,用𝑦表示网络的输出。

在神经网络中,我们反复的计算z和a,最后得到了最终的输出loss function。

 

同样,在神经网络中也有从后向前的计算,如上图,最后需要计算d𝑎[2]、d𝑧[2],计算出来之后,然后计算d𝑤[2]、𝑑𝑏[2]等,按上图箭头表示的那样,从右到左反向计算。

 

 

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章