邏輯迴歸相關公式
邏輯迴歸預測公式：
z = w(T) x + b
sigmoid激活函數：
y' = a = 𝝈(z)
𝝈(x) = 1/(1-e^(-z))
損失函數：
L(a,y) = -( ylog(a) + (1-y) * log(1-a) )
對最終函數（損失函數L）求偏導結果
- 損失函數L 對 激活函數a 求偏導：
da = dL/da = -(y/a) + (1-y)/(1-a)
- ① sigmoid 對 預測結果z 求偏導：
da/dz= a(1-a)
- ② 損失函數 對 預測結果z 求偏導：
dz = dL/dz = da * a(1-a) = a-y
- 損失函數L 對 權重w、閾值b求偏導（其中
i表示第i個樣本）
dw(i) = dL/dw(i) = dz * x(i)
db= dl/db = dz
具體求導過程如下：
