一、英語詞彙
2-5
a := b ----> assignment 賦值 將b的值賦值給a
a = b truth assertion 真假判斷
derivative term 導數項
α : learning rate 學習率
gradient descent : 梯度下降 ------> simultaneous update : 同步更新
partial derivatives and derivatives : 導數和偏導數
negative slope 負斜率
slanting 傾斜的 使傾斜
2-6
tangent : 切線
slope : 斜率
converge : 收斂
diverge : 發散
multivariate calculus : 多元微積分
plug : 展開
convex function : 凸函數
batch gradient descent 以batch爲單位的梯度下降法
3-2
by convention 按照慣例
matrices matrix 矩陣
scalar 標量 vector 向量
3 by 2 matrix 3x2矩陣
one quarter times six is 1.5 四分之一乘以6等於1.5
division 除法
evaluate 考慮
3-4
linear algebra library 線性代數函數庫
take advantage of 利用
parallel computation 並行計算
be capable of 能的
multiple call 多個調度
multiple process 多進程
3-5
commutative property of multiplication of real number 實數乘法的交換律
the associative property of real number multiplication 數乘的結合律
terminology 術語
identity matrix 單位陣
Singular matrix 奇異矩陣
matrix transpose 矩陣轉置
4-1
multiple variables 多元變量
multiple features 多特徵量
feature scaling 特徵縮放 ---> 將特徵的範圍縮放,使梯度下降地更快
mean normalization 均值歸一化
4-4
iteration 迭代
4-5
cubic model 三次模型
polynomial regression
4-6 正規方程
normal equation 正規方程 -----> 求解參數θ最優值的好方法
4-7 正規方程在矩陣不可逆的情況
singular matrix 奇異矩陣
degenerate matrix 退化矩陣
pinv(pseudo-inverse) ----> 僞逆(即使不可逆也可以算出來) inv(inverse) ----> 逆
6-1 分類
threshold classifier 閾值分類器
magenta line 品紅色線條
logistic regression logistic迴歸
6-2 陳述假設
sigmoid function / logistic function
6-3 決策邊界
decision boundary 決策邊界
non-linear decision boundaries 非線性決策邊界
6-5 簡化代價函數和梯度下降
the principle of maximum likelihood estimation 極大似然法
7-3 線性迴歸的正則化
regularization parameter 正則化參數
二、章節要點
2-5 梯度下降
- 多元梯度下降法
4-6 正規方程
- 最小化代價函數θ
- θ最小化的公式
- θ推導過程
- θ推導過程
- 正規方程和梯度下降法的抉擇問題
8-6 樣本和直觀理解二
- 一個非常直觀的分類案例,完成異或門,通俗地解釋了神經網絡各層是如何進行計算的。
9-2 反向傳播算法