迴歸：
線性迴歸：
廣義線性模型：在非線性迴歸當中，有一部分可以用線性迴歸處理，這些模型叫做廣義線性模型，如 logistics 模型
代價函數（Cost Function）：
正規方程（Normal Equation）
過擬合：每個數據項，對於總體而言是帶有一點誤差的，過擬合就是將誤差也擬合進了迴歸模型裏，迴歸模型就是一個方程，一個表達式。
梯度下降：
降維：
（批量）梯度下降算法：
hθ(x) = g(θTx):這裏θ是參數，x是輸入的特徵向量，g是一個映射函數，例如將θx映射到0到1上，h(x)可以理解爲概率（至少在logistic迴歸中是），以hθx大於或小於某個值作爲分類標準。
多重共線性：
Lasso：懲罰項爲一範數，可以將較多的係數化爲0，將數據稀疏化。
損失函數(Loss Function):度量擬合的程度的函數，用輸出的值減去真實值
代價函數(Cost Function):
目標函數(Object Function):
風險函數(risk function):風險函數是損失函數的期望
