1.基本形式
線性模型試圖學得一個通過屬性的線性組合來進行預測數函數,即;
一般用向量形式寫成
本篇介紹幾種經典的線性模型,我們先從迴歸任務開始,然後討論二分類和多分類任務。
2.線性迴歸
線性迴歸試圖學得
如何確定w和b呢? 顯然,關鍵在於如何衡量f(x)與y之間的差別。均方誤差市迴歸任務中最常用的性能度量,基於均方誤差最小化來進行模型求解的方法稱爲“最小二乘法”,在線性迴歸中,最小二乘法就是試圖找到一條直線,使所有樣本到直線上的歐式距離之和最小,因此我們可以試圖讓均方誤差最小化,即