3.1.1 線性迴歸的基本要素
1. 模型定義
2. 模型訓練
- a 訓練數據
- b 損失函數
3. 模型預測
3.1.1.1 模型定義
我們搭建一個模型,用來預測房屋的出售價格,決定其價格的兩個因素爲房屋的面積 和 房齡,據此可以建立輸入輸出的線性關係,w1 w2 爲權重 b是偏差
3.1.1.2模型訓練
a 訓練數據
首先我們需要收集數據,即房屋面積與房齡 和對應的出售價格,將該數據成爲訓練集
b 損失函數
損失函數是用來衡量預測值與真實值之間的偏差,而我們希望這個偏差值最小,即得到我們想要的那個模型。通常會選用平方函數:
這裏的1/2是爲了求導後係數爲1,形式簡單
c 優化算法
解析解 誤差最小化問題的解可以直接用公式表達出來 如線性迴歸和平方誤差
數值解 只能通過優化算法有限次迭代模型參數來降低損失函數的值
小批量隨機梯度下降:
3.1.1.3 模型預測
預測結果是權重和偏差值得確定,之後就可以用該公式去預測房屋價格了
3.1.2 線性迴歸的表示方法
一個簡單的神經網絡圖,包括一個輸入層x1和x2,和一個輸出層o。因爲輸入層不進行計算,所以線性迴歸是一個單層神經網絡
全連接層(稠密層) 輸出層中的神經元和輸入層各個輸入完全連接(即o的計算完全依賴於x1 x2)
- 向量直接相加更加高效
- 線性加法運算中用到廣播