深度學習之PyTorch學習_3.1.1 線性迴歸的基本要素

3.1.1 線性迴歸的基本要素

1. 模型定義

2. 模型訓練

  • a 訓練數據
  • b 損失函數

3. 模型預測

3.1.1.1 模型定義

我們搭建一個模型,用來預測房屋的出售價格,決定其價格的兩個因素爲房屋的面積 和 房齡,據此可以建立輸入輸出的線性關係,w1 w2 爲權重 b是偏差

3.1.1.2模型訓練

a 訓練數據

首先我們需要收集數據,即房屋面積與房齡 和對應的出售價格,將該數據成爲訓練集

b 損失函數

損失函數是用來衡量預測值真實值之間的偏差,而我們希望這個偏差值最小,即得到我們想要的那個模型。通常會選用平方函數:

這裏的1/2是爲了求導後係數爲1,形式簡單

c 優化算法

解析解 誤差最小化問題的解可以直接用公式表達出來 如線性迴歸和平方誤差

數值解 只能通過優化算法有限次迭代模型參數來降低損失函數的值

小批量隨機梯度下降

3.1.1.3 模型預測

預測結果是權重和偏差值得確定,之後就可以用該公式去預測房屋價格了

3.1.2 線性迴歸的表示方法

一個簡單的神經網絡圖,包括一個輸入層x1和x2,和一個輸出層o。因爲輸入層不進行計算,所以線性迴歸是一個單層神經網絡

全連接層(稠密層) 輸出層中的神經元和輸入層各個輸入完全連接(即o的計算完全依賴於x1 x2)

  • 向量直接相加更加高效
  • 線性加法運算中用到廣播
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章