爲什麼會有加權最小二乘?

一個理論的提出,源於一個簡單的目的。即當前面臨的情況與現有理論所要求的條件有差異,現有理論無法解決當前問題,那麼需要對現有理論做出適當改進,並加上這之後的一系列改進,就形成了一個理論體系。(囉嗦這麼多,其實就一個意思,知道這個理論是基於什麼情況下產生的其實很重要!)

加權最小二乘法就是最小二乘法演變來的。

問題出現:

最小二乘法是一種求取最優解的方法,但是有許多假定條件,比如規定了同方差,也就是說每一個參數在求解過程中都應該具有相同的權重。但實際上,參數對於最終結果的貢獻在很多時候是不一樣的,即參數權重產生了差異,也就是出現了異方差。

已知:

那麼我現在知道最小二乘怎麼求最優解,也知道了我面臨的情況是異方差問題。

目標:

那麼將異方差問題轉化爲同方差問題,再利用最小二乘求解,就可以解決當前問題。

辦法:(這裏就會有很多大牛通過各種各樣的方法來實現我們的目標,解決我們的問題)。

兩個不錯的鏈接:

https://wenku.baidu.com/view/d25ec0b9cf84b9d529ea7a3d.html

https://zhuanlan.zhihu.com/p/22064801

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章