一個理論的提出,源於一個簡單的目的。即當前面臨的情況與現有理論所要求的條件有差異,現有理論無法解決當前問題,那麼需要對現有理論做出適當改進,並加上這之後的一系列改進,就形成了一個理論體系。(囉嗦這麼多,其實就一個意思,知道這個理論是基於什麼情況下產生的其實很重要!)
加權最小二乘法就是最小二乘法演變來的。
問題出現:
最小二乘法是一種求取最優解的方法,但是有許多假定條件,比如規定了同方差,也就是說每一個參數在求解過程中都應該具有相同的權重。但實際上,參數對於最終結果的貢獻在很多時候是不一樣的,即參數權重產生了差異,也就是出現了異方差。
已知:
那麼我現在知道最小二乘怎麼求最優解,也知道了我面臨的情況是異方差問題。
目標:
那麼將異方差問題轉化爲同方差問題,再利用最小二乘求解,就可以解決當前問題。
辦法:(這裏就會有很多大牛通過各種各樣的方法來實現我們的目標,解決我們的問題)。
兩個不錯的鏈接: