一、概念
最小二乘法是指最小化誤差的平方和，從而使擬合曲線無限接近目標曲線。最小二乘法廣泛用在直線擬合、曲線擬合、機器學習以及系統辨識當中。
當由實驗提供了大量的數據時，我們仍然無法要求擬合曲線Φ(x)在數據點（xi,yi）處的誤差，即δi=Φ(xi)-yi，爲0。但爲了使擬合
曲線儘量的反映數據曲線，可以要求∑δi^2=min(∑(Φ(xi)-yi)^2)最小。這就是最小二乘法的核心原理。
二、推導
至此通過證明的公式，可以快速計算最小二乘法的擬合曲線。
高等代數P204也有類似公式。A'*A*x=A'*Y，求得的x就是係數矩陣，已論證過。