1.最小二乘分析
1.1最小向量求解
1）幾何分析：
2）求導
2.遞推最小二乘法
對不斷加入的新的數據，更新參數。
某個問題是尋找合適的x讓
最小，用前面的可以求得x*。如果增加了新的數據，用A1和b1表示，那麼現在整個問題就變成了尋找x，使得：
最小。
分析：
這樣，通過原來的數據，和新加入的數據，就可以得到新的x(1)了，這樣只需要在原來的基礎上計算，就可以得到新參數，而不必重新計算。
遞推公式：
這樣每次還是需要計算逆，定理12.2：
這樣只需要計算一次逆，以後可以通過前面的遞推出來。
4.Kaczmarz算法
Kaczmarz算法可以避免計算AAT逆矩陣下，收斂到
5.僞逆矩陣
左僞逆：
右僞逆:
