線性代數學習筆記7

第二十六集　　對稱矩陣及正定性

對稱矩陣
對稱矩陣A=AT 的特徵值爲實數，具有完全正交的特徵向量。
這裏的“有”，是指可以選出一套完全正交的特徵向量。通常情況下，如果特徵值互不相同，那麼每個特徵值的特徵向量是在一條線上（特徵向量空間是一維的），那些線是垂直的。但是如果特徵值重複，那就有一整個平面的特徵向量，在那個平面上，我們可以選擇垂直的向量（比如單位矩陣）。
如果A 具有n 個線性無關的特徵向量，可以對角化得到A=SΛS−1 。而對於對稱矩陣，A=QΛQ−1=QΛQT ，其中Q 爲正交矩陣，列向量爲標準正交基（見線性代數學習筆記4），這個公式本身還顯示了矩陣的對稱性（A=QΛQT=(QΛQT)T=AT ）。
矩陣能夠進行這種分解，在數學上稱爲“譜定理”，“譜”是指矩陣特徵值的集合，在物理上稱之爲“主軸定理”。
證明實特徵值
實數矩陣A 具有特徵值λ 和特徵向量x，則有Ax=λx 。如果一個實矩陣有一個複數特徵值λ 和一個複數特徵向量x ，則它必然有其共軛特徵值λ¯ 和共軛特徵向量x¯ ，即其共軛複數滿足Ax¯=λ¯x¯ 。目的是證明λ 爲實數，通過引入對稱性質。
將這個方程轉置，得到x¯TAT=x¯Tλ¯ ，其中λ¯ 是個數字。因爲A 是對稱矩陣，所以x¯TA=x¯Tλ¯ ，右乘x得到x¯TAx=x¯Tλ¯x （1）。將Ax=λx 左乘x¯T 得到x¯TAx=x¯Tλx （2）。聯立（1）（2）得到x¯Tλ¯x=x¯Tλx 。因此若有x¯Tx≠0 則λ¯=λ ，即λ 爲實數。
證明x¯Tx≠0

比如複數向量x1=a+bi,其共軛x1¯=a−bi ，則x1x1¯=a2+b2 。如果一個向量爲復向量，那麼x¯Tx 就是其長度的平方。

好性質的矩陣是其特徵值爲實數並且擁有一套正交特徵向量。對於實矩陣，即爲滿足A=AT 的對稱矩陣是好性質的矩陣；對於復矩陣，如果一個復矩陣有一個複數特徵值λ 和一個複數特徵向量x ，則它必然有其共軛特徵值λ¯ 和共軛特徵向量x¯ ，即其共軛複數滿足A¯x¯=λ¯x¯ 。將這個方程轉置，得到x¯TA¯T=x¯Tλ¯ ，則是滿足A=A¯T ，上面的推導才全部成立，纔是好性質的矩陣。

對於對稱矩陣，A=QΛQ−1=QΛQT ，可以寫作：


因爲列向量qk 是標準正交基，所以qTkqk=1 。所以每一個對稱矩陣都是一些互相垂直的投影矩陣的線性組合。

對於大型矩陣，通過計算|A−λI|=0 得到特徵值進行判定難以實現，即使用MATLAB 求解，結果也不一定可靠，但MATLAB可以得到矩陣的主元，而對稱陣的主元中正負數的個數與特徵值相同，即正主元的數目等於正特徵值的數目。矩陣A+bI 的特徵值比矩陣A 的特徵值大b，可以通過A+bI 的主元來了解矩陣A 的特徵值與b 的大小關係，因此利用這個性質可以估計特徵值的狀態。
對於對稱矩陣，主元的乘積=特徵值的乘積=矩陣行列式的值

正定矩陣
正定矩陣A 是特徵值都爲正數的對稱矩陣。它的主元也均爲正數。
因爲主元的乘積=矩陣行列式的值。主元都爲正數，且本身爲對稱矩陣，因此A 是正定矩陣。


本講的內容將主元、行列式和特徵值的概念結合在了一起，對於正定矩陣這些都是正的。

第二十八集　　正定矩陣和最小值

因爲半正定矩陣特徵值大於等於0，所以半正定矩陣一定有一個特徵值爲0。

如果在鞍點情況下切割，就得到一個雙曲線。
正定矩陣與幾何的關係：橢圓和正定有關，雙曲線與正定無關。

這是橢圓體的方程。

第三十集　　奇異值分解

因爲行空間是[4,3] 擴張的直線，所以v1是[4,3]單位化後的[0.8,0.6]。而v2與v1正交。同理，列空間是[4,8]=[1,2] 擴張的直線。

v2是零空間向量，u2是左零空間向量，對應於對角矩陣上的0特徵值，很容易操作。重點是v1 和u1。

V和U之間沒有耦合，A乘以每一個v對應一個u的方向。

參考文獻：
線性代數及其應用(美)David C.LayPDF
豆丁網MIT-線性代數筆記（上）