線性代數之——正定矩陣

這部分我們關注有正特徵值的對稱矩陣。如果對稱性使得一個矩陣重要，那麼所有特徵值大於零這個額外屬性則讓這個矩陣真正特殊。但我們這裏的特殊並不是稀少，事實上在各種應用中具有正特徵值的對稱矩陣非常常見，它們被稱作正定矩陣。

我們可以通過檢查特徵值是否大於零來識別正定矩陣，但計算特徵值是一項工作，當我們真正需要它們的時候我們可以進行計算，而如果我們僅僅想知道它們是否是正的，我們有更快的方式。

1. 正定矩陣的判斷

首先，由於矩陣是對稱的，所有的特徵值自然都是實數。讓我們以一個 2×2 的矩陣開始，

$A = \begin{bmatrix} a&b \\b&c\end{bmatrix}$

A 的特徵值是正的當且僅當 $a > 0$ 並且 $ac-b^2>0$。

如果 2×2 矩陣的特徵值 $\lambda_1>0$，$\lambda_2>0$，那麼它們的乘積等於行列式， $\lambda_1\lambda_2=|A|=ac-b^2>0$，它們的和等於矩陣的跡，$\lambda_1+\lambda_2=a+c>0$，所以 $a$ 和 $c$都必須是正的。

A 的特徵值是正的當且僅當主元是正的。

這連接了線性代數的兩大部分，正的特徵值意味着正的主元，反之亦然。而且，主元往往比特徵值計算得更快。

• 基於能量的定義

$Ax=\lambda x \to x^TAx=\lambda x^Tx=\lambda ||x||^2>0$

所以，如果特徵值大於零，$x^TAx$ 對於所有的特徵向量也大於零。事實上，不僅僅是特徵向量，針對任意非零向量 $x$，上式也同樣成立。

A 是正定的，如果有 $x^TAx > 0$ 對任意非零向量都成立。

從這個定義中我們可以得出，如果 $A, B$ 是對稱的正定矩陣，那麼 $A+B$ 也是.

如果 $R$ 的列是不相關的，那麼 $A=R^TR$ 是正定的。

$x^TAx=x^TR^TRx=(Rx)^TRx=||Rx||^2$

因爲 $R$ 的列是不相關的，所以針對任意非零向量 $x$，$Rx \not = \boldsymbol{0}$。

當一個對稱的矩陣具有下列五個屬性之一，那麼它一定滿足所有的屬性。

• 1. 所有的 $n$ 個主元是正的。
• 2. 所有的 $n$ 個左上行列式是正的，也就是 $1×1, 2×2 \cdots n×n$ 的行列式。
• 3. 所有的 $n$ 個特徵值是正的。
• 4. $x^TAx>0$ 除了零向量。
• 5. $A=R^TR$ 對於一個有着不相關列的矩陣 $R$。

2. 半正定矩陣

經常情況我們會在正定的邊緣，行列式爲零，最小的特徵值爲零，這些在邊緣的矩陣被稱爲半正定矩陣。

$A$ 的特徵值爲 5 和 0，左上行列式爲 1 和 0，它的秩爲 1，可以被分解爲具有相關列的矩陣 $R^TR$。

如果將元素 4 增加一個任意小的數字，那麼矩陣將會變成正定的。同樣地， $B$ 也可以寫成 $R^TR$ 的形式，但是 $R$ 的列肯定是相關的。

3. 第一個應用：橢圓 $ax^2+2bxy+cy^2=1$

1. 傾斜的橢圓和矩陣 A 聯繫在一起，$x^TAx=1$。
2. 排好的橢圓和矩陣 $\Lambda$ 聯繫在一起，$X^T\Lambda X=1$。
3. 將橢圓排好的旋轉矩陣則是特徵向量矩陣 $Q$。

針對橢圓方程 $5x^2+8xy+5y^2=1$，我們有：

$\begin{bmatrix} x & y \end{bmatrix} \begin{bmatrix} 5 &4 \\ 4& 5 \end{bmatrix} \begin{bmatrix} x \\ y \end{bmatrix} = 1 \quad A = \begin{bmatrix} 5 &4 \\ 4& 5 \end{bmatrix}$

將 $A$ 分解爲 $Q\Lambda Q^T$ 我們得到：

$\begin{bmatrix} 5 &4 \\ 4& 5 \end{bmatrix} = \frac{1}{\sqrt 2}\begin{bmatrix} 1&1 \\ 1&-1 \end{bmatrix} \begin{bmatrix} \boldsymbol 9&0 \\ 0&\boldsymbol 1 \end{bmatrix} \frac{1}{\sqrt 2} \begin{bmatrix} 1&1 \\ 1&-1 \end{bmatrix}$

橢圓方程則也可以重寫爲：

$5x^2+8xy+5y^2=1 = 9*(\frac{x+y}{\sqrt 2})^2+1*(\frac{x-y}{\sqrt 2})^2$

可以看到，方程的係數是兩個特徵值 9 和 0，而在平方內部則是兩個特徵向量 $(1, 1)/\sqrt 2$ 和 $(1, -1)/\sqrt 2$。橢圓的座標軸是沿着特徵向量的方向，這也就是爲什麼 $A=Q\Lambda Q^T$ 被稱作主軸定理，特徵向量指出了座標軸的方向，特徵值則指出了長度。

將橢圓排好後，較大的特徵值 9 給出了短半軸的長度 $1/\sqrt \lambda_1 = 1/3$，較小的特徵值 1 給出了長半軸的長度 $1/\sqrt \lambda_2 = 1$。在 $xy$ 系統中，座標軸沿着 $A$ 的特徵向量的方向，而在 $XY$ 系統中，座標軸沿着 $\Lambda$ 的特徵向量的方向。

獲取更多精彩，請關注「seniusen」!