特徵值與特徵向量的物理意義

一個矩陣對應一個線性變換，比如矩陣A與向量$\hat{v}$相乘，實質上就是A對$\hat{v}$的旋轉和伸縮，會使絕大多數向量變得“面目全非”，不能反映出該向量的特徵。例如：
$A=\begin{bmatrix}2 & 3\\2 & 1\end{bmatrix}，\hat{v}=\begin{bmatrix}x\\y\end{bmatrix}$$A\hat{v}=\begin{bmatrix}2 & 3\\2 & 1\end{bmatrix}\begin{bmatrix}x\\y\end{bmatrix}=\begin{bmatrix}2x+3y\\2x+y\end{bmatrix}$接下來，我來解釋矩陣A與向量$\hat{v}$相乘，爲什麼就是A對$\hat{v}$的旋轉和伸縮。

矩陣與普通向量相乘

例1

$A=\begin{bmatrix}2 & 3\\2 & 1\end{bmatrix}，\hat{v}=\begin{bmatrix}2\\-1\end{bmatrix}$$A\hat{v}=\begin{bmatrix}2 & 3\\2 & 1\end{bmatrix}\begin{bmatrix}2\\-1\end{bmatrix}=\begin{bmatrix}1\\3\end{bmatrix}$顯然，相乘後的結果向量（紅色）相對於向量$\hat{v}$（藍色）既發生旋轉又進行伸縮。

例2

$A=\begin{bmatrix}2 & 3\\2 & 1\end{bmatrix}，\hat{v}=\begin{bmatrix}-2\\3\end{bmatrix}$$A\hat{v}=\begin{bmatrix}2 & 3\\2 & 1\end{bmatrix}\begin{bmatrix}-2\\3\end{bmatrix}=\begin{bmatrix}5\\-1\end{bmatrix}$顯然，相乘後的結果向量（紅色）相對於向量$\hat{v}$（藍色）既發生旋轉又進行伸縮。

矩陣與特徵向量相乘

但是，有這麼一類向量，與矩陣相乘後，只是進行了伸縮（包括反向）而不會發生旋轉，那麼這類向量稱爲該矩陣的特徵向量，伸縮比例稱爲特徵值。
本文中的矩陣A的特徵值爲4和-1，對應的特徵向量分別爲$\begin{bmatrix}3\\2\end{bmatrix}$和$\begin{bmatrix}-1\\1\end{bmatrix}$，請讀者自證。

例3

$A=\begin{bmatrix}2 & 3\\2 & 1\end{bmatrix}，\hat{v}=\begin{bmatrix}3\\2\end{bmatrix}$$A\hat{v}=\begin{bmatrix}2 & 3\\2 & 1\end{bmatrix}\begin{bmatrix}3\\2\end{bmatrix}=\begin{bmatrix}12\\8\end{bmatrix}=4\begin{bmatrix}3\\2\end{bmatrix}$顯然，相乘後的結果向量（紅色）相對於向量$\hat{v}$（藍色）只是進行了伸縮而不會發生旋轉，伸縮比例爲-1。因此，$\hat{v}$稱爲矩陣A的特徵向量，-1稱爲特徵值。

例4

$A=\begin{bmatrix}2 & 3\\2 & 1\end{bmatrix}，\hat{v}=\begin{bmatrix}-1\\1\end{bmatrix}$$A\hat{v}=\begin{bmatrix}2 & 3\\2 & 1\end{bmatrix}\begin{bmatrix}-1\\1\end{bmatrix}=\begin{bmatrix}1\\-1\end{bmatrix}=-1\begin{bmatrix}-1\\1\end{bmatrix}$顯然，相乘後的結果向量（紅色）相對於向量$\hat{v}$（藍色）只是進行了伸縮而不會發生旋轉，伸縮比例爲-1。因此，$\hat{v}$稱爲矩陣A的特徵向量，-1稱爲特徵值。