矩陣論基礎

矩陣是數學中的一個重要的基本概念，是代數學的一個主要研究對象，也是數學研究和應用的一個重要工具。“矩陣”這個詞是由西爾維斯特首先使用的，他是爲了將數字的矩形陣列區別於行列式而發明了這個述語。而實際上，矩陣這個課題在誕生之前就已經發展的很好了。從行列式的大量工作中明顯的表現出來，爲了很多目的，不管行列式的值是否與問題有關，方陣本身都可以研究和使用，矩陣的許多基本性質也是在行列式的發展中建立起來的。

1855 年，埃米特(C.Hermite，1822～1901)證明了別的數學家發現的一些矩陣類的特徵根的特殊性質，如現在稱爲埃米特矩陣的特徵根性質等。後來，克萊伯施(A.Clebsch，1831～1872)、布克海姆(A.Buchheim)等證明了對稱矩陣的特徵根性質。泰伯(H.Taber)引入矩陣的跡的概念並給出了一些有關的結論。 在矩陣論的發展史上，弗羅伯紐斯(G.Frobenius,1849-1917)的貢獻是不可磨滅的。他討論了最小多項式問題，引進了矩陣的秩、不變因子和初等因子、正交矩陣、矩陣的相似變換、合同矩陣等概念，以合乎邏輯的形式整理了不變因子和初等因子的理論，並討論了正交矩陣與合同矩陣的一些重要性質。 1854 年，約當研究了矩陣化爲標準型的問題。1892年，梅茨勒(H.Metzler)引進了矩陣的超越函數概念並將其寫成矩陣的冪級數的形式。傅立葉、西爾和龐加萊的著作中還討論了無限階矩陣問題，這主要是適用方程發展的需要而開始的。

矩陣

矩陣類型

向量的類型根據元素的實際意義不同可以分爲，

1. 物理向量

   泛指既有幅值，又有方向的物理量，如速度、加速度、位移等。

2. 幾何向量

   爲了將物理向量可視化，常用帶方向的線段表示。這種有向線段出稱爲幾何向量。

3. 代數向量

   幾何向量可以用代數形式表示。例如，若平面上的幾何向量$v=\vec{ab}$中點a的座標爲$(a_1,a_2)$,點b的座標爲$(b_1,b_2)$，則該幾何向量可以表示爲代數形式$\begin{bmatrix} b_1-a_1\\ b_2-a_2\\ \end{bmatrix} ​$

其中，根據元素的類型不同，代數向量又可以分爲以下三種，

1. 常數向量

   向量中的元素爲實數或複數

2. 函數向量

   向量中的元素包含函數值，如$\mathbf{x}=[1,x,x^2,...,x^n]^T$

3. 隨機向量

   向量中的元素爲隨機變量或隨機過程，如$\mathbf{x}=[x_1(n),x_2(n),...,x_m(n)]^T$，其中$x_1(n),x_2(n),...,x_m(n)$是$m$個隨機過程或隨機信號

矩陣運算

轉置、共軛、共軛轉置、加法、乘法和求逆

矩陣的基本運算包括矩陣的轉置、共軛、共軛轉置、加法、乘法和求逆
$A=\begin{bmatrix}{a_{11}} & {a_{12}} & {\cdots} & {a_{1 m}} \\ {a_{21}} & {a_{22}} & {\cdots} & {a_{2 m}} \\ {\cdots} & {\cdots} & {\cdots} & {\cdots} \\ {a_{m 1}} & {a_{m 2}} & {\cdots} & {a_{m m}}\end{bmatrix}$

1. 矩陣$A$的轉置記爲$A^T$，其元素定義爲$[A^T]_{ij}=a_{ji}$，

$A^T=\begin{bmatrix}{a_{11}} & {a_{21}} & {\cdots} & {a_{m1}} \\ {a_{12}} & {a_{22}} & {\cdots} & {a_{m2}} \\ {\cdots} & {\cdots} & {\cdots} & {\cdots} \\ {a_{1m}} & {a_{2m}} & {\cdots} & {a_{m m}}\end{bmatrix}$

2. 矩陣$A$的共軛記爲$A^*$，其元素定義爲$[A^*]_{ij}=a_{ij}^*$，

$A^*=\begin{bmatrix}{a_{11}^*} & {a_{12}^*} & {\cdots} & {a_{1 m}^*} \\ {a_{21}^*} & {a_{22}^*} & {\cdots} & {a_{2 m}^*} \\ {\cdots} & {\cdots} & {\cdots} & {\cdots} \\ {a_{m 1}^*} & {a_{m 2}^*} & {\cdots} & {a_{m m}^*}\end{bmatrix}$

3. 矩陣$A$的共軛轉置記爲$A^H$，其元素定義爲$[A^H]_{ij}=a_{ji}^*$，

$A^T=\begin{bmatrix}{a_{11}^*} & {a_{21}^*} & {\cdots} & {a_{m1}^*} \\ {a_{12}^*} & {a_{22}^*} & {\cdots} & {a_{m2}^*} \\ {\cdots} & {\cdots} & {\cdots} & {\cdots} \\ {a_{1m}^*} & {a_{2m}^*} & {\cdots} & {a_{m m}^*}\end{bmatrix}$
共軛轉置又被稱爲Hermitian伴隨、Hermitian轉置或Hermitian共軛，$A=A^T$的實方陣稱爲對稱矩陣，$A=A^H$的複方陣稱爲Hermitian矩陣

4. 方陣$A$的逆矩陣記爲$A^{-1}$，$A^{-1}$被定義爲滿足以下關係$AA^{-1}=AA^{-1}=\mathbf{I}$

5. 加法與乘法

   • 兩個$m\times n$矩陣$A、B$的加法，$[A+B]_{ij}=a_{ij}+b_{ij}$

   • $m\times n$大小的矩陣$A$與$1\times n$大小的向量$x=[x_1,...,x_n]$相乘，$[Ax]_i=\sum_{j=1}^na_{ij}x_j,\quad i=1,...,m$

   • $m\times n​$大小的矩陣$A​$與$n\times r​$大小的矩陣$B​$相乘，$[AB]_{ij}=\sum_{k=1}^na_{ik}b_{kj},\quad i=1,...,m;j=1,...,r​$

   需要注意的是，一般來說，矩陣乘積是不滿足交換律的

性質

關於矩陣中轉置、共軛、共軛轉置、求逆的性質

1. 分配律

   $(A+B)^*=A^*+B^*,\quad (A+B)^T=A^T+B^T,\quad (A+B)^H=A^H+B^H​$

2. 矩陣乘積中轉置、共軛轉置、求逆的性質

   $(AB)^T=B^TA^T,\quad (AB)^H=B^HA^H,\quad (AB)^{-1}=B^{-1}A^{-1}​$

3. 轉置、共軛、共軛轉置與求逆交換

   $(A^*)^{-1}=(A^{-1})^*,\quad (A^T)^{-1}=(A^{-1})^T,\quad (A^H)^{-1}=(A^{-1})^H$

矩陣函數

除了上述矩陣的基本運算之外，還有矩陣函數

1. 三角函數
   $\begin{aligned} \sin (\boldsymbol{A}) &=\sum_{n=0}^{\infty} \frac{(-1)^{n} \boldsymbol{A}^{2 n+1}}{(2 n+1) !}=\boldsymbol{A}-\frac{1}{3 !} \boldsymbol{A}^{3}+\frac{1}{5 !} \boldsymbol{A}^{5}-\cdots \\ \cos (\boldsymbol{A}) &=\sum_{n=0}^{\infty} \frac{(-1)^{n} \boldsymbol{A}^{2 n}}{(2 n) !}=\boldsymbol{I}-\frac{1}{2 !} \boldsymbol{A}^{2}+\frac{1}{4 !} \boldsymbol{A}^{4}-\cdots \end{aligned}$

2. 指數函數
   $\begin{aligned} \mathrm{e}^{A} &=\sum_{n=0}^{\infty} \frac{1}{n !} \boldsymbol{A}^{n}=\boldsymbol{I}+\boldsymbol{A}+\frac{1}{2} \boldsymbol{A}^{2}+\frac{1}{3 !} \boldsymbol{A}^{3}+\cdots \\ \mathrm{e}^{-\boldsymbol{A}} &=\sum_{n=0}^{\infty} \frac{1}{n !}(-1)^{n} \boldsymbol{A}^{n}=\boldsymbol{I}-\boldsymbol{A}+\frac{1}{2} \boldsymbol{A}^{2}-\frac{1}{3 !} \boldsymbol{A}^{3}+\cdots \\ \mathrm{e}^{\boldsymbol{A} t} &=\boldsymbol{I}+\boldsymbol{A} t+\frac{1}{2} \boldsymbol{A}^{2} t^{2}+\frac{1}{3 !} \boldsymbol{A}^{3} t^{3}+\cdots \end{aligned}$

3. 對數函數
   $\ln (I+A)=\sum_{n=1}^{\infty} \frac{(-1)^{n-1}}{n} A^{n}=A-\frac{1}{2} A^{2}+\frac{1}{3} A^{3}-\cdots$

4. 矩陣導數
   $\frac{\mathrm{d} \boldsymbol{A}}{\mathrm{d} t}=\dot{\boldsymbol{A}}=\left[ \begin{array}{cccc}{\frac{\mathrm{d} a_{11}}{\mathrm{d} t}} & {\frac{\mathrm{d} a_{12}}{\mathrm{d} t}} & {\cdots} & {\frac{\mathrm{d} a_{1 n}}{\mathrm{d} t}} \\ {\frac{\mathrm{d} a_{21}}{\mathrm{d} t}} & {\frac{\mathrm{d} a_{22}}{\mathrm{d} t}} & {\cdots} & {\frac{\mathrm{d} a_{2 n}}{\mathrm{d} t}} \\ {\vdots} & {\vdots} & {\ddots} & {\vdots} \\ {\frac{\mathrm{d} a_{m 1}}{\mathrm{d} t}} & {\frac{\mathrm{d} a_{m 2}}{\mathrm{d} t}} & {\cdots} & {\frac{\mathrm{d} a_{m n}}{\mathrm{d} t}}\end{array}\right]$

5. 矩陣積分
   $\int \boldsymbol{A} \mathrm{d} t=\left[ \begin{array}{cccc}{\int a_{11} \mathrm{d} t} & {\int a_{12} \mathrm{d} t} & {\cdots} & {\int a_{1 n} \mathrm{d} t} \\ {a_{21} \mathrm{d} t} & {\int a_{22} \mathrm{d} t} & {\cdots} & {\int a_{2 n} \mathrm{d} t} \\ {\vdots} & {\vdots} & {\ddots} & {\vdots} \\ {\int a_{m 1} \mathrm{d} t} & {\int a_{m 2} \mathrm{d} t} & {\cdots} & {\int a_{m n} \mathrm{d} t}\end{array}\right]$

特殊矩陣

對角矩陣、零矩陣、單位矩陣

冪等矩陣

冪等矩陣$A$具有以下性質：

冪單矩陣

又被稱爲對合矩陣，若$A^2=AA=\mathbf{I}​$，若$A​$爲冪單矩陣，則函數$f(\cdot)​$具有以下性質：
$f(s \boldsymbol{I}+t \boldsymbol{A})=\frac{1}{2}[(\boldsymbol{I}+\boldsymbol{A}) f(s+t)+(\boldsymbol{I}-\boldsymbol{A}) f(s-t)]$
其中，冪等矩陣和冪單矩陣也有關係，矩陣$A$是冪單矩陣，當且僅當$\frac{1}{2}\boldsymbol({A}+\boldsymbol{I})$

冪零矩陣

方陣$A$被稱爲冪零矩陣，若$A^2=AA=\boldsymbol{O}$，若$A$爲冪單矩陣，則函數$f(\cdot)$具有以下性質：
$f(s \boldsymbol{I}+t \boldsymbol{A})=\boldsymbol{I}f(s)+t\boldsymbol{A}f^{\prime}(s)$

---

Source from: 《矩陣分析與應用》，張賢達