矩陣論（零）：線性代數基礎知識整理（1）——逆矩陣、（廣義）初等變換、滿秩分解

矩陣論專欄：專欄（文章按照順序排序）

線性代數是矩陣論的先修課程，本篇博客整理線性代數的基礎理論知識，爲矩陣論的學習做準備。限於篇幅，梳理的重點將在定理和結論上（只給出部分必要的定義），對最基礎的概念（如矩陣及其基本運算等等）不清楚的童鞋可以參考矩陣的基本運算。
本文的討論在一般的數域$F$中進行，$F$可以是有理數域、實數域、複數域等。這裏不給出數域的嚴格定義，只要知道數域是複數域的一個對加減乘除運算封閉的子集，且有理數域是最小的數域即可。需要特別指出的是，我們所關心的數域都是複數域的子集，並不是什麼抽象的代數數域。由於數域都是複數域的子集，在複數中定義的基本運算以及相應的運算律往往也適用於實數、有理數，例如取共軛，實數和有理數的共軛是其自身。數域的相關理論可參考數域和維基。

---

本篇博客先介紹線性代數中一些基本的概念，然後重點圍繞“秩”這一重要概念整理相關結論：

• 複數的運算法則、復矩陣的共軛與共軛轉置
• 行列式的性質
• 方陣的跡及其性質
• 逆矩陣
  • 伴隨矩陣
  • 逆矩陣
  • 關於逆矩陣的一個常用公式（Woodbury-Sherman-Morrison公式）
• 初等變換與矩陣的秩
  • 初等變換、初等矩陣
  • 矩陣的秩及性質
  • 分塊矩陣的初等變換（廣義初等變換）
    • 矩陣打洞技巧
    • 方陣乘積的行列式公式
    • 分塊矩陣的逆
    • 分塊矩陣的秩
• 滿秩分解
  • 滿秩分解的定義
  • 滿秩分解的存在性
  • 滿秩分解的快速計算方法

---

複數的運算法則、復矩陣的共軛與共軛轉置

• 複數的基本運算法則
  複數的基本運算法則與實數的完全一致，且根據複數的定義$z=a+bi$容易驗證，現列舉如下：（設$a, b, c\in C$）
  • 加法交換律：$a+b=b+a$
  • 加法結合律：$a+(b+c)=(a+b)+c$
  • 乘法交換律：$a\times b=b\times a$
  • 乘法結合律：$a\times (b\times c)=(a\times b)\times c$
  • 乘法對加法的左分配律：$(a+b)\times c=a\times c+b\times c$
  • 乘法對加法的右分配律：$a\times (b+c)=a\times b+a\times c$
• 複數的共軛、複數的模的運算律（設$x,y\in C$）
  • $\overline{x\pm{}y}=\overline{x}\pm{}\overline{y}$
  • $\overline{xy}=\bar{x}\bar{y}$
  • $\overline{(\frac{x}{y})}=\frac{\overline{x}}{\overline{y}}$
  • $x\overline{x}=\overline{x}x=|x|^2$
  • $|xy|=|x||y|$
• 矩陣的共軛
  矩陣的共軛就是將原矩陣的每個元素取共軛，即若$A=(a_{ij})_{m\times{n}}$，則$\overline{A}=(\overline{a_{ij}})_{m\times{n}}$。實矩陣的共軛是其本身。根據複數共軛的運算率，可得矩陣的共軛具有如下性質：
  • $\overline{\overline{A}}=A$
  • $\overline{A+B}=\overline{A}+\overline{B}$
  • $\overline{kA}=\bar{k}\overline{A},k\in{C}$
  • $\overline{AB}=\bar{A}\bar{B}$
• 矩陣的共軛轉置
  矩陣的共軛轉置即先取共軛再轉置或先轉置再取共軛，即$A^H=\overline{(A^T)}=\Bigl(\overline{A}\Bigr)^T$。實矩陣的轉置是復矩陣的共軛轉置的特例。矩陣的共軛轉置具有如下性質：
  • $(A^{H})^H=A$
  • $(A^H)^T=(A^T)^H$
  • $\overline{A^H}=(\overline A)^H$
  • $(A+B)^H=A^H+B^H$
  • $(kA)^H=\overline{k}A^H,k\in{C}$
  • $(AB)^H=B^HA^H$
• Hermite矩陣（共軛對稱矩陣）
  若方陣A滿足$A^H=A$，則稱A是Hermite矩陣。實對稱矩陣是一種Hermite矩陣。

---

行列式的性質

設F爲一數域，給定正整數$n$，在$F$上可以構造出唯一的映射$F^{n\times n}\rightarrow F$滿足行列式第一公理和行列式第二公理。行列式的具體表達式可以使用置換或逆序數寫出，本文略去，具體可參考博客以及知乎。
設$A,B\in F^{n\times n}$，$k\in F$爲常數，根據置換或逆序數的性質可得行列式的如下性質：

• $det(A^T)=det(A)$
• $det(A^H)=\overline{det(A)}$
• $det(kA)=k^ndet(A)$
• 行列式的某一行（列）乘非零常數$k\in F$，則行列式的值變爲原來的$k$倍
• 互換行列式的兩行（或兩列），則行列式的值取負
• 行列式的某一行（列）加上另一行（列）的常數倍，行列式的值不變
• $det(AB)=det(A)det(B)$
  證：見分塊矩陣的初等變換。
• 若A是共軛對稱矩陣，則$det(A)\in R$
  證：因爲$det(A)=det(A^H)=\overline{det(A)}$，所以$det(A)$的虛部爲零，$det(A)\in R$。

設$A\in F^{m\times m},B\in F^{n\times n}$，則：

• 若A是對角矩陣或上（下）三角矩陣，則A的行列式是A的主對角元之積
• 拉普拉斯展開式一：$\begin{vmatrix} A&*\\O&B\end{vmatrix}=\begin{vmatrix}A&O\\*&B\end{vmatrix}=|A||B|$
• 拉普拉斯展開式二：$\begin{vmatrix}O&A\\B&*\end{vmatrix}=\begin{vmatrix}*&A\\B&O\end{vmatrix}=(-1)^{mn}|A||B|$

---

方陣的跡及其性質

• 定義
  方陣A的跡$tr(A)$定義爲$A=(a_{ij})_{n\times n}$的主對角元之和，即$tr(A)=\sum_{i=1}^n a_{ii}$
• 性質
  • 設A、B均爲n階方陣，則$tr(A\pm{B)}=tr(A)\pm{}tr(B)$
  • $tr(cA)=ctr(A),c\in{F}$
  • $tr(A^T)=tr(A),tr(\bar{A})=tr(A^H)=\overline{tr(A)}$
    推論：$tr(A^TB)=tr(B^TA)=\sum_{i,j}A_{ij}B_{ij}$，其中A、B均爲$m\times{n}$矩陣
  • 設A爲$m\times{n}$矩陣，B爲$n\times{m}$矩陣，則$tr(AB)=tr(BA)=\sum_{i,j}A_{ij}B_{ji}$
  • 設A、B、C均爲$m\times{n}$矩陣，則$tr((A\odot{B})^TC)=tr(A^T(B\odot{C}))=\sum_{i,j}A_{ij}B_{ij}C_{ij}$式中$\odot{}$是逐元素乘法（Hadarmard積）
  • 設A、B、C均爲$m\times{n}$矩陣，$B$的所有元素均非零，則$tr((A\oslash B)^TC)=tr(A^T(C\oslash B))=\sum_{ij}\frac{A_{ij}C_{ij}}{B_{ij}}$式中$\oslash$是逐元素除法

---

逆矩陣

• 定義
  設$A\in F^{n\times n}$，若存在$B\in F^{n\times n}$使得$AB=BA=I$其中$I$是單位矩陣，則稱A是可逆的，B是A的逆矩陣，記爲$B=A^{-1}$。
• 定理：任意方陣的逆矩陣若存在則唯一
• 伴隨矩陣
  • n階$(n\geqslant{2})$方陣A的伴隨矩陣$A^*$定義爲：以$A_{ji}$爲(i,j)元素的n階方陣，其中$A_{ij}$是$A$的(i,j)元素$a_{ij}$的代數餘子式
  • 對任意n階$(n\geqslant{2})$方陣A，根據拉普拉斯展開式，有$AA^*=A^*A=det(A)I$成立
• 伴隨矩陣的性質（設$A,B\in F^{n\times n},n\geqslant 2$）
  • $(kA)^*=k^{n-1}A^*,k\in{F}$
  • $|A^*|=|A|^{n-1}$
  • $(A^*)^*=|A|^{n-2}A$
  • $(A^*)^T=(A^T)^*$
  • $(A^*)^H=(A^H)^*$
  • $(AB)^*=B^*A^*$
• 方陣可逆的充要條件
  • （行列式判定）n階方陣$A=(a_{ij})_{n\times{n}}$可逆的充要條件是$det(A)\neq0$，A的逆矩陣爲$A^{-1}=\begin{cases}\frac{A^*}{det(A)}&n\geqslant{2}\\(a_{11}^{-1})_{1\times{1}}&n=1\end{cases}$
  • n階方陣$A=(a_{ij})_{n\times{n}}$可逆的充要條件是存在$B$使得$AB=I$
    證：
    必要性：若$A$可逆，顯然取$B=A^{-1}$就有$AB=I$。
    充分性：若存在$B$使得$AB=I$，則由$det(AB)=det(A)det(B)=det(I)=1$知$det(A)\neq 0$（否則的話就有$det(AB)=0$與$det(AB)=1$矛盾），故由行列式判定知$A$可逆。（此時若用$A^{-1}$左乘$AB=I$，就得到$B=A^{-1}$，即這裏的$B$只能是$A^{-1}$）
    【注1】該結論可以看做是逆矩陣的定義的弱化。本來逆矩陣要求$AB=I$且$BA=I$，但該結論說明只要$AB=I$就夠了（同理可知如果滿足$BA=I$也可推出$A$可逆且$B=A^{-1}$）。
    【注2】該結論的一個等價結論是“已知同階方陣$A,B$，若$AB=I$，則$BA=I$”。
• 逆矩陣的性質
  設$A,B\in F^{n\times n}$：
  • $(A^{-1})^{-1}=A$
  • $(A^T)^{-1}=(A^{-1})^T$
  • $(A^H)^{-1}=(A^{-1})^H$
  • $(kA)^{-1}=\frac{1}{k}A^{-1},0\neq k\in F$
  • $(A^n)^{-1}=(A^{-1})^n$
  • $(A^*)^{-1}=(A^{-1})^*=\frac{A}{|A|}$（$n\geqslant 2$）
  • $(AB)^{-1}=B^{-1}A^{-1}$
• 特殊矩陣的逆矩陣
  • 若對角矩陣$\Sigma=\begin{bmatrix}\lambda_1&\quad\\\quad&\ddots&\quad\\\quad&\quad&\lambda_n\end{bmatrix}$可逆，則其逆矩陣爲$\Sigma^{-1}=\begin{bmatrix}\lambda_1^{-1}&\quad\\\quad&\ddots&\quad\\\quad&\quad&\lambda_n^{-1}\end{bmatrix}$。
  • 若上三角方陣可逆，則其逆矩陣爲上三角方陣
  • 若下三角方陣可逆，則其逆矩陣爲下三角方陣

關於逆矩陣的一個常用公式

• 定理：設$A\in C^{m\times m},U\in C^{m\times p},B\in C^{p\times q},V\in C^{q\times m}$。若$A$可逆，則$A+UBV$可逆的充要條件爲$I_p+BVA^{-1}U$可逆，且$(A+UBV)^{-1}=A^{-1}-A^{-1}U(I_p+BVA^{-1}U)^{-1}BVA^{-1}$
  證明：（該定理的證明需要用到特徵值的相關結論，若這塊不熟悉可先跳過，特徵值相關可參考矩陣論（零）：線性代數基礎知識整理（5）——特徵值與相似）
  由$A$可逆以及$A+UBV=A(I_m+A^{-1}UBV)$知，$A+UBV$可逆的充要條件爲$I_m+A^{-1}UBV$可逆。令$M=A^{-1}U,N=BV$，由$MN$與$NM$有相同的非零特徵值可知，$I_m+MN$可逆$\iff$$-1$不是$MN$的特徵值$\iff$$-1$不是$NM$的特徵值$\iff$$I_p+NM$可逆。這就證明了$A+UBV$可逆的充要條件爲$I_p+BVA^{-1}U$可逆。利用逆矩陣的定義容易驗證公式$(A+UBV)^{-1}=A^{-1}-A^{-1}U(I+BVA^{-1}U)^{-1}BVA^{-1}$的正確性。證畢。

該定理的如下推論較常見：

• 推論1（Woodbury恆等式）：設$A\in C^{m\times m},U\in C^{m\times n},B\in C^{n\times n},V\in C^{n\times m}$。若$A,B$可逆，則$A+UBV$可逆的充要條件爲$B^{-1}+VA^{-1}U$可逆，且$(A+UBV)^{-1}=A^{-1}-A^{-1}U(B^{-1}+VA^{-1}U)^{-1}VA^{-1}$
  證：顯然該定理是上面的定理當$B$取可逆方陣時的特殊情形。由於$B$可逆且$I_n+BVA^{-1}U=B(B^{-1}+VA^{-1}U)$，故$A+UBV$可逆的充要條件爲$B^{-1}+VA^{-1}U$可逆。$(A+UBV)^{-1}=A^{-1}-A^{-1}U(I_p+BVA^{-1}U)^{-1}(B^{-1})^{-1}VA^{-1}=A^{-1}-A^{-1}U(B^{-1}+VA^{-1}U)^{-1}VA^{-1}$。
• 推論2（Sherman-Morrison定理）：設$A\in C^{n\times n}$可逆，$u,v\in C^n,b\in C$，則$A+buv^T$可逆的充要條件爲$1+bv^TA^{-1}u\neq 0$，且$(A+buv^T)^{-1}=A^{-1}-\frac{bA^{-1}uv^TA^{-1}}{1+bv^TA^{-1}u}$
  證：顯然該定理是上面的定理當$B$取$1\times 1$矩陣（即標量）時的特殊情形。證明略。
• 推論3：設$A\in C^{n\times n}$可逆，$u,v\in C^n$，則$A+uv^T$可逆的充要條件爲$1+v^TA^{-1}u\neq 0$，且$(A+uv^T)^{-1}=A^{-1}-\frac{A^{-1}uv^TA^{-1}}{1+v^TA^{-1}u}$
  證明：該定理是推論2當$b$取1時的特殊情形。證明略。

【注】上述諸結論是在複數域下給出的，然而，可以看出既然在複數域下證明了這些結論，那麼其他數域下結論也成立。上述推論2和推論3由於結論更弱，有更簡便的證法，感興趣的讀者可自行研究。下面提供推論2的一個簡單證法作爲參考。

• 推論2的簡單證法
  證：
  充分性：若$1+bv^TA^{-1}u\neq 0$，驗證$(A+buv^T)(A^{-1}-\frac{bA^{-1}uv^TA^{-1}}{1+bv^TA^{-1}u})=I$即可。
  必要性：注意由$A+buv^T=(I+buv^TA^{-1})A$可推出$I+buv^TA^{-1}$可逆。假設$1+bv^TA^{-1}u=0$，則$(I+buv^TA^{-1})u=u+buv^TA^{-1}u=u-u=0$。注意$1+bv^TA^{-1}u=0$確保$u\neq 0$。這說明齊次線性方程組$(I+buv^TA^{-1})x=0$有非零解，這與$I+buv^TA^{-1}$可逆是矛盾的。因此假設不成立，得證。

---

初等變換與矩陣的秩

行最簡形和列最簡形

• 矩陣A稱爲行最簡形，若A的所有非零行都在零行的上面，A的每個非零行的首非零元是1，其列號隨行號嚴格單調遞增，且其所在列的其他元素均爲零。
• 矩陣A稱爲列最簡形，若A的所有非零列都在零列的左面，A的每個非零列的首非零元是1，其行號隨列號嚴格單調遞增，且其所在行的其他元素均爲零。

初等變換

初等行（列）變換有三種：

• 行（列）互換變換：互換矩陣的第i行（列）和第j行（列），$i\neq j$
• 行（列）倍乘變換：用非零常數$k\in F$乘矩陣的某一行（列）的每個元素
• 行（列）倍加變換：將矩陣的第i行（列）的k倍$(k\in{F})$加到第j行（列），$i\neq j$

初等行變換和初等列變換統稱爲初等變換。

初等矩陣

• 定義：對單位矩陣只作1次初等行（列）變換得到的矩陣稱爲初等矩陣，初等矩陣也有三種，對應分別爲互換初等矩陣、倍乘初等矩陣、倍加初等矩陣
  【注】初等矩陣都是可逆的
• 定理：設$A\in F^{m\times{n}}$，對A施行1次初等行變換，其結果等同於給A的左邊乘上一個相應的m階初等矩陣（對單位矩陣施行1次相同的初等行變換得到的矩陣）；對A施行1次初等列變換，其結果等同於給A的右邊乘上一個相應的n階初等矩陣（對單位矩陣施行1次相同的初等列變換得到的矩陣）
• 定理：（可逆矩陣與初等矩陣的關係）方陣A是可逆矩陣的充要條件是A可以寫成若干初等矩陣的積
• 定理：任意矩陣A可通過有限次初等行變換化爲唯一的一個行最簡形，稱爲A的行最簡形；也可通過有限次初等列變換化爲唯一的一個列最簡形，稱爲A的列最簡形；即存在可逆矩陣P、Q使得PA是A的行最簡形，AQ是A的列最簡形

行等價與列等價

• 定義：若矩陣A可經過若干次初等行（列）變換得到矩陣B，則稱A與B行（列）等價
• 定義：若矩陣A可經過若干次初等變換得到矩陣B，則稱A與B等價
• 定理：A與B行等價的充要條件爲存在可逆矩陣P使得$PA=B$；A與B列等價的充要條件爲存在可逆矩陣Q使得$A=BQ$；A與B等價的充要條件爲存在可逆矩陣P和Q使得$PAQ=B$
  證：由可逆矩陣的充要條件是其可被寫成若干初等矩陣的積即證。

矩陣的秩及其性質

• 定義：矩陣A的最高階非零子式的階數稱爲A的秩，記爲r(A)或rank(A)；當A沒有非零子式（即$A=O$）時，定義$r(A)=0$
• 定理：$r(A^H)=r(A^T)=r(A)$
• 定義：設$A\in F^{m\times n}$，若$r(A)=n$，則稱A是列滿秩矩陣；若$r(A)=m$，則稱A是行滿秩矩陣；若$r(A)=m=n$，則稱A是滿秩方陣，顯然滿秩方陣就是可逆矩陣
• 定理：初等行（列）變換不改變矩陣的秩
• 定理：$r(PA)=r(AQ)=r(A)$，其中P、Q是可逆矩陣
  證：可逆矩陣可寫成若干初等矩陣的積，故$PA$相當於對$A$做若干次初等行變換，$AQ$相當於對$A$做若干次初等列變換，又因爲初等變換不改變矩陣的秩，故結論成立。
• 定義：設$A\in F^{m\times{n}},r(A)=r$，A的秩標準形（又稱等價標準形、相抵標準形）定義爲$\begin{bmatrix}I_r&O\\O&O\end{bmatrix}$
• 定理：（等價標準形定理/相抵標準形定理/秩標準形定理）任意秩爲r的矩陣A可經有限次初等變換化爲A的秩標準形；即存在可逆矩陣P、Q使得$PAQ=\begin{bmatrix}I_r&O\\O&O\end{bmatrix}$
• 定理：列滿秩矩陣可經有限次初等行變換化爲它的秩標準形，行滿秩矩陣可經有限次初等列變換化爲它的秩標準形
• 定理：同型矩陣$A$與$B$等價的充要條件爲$r(A)=r(B)=r$
  【注】所謂同型矩陣就是指兩個矩陣的大小（或規格）一樣，即若$A$是$m\times n$的，則$B$也是$m\times n$的。
  證：
  充分性顯然。
  必要性：由秩標準形定理，存在可逆矩陣$P_1,Q_1,P_2,Q_2$使得$P_1AQ_1=P_2BQ_2=\begin{bmatrix}I_r&O\\O&O\end{bmatrix}$，故$(P_2^{-1}P_1)A(Q_1Q_2^{-1})=B$，即A與B等價。
• 可逆方陣A求逆的方法：對$\begin{bmatrix}I&A\end{bmatrix}$進行初等行變換把A化成單位矩陣，則單位矩陣$I$就被自然地化成了$A^{-1}$。
  分析：設$\begin{bmatrix}I&A\end{bmatrix}$經上述變換得到的結果爲$\begin{bmatrix}B&I\end{bmatrix}$。存在可逆矩陣P使得$P\begin{bmatrix}I&A\end{bmatrix}=\begin{bmatrix}B&I\end{bmatrix}$，即$P=B$且$PA=I$，故$B=P=A^{-1}$，即原本的單位矩陣$I$自然地化成了$A^{-1}$。
• 定理：$r(BA)=r(AC)=r(A)$，其中B是列滿秩矩陣，C是行滿秩矩陣
  證：
  由B列滿秩，C行滿秩知，存在可逆矩陣P，Q使得$PB=\begin{bmatrix}I\\O\end{bmatrix},CQ=\begin{bmatrix}I&O\end{bmatrix}$，故$r(BA)=r(P^{-1}\begin{bmatrix}I\\O\end{bmatrix}A)=r(\begin{bmatrix}A\\O\end{bmatrix})=r(A)$，$r(AC)=r(A\begin{bmatrix}I&O\end{bmatrix}Q^{-1})=r(\begin{bmatrix}A&O\end{bmatrix})=r(A)$。

分塊矩陣的初等變換

分塊矩陣是研究矩陣必不可少的工具，要想深入學習線性代數和矩陣論，一方面要學好線性空間與線性算子，另一方面要學好分塊矩陣。一些較爲深入的結論，有時從線性空間角度看更直觀，有時從分塊矩陣的角度看更直觀。分塊矩陣的基本運算請參考線性代數（四）-矩陣分塊法。
分塊矩陣的初等變換，又稱廣義初等變換，可以用來解決一些較爲深入的秩的定理，還在相似、合同理論中有重要的應用。
所謂分塊矩陣的初等變換，實際上是對分塊矩陣進行多次初等變換，使結果整體上來看相當於變換的是矩陣的子塊。下面看一個例子：

• 定理：設$A\in F^{m\times n}$按行分塊爲$A=\begin{bmatrix}B\\C\end{bmatrix}$，其中$B\in F^{m_1\times n},C\in F^{m_2\times n},m_1+m_2=m$，矩陣$D\in F^{m_2\times m_1}$。則可對$A$進行若干次初等行變換（具體地，行倍加變換），使其變爲$\begin{bmatrix}B\\C+DB\end{bmatrix}$
  證：
  注意到$C+DB$的第i行爲$c_i+d_iB=c_i+\sum_{j=1}^{m_1}d_{ij}b_j$，其中$c_i,d_i$分別是$C,D$的第i行，$b_j$是$B$的第j行。於是只要依次將$B$的第1行的$d_{i1}$倍、第2行的$d_{i2}$倍、……、第$m_1$行的$d_{im_1}$倍加到$C$的第i行，就將$C$的第i行變成了$C+DB$的第i行。對$i=1,2,...,m_2$依次實施上述的一系列行倍加變換，就將$A$變成了$\begin{bmatrix}B\\C+DB\end{bmatrix}$。

上面這個例子中，通過多次的初等行倍加變換，將$A$的子塊$C$變成了$C+DB$，即加上了$A$的另一個子塊$B$的$D$倍（注意$D$是乘在左邊的），而這個“倍數”$D$是沒有限制的，這個$D$無論怎麼取，都能夠找到上述一系列初等行倍加變換以完成子塊$C$的整體變換。這種“神奇”的技巧在理論分析時很有用，尤其是當你可以用這個技巧把矩陣的某個子塊變成零矩陣時，能大大降低計算的難度。通過初等變換把一個矩陣的某個子塊變成零矩陣的技術被稱作分塊消元法，俗稱矩陣打洞術。（聽說數學家華羅庚和他的學生就十分擅長這類技巧）

我們已經知道對矩陣實施一次初等行變換與在其左邊乘相應的初等矩陣的效果是等同的，如果進行一系列初等行變換，那麼就相當於在左邊乘一個可逆矩陣，那麼上述例子中對應的可逆矩陣是什麼呢？

實際上，設對某矩陣$A$進行共$k$次初等行變換，得到矩陣$G$，變換對應的初等矩陣分別爲$P_1,P_2,...,P_k$，則$P_kP_{k-1}...P_1A=G$，即對應在$A$的左邊乘了個可逆矩陣$P=P_kP_{k-1}...P_1$。而$P_kP_{k-1}...P_1=P_kP_{k-1}...P_1I$，所以可逆矩陣$P$實際上就是對單位矩陣也實施同樣的$k$次初等行變換的結果。
據此，上述例子中對應的可逆矩陣就應是$\begin{bmatrix}E_{m_1}&O\\D&E_{m_2}\end{bmatrix}$（可以這樣想：對$\begin{bmatrix}B\\C\end{bmatrix}$實施一系列初等行變換後得到的是$\begin{bmatrix}B\\C+DB\end{bmatrix}$，效果就是給$C$加上了$B$的$D$倍，那麼對單位矩陣$\begin{bmatrix}E_{m_1}&O\\O&E_{m_2}\end{bmatrix}$實施相同的初等行變換後，效果應該是相同的，即給$\begin{bmatrix}O&E_{m_2}\end{bmatrix}$加上$\begin{bmatrix}E_{m_1}&O\end{bmatrix}$的$D$倍，於是得到$\begin{bmatrix}E_{m_1}&O\\D&E_{m_2}\end{bmatrix}$）。驗證一下，根據行列式的拉普拉斯展開式，$\begin{bmatrix}E_{m_1}&O\\D&E_{m_2}\end{bmatrix}$確實是一個可逆矩陣，根據分塊矩陣乘法，$\begin{bmatrix}E_{m_1}&O\\D&E_{m_2}\end{bmatrix}\begin{bmatrix}B\\C\end{bmatrix}=\begin{bmatrix}B\\C+DB\end{bmatrix}$確實成立。

前面說過三種初等行（列）變換對應三種初等矩陣，類比一下，對分塊矩陣實施三種分塊行初等變換就對應於在原矩陣的左邊乘三種分塊初等矩陣，類似地，對分塊矩陣實施三種分塊列初等變換就對應於在原矩陣的右邊乘三種分塊初等矩陣。

三種分塊初等矩陣是指（爲簡單起見，以下只給出了四分塊的情形）：
分塊倍加陣$\begin{bmatrix}E_{m_1}&O\\C&E_{m_2}\end{bmatrix}$或$\begin{bmatrix}E_{m_1}&C\\O&E_{m_2}\end{bmatrix}$；
分塊倍乘陣$\begin{bmatrix}C&O\\O&E\end{bmatrix}$或$\begin{bmatrix}E&O\\O&C\end{bmatrix}$，其中$C$可逆；
分塊互換陣$\begin{bmatrix}O&E_{m_2}&\\E_{m_1}&O\end{bmatrix}$。
【注】分塊初等矩陣並不是初等矩陣，初等矩陣是單位矩陣進行一次初等變換得到的，而分塊初等矩陣需要單位矩陣經過多次初等變換才能得到

分塊行初等變換：

• 分塊行倍加變換：$\begin{bmatrix}E_{m_1}&O\\C&E_{m_2}\end{bmatrix}\begin{bmatrix}A_{m_1\times n}\\B_{m_2\times n}\end{bmatrix}=\begin{bmatrix}A\\B+CA\end{bmatrix}$
  （相當於給$B$加上了$A$的$C$倍，注意“倍數”$C$乘在了$A$的左邊）
• 分塊行倍乘變換：$\begin{bmatrix}C&O\\O&E\end{bmatrix}\begin{bmatrix}A\\B\end{bmatrix}=\begin{bmatrix}CA\\B\end{bmatrix}$，其中$C$是可逆的
  （相當於給$A$乘上了$C$倍，注意“倍數”$C$乘在了$A$的左邊）
• 分塊行互換變換：$\begin{bmatrix}O&E_{m_2}&\\E_{m_1}&O\end{bmatrix}\begin{bmatrix}A_{m_1\times n}\\B_{m_2\times n}\end{bmatrix}=\begin{bmatrix}B\\A\end{bmatrix}$
  （相當於把子塊$A$和$B$交換了一下）

分塊列初等變換：

• 分塊列倍加變換：$\begin{bmatrix}A_{n\times m_1}&B_{n\times m_2}\end{bmatrix}\begin{bmatrix}E_{m_1}&O\\C&E_{m_2}\end{bmatrix}=\begin{bmatrix}A+BC&B\end{bmatrix}$
  （相當於給$A$加上了$B$的$C$倍，注意“倍數”$C$乘在了$B$的右邊）
• 分塊列倍乘變換：$\begin{bmatrix}A_{n\times m_1}&B_{n\times m_2}\end{bmatrix}\begin{bmatrix}C&O\\O&E_{m_2}\end{bmatrix}=\begin{bmatrix}AC&B\end{bmatrix}$，其中$C$是可逆的
  （相當於給$A$乘上了$C$倍，注意“倍數”$C$乘在了$A$的右邊）
• 分塊列互換變換：$\begin{bmatrix}A_{n\times m_1}&B_{n\times m_2}\end{bmatrix}\begin{bmatrix}O&E_{m_2}&\\E_{m_1}&O\end{bmatrix}=\begin{bmatrix}B&A\end{bmatrix}$
  （相當於把子塊$A$和$B$交換了一下）

正如上面的定理指出的，一次分塊倍加變換可通過多次一般的倍加變換完成。一次分塊互換變換也可通過多次一般的互換變換完成。但是一次分塊倍乘變換不一定可由多次一般的倍乘變換完成，而是在同一個子塊內靈活地運用三種初等變換，關於這一點讀者可自行研究。因爲分塊初等變換實際上不過是執行了多次一般的初等變換而已，所以分塊初等變換均不改變矩陣的秩。此外，分塊倍加變換不改變矩陣的行列式的值。

矩陣打洞技巧

這裏列舉幾個常常碰到的矩陣打洞的情形，具體的用法請參考後文以及後面的博客。（以分塊行初等變換爲例）

• $\begin{bmatrix}B\\AB\end{bmatrix}$：給子塊$AB$加上子塊$B$的$-A$倍，就能把$AB$消掉。$\begin{bmatrix}E&O\\-A&E\end{bmatrix}\begin{bmatrix}B\\AB\end{bmatrix}=\begin{bmatrix}B\\O\end{bmatrix}$
• $\begin{bmatrix}A\\B\end{bmatrix}$：如果$A$可逆，則無論$B$是什麼都能消掉$B$。$\begin{bmatrix}E&O\\-BA^{-1}&E\end{bmatrix}\begin{bmatrix}A\\B\end{bmatrix}=\begin{bmatrix}A\\O\end{bmatrix}$

暫時這兩個，想到不一樣的再補充~~

方陣乘積的行列式公式

• 定理：設$A,B\in F^{n\times n}$，則$det(AB)=det(A)det(B)$
  證：
  對分塊矩陣做如下初等變換：$\begin{bmatrix}AB&O\\O&I_n\end{bmatrix}\overset{\text{行倍加}}{\rightarrow}\begin{bmatrix}AB&A\\O&I_n\end{bmatrix}\overset{\text{列倍加}}{\rightarrow}\begin{bmatrix}O&A\\-B&I_n\end{bmatrix}$因爲倍加變換不改變行列式的值，所以應用拉普拉斯公式就有$det(AB)=det\begin{bmatrix}AB&O\\O&I_n\end{bmatrix}=det\begin{bmatrix}O&A\\-B&I_n\end{bmatrix}\\=(-1)^{n^2}det(A)det(-B)=det(A)det(B)$

分塊矩陣的逆

分塊初等矩陣的逆：

• $\begin{bmatrix}E_{m_1}&O\\C&E_{m_2}\end{bmatrix}^{-1}=\begin{bmatrix}E_{m_1}&O\\-C&E_{m_2}\end{bmatrix}$
• $\begin{bmatrix}C&O\\O&E_{m_2}\end{bmatrix}^{-1}=\begin{bmatrix}C^{-1}&O\\O&E_{m_2}\end{bmatrix}$，其中$C$可逆
• $\begin{bmatrix}O&E_{m_2}&\\E_{m_1}&O\end{bmatrix}^{-1}=\begin{bmatrix}O&E_{m_1}&\\E_{m_2}&O\end{bmatrix}$

分塊矩陣的逆的一般公式由以下結論導出：

• 定理：設$A\in F^{m\times m}$可逆，$D\in F^{n\times n}$，則$\begin{bmatrix}A&B\\C&D\end{bmatrix}$可逆的充要條件爲$M=D-CA^{-1}B$可逆，且$\begin{bmatrix}A&B\\C&D\end{bmatrix}^{-1}=\begin{bmatrix}A^{-1}+A^{-1}DM^{-1}CA^{-1}&-A^{-1}DM^{-1}\\-M^{-1}CA^{-1}&M^{-1}\end{bmatrix}$
  證：
  $\begin{bmatrix}A&B\\C&D\end{bmatrix}\overset{\text{行倍加}}{\rightarrow}\begin{bmatrix}A&B\\O&D-CA^{-1}B\end{bmatrix}\overset{\text{列倍加}}{\rightarrow}\begin{bmatrix}A&O\\O&D-CA^{-1}B\end{bmatrix}$由倍加變換不改變行列式的值，得$det\begin{bmatrix}A&B\\C&D\end{bmatrix}=det\begin{bmatrix}A&O\\O&D-CA^{-1}B\end{bmatrix}=det(A)det(M)$故$det\begin{bmatrix}A&B\\C&D\end{bmatrix}\neq 0$的充要條件爲$det(M)\neq 0$，得證。
  將上述初等變換用分塊初等矩陣寫出就是$\begin{bmatrix}E_{m}&O\\-CA^{-1}&E_{n}\end{bmatrix}\begin{bmatrix}A&B\\C&D\end{bmatrix}\begin{bmatrix}E_{m}&-A^{-1}B\\O&E_{n}\end{bmatrix}=\begin{bmatrix}A&O\\O&M\end{bmatrix}$於是$\begin{aligned}\begin{bmatrix}A&B\\C&D\end{bmatrix}^{-1}&=\left(\begin{bmatrix}E_{m}&O\\-CA^{-1}&E_{n}\end{bmatrix}^{-1}\begin{bmatrix}A&O\\O&M\end{bmatrix}\begin{bmatrix}E_{m}&-A^{-1}B\\O&E_{n}\end{bmatrix}^{-1}\right)^{-1}\\&=\begin{bmatrix}E_{m}&-A^{-1}B\\O&E_{n}\end{bmatrix}\begin{bmatrix}A^{-1}&O\\O&M^{-1}\end{bmatrix}\begin{bmatrix}E_{m}&O\\-CA^{-1}&E_{n}\end{bmatrix}\\&=\begin{bmatrix}A^{-1}+A^{-1}BM^{-1}CA^{-1}&-A^{-1}BM^{-1}\\-M^{-1}CA^{-1}&M^{-1}\end{bmatrix}\end{aligned}$可以使用逆矩陣的定義驗證一下上式是否正確。

同理可得

• 定理：設$D\in F^{n\times n}$可逆，$A\in F^{m\times m}$，則$\begin{bmatrix}A&B\\C&D\end{bmatrix}$可逆的充要條件爲$M=A-BD^{-1}C$可逆，且$\begin{bmatrix}A&B\\C&D\end{bmatrix}^{-1}=\begin{bmatrix}M^{-1}&-M^{-1}BD^{-1}\\-D^{-1}CM^{-1}&D^{-1}+D^{-1}CM^{-1}BD^{-1}\end{bmatrix}$
• 定理：設$B\in F^{m\times m}$可逆，$C\in F^{n\times n}$，則$\begin{bmatrix}A&B\\C&D\end{bmatrix}$可逆的充要條件爲$M=C-DB^{-1}A$可逆，且$\begin{bmatrix}A&B\\C&D\end{bmatrix}^{-1}=\begin{bmatrix}-M^{-1}DB^{-1}&M^{-1}\\B^{-1}+B^{-1}AM^{-1}DB^{-1}&-B^{-1}AM^{-1}\end{bmatrix}$
• 定理：設$C\in F^{n\times n}$可逆，$B\in F^{m\times m}$，則$\begin{bmatrix}A&B\\C&D\end{bmatrix}$可逆的充要條件爲$M=B-AC^{-1}D$可逆，且$\begin{bmatrix}A&B\\C&D\end{bmatrix}^{-1}=\begin{bmatrix}-C^{-1}DM^{-1}&C^{-1}+C^{-1}DM^{-1}AC^{-1}\\M^{-1}&-M^{-1}AC^{-1}\end{bmatrix}$

分塊矩陣的秩

分塊矩陣是研究矩陣的秩的重要工具，從分塊矩陣的視角證明秩的結論往往非常簡便。這裏先給出一些基本結論：

• 定理：$r\begin{bmatrix}A&O\\O&B\end{bmatrix}=r\begin{bmatrix}O&A\\B&O\end{bmatrix}=r(A)+r(B)$，其中A，B是任意大小的矩陣
  證：（以$r\begin{bmatrix}A&O\\O&B\end{bmatrix}=r(A)+r(B)$爲例）
  由矩陣的秩的定義，A，B中最高階非零子式的階數分別爲$r(A),r(B)$，分別設這兩個子式爲$|A_1|,|B_1|$，則$\begin{vmatrix}A_1&O\\O&B_1\end{vmatrix}$是$\begin{bmatrix}A&O\\O&B\end{bmatrix}$的一個非零子式，故它的秩至少爲r(A)+r(B)。顯然任意階數大於r(A)+r(B)的子式也具有$\begin{vmatrix}A_2&O\\O&B_2\end{vmatrix}$的形式（其中$A_2$，$B_2$的階數有可能爲零），且要麼$A_2$的階數大於$r(A)$，要麼$B_2$的階數大於$r(B)$，即$det(A_2)=0$或$det(B_2)=0$，故由拉普拉斯展開式得$\begin{vmatrix}A_2&O\\O&B_2\end{vmatrix}=det(A_2)det(B_2)=0$，這就證明了$r\begin{bmatrix}A&O\\O&B\end{bmatrix}=r(A)+r(B)$。
• 定理：$r\begin{bmatrix}A&O\\O&B\end{bmatrix}\leqslant r\begin{bmatrix}A&O\\*&B\end{bmatrix}$，$r\begin{bmatrix}A&O\\O&B\end{bmatrix}\leqslant r\begin{bmatrix}A&*\\O&B\end{bmatrix}$
  證：（以$r\begin{bmatrix}A&O\\O&B\end{bmatrix}\leqslant r\begin{bmatrix}A&O\\*&B\end{bmatrix}$爲例）
  由拉普拉斯展開式知，$\begin{bmatrix}A&O\\O&B\end{bmatrix}$的一個最高階非零子式$\begin{vmatrix}A_1&O\\O&B_1\end{vmatrix}$對應於$\begin{bmatrix}A&O\\*&B\end{bmatrix}$中的子式$\begin{vmatrix}A_1&O\\*&B_1\end{vmatrix}$也非零，故結論成立。
• 定理：$r\begin{bmatrix}O&A\\B&O\end{bmatrix}\leqslant r\begin{bmatrix}O&A\\B&*\end{bmatrix}$，$r\begin{bmatrix}O&A\\B&O\end{bmatrix}\leqslant r\begin{bmatrix}*&A\\B&O\end{bmatrix}$
  證：與上同理。

---

滿秩分解

• 定義：設矩陣$A\in{F^{m\times{n}}_r}$（即A是秩爲r的$m\times{n}$矩陣），若存在列滿秩矩陣$K\in{F^{m\times{r}}_r}$和行滿秩矩陣$L\in{F^{r\times{n}}_r}$使得$A=KL$，則稱$A=KL$是A的一個滿秩分解
• 定理：設矩陣$A\in{F^{m\times{n}}_r}$，若$r\gt{0}$，則A的滿秩分解必存在
  證明：
  由相抵標準形定理，存在m階可逆矩陣P和n階可逆矩陣Q使得$PAQ=\begin{bmatrix}I_r&O\\O&O\end{bmatrix}$，則$A=P^{-1}\begin{bmatrix}I_r&O\\O&O\end{bmatrix}Q^{-1}=P^{-1}\begin{bmatrix}I_r\\O\end{bmatrix}\begin{bmatrix}I_r&O\end{bmatrix}Q^{-1}$。設$K=P^{-1}\begin{bmatrix}I_r\\O\end{bmatrix}$，$L=\begin{bmatrix}I_r&O\end{bmatrix}Q^{-1}$，則K是列滿秩矩陣，L是行滿秩矩陣，且$A=KL$，故$A=KL$是A的一個滿秩分解。得證。
• 滿秩分解的快速算法
  設$A=\begin{bmatrix}a_1&a_2&\cdots&a_n\end{bmatrix}\in{F^{m\times{n}}_r},r\gt{0}$的行最簡形的前r行構成的矩陣爲L，L的第i行的首非零元在L的第$j_i$列，設$K=\begin{bmatrix}a_{j_1}&&a_{j_2}&\cdots&a_{j_r}\end{bmatrix}$，則$A=KL$是A的一個滿秩分解。
  證明：
  存在可逆矩陣P、Q使得$PA$是A的行最簡形，且$PAQ=\begin{bmatrix}I_r&O\\O&O\end{bmatrix}$。由於$PA=\begin{bmatrix}I_r&O\\O&O\end{bmatrix}Q^{-1}=\begin{bmatrix}\begin{bmatrix}I_r&O\end{bmatrix}Q^{-1}\\O\end{bmatrix}$，所以$L=\begin{bmatrix}I_r&O\end{bmatrix}Q^{-1}$，顯然L是行滿秩的。設$e_1,e_2,...,e_n\in F^n$，其中$e_i$是第i個標準向量，$e_i$的第$i$個元素爲1，其他元素爲零。設$Z=\begin{bmatrix}e_{j_1}&e_{j_2}\cdots&e_{j_r}\end{bmatrix}$，由行最簡形的定義易知$PAZ=\begin{bmatrix}I_r\\O\end{bmatrix}$，故$AZ=P^{-1}\begin{bmatrix}I_r\\O\end{bmatrix}$。由矩陣K的定義知$K=AZ$，故實際上$K=P^{-1}\begin{bmatrix}I_r\\O\end{bmatrix}$，且K是列滿秩的。因爲$KL=P^{-1}\begin{bmatrix}I_r\\O\end{bmatrix}\begin{bmatrix}I_r&O\end{bmatrix}Q^{-1}=P^{-1}\begin{bmatrix}I_r&O\\O&O\end{bmatrix}Q^{-1}=A$，故$A=KL$是A的一個滿秩分解。
  【注】上述定理說明，滿秩分解無需求出可逆矩陣P和Q，只需對A進行初等行變換化爲行最簡形，利用A的行最簡形和A本身就能得出結果。