求解Ax=0：主變量，特解-線性代數課時7（MIT Linear Algebra , Gilbert Strang）

這是Strang教授的第七講，這節課是一個轉折，它從定義轉向算法，這節課主要內容是求解矩陣的零空間，通過一個例子講解了通過消元法求解Ax=0，並在貫通例子的過程中介紹了幾個新的概念：特解、主變量、自由變量、主列、自由列、階梯矩陣U和簡化的行階梯形式，另外講解了矩陣秩的概念。

特解

第6講（列空間和零空間-線性代數課時6（MIT Linear Algebra , Gilbert Strang））介紹零空間時，雖然沒給出求解矩陣A零空間的過程，但我們直接給出了例子中矩陣A的特解：

$A=\begin{bmatrix} 1 & 1 & 2\\ 2& 1 & 3\\ 3 &1 & 4\\ 4 & 1 &5 \end{bmatrix}$ ， $N(A):c\begin{bmatrix} 1\\ 1\\ -1 \end{bmatrix}$

並指出是過原點的一條直線，上面表達式給出的向量（1,1,-1）就是特解，特解是從解直線上取的一點，由原點指向它的向量，直線上任意取一點除了原點都能當做特解。

有了特解的概念，那麼A的零空間可以這樣描述（書中原話）：

The nullspace consists of all combinations of the special solutions.

通過消元法求解Ax=0

舉例說明求解Ax=0的消元算法，首先，要說明消元過程不會改變方程組的解，所以不會改變，通過消元法求解Ax=0求解N(A)得到的結果是正確的，e.x:

$A=\begin{bmatrix} 1 & 2& 2 &2 \\ 2& 4 & 6 &8 \\ 3& 6 & 8 & 10 \end{bmatrix}\xrightarrow[row2-2row1]{row3-3row1}\begin{bmatrix} 1 &2 &2 &2 \\ 0& 0 &2 &4 \\ 0& 0 &2 & 4 \end{bmatrix}\overset{row3-row2}{\rightarrow}\begin{bmatrix} (1) &2 & 2 & 2\\ 0& 0 & (2) &4 \\ 0& 0 &0 &0 \end{bmatrix}$

上面消元得到的結果和前面講的方陣消元得到的結果有點不同，它是一個階梯形式的矩陣，叫做行階梯矩陣（Echelon Matrices）。上面消元之後得到的主元1和2在第一列和第三列，包含主元的列叫做主列，消元之後不包含主元的列叫做自由列，例子中是列2和列4。對於Ax=b的解的4個分量，A主列對應的分量叫做主變量，A自由列對應的分量叫做自由變量。

消元之後的方程Ux=0，通過回代求解x，發現2個方程4個未知數，方程和未知數的個數不對應，這裏怎麼回代呢？這裏回代的關鍵在於：自由變量可以隨意取值，然後自由變量取的值帶入方程回代求得主變量，從而求得特解，那麼有多少個特解呢？答案是和自由變量的個數相同，回代：

1.取自由變量回代求得Ux=0的一個特解：

$\begin{bmatrix} -2\\ 1\\ 0\\ 0 \end{bmatrix}$

2.取自由變量回代求得Ux=0的另外一個特解：

$\begin{bmatrix} 2\\ 0\\ -2\\ 1 \end{bmatrix}$

求得特解之後，怎樣給出x的整個解空間（也即），取所有特解的線性組合：

$c_1\begin{bmatrix} -2\\ 1\\ 0\\ 0 \end{bmatrix}+c_2\begin{bmatrix} 2\\ 0\\ -2\\ 1 \end{bmatrix}$

簡化的行階梯矩陣R

簡化的行階梯矩陣R很有用處，用它可以直接給出Ax=0的所有特解。R是在U的基礎上再通過向上消元將主元上方的元素也消掉，使得主元上下均爲0，接着上面的例子：

$U=\begin{bmatrix} (1)& 2 & 2 & 2\\ 0& 0 &(2) & 4\\ 0 & 0 &0 &0 \end{bmatrix}\overset{row1-row2}{\rightarrow}\begin{bmatrix} (1)& 2 & 0 & -2\\ 0& 0 &(2) & 4\\ 0 & 0 &0 &0 \end{bmatrix}\overset{row2/2}{\rightarrow}\begin{bmatrix} (1)& 2 & 0 & -2\\ 0& 0 &(1) & 2\\ 0 & 0 &0 &0 \end{bmatrix}$

這就是R，要說明的是Ax=0，Ux=0，Rx=0解是相同的。我們假設A的主列都在自由列的前面，那麼R將會有如下的一般形式：

$R=\begin{bmatrix} I &F \\ 0 &0 \end{bmatrix}$ ，假設R有r個主元，那麼R有r個主列，r個主行，n-r個自由列，m-r行0，通過R可以給出由Ax=0的特解作爲列向量的矩陣N，N叫做零空間矩陣（Nullspace matrix）的表達式：

$N=\begin{bmatrix} -F\\ I \end{bmatrix}$ ， $F:r\times (n-r),I:(n-r)\times(n-r)$ ,是一個 $n\times(n-r)$ 的矩陣，N的列向量空間就是A的零空間 .

驗證下上面的表達式是正確的，只需要驗證成立：

$RN=\begin{bmatrix} I &F \\ 0&0 \end{bmatrix}\begin{bmatrix} -F\\ I \end{bmatrix}=\begin{bmatrix} -IF+FI\\ 0 \end{bmatrix}=0$ 。

我們也可以正向推導一下，看看表達式的來由，假設:

$N=\begin{bmatrix} X_{pivots}\\ X_{frees} \end{bmatrix}$ , 那麼，

$RN=\begin{bmatrix} I &F \\ 0& 0 \end{bmatrix}\begin{bmatrix} X_{pivots}\\ X_{frees} \end{bmatrix}=\begin{bmatrix} X_{pivots}+FX_{frees}\\ 0 \end{bmatrix}=0$

使得上面的表達式要成立的條件是 $X_{pivots}+FX_{frees}=0$ ,所以 $X_{pivots}=-FX_{frees}$ ,因爲自由變量可以任意取值，那麼取 $X_{frees}=I$ ,則 $X_{pivots}=-F$ ，此時：

$N=\begin{bmatrix} -F\\ I \end{bmatrix}$ .上面的表達式就推導出來了。

矩陣的秩

矩陣的秩是一個十分重要的概念，它給出了矩陣A的真實大小。定義：

The rank of A is the number of pivots.This number is r.

矩陣的秩定義爲矩陣A主元的個數，比如說矩陣的秩爲1表情矩陣只有一個主元。

矩陣的秩r表明矩陣mxn的矩陣A只有r個線性無關的列向量和r個向量無關行向量。根據矩陣秩的定義，若矩陣A的秩爲r，那麼在解Ax=0的時候，有n-r個自由變量可以選取，特解的個數特使n-r.

本節課的內容對應《INTRODUCTION TO LINEAR ALGEBRA》3.2章節的後半部分和3.3章節。

求解Ax=0：主變量，特解-線性代數課時7（MIT Linear Algebra , Gilbert Strang）

特解

通過消元法求解Ax=0

簡化的行階梯矩陣R

矩陣的秩

美團一面：項目中有 10000 個 if else 如何優化？想了半天，被問懵了！

京東面試：如何進行JVM調優？

Python 將PowerPoint (PPT/PPTX) 轉爲HTML

SQL優化-20231016

SettingsProvider源碼分析（Android 9.0）

VS2013+OpenCV開源庫使用入門

Android 程序讀寫Office文件

Android資源管理框架

Power Supply 文件節點和電池服務屬性對照

https://yachay.unat.edu.pe/blog/index.php?comment_area=format_blog&comment_component=blog&comment_co

linux以太網驅動總結