線程代數
行列式
最近在看pca的算法，發現自己大學的時候線性代數都還給老師了，複習一下的
二階與三階行列式
二元線性方程組與二階行列式
就是想象二階行列式，空間兩個。 在字母的是 第一列和第二列的參數，後面的字母。
- 分別是空間第一個中最後一個，和取空間中第二個組合在一起。
- 剩下來的，又取在一起的
三階行列式
圖中有三條實現看做是平行於主對角線的連接，三條虛線看做是平行於虛對角線的連線，實際上實現上三個元素乘積冠以正號，虛線上三元素的乘積冠以負號。
全排列和對換
排列及其逆序數
把那個不同的元素排除一列，叫做這那個元素的全排列。 p=n*(n-1)*....*3*2*1=n!
對於那個不同的元素，先規定各元素之間有一個標準次序（例如那個不同的自然數，可規定從小到大爲標準次序）。
當某一對元素的先後次序與標準次序不同時，就說它構成1個逆序，一個行列中所有的逆序的總數叫做這個排列的逆序數。
逆序數爲奇數的排列叫做奇排列，逆序數爲偶數的排列叫做偶排列。
對換
在排列中，將任意兩個元素對調，其餘的元素不懂，這種做出新排列的手續叫做對換，
將相鄰兩個元素對換，叫做相鄰對換。
奇排列對緩存標準排列的對換次數爲奇數，偶排列對換成標準排序的對換次數爲偶數
n階行列式的定義
三階行列式定義爲 a11a22a33+a12a23a31+a13a21a32-a11a23a32-a12a21a33-a13a22a31
容易看出：
這個三個元素定位於不同的行、不同的列，因此，任一項出正負號外可以寫成a1p1a2p2a3p3.這裏第一個下標排成標準次序123，而第二個下標p1p2p3,它是1，2，3三個數的某個排列，這樣的排列共有6中，
- 帶正號排列是 123,231,312
- 帶負號排列是 132,213,321
前三個排列都是偶排列，而後三個排列都是奇排列。因此各項所帶的正負號可以表示爲(-1)^t,其中t爲列標排列的逆序數
n階行列式 det(aij)
簡記作 det(aij)，其中數 aij爲行列式 D 的(i，j)元.
主對角線以下(上)的元素都爲0的行列式叫做上(下)三角形行列式,特別，主對角以下和以上的元素都爲0的行列式叫做對角行列式。
行列式的性質
d^T稱爲行列式D的轉置行列式
性質1：行列式和它的轉置行列式相等
性質2：兌換行列式的兩行(列)，行列式變號
其中1…i…j…n爲標準排列，t爲排列p1..pi…pj…pn的逆序數，設排列p1..pj..pi..pn的逆序數爲t1，則(-1)^t=-(-1)^t1,故
D1=-D
推論：如果行列式有兩行(列)完全相同,則此行列式等於零
性質3:行列式中某一行(列)的所有元素的公因子可以提到行列式記號的外面
推論：行列式中某一行(列)的所有元素的公因子可以提到行列式記號的外面
性質4：行列式中如果有兩行(列)元素成正比例，則此行列式等於零
性質5：若行列式的某一行(列)的元素都是兩數之和。
d=|a1+b1,a2+b2,a3+b3…|=|a1,a2,a3|+|b1,b2,b3|
性質6:把行列式的某一行的各元素乘以同一數然後加到另一行(列)對應的元素上去，行列式不必拿
行列式按行(列)展開
在n階行列式中，把(i,j)元aij所在的第i行和第j列劃去後，留下來的n-1階行列式叫做(i,j)的元aij的餘子式
A32=(-1)^3+2M32=-M32
引理:一個n階行列式，如果其中第i行所有元素除了(i,j)元aij外都爲零，那麼這行列式等於aij與它的代數餘子式的乘積，即:
D=aijAij
定理2：行列式等於它的任一行(列)的各元素與其對應的代數餘子式乘積之和
這個定理叫做行列式按行(列)展開法則
推論：行列式某一行(列)的元素與另一行（列）的對應元素的代數餘子式乘積之和等於0
特別，當b1,b2…bn依次取爲D=det(aij)的第i行各元素是，上式扔成立，但此時因Dj中第j行和第i行兩個相同，故Dj=0.
我懂什麼意思了，就是你換了元素的話，在整體中的運算，其實都是混亂了，也就是說，你替換到得到的值和你沒有替換得到的值是一樣的，也就是說這兩行對應的值是相等的。
將第i行加到第j行上（行列式值不變），再將行列式按第j行張開，得D = （aj1 + ai1）Aj1 + （aj2 + ai2）Aj2 + ……+ （ajn + ain）Ajn
>
= D + （ai1Aj1 + ai2Aj2 + …… + ainAjn）
所以上式後面部分爲0
矩陣及其運算
線性方程式和矩陣
線性方程組
當常數項b1,b2,…bn不全爲零時，線程方程組叫做n元非齊次線性方程組。
當常數項b1,b2,…bn全爲零是，線程方程組叫做n元齊次線性方程組。
當時n元齊次線性方程組 x1=x2=x3…=xn=0.這個解叫做齊次線性方程組的零解。
矩陣的定義
定義1 有m*n個數aij排除的m行n列的數表稱爲m行n列矩陣，簡稱m*n矩陣。
這m*n個數稱爲矩陣A的元素，簡稱爲元，數aij位於矩陣A的第i行第j列。稱爲矩陣A的（i，j）元
元素是實數的矩陣稱爲實矩陣，元素是負數的矩陣稱爲復矩陣.
行數與列數都等於n的矩陣稱爲n階矩陣或n階方陣。
只有一行的矩陣稱爲行矩陣，又稱爲行向量。
只有一個列的矩陣稱爲列矩陣，又稱爲列向量
兩個矩陣的行數相等、列數也相等時，就稱它們是同型矩陣，對應的元素相等，那麼就稱矩陣A和矩陣B**相等**。
元素都是零的矩陣稱爲零矩陣。記作O。
對於非齊次線性方程組，
A是係數矩陣，x稱爲未知數矩陣，b稱爲常數項矩陣，B稱爲增廣矩陣
表示一個從變量x1，x2,…x到變量y1,y2,…ym的線性變換，其中aij爲常數
這個方陣的特點是:從左上角到右下角的直線（叫做對角線）以外的元素都是0,這個方陣稱爲對角矩陣，簡稱爲對角陣。
A =diag(λ1，λ2，...，λn);
特別當λ1=λ2=。。=1時的線性變換叫恆等變換，它對應的n階方陣叫做n階單位矩陣，單位陣 E 的(i，j)元eij
這個表達式的意思 是x在x軸的陰影，y軸則沒有。
矩陣的運算
矩陣的加法
定義2 設有兩個m*n矩陣A=(aij)和B=(bij),那麼矩陣A與B的和記作A+B
應該注意，只有當兩個矩陣是同型矩陣時，這兩個矩陣才能進行加法運算。矩陣加法滿足下列運算規律：
- A+B=B+A
- (A+B)+C=A+(B+C)
設矩陣A=(aij),記 -A=(-aij) -A稱爲矩陣A的負矩陣，顯然有 A+(-A)=O。
由此規定矩陣的減法爲A-B=A+（-B）
數與矩陣相乘
定義3 數λ與矩陣A的乘積記作λA或Aλ
- λμ)A =λ(μA)
- (λ+μ)A =λA +μA
- λ ( A + B ) = λ A + λ B
矩陣與矩陣相乘
矩陣相乘，就是如你想象那樣，兩個矩陣的相互碰撞。
定義4 設A=(aij)是一個m*s矩陣，B=(bij)是一個s*n矩陣，那麼規定矩陣A與矩陣B的乘積是一個m*n矩陣C=(cij)
cij=ai1b1j+ai2b2j+…+aisbsj= ∑ aikbkj
按此定義， 一個1*s行矩陣與一個s*1列矩陣的乘積是一個1階方陣，也就是一個數。
由此表明乘積矩陣AB=c的(i,j)元Cij就是A的第i行與B的第j列的乘積。
矩陣的乘法不滿足交換律，AB!=BA
對於兩個n階方陣A、B，若AB=BA，則稱方陣A與B是可交換的
矩陣λE=…,稱爲純量陣，
有了矩陣的乘法，就可以定義矩陣的冪，顯然只有方陣的冪纔有意義。
矩陣的轉置
定義5:把矩陣A的行換成同序數的列得到一個新矩陣的，叫做A的轉置矩陣
- (AT)T =A
- (A+B)T =AT+BT
- (λA)T =λA T
- (AB)T =BTAT.
對稱矩陣:它的元素以對角線爲對稱軸對稱相等
方陣的行列式
定義6 有n階方陣A的元素所構成的行列式(各元素的位置不變)，稱爲方陣A的行列式，記做detA 或|A|
方陣和行列式是兩個不同的概念，n階方陣是n^2個數按一定方式排成的數按一定方式排除的數表，而n階行列式則是這些書按一定的運算法則所確定的一個數。
- |AT|=A(行列式性質1);
- |λA|=λ^n|A|;
- |AB|=|A||B|.
行列式|A|的各個元素的代數餘子式Aij所構成的如下的矩陣
。。。
稱爲矩陣A的伴隨矩陣的，簡稱伴隨陣。
逆矩陣
逆矩陣的定義、性質和求法
在數的乘法中，對不等於零的數α總存在唯一的數b，使ab=ba=1，此書b即是a的倒數，即b=1/a=a^-1,利用倒數，數的除法可轉化爲乘積的形式:x/a=x*1/a.
定義7 對於n階矩陣A，如果有一個n階矩陣B，AB=BA=E， 使則說矩陣A是可逆的，並把矩陣B稱爲A的可逆的，並把矩陣B稱爲A的逆矩陣，簡稱逆陣
如果矩陣A是可逆的，那麼A的逆矩陣是唯一的，這時因爲：若B、c都是A的逆矩陣，則有
B=BE=B(AC)=(BA)c=EC=c所以A的逆矩陣是唯一的。
A的逆矩陣記作A^-1,即若AB=BA=E則B=A^-1
定理1 若矩陣A可逆，則|A|!=0
定理2 若|A|!=0,則矩陣A可逆，且A^-1=1/|A|A*
當|A|=0時，A稱爲奇異矩陣，否則稱非奇異矩陣，由上面兩定理可知:A是可逆矩陣的充分必要條件是|A|!=0,即可逆矩陣就是非奇異矩陣。
推論:若AB=E(或BA=E),則B=A^-1
逆矩陣滿足下述運算規律：
- 若A可逆，則A^-1亦可逆，且(A^-1)^-1=A
- 若A可逆，數λ!=0,則λA可逆，且(λA)^-1=1/λA^-1
- 若A、B爲同階矩陣且均可逆，則AB亦可逆，且(AB)^-1=B^-1A^-1
克拉默法則
克拉默法則：如果線性方程組的係數矩陣A的行列式不等於零
第3章 矩陣的初等變換與線性方程組
矩陣的初等變換
定義1 下面三種變換稱爲矩陣的初等行變換
- 對換兩行(對換i,j兩行，記作ri<->rj)
- 以數k!=0乘某一行中的所有元(第i行乘k,記作ri*k)
- 把某一行所有的元的k倍加到另一行對應的元上去(第j行的k倍加到第i行上，記作ri+krj)
把定義中的行換成列，即得矩陣的初等列變換的定義
矩陣的初等行變換與初等列變換，統稱初等變換
如果矩陣A經有限次初等行變換變成矩陣B，就稱矩陣A與B行等價，記作A~rB，如果矩陣A經過有限次初等列變換變成矩陣B，就稱矩陣A和B列等價，如果矩陣A經有限次初等變換變成矩陣B，就稱矩陣A與B等階。
矩陣之間的等價關係具有下列性質:
- 反身性 A~A
- 對稱性 若A~B，則B~A
- 傳遞性 若A~B,B~C 則 A~C
它的左下方的元全爲0;每段豎線的高度爲一行，豎線的右方的第一個元爲非零元，稱爲該非零行的首非零元，具有這樣特點的矩陣稱爲行階梯形矩陣，爲明確起見給出如下定義：
定義2 1非零矩陣若滿足 1.1 非零行在零行的上面 1.2 非零行的首非零行所在列在上一行(如果存在的話)的首非零元所在列的右面，則稱此矩陣爲行階梯形矩陣
若A是行階梯形矩陣，並且還滿足 1.1 非零行的首非零元爲1 1.2 首非零元所在的列的其它元均爲0，則稱A爲行最簡形矩陣
對行最簡形矩陣再施以初等列變換，可變成一種形狀更簡單的矩陣，稱爲標準形
定理1 設A與B爲M*N矩形
- A~B的充分必要條件是存在m階可逆矩陣P，使PA=B
- A~B的充分必要條件是存在n階可逆矩陣Q，使得AQ=B
- A~B的充分必要條件是存在M階可逆矩陣P及n階可逆矩陣Q，使得PAQ=B
定義3 有單位矩陣E經過一次初等變換得到的矩陣稱爲初等矩陣
初等矩陣，第i，j兩行對換，得初等矩陣，用m階初等矩陣Em左乘矩陣A。
相等於，矩陣的中的兩行進行了對調
性質1 設A是一個M*N矩陣，對A施行一次初等行變換，相當於A的左邊乘相應的M階初等矩陣，對A施行一次初等列變換，相當於在A的右邊乘相應的n階初等矩陣;對A施行一次初等列變換，相當於在A的右邊乘相應的n階初等矩陣
性質2 方陣A可逆的充分必要條件是存在有限個初等矩陣p1,p2…pn,使A=p1p2…
推論 方陣A可逆的充分必要條件是A~E
矩陣的秩
定義4 在m*n矩陣A中，任取k行與k列，位於這些行列交叉處的k^2個元素，不改變它們在A中所處的位置次序而得的k階行列式，稱爲矩陣A的k階子式
m*n矩陣A的k階子式共有Cm k * Cn k個
引理 設A~B，則A與B中非零子式的最高階數相等
定義5 設在矩陣A中有一個不等於0的r階子式D,且所有r+1階子式全等於0，那麼d稱爲矩陣A的最高階非零子式，數r稱爲矩陣A的秩。記作R(A),並規定零矩陣的秩等於0
定理2 若A~B，則R(A)=R(B)
推論 若可逆矩陣p、q使PAQ=B,則R(A)=R(B)
- 0<= R(Am*n)<= min{m,n}
- R(AT)=R(A)
- 若A~B，則R(A）=R(B)
- 若P,Q可逆，則R(PAQ)=R(A)
線性方程組的解
定理3 n元線性方程組Ax=b
- 無解的充分必要條件是R(A)
向量組的線性相關性
定義1 n個有次序的數a1，a2,…所組成的數組稱爲n維向量，這個n歌數稱爲該向量的n個分量，第i個數ai，稱爲第i個分量
若干個同維數的列向量所組成的集合叫做向量組
**定義2 給定向量組A:a1,a2,..am,對於任何一組實數k1,k2,..km表達式 k1a1+k2a2+…+kmam 稱爲向量組A的一個線性組合，k1,k2…km
稱爲這個線性組合的係數**
向量b能有向量組A線性表示
定理1 向量b能由向量組A: a1,a2,..am線性表示的充分必要條件是矩陣A=(a1,a2…am)的秩等於矩陣B=(a1,a2…am,n)的秩
定義3 有兩個向量組A:a1,a2…am及B:b1,b2….bl，若B組中的每個向量都能有向量組A線性表示，則稱向量組B能由向量組A線性表示，若向量組A與向量組B能相互線性表示，則稱這兩個向量組等價
定理2 向量組B:b1,b2,…bl能由向量組A:a1,a2,..am線性表示的充分必要條件是矩陣A=(a1,a2,…am)的秩等於矩陣(A,B)=(a1,a2…am,b1,…bl)的秩，即R(A)=R(A,B）
推論 向量組A:a1,a2…am與向量組B:b1,b2,…bl等價的充分必要條件： R(A)=R(B)=R(A,B),其中A和B是向量組A和B所構成的矩陣
定理3 設向量組B:b1,b2,b3…bl能由向量組A:a1,a2,…am線性表示，則R(b1,b2,…bl)<=R(a1,a2,…am)
向量組的線性相關性
定義4 給定向量組A:a1,a2,…am;如果存在不全爲零的數k1,k2,..km使 k1a1+k2a2+….+kmam=0 則稱向量組A是線性相關的，否則稱它線性無關
它線性相關的充分必要條件是a1,a2的分量對應成比例，其幾何意義是兩向量共線，三個向量線性相關的集合意義是三向量共勉。
定理4 向量組A:a1,a2,…am線性相關的充分必要條件是它所構成的矩陣A=(a1,a2,…am)的秩小於向量個數m；向量組A線性無關的充分必要條件是R(A)=m
定理5 1若向量組A:a1,…am線性相關，則向量組B:a1,…am，am+1也線性無關，反之，若向量組B線性無關，則向量組A也線性無關
定理5 2 m個n維向量組成的向量組，當維度n小於向量個數m時一定線性相關，特別地n+1個n維向量一定線性相關
定理5 3 設向量組A:a1,a2…am線性無關，而向量組B:a1,…,am,b線性相關，則向量b必能有向量組A線性表示，且表示式是唯一的
向量組的秩
定義5 1設有向量組A，如果在A中能選出r個向量a1,a2,..ar線性無關2向量組A中任意r+1向量都線性相關，那麼成向量組A0是向量組A的一個最大線性無關向量組，最大無關組所含向量個數r稱爲向量組A的值
推論 設向量組A0:a1,a2,…ar是向量組A的一個部分組，且滿足：
- 向量組A0線性無關
- 向量組A的任意向量都能由向量組A0線性表示，那麼向量組A0便是向量組A的一個最大無關組。
定理6 矩陣的秩等於它的列向量組的秩，也等於它的行向量組的秩
定理2 向量組b1,b2,…bl能由向量組a1,a2,…am線性表示的充分必要添加是R(a1,a2,…,am)=R(a1,a2,a3,…am,b1,b2…bl)
定理3 若向量組B能由向量組A線性表示，則RB<=RA
線性方程組的解的結構
性質1 若x=ξ1，x=ξ2 爲向量方程(2)的解，則x=ξ1+ξ2 也是向量方程(2) 的解.
性質2 若x=ξ1 爲向量方程(2)的解，k爲實數，則x=kξ1 也是向量方程 (2)的解.
定理7 設m*n矩陣A的秩R(A)=r,則n元齊次線性方程組Ax=0的解集s的秩Rs=n-r
性質3 設x=η1 及x=η2 都是向量方程(5)的解，則x=η1-η2 爲對應的齊 次線性方程組
向量空間
定義6 設V爲n維向量的集合，如果集合V非空，且集合V對於向量的加法及數乘兩種預算封閉，那麼就稱集合V爲向量空間
所謂封閉，是指在集合V中可以進行向量的加法及數乘兩種運算，具體地說，就是:若 若 a ∈ V ， b ∈ V ， 則 a + b ∈ V ; 若 a ∈ V ，λ ∈ R ， 則 λ a ∈ V
定義7 設有向量空間V1 及V2，若 ，就稱V1 是V2 的子空間.
定義8 設V爲向量空間，如果r個向量 a1，a2，…，ar∈ V，且滿足
- a1,a2,…ar線性無關
- V中任意向量都可由a1,a2,…ar線性表示
那麼，向量組a1，a2,…ar就稱爲向量空間V的一個基，r稱爲向量空間V的維數，並稱V爲r維向量空間
**定義9 如果在向量空間V中取定一個基a1，a2，…，ar，那麼V中任一向量
x 可惟一地表示爲
x=λ1a1 +λ2a2 +…+λrar**
相似矩陣及二次型
向量的內積、長度及正交性
[x,y]稱爲向量x和y的內積
方陣的特徵值與特徵向量
定義6 設A施n階矩陣，如果數λ和n維非零列向量x使關係式Ax=λx成立，那麼，這樣的數λ稱爲矩陣A的特徵值，非零向量x稱爲A的對應於特徵值λ的特徵向量(A-λE)x=0
上式是以λ爲未知數的一元n次方程，稱爲矩陣A的特徵方程，其左端|A-λE|是λ的n次多項式，記作f(λ），稱爲矩陣A的特徵多項式。顯然，A的特診值就是特徵方程的解，特徵方程在負數範圍內恆有解，其個數爲方程的次數，因此，n階矩陣A再負數範圍內有n個特徵值。
定理2 設λ1,λ2…λm是方陣A的m個特徵值p1,p2,…pm依次是與之對應的特徵向量，如果λ1,λ2,…λm各不相等，則p1,p2…pm線性無關
推論 設λ1 和λ2 是方陣A的兩不同特徵值，ξ1，ξ2，…，ξs 和η1，η2，…，ηt 分別是對應於λ1 和λ2 的線性無關的特徵向量，則ξ1，ξ2，…，ξs，η1，η2，…，ηt 線 性無關.(證明留作習題.)
相似矩陣
設A,B都是n階矩陣，若有可逆矩陣p，是P^-1AP=B,則稱B是A的相似矩陣，或說矩陣A與B相似，對A進行運算P^-1AP稱爲對A進行相似變換，可逆矩陣P稱爲把A變成B的相似變換矩陣
定理3 若n階矩陣A與B相似，則A與B的特徵多項式相同，從而A與B的特徵值亦相同
定理4 n階矩陣A與對角矩陣相似的充分必要條件是A有n個線性無關的特徵向量