拉普拉斯矩陣

1 矩陣基礎

1.0 理解矩陣

    如果對矩陣的概念已經模糊，推薦國內一人寫的《理解矩陣by孟巖》系列，其中，拋出了很多有趣的觀點，我之前在閱讀的過程中做了些筆記，如下：

“1、簡而言之：矩陣是線性空間裏的變換的描述，相似矩陣則是對同一個線性變換的不同描述。

那，何謂空間？本質而言，“空間是容納運動的一個對象集合，而變換則規定了對應空間的運動”by孟巖。在線性空間選定基後，向量刻畫對象的運動，運動則通過矩陣與向量相乘來施加。然，到底什麼是基？座標系也。

2、有了基，那麼在(1)中所言的則應是：矩陣是線性空間裏的變換的描述，相似矩陣則是對同一個線性變換在不同基（座標系）下的不同描述。

出來了兩個問題，一者何謂變換，二者不同基（座標系）如何理解？事實上，所謂變換，即空間裏從一個點（元素/對象）到另一個（元素對象）的躍遷，矩陣用來描述線性變換。基呢?通過前面已知，矩陣無非不過就是用來描述線性空間中的線性變換的一個東西而已，線性變換爲名詞，矩陣爲描述它的形容詞，正如描述同一個人長得好看可以用多個不同形容詞"帥”"靚”描述，同一個線性變換也可以由多個不同的矩陣來描述，而由哪一個矩陣描述它，則由基（座標系）確定。

3、前面說了基，座標系也，形象表述則爲角度，看一個問題的角度不同，描述問題得到的結論也不同，但結論不代表問題本身，同理，對於一個線性變換，可以選定一組基，得到一個矩陣描述它，換一組基，得到不同矩陣描述它，矩陣只是描述線性變換非線性變換本身，類比給一個人選取不同角度拍照。

4、前面都是說矩陣描述線性變換，然，矩陣不僅可以用來描述線性變換，更可以用來描述基（座標系/角度），前者好理解，無非是通過變換的矩陣把線性空間中的一個點給變換到另一個點上去，但你說矩陣用來描述基(把一個座標系變換到另一個座標系)，這可又是何意呢？實際上，變換點與變換座標系，異曲同工！
    （@坎兒井圍脖：矩陣還可以用來描述微分和積分變換。關鍵看基代表什麼，用座標基就是座標變換。如果基是小波基或傅里葉基，就可以用來描述小波變換或傅里葉變換）

5、矩陣是線性運動（變換）的描述，矩陣與向量相乘則是實施運動（變換）的過程，同一個變換在不同的座標系下表現爲不同的矩陣，但本質/徵值相同，運動是相對的，對象的變換等價於座標系的變換，如點(1,1)變到(2,3)，一者可以讓座標點移動，二者可以讓X軸單位度量長度變成原來1/2，讓Y軸單位度量長度變成原來1/3，前後兩者都可以達到目的。

6、Ma=b，座標點移動則是向量a經過矩陣M所描述的變換，變成了向量b；變座標系則是有一個向量，它在座標系M的度量下結果爲a，在座標系I（I爲單位矩陣，主對角爲1，其它爲0）的度量下結果爲b，本質上點運動與變換座標系兩者等價。爲何？如(5)所述，同一個變換，不同座標系下表現不同矩陣，但本質相同。

7、Ib，I在(6)中說爲單位座標系，其實就是我們常說的直角座標系，如Ma=Ib，在M座標系裏是向量a，在I座標系裏是向量b，本質上就是同一個向量，故此謂矩陣乘法計算無異於身份識別。且慢，什麼是向量？放在座標系中度量，後把度量的結果（向量在各個座標軸上投影值）按順序排列在一起，即成向量。

8、b在I座標系中則是Ib，a在M座標系中則是Ma，故而矩陣乘法MxN，不過是N在M座標系中度量得到MN，而M本身在I座標系中度量出。故Ma=Ib，M座標系中的a轉過來在I座標系中一量，卻成了b。如向量(x,y)在單位長度均爲1的直角座標系中一量，是(1,1)，而在X軸單位長度爲2.Y軸單位長度爲3一量則是(2,3)。

9、何謂逆矩陣?

 Ma=Ib，之前已明瞭座標點變換a-〉b等價於座標系變換M-〉I，但具體M如何變爲I呢，答曰讓M乘以M的逆矩陣。以座標系

    爲例，X軸單位度量長度變爲原來的1/2，Y軸單位度量長度變爲原來的1/3，即與矩陣

    

    相乘，便成直角座標系I。即對座標系施加變換，即讓其與變換矩陣相乘。 ”

1.1 一堆基礎概念

    根據wikipedia的介紹，在矩陣中，單位矩陣 如下圖所示：

    單位向量又是什麼呢？數學上，賦範向量空間中的單位向量就是長度爲 1 的向量。歐幾里得空間中，兩個單位向量的點積就是它們之間角度的餘弦（因爲它們的長度都是 1）。

    一個非零向量u 的正規化向量（即單位向量）u'，就是平行於u的單位向量，記作：

    這裏分母是u的範數（長度）。

    何謂點積？點積又稱內積，兩個向量a = [a1, a2,…, an], b= [b1, b2,…, bn]的點積定義爲：

    這裏的Σ指示求和符號。

    例如，兩個三維向量[1, 3, -5]和[4, -2, -1]的點積是:

    使用矩陣乘法並把（縱列）向量當作n×1 矩陣，點積還可以寫爲：

    除了上面的代數定義外，點積還有另外一種定義：幾何定義。在歐幾里得空間中，點積可以直觀地定義：

 

    正交是垂直這一直觀概念的推廣，若內積空間中兩向量的內積（即點積）爲0，則稱它們是正交的，相當於這兩向量垂直，換言之，如果能夠定義向量間的夾角，則正交可以直觀的理解爲垂直。而正交矩陣（orthogonal matrix）是一個元素爲實數，而且行與列皆爲正交的單位向量的方塊矩陣（方塊矩陣，或簡稱方陣，是行數及列數皆相同的矩陣。）

    若數字和非零向量滿足，則爲的一個特徵向量，是其對應的特徵值。 換句話說，在這個方向上，做的事情無非是把沿其的方向拉長/縮短了一點（而不是毫無規律的多維變換），則是表示沿着這個方向上拉伸了多少的比例。 簡言之，對做了手腳，使得向量變長或變短了，但本身的方向不變。

     矩陣的跡是矩陣的對角線元素之和，也是其個特徵值之和。 

    更多矩陣相關的概念可以查閱相關wikipedia，或《矩陣分析與應用》。

2 拉普拉斯矩陣

2.1 Laplacian matrix的定義

    拉普拉斯矩陣（Laplacian matrix)），也稱爲基爾霍夫矩陣, 是表示圖的一種矩陣。給定一個有n個頂點的圖，其拉普拉斯矩陣被定義爲:

    其中爲圖的度矩陣，爲圖的鄰接矩陣。

    舉個例子。給定一個簡單的圖，如下：

    把此“圖”轉換爲鄰接矩陣的形式，記爲

    把的每一列元素加起來得到個數，然後把它們放在對角線上（其它地方都是零），組成一個的對角矩陣，記爲度矩陣，如下圖所示：

    根據拉普拉斯矩陣的定義，可得拉普拉斯矩陣 爲：

2.2 拉普拉斯矩陣的性質  

    介紹 拉普拉斯矩陣的性質之前，首先定義兩個概念，如下：

    ①對於鄰接矩陣，定義圖中A子圖與B子圖之間所有邊的權值之和如下：

    其中，定義爲節點到節點的權值，如果兩個節點不是相連的，權值爲零。
    ②與某結點鄰接的所有邊的權值和定義爲該頂點的度d，多個d 形成一個度矩陣 （對角陣）

    拉普拉斯矩陣 具有如下性質：

•  是對稱半正定矩陣；
•  ，即 的最小特徵值是0，相應的特徵向量是 。證明： *  = ( - ) *  = 0 = 0 * 。（此外，別忘了，之前特徵值和特徵向量的定義：若數字和非零向量滿足，則爲的一個特徵向量，是其對應的特徵值）。
•   有n個非負實特徵值
  
• 且對於任何一個屬於實向量，有以下式子成立

    其中，，，。

    下面，來證明下上述結論，如下：