MIT 18.06 linear algebra 第二十四講筆記

MIT 18.06 linear algebra 第二十四講筆記

---

第二十四講課程要點：

• Markov matrices
• Steady State
• Fourier Series & Projections

---

A=⎡⎣⎢0.10.20.70.010.9900.30.30.4⎤⎦⎥$A=\left[\begin{array}{ccc}0.1& 0.01& 0.3\\ 0.2& 0.99& 0.3\\ 0.7& 0& 0.4\end{array}\right]$ ，這個矩陣就是馬爾科夫矩陣。

馬爾科夫矩陣的性質：

1. 矩陣中的每個元素大於等於0，即aij≥0$a_{ij}\ge 0$ 。
2. 馬爾科夫矩陣中每一列的各個元素相加之和爲1。
3. 馬爾科夫矩陣的冪依舊是馬爾科夫矩陣。
4. 馬爾科夫矩陣必定有一個特徵值爲1。即λi=1${\lambda }_i=1$ 。

---

λ=1$\lambda =1$ 是矩陣的一個特徵值。其對應的特徵向量中的元素是大於等於0的。其它的特徵值的絕對值小於1。即λi<1${\lambda }_i<1$ 。

前面有公式Uk=AkU0=C1λk1x1+C2λk2x2+⋯+Cnλknxn$U_k=A^k{U}_0=C_1{\lambda }_1^k{x}_1+C_2{\lambda }_2^k{x}_2+\cdots +C_n{\lambda }_n^k{x}_n$ 。假設上式中λ1=1${\lambda }_1=1$ ,其它的λ<0$\lambda <0$ 。當k→∞$k\to \mathrm{\infty }$ 時，Uk≈C1x1$U_k\approx C_1{x}_1$ 。

A−I=⎡⎣⎢−0.90.20.70.01−0.0100.30.3−0.6⎤⎦⎥$A-I=\left[\begin{array}{ccc}-0.9& 0.01& 0.3\\ 0.2& -0.01& 0.3\\ 0.7& 0& -0.6\end{array}\right]$ ,此時我們可以發現矩陣A−I$A-I$ 的每一列之和爲0。因此A−I$A-I$ 是一個奇異矩陣。原因爲：對矩陣A−I$A-I$ 的行向量線性組合後可以得到零向量，即(A−I)Tx′=0$(A-I{)}^T{x}^{{}^{\prime }}=0$ ，可以得出矩陣(A−I)T$(A-I{)}^T$ 的秩小於三，就可以知道矩陣A$A$ 的秩同樣小於三那麼(AI)x=0$(A_I)x=0$ ，必定有解。
矩陣A$A$ 的特徵值和AT$A^T$ 的特徵值是一樣的，因爲|A−λI|=0$|A-\lambda I|=0$ ,那麼|AT−λIT|=0$|A^T-\lambda I^T|=0$

---

下面爲馬爾科夫矩陣的應用：
關於加州和麻省的人數變化，假設每年加州有20%的人搬遷去加州，80%的人留下。每年加州有10%的人遷移到麻省來，90%的人留在本地。那麼k年後，加州和麻省的人口情況如何？

[UcalUMass]k+1=[0.90.10.20.8][UcalUMass]k$${\left[\begin{array}{c}{U}_{cal}\\ U_{Mass}\end{array}\right]}_{k+1}=\left[\begin{array}{cc}0.9& 0.2\\ 0.1& 0.8\end{array}\right]{\left[\begin{array}{c}{U}_{cal}\\ U_{Mass}\end{array}\right]}_k$$

上面的式子中係數矩陣就是一個馬爾科夫矩陣。對於這個係數矩陣，先求出它的特徵值和特徵向量。矩陣的跡爲1.7，特徵值有一個爲1,那麼λ2=0.7${\lambda }_2=0.7$ 。將特徵值代入就可以解出對應的特徵向量x1=[21]$x_1=\left[\begin{array}{c}2\\ 1\end{array}\right]$ ,x2=[−11]$x_2=\left[\begin{array}{c}-1\\ 1\end{array}\right]$ 。因此

Uk=C1[21]+C2(0.7)k[−11]$U_k=C_1\left[\begin{array}{c}2\\ 1\end{array}\right]+C_2(0.7{)}^k\left[\begin{array}{c}-1\\ 1\end{array}\right]$ 。

U0=[01000]$U_0=\left[\begin{array}{c}0\\ 1000\end{array}\right]$ ,分別解出C1=10003,C2=20003$C_1=\frac{1000}{3},C_2=\frac{2000}{3}$

---

關於標準正交基的投影：
假設有一組標準正交基q1,q2⋯,qn$q_1,q_2\cdots ,q_n$ ,那麼任意向量都可以用這組基來表示，v=x1q1+x2q−2+⋯+xnqn$v=x_1{q}_1+x_{2}q-2+\cdots +x_n{q}_n$ 。只要分別求出x1,x2,⋯$x_1,x_2,\cdots$ 即可。求x−1$x-1$ 的方法可以讓q1$q_1$ 乘以v$v$ 那麼qT1v=x1qt1q1+0+0+⋯+0=x1$q_1^{T}v=x_1{q}_1^t{q}_1+0+0+\cdots +0=x_1$ ,這樣就可以求出x1$x_1$ ，同理可以求出其他係數。

上面的意思可以表述爲矩陣形式[q1,q2⋯,qn]⎡⎣⎢⎢x1⋮xn⎤⎦⎥⎥=v$\left[\begin{array}{c}{q}_1,q_2\cdots ,q_n\end{array}\right]\left[\begin{array}{c}{x}_1\\ ⋮\\ x_n\end{array}\right]=v$ 。也就是Qx=v$Qx=v$ ，x=Q−1v=QTv→x1=qT1v$x=Q^{-1}v=Q^{T}v\to x_1=q_1^{T}v$ 。

---

傅里葉級數（FOURIER SERIES:f(x)=f(x+2π)$f(x)=f(x+2\pi )$ ）

f(x)=a0+a1cosx+b1sinx+a2cos(2x)+b2sin(2x)+⋯$f(x)=a_0+a_1\cos x+b_1\sin x+a_2\cos (2x)+b_2\sin (2x)+\cdots$ 這就是福利葉級數的樣子。這裏的傅里葉級數和上面寫的向量v$v$ 很像，v$v$ 是由一些係數和標準正交向量表示的，這裏的傅里葉級數是由係數和函數表示的。而且傅里葉函數中的函數都是正交的，這裏的正交是什麼意思？，我們知道兩個向量vTw=v1w1+v2w2+⋯+vnwn=0$v^{T}w=v_1{w}_1+v_2{w}_2+\cdots +v_n{w}_n=0$ ,那麼關於函數的正交可以類比着來，假設有f(x),g(x)$f(x),g(x)$ 正交，由於向量的維度是有限的，而函數時連續的，且sin,cos$\sin ,\cos$ 的週期都爲2π$2\pi$ ,函數的正交爲∫2π0(f(x)g(x))=0${\int }_0^{2\pi }(f(x)g(x))=0$ 。我麼可以試一下∫2π0(sinxcosx)=12(sinx)2|2π0=0${\int }_0^{2\pi }(sinxcosx)=\frac{1}{2}(sinx{)}^2{|}_0^{2\pi }=0$ ,那麼係數a1$a_1$ 如何確定，類比向量的做法，我們用cosx$cosx$ 乘以f(x)$f(x)$ 。∫2π0f(x)cosx=a∫2π0(cosx)2=π${\int }_0^{2\pi }f(x)cosx=a{\int }_0^{2\pi }(cosx{)}^2=\pi$ ,得出a=1π$a=\frac{1}{\pi }$ 。