MIT 18.06 linear algebra 第二十五講筆記

MIT 18.06 linear algebra 第二十五講筆記

---

• Review for quiz 2

---

1. Q=[q1,q2,⋯,qn]$Q=\left[\begin{array}{c}{q}_1,q_2,\cdots ,q_n\end{array}\right]$
   Projections–Least Squares
   Gram-Schmidt

2. detA$detA$
   Properties 1-10
   Big formula(n!$n!$ terms)
   Cofactors |A−1$A^{-1}$

3. Eigenvalues Ax=λx$Ax=\lambda x$
   det(A−λI)=0$det(A-\lambda I)=0$
   Diagonalige S−1AS=Λ$S^{-1}AS=\mathrm{\Lambda }$
   Powers Ak$A^k$

---

有一個向量a=⎡⎣⎢212⎤⎦⎥$a=\left[\begin{array}{c}2\\ 1\\ 2\end{array}\right]$ ,向量b$b$ 向a$a$ 方向投影，求投影矩陣？
如果被投影的是一個矩陣，那麼投影矩陣爲P=A(ATA)−1AT$P=A(A^{T}A{)}^{-1}{A}^T$ ,但此處是一個向量因此P=aaTaTa$P=\frac{a{a}^T}{a^{T}a}$ 。將a$a$ 代入可以求出投影矩陣。P=19⎡⎣⎢424212424⎤⎦⎥$P=\frac{1}{9}\left[\begin{array}{ccc}4& 2& 4\\ 2& 1& 2\\ 4& 2& 4\end{array}\right]$ 。P$P$ 的特徵值爲0，0，1。因爲矩陣P$P$ 的秩爲1。因此Px=0$Px=0$ 有兩個獨立的向量，因此會有兩個0，還有一個特徵值爲1，是因爲∑λi=Trace$\sum {\lambda }_i=Trace$ 。求秩爲1的特徵向量時(P−I)x=0→Px=x$(P-I)x=0\to Px=x$ ，也就是向量x$x$ 經過投影后還是x$x$ ，那麼x=a$x=a$ 。

Uk+1=PUk$U_{k+1}=P{U}_k$ ，U0=⎡⎣⎢990⎤⎦⎥$U_0=\left[\begin{array}{c}9\\ 9\\ 0\end{array}\right]$ 。U1=PU0=aaTU0aTa=3a$U_1=P{U}_0=\frac{a{a}^T{U}_0}{a^{T}a}=3a$ 。U2=PkU0=3a$U_2=P^k{U}_0=3a$ 。因爲這是在用P$P$ 做投影，投影一次後，後面的投影並沒啥作用。當然求解這類問題還可以用U0=C1x1+C2x2+⋯+C3x3$U_0=C_1{x}_1+C_2{x}_2+\cdots +C_3{x}_3$ ,AkU0=C1λk1x1+C2λk2x2+⋯+Cnλknxn$A^k{U}_0=C_1{\lambda }_1^k{x}_1+C_2{\lambda }_2^k{x}_2+\cdots +C_n{\lambda }_n^k{x}_n$ 。

---

最小二乘法問題
有三個點{(1,4),(2,5),(3,8)}。求解一條最佳過原點的擬合直線y=Dt$y=Dt$ 。⎧⎩⎨1D=42D=53D=8$\begin{array}{}\{\begin{array}{l}1D=4\\ 2D=5\\ 3D=8\end{array}\end{array}$ ，一般求解都是把b$b$ 投影到矩陣A$A$ 的列空間中求一個最優解。ATAD^=ATb$A^{T}A\hat{D}=A^{T}b$ 。可以求出D^=3814$\hat{D}=\frac{38}{14}$ 。

---

兩個向量的正交化：B=aT1a2a1aT1a1$B=\frac{a_1^T{a}_2{a}_1}{a_1^T{a}_1}$ 。

---

一個4×4$4\times 4$ 的可逆矩陣，有四個特徵值λ1,λ2,λ3,λ4${\lambda }_1,{\lambda }_2,{\lambda }_3,{\lambda }_4$ 。

1. 由於矩陣可逆 ⇔$\iff$ 沒有特徵值爲0。
2. det(A−1)=∏1λi=1detA$det(A^{-1})=\prod \frac{1}{{\lambda }_i}=\frac{1}{detA}$ 。
3. A+I$A+I$ 的跡等於∑(λi+1)$\sum ({\lambda }_i+1)$

---

A4=⎡⎣⎢⎢⎢1100111001110011⎤⎦⎥⎥⎥$A_4=\left[\begin{array}{cccc}1& 1& 0& 0\\ 1& 1& 1& 0\\ 0& 1& 1& 1\\ 0& 0& 1& 1\end{array}\right]$ ,令Dn=det(An)$D_n=det(A_n)$ ，通過大數餘子式的方法，得出Dn=Dn−1−Dn−2$D_n=D_{n-1}-D_{n-2}$ 。於是有[DnDn−1]=[11−10][Dn−1Dn−2]$\left[\begin{array}{c}{D}_n\\ D_{n-1}\end{array}\right]=\left[\begin{array}{cc}1& -1\\ 1& 0\end{array}\right]\left[\begin{array}{c}{D}_{n-1}\\ D_{n-2}\end{array}\right]$ 。可以解出係數矩陣其特徵值爲λ=1±i−3√2$\lambda =\frac{1\pm i\sqrt{-3}}{2}$ 。λ$\lambda$ 到原點的距離爲1，正好處於穩定狀態，其週期爲6。

---

A4=⎡⎣⎢⎢⎢0100102002030030⎤⎦⎥⎥⎥=AT4$A_4=\left[\begin{array}{cccc}0& 1& 0& 0\\ 1& 0& 2& 0\\ 0& 2& 0& 3\\ 0& 0& 3& 0\end{array}\right]=A_4^T$ , detA4=9$det{A}_4=9$ ,通過拆解爲代數餘子式即可得出答案。