[筆記][總結] MIT線性代數 Gilbert Strang 復矩陣

作者水平有限，歡迎大家提出文中錯誤

複線性空間

重新提一下，線性空間的定義

設$V$是一個非空集合，其元素$x,y,z$被稱爲向量；$K$是一個數域，有元素$k,l,m$，$V$被稱爲一個向量空間或線性空間，當：

1. 在$V$中定義加法運算，當$x,y\in V$，有唯一的和$x+y\in V$，且加法滿足
   a) 結合律 $x+(y+z)=(z+y)+z$
   b) 交換律 $x+y=y+x$
   c) 存在零元$0$，使$x+0=x$
   d) 每個元素都存在負元素，即$\forall x \in V,\exists y \in V,x+y=0$，稱y爲x的負元素，記作$-x$
2. 在$V$中定義數乘運算，當$x\in V,k\in K$，有唯一的乘積$kv\in V$，且數乘運算滿足：
   e) 數因子分配律 $k(x+y)=kx+ky$
   f) 分配律 $(k+l)x=kx+lx$
   g) 結合律 $k(lx)=(kl)x$
   h) $1x=x$

注意線性空間$V$是基於數域$K$的，一般的默認數域是實數域$\mathbb R$，本部分將討論數域爲複數域$\mathbb C$的線性空間的中的矩陣運算及性質。

從實數域到複數域

向量模長

實向量$v$的模長是
$\left\|v\right\|=v^Tv$
對於復向量$z$
$z^Tz=\sum\limits_{i=1}^n z_i\cdot z_i$
關鍵問題在於$z_i\cdot z_i=Re^2\{z_i\}-Im^2\{z_i\}$

而$z_i\cdot \bar{z_i}=Re^2\{z_i\}+Im^2\{z_i\}$纔是正確的求和項
所以對於復向量，其模長爲
$\left\|z\right\|=\bar z^Tz$
其中算子 $\bar \cdot^T$又被記作 $\cdot^H$，叫做$Hermitian$算子
$\left\|z\right\|=z^Hz$

內積

相應的，復向量$x,y$，內積爲$x^Hy$

$Hermitian$矩陣

對於實矩陣而言，要想使得特徵值都是實數，且存在相互正交的特徵向量，需要$A=A^T$，即實對稱矩陣

而對於復矩陣，同樣的要求需要$A^H=A$，爲$Hermitian$矩陣

可見$Hermitian$矩陣的對角元都是實數

酉矩陣

實標準正交矩陣有性質
$q_i^Tq_j= \left\{ \begin{aligned} 0,\ if\ i\not=j\\ 1,\ if\ i=j \end{aligned} \right.$
$Q^TQ=I$
在復空間，與標準正交陣相對應的矩陣稱爲酉矩陣$U=[u_1\ u_2\ \cdots \ u_n]$
$U\ for\ unitary$
$u_i^Hu_j= \left\{ \begin{aligned} 0,\ if\ i\not=j\\ 1,\ if\ i=j \end{aligned} \right.$
$U^HU=I$

$Fourier$矩陣

$Fourier$矩陣是十分出名的酉矩陣
$F_n= \left[ \begin{matrix} 1&1&1&\cdots&1\\ 1&w_n&w^2_n &\cdots&w^{n-1}_n\\ \vdots&\vdots&\vdots&\ddots&\vdots\\ 1&w^{n-1}_n&w^{2(n-1)}_n&\cdots&w^{(n-1)(n-1)}_n\\ \end{matrix} \right]$
注意到$F_n$是對稱的，但不是對稱矩陣，因爲$F_n$是復矩陣，另外也不是$Hermitian$矩陣。$Fourier$矩陣的各列是相互正交的，是一個酉矩陣。

通項
$(F_n)_{ij}=w^{ij}_n,\ \ i,j=0,1\cdots(n-1)$
其中$w_n=e^{i\frac{2\pi}{n}}$，可見$w^m_{m*n}=w_n$，$w_n$在複平面單位圓，輻角爲$\frac{2\pi}{n}$

$F_4= \left[ \begin{matrix} 1&1&1&1\\ 1&i&i^2 &i^3\\ 1&i^2&i^4&i^6\\ 1&i^3&i^6&i^9\\ \end{matrix} \right]= \left[ \begin{matrix} 1&1&1&1\\ 1&i&-1 &-i\\ 1&-1&1&-1\\ 1&-i&-1&i\\ \end{matrix} \right]$
$F_4$可以完成對一個四維複列向量的離散傅里葉變換

$Fourier$逆矩陣

$F_n^{-1}$同樣是十分有用的復矩陣，由於其列向量（或行向量）並不標準（並非單位向量），但是各列向量模長都是$\sqrt n$，$F_n^HF_n=nI$。
$F_n^{-1}= \frac{1}{n}F^H_n=\frac{1}{n}\bar F_n$
$F_n^{-1}=\frac{1}{n} \left[ \begin{matrix} 1&1&1&\cdots&1\\ 1&\bar w_n&\bar w^2_n &\cdots&\bar w^{n-1}_n\\ \vdots&\vdots&\vdots&\ddots&\vdots\\ 1&\bar w^{n-1}_n&\bar w^{2(n-1)}_n&\cdots&\bar w^{(n-1)(n-1)}_n\\ \end{matrix} \right]$
上面$F_4$的逆矩陣爲
$F_4^{-1}= \frac{1}{4} \left[ \begin{matrix} 1&1&1&1\\ 1&-i&-1 &i\\ 1&-1&1&-1\\ 1&i&-1&-i\\ \end{matrix} \right]$

$FFT$

$Fourier$矩陣可以使得時域序列變換到頻域，十分有用的矩陣，如果直接使用$F_{n}$左乘時域序列，其時間複雜度是$O(n^2)$，實際上$Fourier$矩陣可以被分解爲一系列稀疏矩陣，分解後對序列的變換算法的時間複雜度大大降低到$O(n\cdot logn)$，被稱爲快速傅里葉變換$(Fast\ fourier\ transformation)$，在[筆記][總結] MIT線性代數 Gilbert Strang 矩陣的應用中有介紹