標量（Scalars）
矢量（Vector）
矩陣（matrix）
矩陣和矢量乘法
C=AB 2.4
Hadamard積
A(B + C) = AB + AC 2.6
A(BC) = (AB)C 2.7
單位矩陣
單位矩陣和矩陣的逆
線性依賴和空間（span）
解決公式2.11是否有解的問題。
一個有線性依賴的方陣叫奇異矩陣。
範數（norms）
p=2時叫歐幾里得範數 ||x||
p=1時也很重要
p=max時也很重要
弗羅貝尼烏斯範數
特殊的矩陣和矢量
對角線矩陣 D
對稱矩陣 A
單位矢量 ||x||= 1 2.36
正交矩陣 Q
正交矩陣表示一
正交矩陣表示二
特徵分解
奇異值分解（SVD）
U和V都是正交矩陣，D是對角線矩陣，D可以不是方陣
廣義逆矩陣（Moore-Penrose）
UDV是A的奇異值分解 D+是D的倒置矩陣且對角線值爲倒數的矩陣
它可以計算最小歐幾里得範數的解；
如果A的行比列多，那麼可能無解，它計算的是最接近歐幾里得範數的x值；
Tr操作符
行列式（Determinant）
應用實例：PCA 主要元素分析（比如葡萄酒的例子）