協方差矩陣的幾何解釋

昨天看LLE locally linearly embedding時,看到目標函數minYinyij=1kwijyj2min_Y\sum_i^n\Vert{y_i-\sum_{j=1}^k w_{ij} y_j}\Vert^2 .這樣就沒有唯一解,所以要對YY進行限制。
YY進行平移,不影響目標函數,所以可以把YY的均值固定到原點:i=1nyi=0\sum_{i=1}^ny_i=0,這個好理解。
第二個限制條件是說對YY進行旋轉也不影響目標函數,所以爲了限制YY的旋轉,可以限制協方差矩陣爲單位矩陣:1nYYT=Idd\frac{1}{n}YY^T=I_{d*d}, where Y=[y1yn].Y=[y_1 \dots y_n]. 這裏我就不理解了。
協方差矩陣和旋轉有什麼關係? 協方差矩陣 旋轉矩陣
很幸運,我找到了答案:
英文版
中文翻譯版
(順便一提這個人好厲害啊,晦澀的數學可以用通俗的語言表達深刻的理解)

被觀察數據的協方差矩陣,直接與針對白(非相關)數據的線性變換有關。該線性變換完全由特徵向量和特徵值定義。特徵向量表示了矩陣的旋轉,特徵值對應於每個維度上縮放因子的平方。

發佈了212 篇原創文章 · 獲贊 126 · 訪問量 26萬+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章