昨天看LLE
locally linearly embedding
時,看到目標函數 .這樣就沒有唯一解,所以要對進行限制。
對進行平移,不影響目標函數,所以可以把的均值固定到原點:,這個好理解。
第二個限制條件是說對進行旋轉也不影響目標函數,所以爲了限制的旋轉,可以限制協方差矩陣爲單位矩陣:, where 這裏我就不理解了。
協方差矩陣和旋轉有什麼關係?
協方差矩陣
旋轉矩陣
很幸運,我找到了答案:
英文版
中文翻譯版
(順便一提這個人好厲害啊,晦澀的數學可以用通俗的語言表達深刻的理解)
被觀察數據的協方差矩陣,直接與針對白(非相關)數據的線性變換有關。該線性變換完全由特徵向量和特徵值定義。特徵向量表示了矩陣的旋轉,特徵值對應於每個維度上縮放因子的平方。