PCA(2):PCA算法實現的兩種方式

因爲樣本個數特徵維度的是不相等de,所以組成的矩陣不是方陣。

第一種方式:特徵分解思路

基於樣本特徵維度,先求協方差矩陣---->再特徵分解(因爲協方差矩陣是方陣,所以可以使用特徵分解的思路)

第二種方式:SVD分解

SVD理論:https://blog.csdn.net/m0_37957160/article/details/107082668

任何矩陣都可以進行SVD分解。

事實上在數據量很大時,求協方差矩陣,然後在進行特徵分解是一個很慢的過程,因此在PCA背後的實現也是藉助奇異值分解來做的,在這裏我們只要求得奇異值分解中的左奇異向量或右奇異向量中的一個(具體求哪個是要根據你的X向量的書寫方式的,即行數是樣本數還是特徵數,總之左奇異向量是用來壓縮行數,右奇異向量是用來壓縮列數,而我們的目的是要壓縮特徵數)

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章