主成分分析(PCA)降維
PCA 是一種基於從高維空間映射到低維空間的映射方法,也是最基礎的無監督降維算法,其目標是向數據變化最大的方向投影,或者說向重構誤差最小化的方向投影。它由 Karl Pearson 在 1901 年提出,屬於線性降維方法。與 PCA 相關的原理通常被稱爲最大方差理論或最小誤差理論。這兩者目標一致,但過程側重點則不同。
-
按列計算數據集 X 的均值 Xmean,然後令 Xnew=X−Xmean;
-
求解矩陣 Xnew 的協方差矩陣,並將其記爲 Cov;
-
計算協方差矩陣 COV 的特徵值和相應的特徵向量;
-
將特徵值按照從大到小的排序,選擇其中最大的 k 個,然後將其對應的 k 個特徵向量分別作爲列向量組成特徵向量矩陣 Wnxk;
-
計算 XnewW,即將數據集 Xnew 投影到選取的特徵向量上,這樣就得到了我們需要的已經降維的數據集 XnewW。
而最小誤差則是使得平均投影代價最小的線性投影,這一過程中,我們則需要找到的是平方錯誤評價函數 J0(x0) 等參數。
詳細步驟可參考**《從零開始實現主成分分析 (PCA) 算法》**:https://blog.csdn.net/u013719780/article/details/78352262
主成分分析(PCA)代碼實現
from __future__ import print_function
from sklearn import datasets
import matplotlib.pyplot as plt
import matplotlib.cm as cmx
import matplotlib.colors as colors
import numpy as np
%matplotlib inline
def shuffle_data(X, y, seed=None):
if seed:
np.random.seed(seed)
idx = np.arange(X.shape[0])
np.random.shuffle(idx)
return X[idx], y[idx]
# 正規化數據集 X
def normalize(X, axis=-1, p=2):
lp_norm = np.atleast_1d(np.linalg.norm(X, p, axis))
lp_norm[lp_norm == 0] = 1
return X / np.expand_dims(lp_norm, axis)
# 標準化數據集 X
def standardize(X):
X_std = np.zeros(X.shape)
mean = X.mean(axis=0)
std = X.std(axis=0)
# 做除法運算時請永遠記住分母不能等於 0 的情形
# X_std = (X - X.mean(axis=0)) / X.std(axis=0)
for col in range(np.shape(X)[1]):
if std[col]:
X_std[:, col] = (X_std[:, col] - mean[col]) / std[col]
return X_std
# 劃分數據集爲訓練集和測試集
def train_test_split(X, y, test_size=0.2, shuffle=True, seed=None):
if shuffle:
X, y = shuffle_data(X, y, seed)
n_train_samples = int(X.shape[0] * (1-test_size))
x_train, x_test = X[:n_train_samples], X[n_train_samples:]
y_train, y_test = y[:n_train_samples], y[n_train_samples:]
return x_train, x_test, y_train, y_test
# 計算矩陣 X 的協方差矩陣
def calculate_covariance_matrix(X, Y=np.empty((0,0))):
if not Y.any():
Y = X
n_samples = np.shape(X)[0]
covariance_matrix = (1 / (n_samples-1)) * (X - X.mean(axis=0)).T.dot(Y - Y.mean(axis=0))
return np.array(covariance_matrix, dtype=float)
# 計算數據集 X 每列的方差
def calculate_variance(X):
n_samples = np.shape(X)[0]
variance = (1 / n_samples) * np.diag((X - X.mean(axis=0)).T.dot(X - X.mean(axis=0)))
return variance
# 計算數據集 X 每列的標準差
def calculate_std_dev(X):
std_dev = np.sqrt(calculate_variance(X))
return std_dev
# 計算相關係數矩陣
def calculate_correlation_matrix(X, Y=np.empty([0])):
# 先計算協方差矩陣
covariance_matrix = calculate_covariance_matrix(X, Y)
# 計算 X, Y 的標準差
std_dev_X = np.expand_dims(calculate_std_dev(X), 1)
std_dev_y = np.expand_dims(calculate_std_dev(Y), 1)
correlation_matrix = np.divide(covariance_matrix, std_dev_X.dot(std_dev_y.T))
return np.array(correlation_matrix, dtype=float)
class PCA():
"""
主成份分析算法 PCA,非監督學習算法.
"""
def __init__(self):
self.eigen_values = None
self.eigen_vectors = None
self.k = 2
def transform(self, X):
"""
將原始數據集 X 通過 PCA 進行降維
"""
covariance = calculate_covariance_matrix(X)
# 求解特徵值和特徵向量
self.eigen_values, self.eigen_vectors = np.linalg.eig(covariance)
# 將特徵值從大到小進行排序,注意特徵向量是按列排的,即 self.eigen_vectors 第 k 列是 self.eigen_values 中第 k 個特徵值對應的特徵向量
idx = self.eigen_values.argsort()[::-1]
eigenvalues = self.eigen_values[idx][:self.k]
eigenvectors = self.eigen_vectors[:, idx][:, :self.k]
# 將原始數據集 X 映射到低維空間
X_transformed = X.dot(eigenvectors)
return X_transformed
def main():
# Load the dataset
data = datasets.load_iris()
X = data.data
y = data.target
# 將數據集 X 映射到低維空間
X_trans = PCA().transform(X)
x1 = X_trans[:, 0]
x2 = X_trans[:, 1]
cmap = plt.get_cmap('viridis')
colors = [cmap(i) for i in np.linspace(0, 1, len(np.unique(y)))]
class_distr = []
# Plot the different class distributions
for i, l in enumerate(np.unique(y)):
_x1 = x1[y == l]
_x2 = x2[y == l]
_y = y[y == l]
class_distr.append(plt.scatter(_x1, _x2, color=colors[i]))
# Add a legend
plt.legend(class_distr, y, loc=1)
# Axis labels
plt.xlabel('Principal Component 1')
plt.ylabel('Principal Component 2')
plt.show()
if __name__ == "__main__":
main()
最終,我們將得到降維結果如下。其中,如果得到當特徵數 (D) 遠大於樣本數 (N) 時,可以使用一點小技巧實現 PCA 算法的複雜度轉換。