原创 Iris數據集的LDA和PCA二維投影的比較

鳶尾花數據集代表3種鳶尾花(Setosa,Versicolour和Virginica),具有4個屬性:萼片長度,萼片寬度,花瓣長度和花瓣寬度。 應用於此數據的主成分分析(PCA)可以識別出造成數據差異最大的屬性(主要成分或特徵空間

原创 分解組件中的信號(矩陣分解問題) - 數據降維

文章目錄一,主成分分析(PCA)1.1 精確的PCA和概率解釋1.2 增量主成分分析1.3 隨機SVD的主成分分析1.4 核的主分量分析1.5 稀疏主成分分析(SparsePCA和MiniBatchSparsePCA)二,Late

原创 特徵選擇過濾器 - f_regression(單變量線性迴歸測試)

文章目錄數學原理參數說明示例 官方網站:sklearn.feature_selection.f_regression sklearn.feature_selection.f_regression(X,y,center = True

原创 特徵選擇過濾器 -chi2(卡方統計量)

文章目錄函數參數說明 函數 sklearn.feature_selection.chi2(X,y ) 計算每個非負要素與類之間的卡方統計量。 該分數可用於從X中選擇測試卡方統計量具有最高值的n_features特徵,該特徵必須僅

原创 scipy.stats.pearsonr - 皮爾森相關係數

函數:pearsonr(x,y) 功能: 計算特徵與目標變量之間的相關度 參數說明: 1)輸入:x爲特徵,y爲目標變量. 2)輸出:r: 相關係數 [-1,1]之間,p-value: p值。 注: p值越小,表

原创 特徵選擇過濾器 -mutual_info_classif(離散目標變量的互信息)

文章目錄函數參數說明 官網:sklearn.feature_selection.mutual_info_classif 函數 sklearn.feature_selection.mutual_info_classif(X, y,

原创 機器學習上課進度

文章目錄2020-4-10 雙週練習Clustering 聚類 - 上課codeDimension Reduction 降維2020-4-24雙週練習 2020-4-10 雙週練習 import numpy as np from

原创 特徵選擇 - 總結

特徵選擇一,刪除低方差的特徵二,單變量特徵選擇三,遞歸特徵消除四,使用SelectFromModel特徵選擇4.1 L1-based 特徵選擇4.2 Tree-based 特徵選擇五,使用part of a pipeline特徵選

原创 (流形降維)局部線性嵌入 - LLE

文章目錄一,流形學習概述二,如何使用LLE進行數據降維1.參數說明2.官網示例三,實例說明1.PCA與LLE降維的區別2.每個點的鄰居數量對降維結果的影響四,LLE總結 一,流形學習概述 更多關於LLE原理 參考:局部線性嵌入(L

原创 (無監督數據降維)主成分分析法 - PCA

文章目錄一,數學原理二,PCA的使用1,參數2,屬性(方法)3,示例 SKlearn官網 - sklearn.decomposition.PCA 一,數學原理 參考:通俗易懂的主成分分析法(PCA)詳解 二,PCA的使用 clas

原创 特徵選擇過濾器 - mutual_info_regression(連續目標變量的互信息)

文章目錄函數參數說明 函數 sklearn.feature_selection.mutual_info_regression(X, y, discrete_features='auto', n_neighbors=3, copy=

原创 特徵選擇過濾器 - f_classif(計算提樣本的ANOVA F值)

官網:sklearn.feature_selection.f_classif 關於 f_classif 的數學知識參考:Sklearn中的f_classif和f_regression sklearn.feature_selecti

原创 特徵選擇 - SelectFromModel(根據重要性權重選擇特徵)

文章目錄一,函數二,參數說明三,方法四,示例五,使用SelectFromModel和LassoCV選擇特徵 一,函數 class sklearn.feature_selection.SelectFromModel(estimato

原创 特徵選擇 - SelectKBest

文章目錄如何使用SelectKBest使用實例 官網:sklearn.feature_selection.SelectKBest 如何使用SelectKBest 根據給定的選擇器 選擇出前k個與標籤最相關的特徵。 class sk

原创 (有監督數據降維)線性判別分析 - LDA

文章目錄一,LDA的基本思想及數學分析二,如何使用LDA進行數據降維三,示例 sklearn官網 - sklearn.decomposition.LatentDirichletAllocation 一,LDA的基本思想及數學分析