原创 決策樹--matlab自帶函數
已知訓練數據和訓練數據類，獲得決策樹模型： t=treefit(train_X,y);%train_X的行數爲樣本數，列數爲特徵數；y的行數爲樣本數，1列表徵類； t=classregtree(train_X,y):%用法與上一致，只是t
2020-06-22 20:04:36
原创 統計學習方法----決策樹
決策樹模型：樹形結構，選擇較優的特徵，對實例進行分類的過程。 （可以與Adaboost算法結合使用，由弱分類器轉化爲強分類器） 包含3個步驟：特徵選擇，決策樹生成，決策樹修剪。
2020-06-22 20:04:36
原创 k-means--常用於爲高斯混合模型設置初始值
k-means作用：用於劃分聚類； k-means算法： 1、選取k個聚類質心點：mu1,mu2,.....,muk; 2、重複下面過程直到收斂： 對每個樣例i，計算其應屬於的類j：C(i)=argmin( ||x(i)-mu
2020-06-22 20:04:36
1
原创 統計學習方法---高斯混合模型參數估計的EM算法
EM算法：對含有隱變量的概率模型參數的極大似然估計法； 每次迭代由兩步組成：E步，求期望；M步，求極大； EM算法與初值的選擇有關，選擇不同的初值可能得到不同的參數估計值；
2020-06-22 20:04:36
原创 樣本不同特徵構成的協方差矩陣
X：行數爲樣本數，一行爲一個樣本的各個特徵（維數）； sigma=cov(X); sigma爲協方差矩陣，大小爲維數*維數的方陣； (對於一個圖像來說，劃分的圖像塊的數目爲樣本數；一個圖像塊的數據點數爲特徵數）； 點贊
2020-02-21 12:16:50
原创 使用LDA線性判別分析進行多類的訓練分類
本文使用LDA作爲分類器在matlab下做實驗。 其中投影轉換矩陣W按照LDA的經典理論生成，如下的LDA函數，並返回各個類的投影后的（ｋ－１）維的類均值。 LDA.m代碼如下： function [W,centers]
2020-02-21 12:16:50
2
原创 統計學習方法---條件隨機場2
概率無向圖模型（馬爾可夫隨機場）的因子分解 ----------寫作圖中所有最大團C上的函數的乘積形式。 點贊 1 收藏 分享 文章舉報
2020-02-21 12:16:39
原创 統計學習方法---隱馬爾可夫模型1
隱馬爾可夫模型三要素：初始狀態概率向量，狀態轉移概率矩陣A 和觀測概率矩陣B。 隱馬爾可夫模型作了兩個假設： 1）任意時刻t的狀態只依賴其前一時刻的狀態； 2）任意時刻的觀測只依賴該時刻的狀態；
2020-02-21 12:16:39
原创 統計學習方法--條件隨機場1
條件隨機場：給定一組輸入隨機變量條件下，獲得另一組輸出隨機變量的條件概率分佈模型。 特點：假設輸出隨機變量構成馬爾可夫隨機場。 這裏主要講：線性鏈條件隨機場 概率無向圖模型：又稱馬爾可夫隨機場，是一個由無向圖表示的聯合概率分佈。 模型
2020-02-21 12:16:39
原创 LDA和樸素貝葉斯相結合---圖像分類
通過LDA方法將原始空間轉換成特徵空間，然後再用樸素貝葉斯方法進行分類； 1)用LDA方法轉換成特徵空間，用 Deng Cai, Xiaofei He, Yuxiao Hu, Jiawei Han, and Thomas Huang,
2020-02-21 12:16:39
原创 統計學習方法----條件隨機場3
條件隨機場定義：給定隨機變量X（觀測序列）條件下，隨機變量Y（狀態序列）的馬爾可夫隨機場。 （由此可以看出，條件隨機場是條件概率分佈問題，馬爾可夫隨機場是聯合概率分佈問題。）
2020-02-21 12:16:39