原创 機器學習-樹迴歸

基於CART形成的迴歸樹以及樹的預剪枝和後剪枝,代碼如下: """ 機器學習-樹迴歸(CART) 姓名:pcb 日期:2019.01.10 """ from numpy import * class treeNode():

原创 機器學習-KMeans

一、 K-均值聚類算法 聚類是一種無監督學習,它將相似的對象歸到同一個簇中。簇內對象越相似,聚類效果越好。K-Means算法就是其中的一種聚類算法。其實現代碼如下: #1.KMeans均值聚類算法 #2.僞代碼 """

原创 機器學習-線性迴歸

一、用線性迴歸預測最佳擬合直線        迴歸的目的是用已知的迴歸方程預測數值型的目標值,求迴歸方程係數的過程叫做迴歸。具體的做法是用迴歸係數乘以輸入值,再將結果全部加起來,就得到預測值。      求迴歸係數的一個常用方法是找出

原创 機器學習-AdaBoost元算法

一、AdaBoost元算法簡介 元算法(也叫集成算法)是對其他算法進行組合的一種方式。Boosting是通過集中關注被已有分類器錯分的那些數據來獲得新的分類器,並且Boosting分類器中的權重並不相等,每個權重代表的是其對應分類器在

原创 機器學習-支持向量機(SVM)

關於SVM的理論以及推導過程可以參考這篇博文:http://www.cnblogs.com/pinard/p/6097604.html; 這篇博客講的非常細緻,具體到每個公式的推導,但如果想要深入的瞭解SVM原理還需要自己把公式都推導

原创 機器學習Logistic迴歸

一、Logistic迴歸        使用一條直線對一些數據點進行擬合(該線稱爲最佳擬合線),這個擬合過程叫做迴歸。利用Logistic迴歸進行分類的主要思想是:根據現有數據對分類邊界線建立迴歸公式,以此進行分類。訓練Logisti

原创 機器學習-決策樹2

上一篇博客簡單粗暴的介紹了基於ID3算法的決策樹的代碼實現,這篇博客具體介紹一下決策樹中常用算法ID3、C4.5以及CART算法的原理,最終會給出基於C4.5的代碼實現,CART算法代碼實現在迴歸樹那邊。 一 、基本概念 1.信息量

原创 使用Python的matplotlib畫折線圖,柱狀圖,三維圖

因爲在各種場景下需要各種實驗數據的對比圖像,有的中還要求dpi,這些在Python中的matplotlib中都可以實現,下面是總結的各種畫圖命令。   打包文件:https://download.csdn.net/download/p

原创 機器學習-樸素貝葉斯分類器

一、條件概率 使用貝葉斯分類器分類文本屬性。現已知一個詞是否出現在一篇文檔中,也知道該文檔所有的類別,那麼使用條件概率可以得到:                                            p(ci∣w)=p

原创 機器學習-決策樹

基本原理:   kNN算法可以完成很多分類任務,但是它的最大的缺點就是無法給出數據的內在含義,決策樹的主要優點就在於數據形式非常容易理解。   決策樹的一般流程: 收集數據 準備數據:樹構造算法只適用於標稱型數據,因此數值型必須離散

原创 機器學習-k近鄰算法(kNN)

簡單的說,kNN算法採用測量不同特徵值之間的距離方法進行分類。kNN算法優缺點以及使用範圍:    優點: 精度高、對異常值不敏感、無數據輸入假定;    缺點:計算複雜度高,空間複雜度高    使用數據範圍:數值型和標稱型。   k

原创 基於正態分佈的點雲離羣點檢測算法和基於VoxelGrid的點雲下采樣算法的完整版(C++實現)

/*------------------------------------- 1.基於正態分佈的點雲離羣點檢測算法 2.基於VoxelGrid的點雲下采樣算法 3.作者:pcb 4.日期:2018.10.3 ------------

原创 基於正態分佈的多元離羣點的檢測方法(項目需要對點雲離羣點檢測)的C++實現

基於異常點檢測算法(一)概率統計的原理地址是https://blog.csdn.net/yangziluomu/article/details/73528080 下面是用C++實現了基於正態分佈的多元離羣點的檢測方法 /*------

原创 PCL中的VoxelGrid體素網格化下采樣(自己改的PCL中的源碼,這樣就不需要加載PCL庫了)

找了網上的點雲VoxelGrid都是採用PCL庫實現的,但是項目中爲了不用PCL庫,就自己用C++實現了一遍;爲了省事就寫在了cpp文件中 /*------------------------------------- 2.基於Vox

原创 C++實現向從txt中讀3D點雲數據以及向txt中寫入3D點雲數據

//定義3D點的結構體 struct Point3D { float x; float y; float z; }; /*---------------------------- * 功能 : 讀取一個txt中的數據,將數據放