原创 [機器學習實驗1]Linear Regression
線性迴歸分析，最簡單的一個預測模型，也屬於機器學習中的監督學習的範疇，這裏主要對LINEAR REGRESSION I這部分的實驗做個記錄。 具體的理論要去看Andrew Ng大神的機器學習課程http://cs229.stan
2020-06-30 19:51:09
原创 機器學習技法課程學習筆記1 -- Linear Support Vector Machine
轉載自這個博主，整理的很好。 主要是林軒田的課程的裏面的PPT和講的一些東西的整理，感謝這個博主的整理，這裏做個備份，免得以後找不到了 Large-Margin Separating Hyperplane 回顧一下我們之前介紹了l
2020-06-30 19:51:09
原创 動態規劃的定義和舉例理解
動態規劃的本質不在於是遞推或是遞歸，也不需要糾結是不是內存換時間。 理解動態規劃並不需要數學公式介入，只是完全解釋清楚需要點篇幅…首先需要明白哪些問題不是動態規劃可以解決的，才能明白爲神馬需要動態規劃。不過好處時順便也就搞明白了
2020-06-30 19:51:08
原创 SVM和Logistic Regression的使用時的區別
上圖來自Andrew Ng的機器學習課程，我做個搬運工： 假設： n = 特徵數量，m = 訓練樣本數量 1）如果n相對於m更大，比如 n = 10,000，m = 1,000，則使用lr 理由： 特徵數相對於訓練樣本
2020-06-30 19:51:08
1
原创 [機器學習實驗4]正則化（引入懲罰因子）
數據下載鏈接： http://openclassroom.stanford.edu/MainFolder/courses/MachineLearning/exercises/ex5materials/ex5Data.zip 本
2020-06-30 19:51:08
原创 機器學習技法課程學習筆記4 -- Soft-Margin Support Vector Machine
轉載自：http://blog.csdn.net/red_stone1/article/details/74279607 上節課我們主要介紹了Kernel SVM。先將特徵轉換和計算內積這兩個步驟合併起來，簡化計算、提高計算速度，
2020-02-23 09:59:37
原创 機器學習技法課程學習筆記8 -- Adaptive Boosting
本文可以配套着我的另一篇博文http://blog.csdn.net/gyh_420/article/details/78095053來更進一步地理解文中 ut是怎麼更新的。 上節課我們主要開始介紹Aggregation Mode
2020-02-23 09:59:37
原创 機器學習技法課程學習筆記5-- Kernel Logistic Regression
上節課我們主要介紹了Soft-Margin SVM，即如果允許有分類錯誤的點存在，那麼在原來的Hard-Margin SVM中添加新的懲罰因子C，修正原來的公式，得到新的αn值。最終的到的αn有個上界，上界就是C。Soft-Margi
2020-02-23 09:59:37
原创 機器學習技法課程學習筆記3 -- Kernel Support Vector Machine
上節課我們主要介紹了SVM的對偶形式，即dual SVM。Dual SVM也是一個二次規劃問題，可以用QP來進行求解。之所以要推導SVM的對偶形式是因爲：首先，它展示了SVM的幾何意義；然後，從計算上，求解過程“好像”與所在維度d^無
2020-02-23 09:59:37
原创 機器學習技法課程學習筆記2 -- Dual Support Vector Machine
Motivation of Dual SVM 首先，我們回顧一下，對於非線性SVM，我們通常可以使用非線性變換將變量從x域轉換到z域中。然後，在z域中，根據上一節課的內容，使用線性SVM解決問題即可。上一節課我們說過，使用SVM得
2020-02-23 09:59:37
原创 C++的bitset(位操作使用)
有些程序要處理二進制位的有序集，每個位可能包含的是0（關）或1（開）的值。位是用來保存一組項或條件的yes/no信息（有時也稱標誌）的簡潔方法。標準庫提供了bitset類使得處理位集合更容易一些。要使用bitset類就必須要包含相關的頭文
2020-02-23 09:59:37
原创 [機器學習實驗5]樸素貝葉斯（篩選垃圾郵件）
本次實驗是使用生成學習算法來處理數據（篩選垃圾郵件）。 判別學習算法（discriminative learning algorithm）:直接學習p(y|x)（比如說logistic迴歸）或者說是從輸入直接映射到{0,1}.
2020-02-23 09:59:27
原创 [OPENCV]使用Adaptive Boosting進行分類
最近學習了AdaBoosting算法，這個算法是上個世紀90年代末提出的，但是在深度學習出來之前，這個算法統治了人臉檢測領域，大概的原理這裏給出來，具體公式和原理實現請看機器學習的相關課程。 常用的分類方法有決策樹分類、貝葉斯分類
2020-02-23 09:59:27
原创 相機標定的原理
主要蒐集了我覺得網上有用的資料，講的很好，瞭解了相機標定的原理和數學方法 主要來源於這兩篇文章 https://zhuanlan.zhihu.com/p/24651968 http://blog.csdn.net/pinbodex
2020-02-23 09:59:27
原创 [機器學習實驗2]Multivariate Linear Regression
感覺第二個實驗和第一個實驗基本是一樣的。。不曉得爲什麼課程對這個問題做了兩個實驗，可能要加深對線性迴歸的理解吧，這個實驗的迴歸變量增加了一個，有兩個影響因素。題目如下，是預測房價的 因爲和上篇實驗基本一樣，這裏就不貼公式
2020-02-23 09:59:27