原创 機器學習---背後數學原理--總結

文章目錄2020-06學習報告線性迴歸LASSO 迴歸Ridge 嶺迴歸感知機算法PLApocket算法線性判別分析邏輯迴歸高斯判別分析PCAhard-margin SVMsoft-margin SVM 2020-06學習報告 本

原创 機器學習---背後數學原理--SVM之核函數

文章目錄核函數正定核 核函數 在有的數據樣本中,樣本本就不是線性可分的。 所以,我們就希望 找到一個非線性函數,將樣本數據由低維映射到高維,從而使得樣本在高維空間下,是可以線性可分的。 cover theonemy: 高維比低維更

原创 機器學習---背後數學原理--指數族分佈

文章目錄指數族分佈公式指數族分佈三大特性與三個模型充分統計量共軛最大熵模型將高斯分佈寫成指數族分佈形式對數配分函數 A(η)A(\eta )A(η) 與充分統計量之間的關係極大似然估計求參數 與 充分統計量 之間的關係最大熵角度

原创 書籤2.md

我的賬號 python 機器學習 markdowm 學習基地 資源下載 在開源社區裏下載 在論壇,博客下載 其他類資源下載 優秀博客,雜文 數據挖掘,kaggle 競賽 機器學習案例 特徵工程 機器學習類 python 算

原创 機器學習---背後數學原理--soft-margin SVM

文章目錄 所以soft-margin SVM的中心實現: 在原hard-margin SVM模型的基礎上,允許樣本操作一定的誤差。

原创 機器學習---背後數學原理--降維PCA(主成分分析)

文章目錄維度災難過擬合的三種解決方案:PCA(主成分分析)數學 預備知識PCA(主成分分析)的核心思想PCA的目標:最大投影方差最小重構距離PCA(主成分分析)------最大投影方差角度PCA(主成分分析)------ 最小重構

原创 機器學習---背後數學原理--SVM

文章目錄SVM思想及其數學模型SVM的中心思想:用數學模型來表示SVM的中心思想討論支持向量與w,b的關係 建立思想 將思想轉化爲數學表達式(數學模型) 這個數學模型就是一個優化問題,求解這個優化問題即可。(梯度下降,EM算法,

原创 機器學習---背後數學原理--線性迴歸

文章目錄線性迴歸的地位線性迴歸--最小二乘法估計與極大似然法則線性迴歸模型最小二乘估計,極大似然 ,及二者的關係(用頻率派的角度理解最小二乘)最小二乘估計極大似然最小二乘估計 與 極大似然 的關係線性迴歸--正則化嶺迴歸 l2 正

原创 機器學習---背後數學原理--線性分類器

文章目錄線性分類的背景感知機線性判別分析邏輯迴歸高斯判別分析 線性分類的背景 感知機 https://blog.csdn.net/MosBest/article/details/52029217 這篇文章講了 感知機算法和po

原创 機器學習---背後數學原理--線性分類

文章目錄線性分類的背景感知機線性判別分析邏輯迴歸高斯判別分析 線性分類的背景 感知機 https://blog.csdn.net/MosBest/article/details/52029217 這篇文章講了 感知機算法和po

原创 機器學習---背後數學原理--開篇:頻率派 VS 貝葉斯派

文章目錄學習資料 機器學習方法最終引入 概率 是一個必然趨勢,於是演化成 兩大流派: 頻率派 貝葉斯派 本片blog就是來講解這兩大流派的異同。 前提假設: 樣本 xi=(xi1,xi2,...,xip)x_i = (x_{i

原创 機器學習---背後數學原理--線性迴歸(最小二乘法)

文章目錄線性迴歸--最小二乘法估計與極大似然法則線性迴歸模型最小二乘估計,極大似然 ,及二者的關係(用頻率派的角度理解最小二乘)最小二乘估計極大似然最小二乘估計 與 極大似然 的關係線性迴歸--正則化嶺迴歸 l2 正則化 (頻率派

原创 mysql基礎結構

注意:本筆記整理於 極客時間 mysql實戰45講 文章目錄mysql 基礎架構Server層長連接 與 短連接,--- 儘量使用長連接大多數情況下建議不要使用查詢緩存存儲引擎層redo log(重做日誌)和binlog(歸檔日誌

原创 python常見知識點

注意以下內容,大部分爲 極客時間 Python核心技術與實戰 整理得到 文章目錄裝飾器與閉包GIL何爲GILGIL如何工作CPython引入GIL概念原因+=導致的線程不安全問題(有了GIL,線程也不一定安全)容器,可迭代對象,迭

原创 前綴式表達式求值

上一篇博客講了中綴,後綴表達式的求法,這裏就記載一下前綴的。 可以參考這篇博客 nyoj ACM:前綴式計算( 堆棧的使用 或 遞歸 ) 比如求 : + 2 * + 3 4 5 注意輸入的之間都有空格 思路: 1.