原创 機器學習——線性迴歸衍生(過擬合、正則化、嶺迴歸和LASSO迴歸)

過擬合、正則化、嶺迴歸、LASSO迴歸爲什麼會出現線性迴歸的衍生方法——正規方程法的侷限過擬合模型複雜度過擬合的概念防止過擬合的辦法正則化嶺迴歸(Ridge Regression)1. Ridge迴歸基本思想2. 求解嶺迴歸——正

原创 CDA二級建模分析師考試相關

CDA L2 建模分析師經驗分享寫這篇博客的原因考試介紹題型分佈考綱梳理1. 考綱內容2. 考綱重點梳理Tip學習資料 PS.本文圖片都是作者原創,轉載請註明出處,謝謝! 寫這篇博客的原因 我備考之路可以說是相當孤獨,還好在後期加

原创 機器學習入門——10分鐘走進邏輯迴歸(Logistic Regression)附python代碼

邏輯迴歸的原理、求解及python實現邏輯迴歸的由來:從線性迴歸到邏輯迴歸線性迴歸回顧sigmoid函數的優良性質過渡到邏輯迴歸邏輯迴歸可以解決的問題邏輯迴歸的決策邊界邏輯迴歸的求解損失函數梯度下降法求解邏輯迴歸python實現—

原创 偏倚方差分解——R code

過擬閤中模型複雜度和預測誤差的曲線圖:bias variance trade off # bias variance trade off ----------------------------------------------

原创 機器學習入門——線性迴歸剖析

線性迴歸及其求解方法:梯度下降、最小二乘、正規方程引言一元線性迴歸損失函數損失函數可視化一元線性迴歸損失函數:求解一元線性迴歸方法一、最小二乘法方法二、梯度下降法求解多元線性迴歸方法一、梯度下降法方法二、正規方程法寫在最後 引言

原创 機器學習——從感知機到BP神經網絡(20分鐘神經網絡入門全解)附BP神經網絡python代碼

神經網絡知識總結人工神經網絡的由來爲什麼要使用神經網絡?從人體神經網絡系統到人工神經網絡最簡單的神經網絡——感知機感知機的構造感知機權值更新的概念和計算感知機的權值更新感知機詳細計算過程增加hidden layer的神經網絡——B

原创 手寫二元線性迴歸梯度下降—Python代碼

梯度下降法的python實現代碼思路代碼實現數據資料 代碼思路 導入所需庫 導入所需數據 數據轉換—提取X,Y 設置初始值 事先指定係數值、學習率、迭代次數 定義損失函數(二元線性迴歸) J(θi)=12m∑i=1m[hθ(x(

原创 [積累]markdown書寫格式(持續更新...)

1、常用數學公式 名稱 式例 markdown 下標 xix_ixi​ x_i 上標 x2x^2x2 x^2 累加和 ∑i=1n\sum_{i=1}^n∑i=1n​ \sum_{i=1}^n 分數 12\

原创 隨機森林實現及調參的R與Python對比——以泰坦尼克倖存者數據爲例

隨機森林實現及調參一、R語言方法一、手動調參方法二、網格調參二、python 注:本博客數據仍採用決策樹調參的泰坦尼克號數據,前奏(數據預處理)請參考☞ 決策樹R&Python調參對比☜ 一、R語言 方法一、手動調參 PS.僅使用

原创 機器學習——模型評估與選擇(保持方法、交叉驗證、自助法、混淆矩陣、精度、召回率、F1值)[超詳細]

模型評估與選擇:分類模型和數值預測模型分類模型評價指標1、混淆矩陣2、模型準確率Accuracynote.類不平衡/類偏斜2、精度Precision3、召回率Recall4、Precision和Recall的trade off——

原创 機器學習——“物以類聚,人以羣分”之聚類分析(層次聚類,K-means)

由淺入深聚類分析·算法原理及核心步驟引入聚類分析概念1、簇2、簇的類型劃分3、相似性度量聚類方法1、聚類類型的劃分依據2、常用的聚類分析方法(1)層次聚類(2)劃分(分割)聚類——K-Means基於中心的聚類——K-means算法

原创 機器學習——“近朱者赤,近墨者黑”之KNN(k-Nearest Neighbor)及實現

K-最近鄰算法引入:是不是鴨子?案例爲本的學習(Case based learning)——惰性學習KNN的原理相似性的度量數據預處理均值規範化0-1規範化距離計算算法步驟及實例計算KNN的優缺點代碼參考文獻 引入:是不是鴨子?

原创 決策樹實現及調參的R與python方法對比——以泰坦尼克倖存者數據爲例

R&python的決策樹實現及調參R實現python實現 注:本文不涉及決策樹理論部分,若有興趣請移步☞https://blog.csdn.net/weixin_43462348/article/details/101975391

原创 機器學習——基於Bagging的集成學習:隨機森林(Random Forest)及python實現

基於Bagging的集成學習:隨機森林的原理及其實現引入Bagging裝袋隨機森林隨機森林分類隨機森林迴歸python實現隨機森林分類隨機森林迴歸 引入 “三個臭皮匠賽過諸葛亮”——弱分類器組合成強分類器。 Q1.什麼是隨機森

原创 機器學習——“讓樹幫你做決策”之決策樹(Decision Tree)(ID3,C4.5,CART,決策樹剪枝)

決策樹算法原理及實現引入:去不去相親?決策樹(Decision Tree)定義決策樹的構造決策樹算法原理決策樹算法(1)ID3算法(2)C4.5算法(3)CART算法(Classification and Regression T