原创 支持向量機的基本原理

目錄 預備的數學知識 約束優化問題 分類 線性可分支持向量機 hard-margin SVM: 最大間隔SVM 第一寶 間隔 第二寶 對偶 原問題和對偶問題有相同解的充要條件 soft-marign 軟間隔 優化目標 一些損失函

原创 BP算法的矩陣推導

目錄 1. 需要的微積分知識 1.1 導數 1.2 求導的鏈式法則 2. 梯度下降法 2.1 梯度 2.2 梯度算法的解釋 3.誤差反向傳播算法 3.1 理論推導 3.1.1 符號說明 3.1.2 推導過程 3.2 BP算法的小

原创 迴歸樹

目錄 分類樹與迴歸樹 迴歸樹 原理介紹 最小二乘迴歸樹生成算法 CART算法 Python代碼 節點類 迴歸樹類 簡單的例子 Python庫 分類樹與迴歸樹 分類樹用於分類問題。分類決策樹在選取劃分點,用信息熵、信息增益、

原创 決策樹的基本概念

目錄 決策樹 什麼是決策樹 基本概念 數學問題-熵-Gini係數 決策樹如何構建的問題 訓練算法 過擬合 隨機森林 決策樹單個節點選擇的代碼實現 簡單實現了單個節點決策構造過程 Python sklean裏面tree模塊裏面的Dec

原创 SVD的基礎詳解

目錄 😄 1️⃣ 簡單說一下特徵值、特徵向量與特徵分解    I. 特徵值、特徵向量與特徵分解    II. 幾何意義    III. 如何實現通過Matlab、Python實現 2️⃣詳細解說SVD    I. 幾何意義    I. 奇異