原创 ML(7) - SVM支撐向量機

SVMSVM基本概念SVM數學模型Hard Margin SVMSoft Margin SVMScikit-Learn中的SVM(線性)API:sklearn.svm.LinearSVC多項式特徵(解決非線性問題)SVM核模型多項

原创 ML(5) - LogisticRegression邏輯迴歸

邏輯迴歸LogisticRegression基本概念LogisticRegression數學模型LogisticRegression損失函數LogisticRegression梯度下降梯度下降公式推導手寫LogisticRegre

原创 DL(4) - 卷積神經網絡ResNet/DenseNet之keras實作 (下)

卷積神經網絡keras實作ResNet核心原理網絡結構keras實作DenseNet核心原理Keras實作 使用keras實作 ResNet,DenseNet ResNet 核心原理 通常我們直觀的感覺讓網絡更深一定能學到

原创 ML(6)-Evaluate模型評估方法

評估方法線性迴歸算法評估方式MSE/RMSE/MAE/R Squaredscikit-learn中的MSE/MAE/R Squared分類算法評估方式準確率(accuracy)混淆矩陣查準率(precision)查全率(recal

原创 C語言基礎知識 ---------- 指針(pointer)、結構(structure)、字串(Char)

指針(pointer) 指針變量是一種特殊的變量,此變量存儲的內容不是普通值(int double char......)而是其它變量的地址(address)。 指針宣告:資料形態  *變量名   ---->    int  *ptr  

原创 圖像處理(Image Processing) ---------- PCX 解壓縮 (C#實現) )

PCX是一種古老的 圖像格式,現在已經被jpeg、png、gif等新生格式替代。但是作爲圖像處理新手的話,把它拿來練練手還很好的選擇。 PCX文檔,由頭文檔、位圖數據 (bitmap)、256色調色盤三部分構成。壓縮採用的是RLE(Run

原创 DL(2) -卷積神經網絡(CNN)

卷積神經網絡基本概念基本結構Keras API 基本概念 處理圖像分類問題,而誕生的具有一系類特殊操作的神經網絡。 普通神經網絡即由多層(N個神經元)構成。對於圖像來說,如果採用普通神經網絡將會面臨模型參數量巨大的問題。大量的

原创 DL(3) - 卷積神經網絡AlexNet/VGGNet/InceptionNet之keras實作 (上)

卷積神經網絡keras實作AlexNetVGGNetInceptionNet 數據 oxflower17 ,使用keras實作AlexNet,VggNet,InceptionNet AlexNet 如果說 LeNet是卷積

原创 DL(1) - 神經網絡基本概念

神經網絡基本概念神經元基本結構神經網絡基本結構損失函數及反向傳播手寫單神經元手寫多神經元單層網絡 神經元基本結構 神經元: 神經網絡的最小單元,每個神經元其實都是由兩部分組成:數學模型(Wixi+bW_{i}x_{i}+bW

原创 ML(10) - 模型訓練技巧

模型技巧交叉驗證Pipeline網格搜索偏差(Bias)和方差(Variance)模型正則化(Regularization)正則化基本概念正則化種類(scikit-learn) 交叉驗證 API:sklearn.model_

原创 DL(6)-圖像分割網絡Unet和Unet++詳解實作

Unet 和 Unet++UnetUnet++ 自從2015年,全卷積網絡(FCN)誕生,圖像分割在深度學習領域掀起旋風,同年稍晚Unet誕生,號稱可用極少數據獲取優質的結果,在數據可貴的醫療影像領域稱王稱霸。 2018年對Un

原创 DL(5) - ModelCheckPoint 和 EarlyStopping 詳解(你不知道的細節)

ModelCheckPoint 和 EarlyStopping 詳解ModelCheckPointAPI:tf.keras.callbacks.ModelCheckpoinEarlyStoppingAPI:tf.keras.cal

原创 記一次完整的機器學習競賽經歷

機器學習競賽經歷前言拓撲圖數據分析與處理特徵工程1. 特徵選擇2. 特徵處理模型 前言 此次競賽的題目爲‘信用卡盜刷偵測’,主辦方收集120天信用卡交易數據,0-90天作爲訓練集,90-120天作爲測試集,去除label共22個

原创 DL(4) - 卷積神經網絡ResNet/MobileNet/DenseNet/EffectionNet之keras實作 (下)

卷積神經網絡keras實作ResNet核心原理網絡結構keras實作DenseNet核心原理Keras實作 使用keras實作 ResNet,DenseNet ResNet 核心原理 通常我們直觀的感覺讓網絡更深一定能學到

原创 ML(12) - XGBoost / LightGBM 參數及用法詳解

XGBoost / LightGBM 參數及用法詳解XGBoost原始接口Sklearn接口LightGBMSklearn及原始接口參數搜索策略XGBoostLightGBM 對於兩種算法,官方都提供了兩種形式的接口,不同接口