原创 機器學習——分類算法之決策樹

機器學習——分類算法之決策樹前言1、信息熵2、條件熵ID3算法C4.5決策樹CART決策樹1、CART決策樹的分類算法2、CART決策樹的迴歸算法剪枝1、預剪枝2、後剪枝連續值和缺失值的處理1、連續值的處理2、缺失值的處理 前言

原创 機器學習——分類算法之感知機

機器學習——分類算法之感知機前言符號函數感知機模型感知機算法1、原始形式2、對偶形式代碼 前言 感知機算法(perceptron)是用於二分類的線性分類模型,將輸入實例劃分爲正例和負例的一個超平面,屬於判別模型。感知機算法旨在求出

原创 數據挖掘——關聯規則算法之FP-tree

數據挖掘——關聯規則算法之FP-tree前言FP-tree算法FP-tree的優缺點 前言 Apriori算法需要生成大量的候選集而且需要進行多次的掃描,對於那些大數據量的數據集很耗費時間。基於此問題,FP-tree算法不用生成候

原创 數據挖掘——關聯規則算法之Apriori

數據挖掘——關聯規則算法之Apriori一、關聯規則的基本概念二、強關聯規則三、關聯規則挖掘算法代碼 一、關聯規則的基本概念 設I=i1,i2,...,imI={i_{1},i_{2},...,i_{m}}I=i1​,i2​,..

原创 數據挖掘——社區發現算法之LPA算法

機器學習——社區發現算法之LPA算法 https://greatpowerlaw.wordpress.com/2013/02/08/community-detection-lpa/

原创 數據挖掘——時間序列算法之ARCH模型

數據挖掘——時間序列算法之ARCH模型 先佔個坑 1、平滑法 2、趨勢擬合法 3、組合模型 4、AR模型 5、MA模型 6、ARMA模型 7、ARIMA模型 8、ARCH模型 9、GARCH模型及其衍生模型

原创 數據挖掘——時間序列算法之平滑法

數據挖掘——時間序列算法之平滑法前言平滑法1、簡述2、移動平均法2.1、簡單移動平均2.2、加權移動平均法3、指數平滑法3.1、一次指數平滑3.2 二次平滑指數3.3、三次平滑指數 前言 時間序列是許多數據挖掘任務重最常見的類型之

原创 數據挖掘——時間序列算法之GARCH模型及其衍生模型

數據挖掘——時間序列算法之GARCH模型及其衍生模型 先佔個坑 1、平滑法 2、趨勢擬合法 3、組合模型 4、AR模型 5、MA模型 6、ARMA模型 7、ARIMA模型 8、ARCH模型 9、GARCH模型及其衍生模型

原创 數據挖掘——特徵選擇

數據挖掘——特徵選擇前言特徵選擇 前言 特徵選擇是數據挖掘人物中相當重要的一步,選擇地好既能去除冗餘特徵減少不必要的計算,又能增加數據的表達性,增加算法的準確率。特徵選擇的方法很多,需要一個蘿蔔一個坑,所以需要找到最適合當前任務的

原创 機器學習——貝葉斯算法和樸素貝葉斯算法

機器學習——分類算法之貝葉斯算法和樸素貝葉斯算法前言一、貝葉斯算法算法示例二、樸素貝葉斯分類器1、貝葉斯決策論2、多元正太分佈參數的極大似然估計3、樸素貝葉斯分類器 前言 這部分的公式推導較多,涉及到了極大似然估計和貝葉斯估計,要

原创 數據挖掘——時間序列算法之組合模型

數據挖掘——時間序列算法之組合模型前言 前言 1、平滑法 2、趨勢擬合法 3、組合模型 4、AR模型 5、MA模型 6、ARMA模型 7、ARIMA模型 8、ARCH模型 9、GARCH模型及其衍生模型 ARMA算法、ARIMA算

原创 數據挖掘項目——金融反欺詐

數據挖掘項目——金融反欺詐前言一、數據集獲取二、特徵工程1、讀數據2、去除特殊字符3、刪除屬性4、提取標籤三、構建模型 前言 該項目來自北風網,模型搭建很簡單,該篇記錄過程總結套路。 一、數據集獲取 https://www.len

原创 數據挖掘——時間序列算法之AR模型

數據挖掘——時間序列算法之AR模型 先佔個坑 (這句話是我在2019年11月21日20:44:39寫的,哎時光飛逝啊,過了這麼久我纔來填這個坑) 1、平滑法 2、趨勢擬合法 3、組合模型 4、AR模型 5、MA模型 6、

原创 數據挖掘——時間序列算法之ARIMA模型

數據挖掘——時間序列算法之ARIMA模型前言差分定義ARIMA模型實踐1、檢驗序列的平穩性2、進行一階差分後,進行平穩性和白噪聲檢驗3、對一階差分之後的平穩非白噪聲序列擬合ARMA模型1)人爲識別方法2)相對最優模型識別4、使用A

原创 機器學習——分類算法之邏輯迴歸

機器學習——分類算法之邏輯迴歸前言邏輯迴歸(Logistic Regression)1、Sigmoid函數2、算法推導3、代碼 前言 邏輯迴歸也被稱爲對數機率迴歸,注意這裏面說的迴歸並不是真正意義上的迴歸算法,其實它是一個經典的分