原创 Devstack真實環境搭建OpenStack

文章目錄環境介紹環境搭建虛擬機環境Ubuntu環境配置磚治疑難雜症 實際環境已搭建成功 環境介紹 Ubuntu18.04(LTS) + OpenStack Queens 本文采用devstack進行自動化安裝。 環境搭建 1.下載

原创 L1正則爲什麼會產生稀疏解

文章目錄正則化的本質L2正則化直觀解釋數學解釋L1正則化直觀解釋數學解釋 在機器學習中,當模型過於複雜時,爲了防止產生過擬合的現象,最常用的方法時採用正則化,如L1正則和L2正則. 正則化的本質 L2正則就是在原來的損失函數的基礎

原创 集成算法梳理——XGBoost

文章目錄算法原理損失函數分裂結點算法正則化對缺失值處理優缺點優點缺點應用場景xgb API 算法原理 算法思想就是不斷地添加樹,不斷地進行特徵分裂來生長一棵樹,每次添加一個樹,其實是學習一個新函數,去擬合上次預測的殘差。當我們訓練完成

原创 集成學習算法梳理——GBDT

文章目錄GBDT概述前向分步算法損失函數負梯度擬合損失函數分類算法正則化優缺點優點缺點sklearn APIsklearn.ensemble.GradientBoostingClassifier()應用場景參考資料 GBDT概述 GB

原创 集成學習算法梳理——RF

文章目錄集成學習集成學習的理論基礎PAC(probably approximately correct),可能近似正確學習框架強可學習&弱可學習主要算法Boosting、BaggingBoostingBaggingBootstrapB

原创 Connecting language and knowledge with heterogeneous representations for neural relation extraction

This is a paper about relationship extraction on NAACL 2019. Connecting language and knowledge with heterogeneous rep

原创 MySQL(三)事務隔離

文章目錄隔離性和隔離級別事務隔離的實現事務的啓動方式如何避免長事務對業務的影響應用開發端數據庫端 事務就是要保證一組數據庫操作,要麼全部成功,要麼全部失敗. 在MySQL中,事務支持是在引擎層實現的,並不是所有的引擎都支持事務,如My

原创 MySQL(一)基本架構

文章目錄MySQL基本架構示意圖Server層連接器查詢緩存分析器優化器執行器內置函數存儲引擎層 MySQL基本架構示意圖 Server層 所有跨存儲引擎的功能都在這一層實現,比如存儲過程、觸發器、視圖等. 連接器 連接到數據庫,負

原创 MySQL(二)日誌系統

文章目錄更新語句的執行流程redo logbinlog執行器和InnoDB引擎update語句的內部流程兩階段提交 更新語句的執行流程 MySQL可以恢復到半個月內任意一秒的狀態. mysql> create table T(ID i

原创 Resample方法

文章目錄BootstrapBaggingBoostingAdaBoost Bootstrap 在原有的訓練數據集上重複性地隨機選取n個數據. 核心思想在於,給定訓練集,當你認爲給定的訓練集不能夠很好地反應數據的真實分佈時,可以採用重採

原创 基於adaboost的人臉快速檢測

文章目錄人臉檢測方法基於膚色特徵的檢測高斯膚色模型膚色模型的缺點基於AdaBoost的快速人臉檢測Haar-like矩形特徵Haar-like特徵的表示快速計算任意矩陣內所有像素的亮度之和AdaBoost基於AdaBoost的快速人臉

原创 最大熵模型

文章目錄最大熵原理最大熵模型的定義最大熵模型的學習參考資料 最大熵原理 最大熵模型是由最大熵原理推導實現的. 最大熵原理認爲,學習概率模型時,在所有可能的概率模型的中,即在所有可能的概率分佈中,熵最大的模型時最好的模型. 當有約束條件

原创 L1正則的數學解釋

文章目錄正則化的本質L2正則化直觀解釋數學解釋L1正則化直觀解釋數學解釋 在機器學習中,當模型過於複雜時,爲了防止產生過擬合的現象,最常用的方法時採用正則化,如L1正則和L2正則. 正則化的本質 L2正則就是在原來的損失函數的基礎上加

原创 SVM和LR對比

文章目錄SVM和LR的相同之處SVM和LR的不同 SVM和LR的相同之處 二者都是監督學習方法. 二者都是分類算法. 二者都是線性分類算法,二者的分類決策面都是線性的,即求解一個超平面… SVM可以通過核技巧拓展到非線性. 二者都是

原创 AdaBoost詳解

文章目錄提升方法的思路強可學習和弱可學習PAC學習AdaBoostAdaBosst算法AdaBoost算法的訓練誤差分析前向分步算法前向分步算法和AdaBoost參考文獻 提升方法的思路 對於一個複雜任務,將多個決策進行適當的綜合所得