深入理解拉格朗日乘子法（Lagrange Multiplier) 和KKT條件
核方法(kernel method)的主要思想
原文作者：daniel-D 出處：http://www.cnblogs.com/daniel-D/archive/2013/05/30/3109276.html 0. 前言 這學期 Pattern Recognition 課程的
本博客中的相關博文： 林軒田老師機器學習基石16篇筆記，機器學習技法16篇筆記，阿里雲大學機器學習筆記6篇。 機器學習基石 更新時間 筆記內容 課程作業 2020.03.06 機器學習基石01：機器學習簡介
決策樹是廣泛用於分類和迴歸任務的模型。 構造決策樹如果不進行控制，每個葉結點都是純葉結點，這樣會造成過擬合。 防止過擬合的方法有兩種：預剪枝和後剪枝。sklearn只實現了預剪枝，包括限制樹的最大深度、限制葉結點的最大數目等等。 1、分類
例子摘自李航老師的《統計學習方法》，公式參考西瓜書或者《統計學習方法》 例： 已知一個如圖所示訓練集，正例點是x1 = (3,3)，x2 = (4,3)，反例點是x3 = (1,1)，試求最大間隔分離超平面。 解： 以上是直接帶入公式
ROC（Receiver Operating Characteristic）曲線，以及AUC（Area Under Curve），常用來評價一個二值分類器的優劣，ROC的橫軸爲false positive rate，FPR，也就是
