一、绪论
机器学习VS数据挖掘
分类的过程
二、模型评估
评估方法
评估模型之留出法：简单粗暴，直接按2：1~4：1将数据集分为训练集：测试集。
评估模型之交叉验证法：将数据集分为k个互斥子集，一部分作为训练集，另一部分作为测试集，循环这个过程。常令k=10，进行十折交叉验证。使用全部样本，即为留一法。
评估模型之自助法：自助，有放回地采样。效果一般（吧），不常用（吧）。
评估指标
查准率（查得准不准？判为正例的样本有多少是准确的？）与查全率（查得全不全？实际为真例的样本是不是都查出来了？）
二者互相矛盾，F值将它们同时考虑。
分类任务中，常用“截断点”将正例与反例分开。ROC曲线依次选择不同的“截断点”构成不同的分类器，预测，分别计算“真正率”（作为横轴）和“假正率”（作为纵轴），连接数据点，作曲线。
ROC曲线及其曲线下的面积AUC，用于度量分类器的排序性能。
如何计算待测样本属于某一类的概率？条件似然CLL
比较检验
分类器A的准确率80%，分类器A的准确率90%，就能直接下结论说A优于B？不能，因为测试性能≠泛化性能等等（详见下图里的三个√）
如成对双边t检验法（t检验、查表等），还有其他的检验方法，不介绍了，反正类似于概率统计里的那些假设检验方法。
三、线性学习
线性回归
x系列是各种属性值；w和b可通过最小二乘法进行估计。
广义线性回归
非线性函数
逻辑斯蒂回归
逻辑斯蒂回归不是“回归”，而是一种分类方法。逻辑斯蒂函数，可代替单位阶跃函数，将回归预测输出的数值转为0/1（以二分类问题为例）
多分类学习
九、无监督学习
无监督学习基础知识
二、K均值聚类（k-means）
