(文章都是不定時更新的，已發佈的博客也會不定時編輯，如有錯誤，請各位指正:）)
1. No free Lunch Theorem
考慮平均的所有數據生成的方法，所有的分類算法在未見過的數據上實際上都有相同的泛化誤差(generalization error).
No free lunch theorem表明的是，在我們設計分類器時，並不是在設計適合所有數據的分類器，實際上，分類器的設計應該更是怎對當前面對的數據集的分佈。
2 Regularization
正則化表明了我們模型對哪些函數的偏愛，即從假設空間(hypothesis space)中選擇更爲適合的函數集（這一點實際上就是滿足了No free lunch theorem）