要點
統計學習理論（SLT）表明了條件因而在樣例學習上是成功的，也就是說，這些訓練數據中的正樣本對在相同概率分佈下的新樣本有有效的泛化能力。一致的分佈是重要的：一個優秀的人類老師從來不會用一些樣本來訓練學生，而用完全不同的例子來測試。換句話說，樣本需要反映問題。學習能力的狀況指的是假設空間（我們用來學習的“帶可調參數的自由機器”）必須有足夠的能力在測試數據（有小的經驗風險）上達到好的性能，但太強的能力會導致僅僅是簡單地記住樣本而不是提取問題的深度結構。自由度由VC-dimension決定。
SLT指明瞭從數據學習的天堂是存在的，但對於多數實際問題，並沒有展示一條通往其中的可行道路，在直覺和交叉驗證的指引下選擇合適的核和參數是成功的關鍵。
深度學習和MLPs的最新研究成果打開了“特徵工程”和全自動核選擇的希望之門。研究還在進行，新的顛覆性的技術和相較懶惰地宣傳推廣智慧而言，跟隨有創造力的自由思維更有前景。