1. 背景
最近看到了周志華老師出了新書《機器學習理論導引》，我抱着不能錯過的心態買來看了一看，發現新書與以前看過的機器學習方面的書所講述的內容完全不一樣，於是想寫一篇筆記記錄一下。
2. 閒談
這是一本讓人自省並且發現自己的無知的書。
我大概是一年前開始瞭解機器學習的，也就是那個 不學AI，無以言 的時候。周志華老師的《機器學習》，李航老師的《統計學習方法》，拿在手上好像走路帶風，有了這兩本書，好像就把自己和熙熙攘攘的人羣區分了開來，我們是知道AI的人，他們是 不知道AI的人。
我在淘寶搜了一下，《深度學習》沒有上面兩本書賣得好，爲什麼呢？主要是太重了不好帶着出門。
剛開始學的時候，sklearn 一調，兩手一叉，再喝口茶，看着屏幕上輸出的 loss 逐漸降低，感覺自己就是 AI 的 Master。
後來陸陸續續看了一點CV、NLP、GAN、知識圖譜，雖然公式很多看不懂，但許多時候也就是這樣的網絡 和那樣的 卷積 的一些組合。再加上可以 import tensorflow as tf，from torch import nn，import mxnet as mx，哪裏不會點哪裏，想要什麼網絡都有現成的。
於是，AI 工具的低使用門檻和 AI 崗位的高收益形成了鮮明的對比，這就是金融界苦苦追尋的無風險套利啊。一時間搞生物的、搞機械的、搞通訊的都開始學起了 AI，其中當然少不了我們搞計算機的，字節跳動甚至因爲收到的算法工程師簡歷的數量遠超需求，給求職者發郵件建議大家轉投開發崗位。與此同時，我們也學會了一個詞叫人才內卷。
質疑的聲音也總會有的，一個跑出來的結果好，但是你根本不知道爲什麼好的模型，真的會有不錯的應用前景嗎？
在這樣的環境下，潛心搞理論研究的人少，趕緊調個參發兩篇論文的人多。
我學得也很浮躁，因爲別人在宣揚 AI 會推翻人類對世界的統治的時候，我默默地看了一眼屏幕中的神經網絡，低下了自己的頭。
從京東小哥手裏拿過書的時候，我掂量了一下，不重，適合帶出門。拆掉外包裝之後，發現頁面有一點褶皺，不要緊，再過一年可能就看起來跟新買的一樣了。
看書先看目錄，可是一看目錄我就傻了，預想之中的熟悉感沒有到來，很多東西見都沒見過。
我們來看看《機器學習》的目錄。
├── 第1章 緒論
├── 第2章 模型評估與選擇
├── 第3章 線性模型
├── 第4章 決策樹
├── 第5章 神經網絡
├── 第6章 支持向量機
└── ...
是不是覺得都比較熟悉，起碼有個大概的idea，知道這些是什麼東西。
再來看看《機器學習理論導引》的目錄。
├── 第1章 預備知識
├── 第2章 可學性
├── 第3章 複雜度
├── 第4章 泛化界
├── 第5章 穩定性
├── 第6章 一致性
├── 第7章 收斂率
└── 第8章 遺憾界
阿Sir，這些都是啥呀。什麼是PAC可學、VC維、Natarajan維、線性超平面、在線強凸優化？
我再翻到序言部分，老師從2017年開始試講本書，期間多次調整內容，在2018年給南京大學研究生講完一輪後，有 的學生感覺難度較大。再次調整內容後，再2019年春季又講授一輪，學生反饋情況大致符合預期。
我們可以再拿周志華老師之前的作品來進行對比。在《機器學習》一書中，周志華老師提到這是一本面向理工科高年級本科生和研究生的教科書，並且給出瞭如果作爲本科生教材，講授進度上的一些建議。
而在《機器學習理論導引》中，老師說，本書讀者必須具備較爲紮實的理工科高年級本科生的數學知識，還必須具備機器學習的基礎知識，至少應該系統性地學習過機器學習的專門性教科書。
由此我們大概可以認爲，《機器學習理論導引》是《機器學習》一書的後續進階讀物，涉及理論研究方面的內容，主要面向的羣體應該還是研究生。
對於我這個剛接觸機器學習一年的普通本科生來說，裏面是全新的內容，粗看下來更像是一本數學和統計方面的書，同時也意味着我有不少的數學知識需要補充。
這就是爲什麼我在一開始說到，這是一本讓人自省並且發現自己的無知的書。
有了黑箱工具的支持，我們站在應用的層面上，很容易覺得機器學習不過如此，但是機器學習真的不過如此嗎？有時候，我們產生不過如此的感覺，是因爲我們知道的東西太少。
有一種認知偏差叫做達克效應（D-K effect），全稱爲鄧寧-克魯格效應（Dunning-Kruger effect）。能力欠缺者們沉浸在自我營造的虛幻的優勢之中，常常高估自己的能力水平。
這本書也許就能讓人從愚昧山峯上走下來，意識到自己的無知。
如果說《機器學習》與講TensorFlow的書相比，前者是道，後者是器，那麼《機器學習理論導引》可能就是道之道，用來研究機器學習理論的理論。
在意識到自己的無知之後，我也想一邊學習本書，一邊寫幾篇筆記記錄自己的學習過程，想要了解的同學可以關注後續。
聯繫郵箱：[email protected]
CSDN：https://me.csdn.net/qq_41729780
知乎：https://zhuanlan.zhihu.com/c_1225417532351741952
公衆號：複雜網絡與機器學習
歡迎關注/轉載，有問題歡迎通過郵箱交流。
