機器學習（西瓜書）註解：第11章 特徵選擇與稀疏學習
本次更新第11章，特徵選擇與稀疏學習。針對該章註解有任何問題歡迎在此留言~
其實本章後三節的內容更多屬於信號處理領域，前四節雖然在介紹機器學習中的特徵選擇問題，但也是一個很籠統的介紹，包括“過濾式”算法、“包裹式”算法、“嵌入式”算法也是通用的概念；因此本章與其說是介紹機器學習特徵選擇的相關知識，倒不如說是介紹機器學習與信號處理交叉領域的相關內容。
西瓜書作者通過11.4節巧妙的將特徵選擇與稀疏學習聯繫在一起，不得不說這是一個很好的安排，畢竟稀疏學習也是“學習”嘛~
（網盤鏈接：https://pan.baidu.com/s/1QtEiNnk8jMzmbs0KPBN-_w）
第 11 章目錄
第 11 章 特徵選擇與稀疏學習.......................................................................................................1
11.1 子集搜索與評價..............................................................................................................1
11.2 過濾式選擇......................................................................................................................1
11.3 包裹式選擇......................................................................................................................1
11.4 嵌入式選擇與 L1 正則化 ................................................................................................2
1、式(11.5)的解釋...........................................................................................................2
2、式(11.6)的解釋...........................................................................................................2
3、式(11.7)的解釋...........................................................................................................2
4、圖 11.2 的解釋...........................................................................................................3
5、式(11.8)的解釋...........................................................................................................3
6、式(11.9)的解釋...........................................................................................................3
7、式(11.10)的推導.........................................................................................................3
8、式(11.11)的解釋 ........................................................................................................5
9、式(11.12)的解釋.........................................................................................................5
10、式(11.14)的推導.......................................................................................................6
11.5 稀疏表示與字典學習.......................................................................................................9
1、式(11.15)的解釋.........................................................................................................9
2、式(11.16)的解釋.......................................................................................................10
3、式(11.17)的推導.......................................................................................................10
4、式(11.18)的推導.......................................................................................................10
5、 K-SVD 算法 ............................................................................................................11
11.6 壓縮感知.......................................................................................................................13
1、式(11.21)的解釋.......................................................................................................13
2、式(11.24)的解釋.......................................................................................................13
3、式(11.25)的解釋.......................................................................................................13
11.7 本章小節.......................................................................................................................14