L1、L2、正則、損失

轉載出處：

http://www.zhizhihu.com/html/y2013/4414.html

微博上看到的，由於之前面試遇到過，答得不好，所以還是碰到就好好看看。

@學生古

什麼是損失，什麼是正則；什麼是L1，什麼是L2。一會兒是L1正則，一會兒是L2損失。http://t.cn/8k5xI8V
總結：L1或者L2就是某種範數（線性代數和矩陣的基本概念），既可以用於損失又可以用於正則化參數。損失和衡量預測值和真實值的差異，正則是控制所求參數的量級。