【deeplearning.ai筆記第二課】1.2 欠擬合和過擬合(bias variance)

這裏寫圖片描述

很好理解,左圖是high bias(高偏差),即欠擬合,右圖是high variance(高方差),即過擬合。我們追求的是中間圖,low bias AND low variance。

注意的是並不是 高方差就一定低偏差,有可能既高方差又高偏差。

怎麼理解呢?看下面一個栗子:
這裏寫圖片描述

判斷圖片是不是貓的一個分類問題,人的判斷錯誤率爲0%

那麼如果train error 和valid error 分別爲 1%,11%,明顯就是high variance 過擬合

圖中第二種情況,train error =15% >> 0%, 而valid error 和 train error 差不多大,因此是high bias 欠擬合

第三種情況,train error =15% >> 0%, 因此是high bias, 而valid error =30% >>train error ,因此是high variance 過擬合,即欠擬合又過擬合。

第四種情況是理想情況,train error =0.5%~0%, 因此是low bias,而valid error =1% 和train error 差不多大,因此low variance。

其他很好理解,但是即欠擬合又過擬合 是怎麼樣的呢? 看下面的栗子:

High bias and high variance
這裏寫圖片描述

如圖,藍色的直線是欠擬合,紫色的邊界線是欠擬合的情況下,又過擬合。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章