Hinge損失函數
函數被稱爲損失函數(如下圖所示)。當 時,函數等於 。
,導數(斜率)等於-1;
,導數(斜率)爲0;
,函數不可導。
但是,在t=0處可以使用任意次導數(即-1到0之間的任意值),你還是可以使用梯度下降,就跟迴歸一樣。
函數max(0,1−t)被稱爲hinge損失函數(如下圖所示)。當 t≥1 時,函數等於 0。
t<1,導數(斜率)等於-1;
t>1,導數(斜率)爲0;
t=1,函數不可導。
但是,在t=0處可以使用任意次導數(即-1到0之間的任意值),你還是可以使用梯度下降,就跟Lasso迴歸一樣。