LASSO原理及代碼實現

LASSO



從這個對比圖可以看出，LASSO算法使得某個點的特徵參數爲0，例如橫座標原點對應的的值，而嶺迴歸很難實現。

sklearn實現：

# 創建模型
model = linear_model.LassoCV()
model.fit(x_data, y_data)

# lasso係數
print(model.alpha_)
# 相關係數
print(model.coef_)
model.predict(x_data[-2,np.newaxis])

彈性迴歸

ElasticNet是Lasso和嶺迴歸的混合體。 它使用L1和L2正則化來考慮兩種技術的影響。在Lasso和Ridge之間進行權衡的一個實際優勢是：它允許Elastic-Net在旋轉下繼承Ridge的一些穩定性。它在高度相關的變量的情況下鼓勵羣體效應，而不是像Lasso那樣將其中的一些歸零。所選變量的數量沒有限制。

# 創建模型
model = linear_model.ElasticNetCV()
model.fit(x_data, y_data)

# 彈性網係數
print(model.alpha_)
# 相關係數
print(model.coef_)