線性回歸Lasso（L1）和嶺回歸（L2）區(qū)別

L1和L2比最大的區(qū)別是L1得到的參數(shù)解有更多的零，就是解更稀疏。

有兩種較直觀的解釋：

1.最小均方函數(shù)導數(shù)不為0時，L2導數(shù)加上最小均方函數(shù)導數(shù)肯定不為0。但是L1的正則項是絕對值函數(shù)，導數(shù)為0只要在x從左邊趨向于0和從右邊趨向于0時導數(shù)異號就行，所以更容易得到稀疏解。

2.目標函數(shù)最小均方差解空間為同心圓，L2解空間也為同心圓，L1解空間為菱形，兩個解空間相交處為最優(yōu)值。如圖1所示。

目標函數(shù)和正則式解空間

最后編輯于 ：
?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
【社區(qū)內容提示】社區(qū)部分內容疑似由AI輔助生成，瀏覽時請結合常識與多方信息審慎甄別。
平臺聲明：文章內容（如有圖片或視頻亦包括在內）由作者上傳并發(fā)布，文章內容僅代表作者本人觀點，簡書系信息發(fā)布平臺，僅提供信息存儲服務。

相關閱讀更多精彩內容

友情鏈接更多精彩內容