? ? 正則化主要是用于降低過擬合的風(fēng)險。

? ? L1 引入稀疏性，刪除影響較少的參數(shù)，可減少計算量。拉普拉斯分布（背靠背的指數(shù)分布）

????L2 均衡各個參數(shù)的影響，比較平滑，效果比較好。高斯分布。可以獲得更少的非0分類。

? ? L!和L2正則化的過程如圖所示

? ??

L1，L2正則化示意圖

? ??從貝葉斯估計的角度看，正則化項目對應(yīng)于模型的先驗概率，可以假設(shè)復(fù)雜的模型有比較小的先驗概率，簡單的模型有較大的先驗概率。