深度學(xué)習(xí)正則化

偏差與方差
數(shù)據(jù)集劃分
image.png

image.png
過擬合和欠擬合
image.png

image.png

image.png

解決方法:


image.png

高方差是過擬合,高偏差是欠擬合。

正則化

image.png
邏輯回歸的L1與L2正則化
image.png

image.png

image.png
正則化項(xiàng)理解
image.png

image.png
神經(jīng)網(wǎng)絡(luò)的正則化
image.png
正則化為什么能夠防止過擬合
image.png
droupout正則化
image.png

image.png

image.png

image.png

image.png

image.png
其他正則化方法
早停止法
image.png
數(shù)據(jù)增強(qiáng)
image.png

類別:


image.png

數(shù)據(jù)增強(qiáng)技術(shù):


image.png

image.png

image.png

還有平移、縮放等等

數(shù)據(jù)增強(qiáng)的效果:


image.png
正則化的練習(xí)

題目:


image.png

L2正則化:


image.png

image.png
droupout的前向傳播
image.png

D2=np...那行應(yīng)該是A2.shape[0],A2.shape[1]


image.png

droupout的效果會(huì)好一些

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容