《深度學(xué)習(xí)》筆記

Chapter 4

4.3.1

Jacobian 和 Hessian矩陣
當(dāng)Hessian的所有特征值都是正的牛頓法才適用,牛頓法會受到鞍點的影響,梯度下降不會被吸引到鞍點
深度學(xué)習(xí)中的大多數(shù)問題都難以表示成凸優(yōu)化的形式
KKT方法是Lagrange乘子法(只允許等式約束)的推廣
KKT

Chapter 5

5.6.1

最大后驗(MAP)估計

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容