發(fā)簡(jiǎn)信
IP屬地：北京
-
2022-CSS會(huì)議一、李進(jìn)-廣州大學(xué)-AI安全 1、信息系統(tǒng)安全三個(gè)屬性：完整性、可用性、機(jī)密性 AI攻擊主要考慮兩方面工作：逃逸攻擊、投毒攻擊（數(shù)據(jù)中毒攻擊）。...
-
深度學(xué)習(xí) | 三個(gè)概念：Epoch, Batch, Iteration參考鏈接：http://www.itdecent.cn/p/22c50ded4cf7[http://www.itdecent.cn/p/22...
-
李沐-動(dòng)手學(xué)深度學(xué)習(xí)（4）數(shù)值穩(wěn)定性、模型初始化、激活函數(shù)【總結(jié)】 當(dāng)數(shù)值過(guò)大或者過(guò)小時(shí)會(huì)導(dǎo)致數(shù)值問(wèn)題； 常發(fā)生在深度模型中，因?yàn)槠鋾?huì)對(duì)n個(gè)數(shù)累乘。 合理的權(quán)重初始值和激活函數(shù)的選取可以提升數(shù)值穩(wěn)定性。...
-
Latex特殊符號(hào)大全https://blog.csdn.net/weixin_43398590/article/details/106911052[https://...
-
李沐-動(dòng)手學(xué)深度學(xué)習(xí)（3）權(quán)重衰退和dropout【總結(jié)】 權(quán)重衰退通過(guò)L2正則項(xiàng)使得模型參數(shù)不會(huì)過(guò)大，從而控制模型復(fù)雜度。 正則項(xiàng)權(quán)重是控制模型復(fù)雜度的超參數(shù)。 丟棄法將一些輸出項(xiàng)隨機(jī)置0來(lái)控...
-
李沐-動(dòng)手學(xué)深度學(xué)習(xí)（2）模型選擇、過(guò)擬合和欠擬合【總結(jié)】 訓(xùn)練數(shù)據(jù)集：訓(xùn)練模型參數(shù)； 驗(yàn)證數(shù)據(jù)集：選擇模型超參數(shù)。 非大數(shù)據(jù)集上通常使用k-折交叉驗(yàn)證。 模型容量需要匹配數(shù)據(jù)復(fù)雜度，否則可能導(dǎo)...
-
李沐-動(dòng)手學(xué)深度學(xué)習(xí)（八）多層感知機(jī)【總結(jié)】 感知機(jī)是一個(gè)二分類的問(wèn)題，是最早的AI模型之一。 它的求解算法等價(jià)于使用批量大小為1的梯度下降。 它不能擬合XOR函數(shù)，導(dǎo)致第一次AI...
-
李沐-動(dòng)手學(xué)深度學(xué)習(xí)（1）損失函數(shù)和激活函數(shù)一、損失函數(shù) 損失函數(shù)，用來(lái)衡量預(yù)測(cè)值和真實(shí)值之間的區(qū)別。 1、均方損失（L2 Loss） 橫坐標(biāo)應(yīng)該是y-y'。藍(lán)色曲線是：真實(shí)值y不變時(shí)，變...
-
李沐-動(dòng)手學(xué)深度學(xué)習(xí)（七）softmax回歸【總結(jié)】 softmax是一個(gè)多類的分類問(wèn)題。 使用softmax操作子得到每個(gè)類的預(yù)測(cè)置信度。 使用交叉熵來(lái)衡量預(yù)測(cè)和標(biāo)號(hào)的區(qū)別。 1、回歸與...