??
內(nèi)部協(xié)變量偏移(Internal Covariate Shift)和批歸一化(Batch Normalization)BN是由Google于2015年提出，這是一個(gè)深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練的技巧，它不僅可以加快了模型的收斂速度，而且更重要的是在一定程度緩解了深層網(wǎng)絡(luò)中“梯度彌散”的問題，從而使得訓(xùn)練...
發(fā)簡信
IP屬地：寧夏
-
-
??
SGD動(dòng)量法和Nesterov加速梯度下降法
SGD存在的問題 損失(loss)在一個(gè)方向上快速變化而在另一個(gè)方向慢慢變化：沿平緩方向進(jìn)展非常緩慢，沿陡峭方向劇烈抖動(dòng)。 如果損失函數(shù)具有局部最小值或鞍點(diǎn)，該怎么辦？ 動(dòng)量...
-
歡迎關(guān)注天善智能hellobi.com，我們是專注于商業(yè)智能BI，大數(shù)據(jù)，數(shù)據(jù)分析領(lǐng)域的垂直社區(qū)。學(xué)習(xí)、問答、求職一站式搞定！小編微信：tsaiedu，加入討論交流群。
-
CNN發(fā)展歷程(LeNet、AlexNet、VGG、Inception、ResNet)+Keras簡單實(shí)現(xiàn)唉。人生如夢(mèng)，回首過往竟有青春逝去不再來，美好時(shí)光不再有的感覺。匆匆忙忙的我們竟然走過了這么多荊棘與坎坷，是否還能不忘初心擁有一顆純凈的心靈。年輕時(shí)候，最喜歡蔣捷的《聽雨》：...
-
看下文件是否有損壞，重新down一下
【轉(zhuǎn)載】Bert系列（一）——demo運(yùn)行
原文章鏈接：http://www.itdecent.cn/p/3d0bb34c488a 谷歌推出的Bert，最近有多火，估計(jì)做自然語言處理的都知道。據(jù)稱在SQuAD等11項(xiàng)...
-
模型可解釋性（SHAP)SHAP含義：觀察到某一個(gè)樣本的預(yù)測(cè)中各個(gè)特征對(duì)預(yù)測(cè)結(jié)果產(chǎn)生的影響。 基本思想：計(jì)算一個(gè)特征加入到模型時(shí)的邊際貢獻(xiàn)，然后考慮到該特征在所有的特征序列的情況下不同的邊際貢獻(xiàn)，取...
-
推薦系統(tǒng)遇上深度學(xué)習(xí)(九)--評(píng)價(jià)指標(biāo)AUC原理及實(shí)踐推薦系統(tǒng)遇上深度學(xué)習(xí)系列：推薦系統(tǒng)遇上深度學(xué)習(xí)(一)--FM模型理論和實(shí)踐：http://www.itdecent.cn/p/152ae633fb00推薦系統(tǒng)遇上深度學(xué)習(xí)(...
-
【轉(zhuǎn)載】Bert系列（二）——源碼解讀之模型主體原文章鏈接：http://www.itdecent.cn/p/d7ce41b58801 本篇文章主要是解讀模型主體代碼modeling.py。在閱讀這篇文章之前希望讀者們對(duì)...
-
【轉(zhuǎn)載】Bert系列（一）——demo運(yùn)行
原文章鏈接：http://www.itdecent.cn/p/3d0bb34c488a 谷歌推出的Bert，最近有多火，估計(jì)做自然語言處理的都知道。據(jù)稱在SQuAD等11項(xiàng)...
-
Code is cool and xuewen is beautiful.
-
我已加入“維權(quán)騎士”(rightknights.com)的版權(quán)保護(hù)計(jì)劃，轉(zhuǎn)載請(qǐng)私信聯(lián)系本人。
-
tf.variable_scope和tf.name_scope的用法
無論tf.get_variable或者tf.Variable生成的變量，tf.variable_scope可以讓不同命名空間中的變量取相同的名字。tf.name_scope具...
-
tf.Variable()和tf.get_variable()
tf.Variable()參數(shù) 經(jīng)常使用的參數(shù)有initial_value、name、shape三個(gè)，分別是初始化，命名和規(guī)定所需要的形狀大小。舉個(gè)例子： 運(yùn)行結(jié)果 tf.g...
-
Tensorflow——tf.Variable()、tf.get_variable()和tf.placeholder()
tf.Variable() ??tf.Variable(initializer,name),參數(shù)initializer是初始化參數(shù)，name是可自定義的變量名稱，用法如下： ...
-
sess.run()方法
參數(shù)詳解 fetches可以是單個(gè)圖元素(single graph element)，也可以是任意嵌套的列表list，元組tuple，名稱元組namedtuple，字典dic...
-
GoogLeNet重要結(jié)構(gòu)：1x1卷積核深度神經(jīng)網(wǎng)絡(luò)的缺陷 我們知道在設(shè)計(jì)神經(jīng)網(wǎng)絡(luò)時(shí)最保險(xiǎn)的就是增加網(wǎng)絡(luò)的深度和寬度，增加深度就是要設(shè)計(jì)更多的網(wǎng)絡(luò)層數(shù)，增加寬度就是增加卷積核的個(gè)數(shù)。但是網(wǎng)絡(luò)越深越寬容易出現(xiàn)兩個(gè)缺陷...
-
央視一出手，吊打所有盜墓片
《鬼吹燈》、《盜墓筆記》等小說的大熱為我們帶來了奇幻的地下世界。 我們向往其光怪陸離的牛鬼蛇神，崇拜古人精妙絕倫的機(jī)關(guān)設(shè)計(jì)，更加迷戀盜墓賊的高超手段。 他們分金定穴，識(shí)風(fēng)水、...
-
tf.Session()和tf.Session().as_default()的區(qū)別
tf.Session()：創(chuàng)建一個(gè)會(huì)話 在打印張量b的值時(shí)報(bào)錯(cuò)，報(bào)錯(cuò)為嘗試使用一個(gè)已經(jīng)關(guān)閉的會(huì)話。 tf.Session().as_default()代碼示例： 對(duì)于run(...
