??
內部協(xié)變量偏移(Internal Covariate Shift)和批歸一化(Batch Normalization)BN是由Google于2015年提出，這是一個深度神經(jīng)網(wǎng)絡訓練的技巧，它不僅可以加快了模型的收斂速度，而且更重要的是在一定程度緩解了深層網(wǎng)絡中“梯度彌散”的問題，從而使得訓練...
發(fā)簡信
IP屬地：臺灣
-
-
??
SGD動量法和Nesterov加速梯度下降法
SGD存在的問題 損失(loss)在一個方向上快速變化而在另一個方向慢慢變化：沿平緩方向進展非常緩慢，沿陡峭方向劇烈抖動。 如果損失函數(shù)具有局部最小值或鞍點，該怎么辦？ 動量...
-
CNN發(fā)展歷程(LeNet、AlexNet、VGG、Inception、ResNet)+Keras簡單實現(xiàn)唉。人生如夢，回首過往竟有青春逝去不再來，美好時光不再有的感覺。匆匆忙忙的我們竟然走過了這么多荊棘與坎坷，是否還能不忘初心擁有一顆純凈的心靈。年輕時候，最喜歡蔣捷的《聽雨》：...
-
看下文件是否有損壞，重新down一下
【轉載】Bert系列（一）——demo運行
原文章鏈接：http://www.itdecent.cn/p/3d0bb34c488a 谷歌推出的Bert，最近有多火，估計做自然語言處理的都知道。據(jù)稱在SQuAD等11項...
-
模型可解釋性（SHAP)SHAP含義：觀察到某一個樣本的預測中各個特征對預測結果產(chǎn)生的影響。 基本思想：計算一個特征加入到模型時的邊際貢獻，然后考慮到該特征在所有的特征序列的情況下不同的邊際貢獻，取...
-
推薦系統(tǒng)遇上深度學習(九)--評價指標AUC原理及實踐推薦系統(tǒng)遇上深度學習系列：推薦系統(tǒng)遇上深度學習(一)--FM模型理論和實踐：http://www.itdecent.cn/p/152ae633fb00推薦系統(tǒng)遇上深度學習(...
-
【轉載】Bert系列（二）——源碼解讀之模型主體原文章鏈接：http://www.itdecent.cn/p/d7ce41b58801 本篇文章主要是解讀模型主體代碼modeling.py。在閱讀這篇文章之前希望讀者們對...
-
【轉載】Bert系列（一）——demo運行
原文章鏈接：http://www.itdecent.cn/p/3d0bb34c488a 谷歌推出的Bert，最近有多火，估計做自然語言處理的都知道。據(jù)稱在SQuAD等11項...
-
tf.variable_scope和tf.name_scope的用法
無論tf.get_variable或者tf.Variable生成的變量，tf.variable_scope可以讓不同命名空間中的變量取相同的名字。tf.name_scope具...
-
tf.Variable()和tf.get_variable()
tf.Variable()參數(shù) 經(jīng)常使用的參數(shù)有initial_value、name、shape三個，分別是初始化，命名和規(guī)定所需要的形狀大小。舉個例子： 運行結果 tf.g...
-
Tensorflow——tf.Variable()、tf.get_variable()和tf.placeholder()
tf.Variable() ??tf.Variable(initializer,name),參數(shù)initializer是初始化參數(shù)，name是可自定義的變量名稱，用法如下： ...
-
sess.run()方法
參數(shù)詳解 fetches可以是單個圖元素(single graph element)，也可以是任意嵌套的列表list，元組tuple，名稱元組namedtuple，字典dic...
-
GoogLeNet重要結構：1x1卷積核深度神經(jīng)網(wǎng)絡的缺陷 我們知道在設計神經(jīng)網(wǎng)絡時最保險的就是增加網(wǎng)絡的深度和寬度，增加深度就是要設計更多的網(wǎng)絡層數(shù)，增加寬度就是增加卷積核的個數(shù)。但是網(wǎng)絡越深越寬容易出現(xiàn)兩個缺陷...
-
央視一出手，吊打所有盜墓片
《鬼吹燈》、《盜墓筆記》等小說的大熱為我們帶來了奇幻的地下世界。 我們向往其光怪陸離的牛鬼蛇神，崇拜古人精妙絕倫的機關設計，更加迷戀盜墓賊的高超手段。 他們分金定穴，識風水、...
-
tf.Session()和tf.Session().as_default()的區(qū)別
tf.Session()：創(chuàng)建一個會話 在打印張量b的值時報錯，報錯為嘗試使用一個已經(jīng)關閉的會話。 tf.Session().as_default()代碼示例： 對于run(...
