Word2Vec模型中，主要有Skip-Gram和CBOW兩種模型，從直觀上理解，Skip-Gram是給定input word來預(yù)測(cè)上下文。而CBOW是給定上下文，來預(yù)測(cè)in...
發(fā)簡(jiǎn)信
IP屬地：北京
-
Word2Vector -
深度神經(jīng)網(wǎng)絡(luò)超參數(shù)調(diào)節(jié)在深度網(wǎng)絡(luò)中，需要調(diào)節(jié)的參數(shù)包括學(xué)習(xí)率α，動(dòng)量參數(shù)β，網(wǎng)絡(luò)層數(shù)，隱層節(jié)點(diǎn)數(shù)，學(xué)習(xí)率下降幅度，mini-batch等，其中最重要的超參數(shù)是學(xué)習(xí)率α，其次是隱層節(jié)點(diǎn)數(shù)，mini-...
-
循環(huán)神經(jīng)網(wǎng)絡(luò)RNNDNN，CNN每一層的輸入都來自上一層，統(tǒng)稱為FNNs(Feed-forward Neural Networks，前向反饋神經(jīng)網(wǎng)絡(luò))。對(duì)于文本，音頻，視頻等序列化的數(shù)據(jù)來說，...
-
深度學(xué)習(xí)模型訓(xùn)練的加速1 硬件加速 采用GPU。 GPU多機(jī)多卡。 2 框架加速 在同樣的模型，同樣的配置下，采用Tensorflow ，caffe，mxnet或者CNTK的速度也不一樣。具體性能...
-
機(jī)器學(xué)習(xí)bias-variance tradeoff機(jī)器學(xué)習(xí)訓(xùn)練要保證模型在訓(xùn)練集的準(zhǔn)確率高，即低bias（偏差）；同時(shí)也要保證驗(yàn)證集的準(zhǔn)確率，不產(chǎn)生過擬合現(xiàn)象，即保證低variance(方差) 。兩者可能互相制約，需要做tr...
-
深度學(xué)習(xí)八卦深度學(xué)習(xí)已然成為眼下最時(shí)髦的科技，廣泛應(yīng)用于自然語言理解，視覺，音頻以及結(jié)構(gòu)化數(shù)據(jù)的處理，如搜索引擎，電子商務(wù)的商品推薦。 深度學(xué)習(xí)說白了就是神經(jīng)網(wǎng)絡(luò)的包裝，顯得高大上，讓普...
-
美食基礎(chǔ)之調(diào)料篇一(生活中不可或缺的鹽)??鹽是我們最常用的調(diào)料之一 它的主要化學(xué)成份氯化鈉（化學(xué)式NaCl）在食鹽中含量為99%（屬于混合物） 部分地區(qū)所出品的食鹽加入氯化鉀來降低氯化鈉的含量以降低高血壓發(fā)生率。...
-
