我是KOPPT小秘書<br><br>公眾號：PPT達(dá)人秀<br><br>網(wǎng)站：www.koppt.cn
發(fā)簡信
IP屬地：上海
-
-
譯文：統(tǒng)計(jì)機(jī)器翻譯教程——正文一原文 A Statistical MT Tutorial Workbook 由 Kevin Knight 于1999年完成。原文及原作者鏈接：https://kevincra...
-
All about programming.
-
先寫夠50萬字再說話～微信號go-to-namucuo
-
Bert系列（四）——源碼解讀之Fine-tune這是我們源碼解讀的最后一個(gè)部分了。fine-tune搞明白之后推斷也就沒必要再分析了，反正形式都是一樣的，重要的是明白根據(jù)不同任務(wù)調(diào)整輸入格式和對loss的構(gòu)建，這兩個(gè)知識點(diǎn)...
-
warmup：
學(xué)習(xí)率預(yù)熱，簡單來說就是先使用一個(gè)較小的學(xué)習(xí)率，先迭代幾個(gè)epoch，等到模型基本穩(wěn)定的時(shí)候再用初始設(shè)置的學(xué)習(xí)率進(jìn)行訓(xùn)練。
原因：當(dāng)我們開始訓(xùn)練模型的時(shí)候，往往模型的參數(shù)都是隨機(jī)初始化的，并不能代表什么，所以如果此時(shí)選擇一個(gè)較大的學(xué)習(xí)率，往往會導(dǎo)致模型的不穩(wěn)定。Bert系列（四）——源碼解讀之Fine-tune
這是我們源碼解讀的最后一個(gè)部分了。fine-tune搞明白之后推斷也就沒必要再分析了，反正形式都是一樣的，重要的是明白根據(jù)不同任務(wù)調(diào)整輸入格式和對loss的構(gòu)建，這兩個(gè)知識點(diǎn)...
-
我已加入“維權(quán)騎士”(rightknights.com)的版權(quán)保護(hù)計(jì)劃，轉(zhuǎn)載請私信聯(lián)系本人。
-
-
-
DataArk以數(shù)據(jù)為驅(qū)動(dòng)、以開源分享為導(dǎo)向，是致力于數(shù)據(jù)挖掘、算法創(chuàng)新和實(shí)用工具開發(fā)的開源組織<br>
-
論文筆記：Attention is all you need今天做完深度學(xué)習(xí)的論文分享，將這篇論文記錄下來，以便日后回顧查看。PS:簡書不支持 MathJax 編輯公式，簡直悲傷的想哭泣，之后再上傳到farbox上好啦??論文原文：At...
-
研究方向自然語言處理，對話系統(tǒng)，知識圖譜。
-
-
-
干貨 | BERT fine-tune 終極實(shí)踐教程
從11月初開始，google-research就陸續(xù)開源了BERT的各個(gè)版本。google此次開源的BERT是通過tensorflow高級API—— tf.estimator...
-
5 分鐘入門 Google 最強(qiáng)NLP模型：BERTBERT (Bidirectional Encoder Representations from Transformers) 10月11日，Google AI Languag...
-
-
前騰訊PM，前圖靈機(jī)器人-人才戰(zhàn)略官/AI產(chǎn)品經(jīng)理，10年AI、13年互聯(lián)網(wǎng)經(jīng)驗(yàn)；垂直于AI產(chǎn)品經(jīng)理的第一社群“AI產(chǎn)品經(jīng)理大本營”和自媒體hanniman（關(guān)注回復(fù)“666”，可領(lǐng)取“AI季度資料包”）。
-
NLP系列學(xué)習(xí)：命名實(shí)體識別（一）
在自然語言處理中，分詞，詞性標(biāo)注，命名實(shí)體識別和句法情感分析是非常關(guān)鍵的分支，因?yàn)樽罱枰獙Υ擞幸恍?yīng)用，便去了解了一下特定領(lǐng)域目前使用的方法以及一些困難，特此進(jìn)行總結(jié)。 命...
