[TOC] 動機 現(xiàn)有的 PTM 有以下缺點: 以預訓練的語言模型為例,它們很好地學習頻繁詞的語義,但在受長尾數(shù)據(jù)分布限制的稀有詞上表現(xiàn)不佳。同...
[TOC] 文本生成任務的基本定義 從給定的輸入序列生成預期的輸出序列,稱為序列到序列 (Seq2Seq)。 Seq2Seq 任務和模型于 20...
Python正則表達式,請不要再用re.compile了?。?! - 知乎[https://zhuanlan.zhihu.com/p/706804...
當我們有多個選項,根據(jù)不同值調(diào)用不同對象時,不想寫很多if—else,就用反射,達到了動態(tài)訪問、不寫死的效果,高內(nèi)聚、松耦合 反射涉及四個函數(shù):...
line_profiler function前標上 @profile kernprof -l -v aaa.py Line:文件中的行號。Hit...
涉及兩個包:官方fasttext包gensim 官方可以下載各種語言的預訓練好的文件但是并不支持finetune,所以下載vec文件后用gens...
References: 圖解Word2vec 經(jīng)典再讀之Word2Vec word2vec Parameter Learning Explain...
ch1 我要做:具體的事 我不要:具體的事 我想做:想打成的目標 意志力就是控制這三種。 我要做,是前額灰質(zhì)控制的,晚睡,分心,都會讓你選擇做更...
機遇 10000小時理論,在自己專業(yè)練習一萬小時則大成,良好的機會給有準備的人,才能抓住機會。良好的機會也促進10000小時的達成。 富裕家庭更...