發(fā)簡(jiǎn)信
IP屬地：重慶
-
強(qiáng)化學(xué)習(xí)框架TRL源碼——DPO及其變種本篇解讀DPOTrainer[https://github.com/huggingface/trl/blob/main/trl/trainer/...
-
強(qiáng)化學(xué)習(xí)框架TRL源碼——談?wù)凱PO和RLOO的異同PPO(Proximal Policy Optimization)是rlhf經(jīng)典算法，RLOO (REINFORCE Leave One-Out...
-
強(qiáng)化學(xué)習(xí)框架TRL源碼—— 關(guān)于獎(jiǎng)勵(lì)模型(reward model)獎(jiǎng)勵(lì)模型(reward model)是強(qiáng)化學(xué)習(xí)的基礎(chǔ)，如果說(shuō)pretrain是背書(shū)的話(huà)，sft就是背題，而rlhf則可以看作是有老師批改作業(yè)的學(xué)...
-
強(qiáng)化學(xué)習(xí)框架TRL源碼——SFTTrainer之不足及解決TRL[https://github.com/huggingface/trl/tree/main]是一個(gè)專(zhuān)門(mén)用于訓(xùn)練Transformer模型的...
-
在古代，獵頭獵一個(gè)人得多難這是我之前發(fā)布在個(gè)人公眾號(hào)廝殺取樂(lè)上的第一篇文章，因?yàn)橐婚_(kāi)始調(diào)子起得太高，導(dǎo)致我后面想繼續(xù)更，卻有點(diǎn)力不從心，所以公眾號(hào)就一直處于停更狀態(tài)（在朋...
-
Bert系列（五）——中文分詞實(shí)踐 F1 97.8%(附代碼)
一、前言 Bert源碼解讀完了，具體怎么用于自己的項(xiàng)目呢？在Bert系列（四）——源碼解讀之Fine-tune中，我說(shuō)只要修改兩個(gè)地方。 重要的...
-
Bert系列（四）——源碼解讀之Fine-tune這是我們?cè)创a解讀的最后一個(gè)部分了。fine-tune搞明白之后推斷也就沒(méi)必要再分析了，反正形式都是一樣的，重要的是明白根據(jù)不同任務(wù)調(diào)整輸入格式和...
-
Bert系列（三）——源碼解讀之Pre-train
pre-train是遷移學(xué)習(xí)的基礎(chǔ)，雖然Google已經(jīng)發(fā)布了各種預(yù)訓(xùn)練好的模型，而且因?yàn)橘Y源消耗巨大，自己再預(yù)訓(xùn)練也不現(xiàn)實(shí)（在Google C...
-
Bert系列（二）——源碼解讀之模型主體本篇文章主要是解讀模型主體代碼modeling.py。在閱讀這篇文章之前希望讀者們對(duì)bert的相關(guān)理論有一定的了解，尤其是transformer...
個(gè)人介紹
我已加入“維權(quán)騎士”(rightknights.com)的版權(quán)保護(hù)計(jì)劃，轉(zhuǎn)載請(qǐng)私信聯(lián)系本人。