本文主要用于記錄DANQI大神組于2021年提出的一篇關(guān)于利用對(duì)比學(xué)習(xí)的思路來(lái)生成句向量的工作。論文中最大的創(chuàng)新點(diǎn)就是利用dropout來(lái)實(shí)現(xiàn)正例樣本的構(gòu)造工作。該方法的實(shí)現(xiàn)簡(jiǎn)單且有效,非常適合奮斗在一線的NLPer借鑒參考并落地。本筆記主要為方便初學(xué)者快速入門,以及自我回顧。
論文鏈接:https://arxiv.org/pdf/2104.08821.pdf
參考博客1:https://zhuanlan.zhihu.com/p/368353121
參考博客2:https://zhuanlan.zhihu.com/p/377612458
參考博客3:https://www.sohu.com/a/469789611_121119001
基本目錄如下:
- 摘要
- 核心思想
- 總結(jié)
------------------第一菇 - 摘要------------------
1.1 論文摘要
------------------第一菇 - 核心思想------------------
2.1 核心思想
------------------第三菇 - 總結(jié)------------------