多目標(biāo)學(xué)習(xí)一般做法：
1、多模型建模
2、多任務(wù)學(xué)習(xí)（MTL）
各有優(yōu)缺點(diǎn)，對(duì)于前者，優(yōu)點(diǎn)是：獨(dú)立建模，針對(duì)特定目標(biāo)容易深度優(yōu)化；缺點(diǎn)是：模型難融合。對(duì)于后者，優(yōu)點(diǎn)是：任務(wù)相關(guān)性比較強(qiáng)的時(shí)候，能提升綜合價(jià)值；但恰恰由于參數(shù)共享，當(dāng)任務(wù)之間相關(guān)性不強(qiáng)時(shí)，會(huì)相互干擾而影響學(xué)習(xí)效果。
多任務(wù)學(xué)習(xí)是機(jī)器學(xué)習(xí)的一種范式，并不局限于特定問題或模型。
推薦排序的演進(jìn)劃分成四個(gè)階段，從線性模型+大規(guī)模人工組合特征，到非線性模型+少量人工特征，再到深度學(xué)習(xí)模型+用戶行為序列特征，最后是從單目標(biāo)優(yōu)化到多目標(biāo)優(yōu)化。
polling：https://www.cnblogs.com/makefile/p/pooling.html
NFM:https://github.com/hexiangnan/neural_factorization_machine/blob/master/NeuralFM.py
從公開資料上了解到美圖的實(shí)踐，排序模型從傳統(tǒng)的LR+特征工程，到NFM模型以及改進(jìn)的NFwFM ，到最后的多目標(biāo)學(xué)習(xí)。
17年論文中介紹的NFM模型結(jié)構(gòu)如下：
美圖在此基礎(chǔ)上做了引入右側(cè)多層感知機(jī)學(xué)習(xí)隱式的高階特征交叉
參考資料：https://www.infoq.cn/article/0ueIPm2VFrOqECLU3316
https://www.infoq.cn/article/0xdVNHshA02egyr1QaAX
多任務(wù)的缺點(diǎn)是在參數(shù)共享的情況下，如果兩個(gè)任務(wù)有不相關(guān)的部分，兩個(gè)任務(wù)就會(huì)互相干擾，從而影響效果。學(xué)術(shù)界將這種現(xiàn)象稱為共享沖突。
多目標(biāo)：
https://zhuanlan.zhihu.com/p/89387632
https://zhuanlan.zhihu.com/p/82584437
http://wd1900.github.io/2019/09/15/Recommending-What-Video-to-Watch-Next-A-Multitask-Ranking-System/
