一、這篇文論解決什么問(wèn)題?
推薦領(lǐng)域的經(jīng)典模型：MF?
之前的研究中應(yīng)用的深度學(xué)習(xí)：對(duì)輔助信息進(jìn)行建模（例如商品描述等）?
本文的不同：對(duì)CF本身進(jìn)行建模?
二、這篇論文的三個(gè)核心點(diǎn)?
GMF ：通用的MF框架
如何兼容經(jīng)典MF模型：當(dāng)激活函數(shù)為identity function，權(quán)重向量元素為1時(shí)，這就是一個(gè)經(jīng)典的MF模型?
本文：激活函數(shù)：sigmoid；權(quán)重：from log loss
MLP：增加非線性
一般怎么做：簡(jiǎn)單的向量拼接
本文：拼接向量 + hidden layers（3層）
network：tower pattern
激活函數(shù)：ReLU
Fusion of GMF and MLP：混合增強(qiáng)
簡(jiǎn)單做法：共用一個(gè)embedding層
不足：針對(duì)一些數(shù)據(jù)集，兩種模型的最優(yōu)embedding size相差較多，這樣混合模型的效果就會(huì)受影響
本文：GMF和MLP使用不同的embedding
輸出層：
如何訓(xùn)練：
1. 預(yù)訓(xùn)練（GMF、MLP）：隨機(jī)初始化，優(yōu)化算法是Adam
2. 訓(xùn)練混合模型：利用預(yù)訓(xùn)練的模型初始化，優(yōu)化算法是SGD
三、本文實(shí)驗(yàn)的幾個(gè)點(diǎn)
1. 本文模型 vs 其他模型：本文模型效果好
2. 預(yù)訓(xùn)練 vs 未預(yù)訓(xùn)練：預(yù)訓(xùn)練效果好
3. 不同負(fù)采樣率對(duì)比：采樣率3-6效果好
4. 不同隱藏層的層數(shù)對(duì)比：層數(shù)多效果好
四、初次接觸推薦系統(tǒng)的感受
需要接觸一些概念：
CF、MF、leave-one-out、HR、NDCG（CG -> DCG -> NDCG）
模型上的思考，很多領(lǐng)域差不多，但對(duì)什么信息建模，這個(gè)是解決問(wèn)題的關(guān)鍵
PS：本文的所有公式都來(lái)自于論文：Neural Collaborative Filtering，有理解不對(duì)的地方，歡迎指正
