- DeepWalk: 將已知網(wǎng)絡(luò)構(gòu)造成二叉樹,對(duì)每個(gè)節(jié)點(diǎn)采用若干次隨機(jī)游走得到固定長(zhǎng)度的局部序列信息,然后使用SkipGram方法(取神經(jīng)網(wǎng)絡(luò)的隱層參數(shù)作為輸入向量的低維表示),將序列看作單詞組成的句子,對(duì)于句子中每個(gè)節(jié)點(diǎn),先根據(jù)隨機(jī)生成的映射函數(shù)將其進(jìn)行投影,然后輸入神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,目標(biāo)是使前后節(jié)點(diǎn)出現(xiàn)的概率最大,這樣得到更新的映射函數(shù)以及二叉樹參數(shù)。——保留節(jié)點(diǎn)鄰居信息
- LINE: 分別求網(wǎng)絡(luò)中節(jié)點(diǎn)的一階相似度和經(jīng)驗(yàn)概率,二階相似度和經(jīng)驗(yàn)概率,分別最小化他們的KL散度最為神經(jīng)網(wǎng)絡(luò)訓(xùn)練的目標(biāo),然后把輸出合并作為節(jié)點(diǎn)的低維向量表示?!?i>保留節(jié)點(diǎn)的一階、二階鄰居信息
- node2vec: 升級(jí)版DeepWalk。首先根據(jù)參數(shù)p,q初始化概率轉(zhuǎn)移矩陣,然后對(duì)每個(gè)節(jié)點(diǎn)采用若干次隨機(jī)游走(概率不等,選擇游走的下一個(gè)鄰居時(shí)采用別名采樣法)得到固定長(zhǎng)度的局部序列信息,使用SkipGram方法訓(xùn)練神經(jīng)網(wǎng)絡(luò)得到節(jié)點(diǎn)的向量表示——同時(shí)保留節(jié)點(diǎn)的局部特性和全局特性(結(jié)構(gòu)相似性和內(nèi)容相似性)