通過對抗的方式可以提取domian無關的特征,從而實現(xiàn)domain adaption。這就是DANN(Domain-Adversarial Neural Networks)。
原理
分為三部分,分別是:特征提取器(feature extractor)、標簽分類器(label predictor)、域判別器(domain classifier)。

DANN
其中域分類器和特征提取器中間有一個梯度反轉(zhuǎn)層(Gradient reversal layer)。梯度反轉(zhuǎn)層顧名思義將梯度乘一個負數(shù),然后進行反向傳播。
所以特征提取器和域判別器在進行對抗,特征提取器的目標是最大化標簽分類的精確度,最小化域分類器的精確度。而域分類器的目標是最大化域分類的精確度,所以特征提取器和域判別器在進行對抗。最后特征提取器獲得的是域無關的信息。
引用
域?qū)梗ㄓ蜻m應)訓練
Domain Adaptation_小結(jié)
DANN與梯度反轉(zhuǎn)層(GRL)詳解
Domain-Adversarial Training of Neural Networks