augmix是對同一張圖片施加不同的數(shù)據(jù)增強(qiáng),然后將多張 增強(qiáng)后的圖片疊加。
AugMix其實(shí)是混合同一個(gè)圖像的經(jīng)過不同數(shù)據(jù)增強(qiáng)得到的圖像,而CutMix和MixUp是混合兩個(gè)不同的圖像。AugMix由于是混合同一個(gè)圖像,相比CutMix和MixUp,其得到的圖像更自然一些。

image.png
提出了額外增加一個(gè)JS散度一致性損失(Jensen-Shannon Divergence Consistency Loss)來進(jìn)一步提升模型的穩(wěn)定性。具體地,對圖像做兩次AugMix,得到兩個(gè)不同的增強(qiáng)圖像和,然后最小化它們和原始圖像的概率分布(模型預(yù)測的分類概率)的的JS散度。
一致性約束在半監(jiān)督學(xué)習(xí)中常見的方法:對一張未標(biāo)注的圖像做兩次不同的數(shù)據(jù)增強(qiáng),然后施加一致性約束,使得模型的輸出盡量一致。
一致性約束可以考慮加入到后續(xù)的研究中。

image.png