? ??????半監(jiān)督歸納法的問題在于從有標(biāo)號和無標(biāo)號的數(shù)據(jù)中學(xué)習(xí)決策規(guī)則。只要學(xué)習(xí)標(biāo)準(zhǔn)得到相應(yīng)的調(diào)整，這項任務(wù)就可以通過歧視性的方法來完成。在本章中，我們鼓勵使用熵正則化作為一種手段，從最大后驗估計框架下的未標(biāo)記數(shù)據(jù)中獲益。學(xué)習(xí)準(zhǔn)則是從明確的假設(shè)中推導(dǎo)出來的，可以應(yīng)用于后驗概率的任何平滑參數(shù)化模型。正則化方案有利于低密度分離，而無需對輸入特征的密度進行建模。非標(biāo)記數(shù)據(jù)對學(xué)習(xí)準(zhǔn)則的貢獻導(dǎo)致了局部最優(yōu)，但這一問題可以通過確定性退火得到緩解。對于行為良好的后驗概率模型，確定性退火期望最大化（）將學(xué)習(xí)問題分解為一系列凹子問題。半監(jiān)督問題的其他方法被證明是熵正則化的近親或極限情況。一系列的實驗表明了該算法在性能和魯棒性方面的良好表現(xiàn)，違反了假設(shè)的低密度分離假設(shè)。最小熵解得益于未標(biāo)記的數(shù)據(jù)，能夠在許多情況下挑戰(zhàn)混合模型和流形學(xué)習(xí)。