????????隨機(jī)森林的基本在此就不進(jìn)行贅述了,主要針對(duì)調(diào)參實(shí)踐進(jìn)行總結(jié)和自己體會(huì),從而更好的理解模型和數(shù)據(jù)。
????主要針對(duì)樹(shù)深(maxDepth)、各葉節(jié)點(diǎn)最少樣本數(shù)(minInstances),樹(shù)顆數(shù)(numTrees),最小信息增益(minInfoGain)來(lái)進(jìn)行調(diào)整,并比較訓(xùn)練集和測(cè)試集的AUC,評(píng)價(jià)標(biāo)準(zhǔn)為訓(xùn)練集AUC不宜過(guò)高,因?yàn)榘l(fā)現(xiàn)隨機(jī)森林很容易過(guò)擬合,測(cè)試集AUC不降低。得出以下幾點(diǎn)結(jié)論:
1、最小信息增益不宜過(guò)大。
2、樹(shù)顆數(shù)增加對(duì)模型效果的影響較小。
3、各葉節(jié)點(diǎn)最小樣本數(shù)對(duì)模型影響較小。
4、樹(shù)深對(duì)模型影響較大,可適當(dāng)增加樹(shù)深,注意測(cè)試進(jìn)行調(diào)整。
? ? 各人認(rèn)為,這均是對(duì)過(guò)擬合的一些控制,不同場(chǎng)景需區(qū)別看待。
這里附上一些測(cè)試結(jié)果:
①關(guān)于minInfoGain

② 關(guān)于maxDepth

③ 關(guān)于minInstances

④ 關(guān)于numTrees
