一、剪枝 1. 為什么要剪枝 在決策樹生成的時候,更多考慮的是訓練數(shù)據(jù),而不是未知數(shù)據(jù),這會導致過擬合,使樹過于復雜,對于未知的樣本不準確。 2...
決策樹是一種基本的分類與回歸方法。這里主要討論決策樹用于分類。 決策樹模型是描述對樣本進行分類的樹形結(jié)構(gòu)。樹由結(jié)點和有向邊組成: 內(nèi)部結(jié)點表示一...
一、信息熵 熵 (entropy) 這一詞最初來源于熱力學。1948年,克勞德·愛爾伍德·香農(nóng)將熱力學中的熵引入信息論,所以也被稱為香農(nóng)熵 (S...
一、Logistic regression中sigmod函數(shù)推導 sigmod函數(shù)的推導 1.伯努利分布 一個事件x,其結(jié)果只有兩種:x=1 o...
一、貝葉斯公式推導 1.條件概率 設(shè)是任意兩個事件,已知發(fā)生的條件下,發(fā)生的條件概率為: 2.全概率公式 設(shè)為有限或無限個事件,他們兩兩互斥,即...
一、詳細理解誤差(error)與偏差(bias)和方差(variance) 1.偏差與方差 2.error與bias和variance的關(guān)系 總...
一、什么是機器學習? 機器學習包括:1.監(jiān)督學習(supervised learning) ①回歸:尋找一個假設(shè)函數(shù),根據(jù)大量的訓練集X來預測目...
SampleApp_ProcessEvent 事件處理函數(shù) 例如: void SampleApp_SendPeriodicMessage( vo...