機(jī)器學(xué)習(xí)第一講：機(jī)器學(xué)習(xí)介紹

機(jī)器學(xué)習(xí)分為兩大學(xué)派 ，第一種為頻率派機(jī)器學(xué)習(xí)，第二種為貝葉斯派機(jī)器學(xué)習(xí)；

1.頻率派的觀點(diǎn)

????

實(shí)際上就是我們深度學(xué)習(xí)常說的權(quán)重，X則是樣本，最大似然估計(jì)方法并不是唯一計(jì)算

的方法，還有最小二乘法，拉格朗日乘子法等等一系列方法，頻率機(jī)器學(xué)習(xí)本質(zhì)熵屬于對(duì)我們的目標(biāo)函數(shù)的優(yōu)化。

2.貝葉斯派的觀點(diǎn)

?

貝葉斯機(jī)器學(xué)習(xí)不僅僅有MAP計(jì)算，還有樣本邊緣概率計(jì)算，條件概率計(jì)算等等，貝葉斯機(jī)器學(xué)習(xí)本質(zhì)上是求積分。? ??

頻率派和貝葉斯派分別給出一系列的機(jī)器學(xué)習(xí)方法，頻率派的觀點(diǎn)導(dǎo)出一系列的統(tǒng)計(jì)機(jī)器學(xué)習(xí)算法，而貝葉斯導(dǎo)出了概率圖理論，在應(yīng)用頻率派的MLE方法（最大似然估計(jì)方法）時(shí)最優(yōu)化理論占據(jù)重要的地位，而貝葉斯派的算法無論是后驗(yàn)概率的建模還是利用后驗(yàn)概率進(jìn)行推斷時(shí)積分都占有重要的地位，因此采樣積分方法，例如MCMC（Markov Chain Monte Carlo）,有很多的應(yīng)用。

【注】?jī)煞鶊D片截取自《機(jī)器學(xué)習(xí)白板推導(dǎo)》