概念：

已知某個隨機樣本滿足某種概率分布，但是其中具體的參數(shù)不清楚，參數(shù)估計就是通過若干次試驗，觀察結(jié)果，利用結(jié)果推出參數(shù)的大概值。

最大似然估計是建立在這樣的思想上：已知某個參數(shù)能使這個樣本出現(xiàn)的概率最大，我們當然不會再去選擇小概率樣本，所以干脆就把這個參數(shù)作為估計的真實值。

定義：

設(shè)總體分布為f(x,θ），x1,x2,x3,x4...xn為該總體采用得到的樣本。因為x1,x2...xn獨立分布，于是，他們的聯(lián)合密度函數(shù)為：

一般步驟：

（1）寫出似然函數(shù)；

（2）對似然函數(shù)取對數(shù)，得到對數(shù)似然函數(shù)；

（3）若對數(shù)似然函數(shù)可導，求導，解方程組

得到駐點。

（4）分析駐點是極大值點

舉例：

拋一枚硬幣10次

正面為1，反面為0，結(jié)如下：

【1,1,0,1,1,1,0,0,1,1】

設(shè)正面的概率為p，反面的概率為（1-p)

（1）則最大似然函數(shù)公式為L=p*p(1-p）*p...*p*p

簡化公式如下：

L=p7*(1-p)3

（2）取對數(shù)：lnL=7*lnp+3ln(1-p)

（3）求導：0=7*（1/p)+3*（1/(1-p))*(-1)

7/p=3/(1-p)

得出結(jié)果p=7/10

（4）7/10w為極大值點。