高計(jì)及stata應(yīng)用陳強(qiáng)版第6章_最大似然估計(jì)

如果回歸模型存在非線性,可能不方便使用OLS,這時(shí)采用最大似然估計(jì)法(MLE)或非線性最小二乘法(NLS)

6.1 最大似然估計(jì)法的定義

  1. 似然函數(shù)(likelihood function)的公式:
    \mathtt{L}(\theta;\boldsymbol{y_1},...\boldsymbol{y_n})=\prod_{i=1}^nf(\boldsymbol{y_i}:\theta)
    含義:抽樣之前\left\{\boldsymbol{y_1},...\boldsymbol{y_n}\right\}是隨機(jī)向量,抽樣之后\left\{\boldsymbol{y_1},...\boldsymbol{y_n}\right\}有了特定的樣本值,可以將樣本的聯(lián)合密度函數(shù)看做在\left\{\boldsymbol{y_1},...\boldsymbol{y_n}\right\}給定的情況下,未知參數(shù)\theta的函數(shù),即似然函數(shù)解決的問(wèn)題是:我們抽到的這個(gè)樣本最有可能來(lái)自參數(shù)\hat\theta_{ML}為什么值的總體呢?或者說(shuō)我們要找到一個(gè)參數(shù)\theta,使得我們觀測(cè)到這個(gè)樣本的概率最大。
    備注:一般為了計(jì)算方便,對(duì)似然函數(shù)做取對(duì)數(shù),將乘積形式轉(zhuǎn)化為和的形式的處理
  2. 似然函數(shù)的得分函數(shù)
    在數(shù)學(xué)上,常把最大似然估計(jì)量\hat\theta_{ML}寫(xiě)為:
    \hat\theta_{ML}\equiv argmax ln\mathtt{L}(\theta;\boldsymbol{y})求一階條件,有:
    得分函數(shù).jpg
    該一階條件被稱為“得分函數(shù)(score function)”或“得分向量(score vector)”如果似然函數(shù)正確,則得分函數(shù)在\theta=\theta_0處的期望為0,即:
    \mathbb{E}\left[\boldsymbol{s}(\theta_o;\boldsymbol{y})\right]=0

6.2 線性回歸模型的最大似然估計(jì)

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書(shū)系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

友情鏈接更多精彩內(nèi)容