如果回歸模型存在非線性,可能不方便使用OLS,這時(shí)采用最大似然估計(jì)法(MLE)或非線性最小二乘法(NLS)
6.1 最大似然估計(jì)法的定義
- 似然函數(shù)(likelihood function)的公式:
含義:抽樣之前是隨機(jī)向量,抽樣之后
有了特定的樣本值,可以將樣本的聯(lián)合密度函數(shù)看做在
給定的情況下,未知參數(shù)
的函數(shù),即似然函數(shù)解決的問(wèn)題是:我們抽到的這個(gè)樣本最有可能來(lái)自參數(shù)
為什么值的總體呢?或者說(shuō)我們要找到一個(gè)參數(shù)
,使得我們觀測(cè)到這個(gè)樣本的概率最大。
備注:一般為了計(jì)算方便,對(duì)似然函數(shù)做取對(duì)數(shù),將乘積形式轉(zhuǎn)化為和的形式的處理 - 似然函數(shù)的得分函數(shù)
在數(shù)學(xué)上,常把最大似然估計(jì)量寫(xiě)為:
求一階條件,有:
該一階條件被稱為“得分函數(shù)(score function)”或“得分向量(score vector)”如果似然函數(shù)正確,則得分函數(shù)在得分函數(shù).jpg處的期望為0,即:
