隱馬爾可夫模型

隱馬爾可夫模型
隱馬爾可夫模型簡(jiǎn)稱HMM,是比較經(jīng)典的機(jī)器學(xué)習(xí)模型,在語(yǔ)言識(shí)別,自然語(yǔ)言處理,模式識(shí)別等領(lǐng)域得到了廣泛的應(yīng)用
HMM模型可以解決哪些問(wèn)題?
使用HMM模型時(shí),我們的問(wèn)題一般有兩個(gè)特征
1)問(wèn)題是基于序列的,比如時(shí)間序列或者狀態(tài)序列
2)問(wèn)題中有兩類數(shù)據(jù),一類是觀測(cè)序列,一類是不能觀察到的隱藏狀態(tài)序列
前置知識(shí)
齊次一階馬爾可夫性
齊次的理解
就是在馬爾科夫鏈 中,
馬氏鏈中的任意 轉(zhuǎn)移到
所服從的概率分布是相同的,這個(gè)就叫做齊次
馬爾可夫性,可以通俗的理解為:現(xiàn)在決定未來(lái)。
在馬爾科夫鏈 中:
1階Markov的通俗理解: 只與
有關(guān),
只與
有關(guān);
1階Markov更專業(yè)表述:在給定 的情況下,
與
無(wú)關(guān)。
之所以說(shuō)是1階,也就是關(guān)聯(lián)鏈條的長(zhǎng)度為1;如果是2階的話,那就是在給定 和
的情況下,
與
是無(wú)關(guān)的。
1階Markov的目的是簡(jiǎn)化計(jì)算,因?yàn)橛?jì)算鏈條變短了。
觀測(cè)獨(dú)立假設(shè)
用通俗的表述可以理解為:在給定 的情況下,
與其他的
(k與t不等)全都無(wú)關(guān)。即當(dāng)前時(shí)刻觀測(cè)值只與當(dāng)前時(shí)刻狀態(tài)值有關(guān)
模型的三個(gè)要素
初始狀態(tài)矩陣

初始狀態(tài)矩陣
狀態(tài)轉(zhuǎn)移矩陣

狀態(tài)轉(zhuǎn)移矩陣
發(fā)射矩陣

觀測(cè)概率矩陣
模型參數(shù)可以用一個(gè)三元組表示