概率圖模型是一類用圖表達(dá)變量相關(guān)關(guān)系的概率模型

隱馬爾科夫模型HMM

1. 基本概念

• 隱馬爾科夫模型中的變量分為兩組：狀態(tài)變量和觀測變量
• 狀態(tài)變量的所有取值組成狀態(tài)集合
• 觀測變量的所有取值組成觀測集合

2. 模型定義

• 隱馬爾科夫模型結(jié)構(gòu)圖：
  
  圖1. 隱馬爾科夫模型圖
  
  圖中y_i為狀態(tài)變量是有序的，又稱為狀態(tài)序列，x_i為觀測變量，又稱為觀測序列。
• 狀態(tài)轉(zhuǎn)移：y_i到y(tǒng)_i+1稱為狀態(tài)轉(zhuǎn)移
• 通過指定狀態(tài)集合，觀測集合，狀態(tài)轉(zhuǎn)移概率矩陣，觀測概率矩陣，初始狀態(tài)概率向量這五個元素就可以確定一個隱馬爾科夫模型。

• 通常用狀態(tài)轉(zhuǎn)移概率矩陣A，觀測概率矩陣B，初始狀態(tài)概率向量π，來指代隱馬爾科夫模型，用數(shù)學(xué)語言表達(dá)如下圖：

  
  
  圖2. 隱馬爾科夫模型的數(shù)學(xué)表達(dá)式

• 模型中所有變量的聯(lián)合概率為：

  
  
  圖3. 所有變量的聯(lián)合概率
  
  

  說明：該公式成立有兩個假設(shè)
  （1）齊次隱馬爾科夫假設(shè)：任意時刻的狀態(tài)只依賴與前一時刻的狀態(tài)，與其他時刻的狀態(tài)和觀測無關(guān)。
  （2）觀測獨立性假設(shè)：任意時刻的觀測只依賴與該時刻的狀態(tài)，與其他觀測與狀態(tài)無關(guān)。

3. 三個基本問題

（1）概率計算問題

圖4. 概率計算問題

• 所謂概率計算問題就是根據(jù)以往的觀測序列x，推測當(dāng)前最有可能的觀測值x_n
• 解決該問題常用的算法為前向和后向算法
• TODO

（2）學(xué)習(xí)問題

圖5. 學(xué)習(xí)問題

• 學(xué)習(xí)問題就是根據(jù)樣本學(xué)得最優(yōu)的模型參數(shù)
• 該問題求解算法：監(jiān)督學(xué)習(xí)算法，非監(jiān)督學(xué)習(xí)算法
• TODO

（3）預(yù)測問題

圖6. 預(yù)測問題

• 根據(jù)觀測序列，推斷最有可能的狀態(tài)序列
• 求解該問題常用的算法：近似算法，維特比算法
• TODO