保留初心，砥礪前行

這是令人興奮的一個章節(jié)。

因為科研中總是充滿了馬爾科夫。

隱含馬爾科夫模型也是機器學習的主要工具之一。

引用這句話的目的也是為了證明這一章節(jié)的重要性。

引例：

在通信模型中，信息源發(fā)出信號s₁,s₂,s₃,...，接收器收到o₁,0₂,0₃,...。解碼操作就是通過收到的o₁,0₂,0₃,...還原回s₁,s₂,s₃,...。
如何根據(jù)o₁,0₂,0₃,...得到s₁,s₂,s₃,...，可以把這項工作理解成由o₁,0₂,0₃,...，最有可能產(chǎn)生哪一種s₁,s₂,s₃,...。解釋成概率論的語言就是在o₁,0₂,0₃,...已知的情況下，求P(s₁,s₂,s₃,...|o₁,0₂,0₃,...)達到最大時的那一串s₁,s₂,s₃,...。也就是如下公式：

)
利用貝葉斯公式，可以把上式等價變成

\cdot P\left( S_{1},S_{2},S_{3}\right)} {P\left( O_{1},O_{2},O_{3}\right)})

其中，分子的左邊的P代表在信息s₁,s₂,s₃,...經(jīng)過傳輸后變成o₁,0₂,0₃,...的可能性；右邊的P代表是一個正常信號的概率；分母代表接發(fā)送端產(chǎn)生信息o₁,0₂,0₃,...的可能性。

o₁,0₂,0₃,...一旦產(chǎn)生，就不會再發(fā)生變化，因此P(o₁,0₂,0₃,...)可以看作一個常數(shù)，上面公式就可以等價成

\cdot P\left( S_{1},S_{2},S_{3}\right)} )

這個公式可以用隱含馬爾科夫模型來估計。

隱含馬爾科夫模型

馬爾科夫假設(shè)在隨機過程中每個狀態(tài)s_t的概率分布，只與它的前一個狀態(tài)s_t-1有關(guān)，即={P\left(S_{t} |S_{t-1}\right) )
符合這個假設(shè)的隨機過程成為馬爾科夫過程，也稱為馬爾科夫鏈。

這一段是重點內(nèi)容：
可以把這個馬爾科夫鏈想象成一臺機器，它隨機的選擇一個狀態(tài)作為初始狀態(tài)開始運行，并且按照馬爾科夫鏈的規(guī)則持續(xù)選擇后續(xù)狀態(tài)。這樣在運行了一段時間T后，就會產(chǎn)生一個狀態(tài)序列：s₁,s₂,s₃,... ,s_T。根據(jù)這個序列，很容易得到某個狀態(tài)s_i出現(xiàn)的次數(shù)#(s_i)，也很容易得到s_i轉(zhuǎn)換到s_j的次數(shù)#(s_i,s_j)。從而得到s_i轉(zhuǎn)移到s_j的概率：#(s_i,s_j) / #(s_i)。

隱含馬爾科夫模型是上述馬爾科夫鏈的一個擴展。

隱含馬爾科夫模型中任意時刻t的狀態(tài)s_t是不可見的。因此上述的根據(jù)觀察序列得到概率的方式都不再working。幸好隱含馬爾科夫模型在每個t都會輸出一個符號o_t，這個o_t與s_t相關(guān)并且只與s_t相關(guān)，這個被稱為獨立輸出假設(shè)。

隱含馬爾科夫模型

上圖中下邊一層的4個狀態(tài)s不可見，這些s是典型的馬爾科夫鏈，而它們輸出的符號o是可見的。

根據(jù)上述的獨立輸出假設(shè)，我們可以得到如下公式：

=\prod {t}P\left( o{t}|s_{t}\right)} )

根據(jù)上述的馬爾科夫假設(shè)，我們可以得到如下公式：

=\prod {t}P\left( s{t}|s_{t-1}\right)} )

使用以上兩個公式與之前的通信問題中的最終推導(dǎo)式

\cdot P\left( S_{1},S_{2},S_{3}\right)} )

相比較，可以容易地看出這些公式在形態(tài)上相似。把獨立輸出和馬爾科夫假設(shè)的兩個公式相乘，可以正好得到之前在通信問題中我們所要求的內(nèi)容。因此通信的解碼問題完全可以使用隱含馬爾科夫模型來解決。

就像前文所說的那樣，我們要找到的是那個公式的所有參數(shù)情況下，概率最大的那一組s₁,s₂,s₃,...。至于如何找到最大的概率進而找到這組狀態(tài)串，可以利用維特比算法，在后邊的章節(jié)會介紹。