隱馬爾科夫模型(HMM)入門詳解

隱馬爾科夫模型(HMM)

---

1. HMM的數學定義

對於$i=1,2,\cdots,n$時刻，HMM中有兩組變量序列，用$x=\{x_1,x_2,\cdots,x_n\},x_i\in \{o_1,o_2,\cdots,o_M\}$表示觀測序列（每個觀測變量有$M$個可能的取值），$y=\{y_1,y_2,\cdots,y_n\},y_i\in\{s_1,s_2,\cdots,s_N\}$（每個狀態變量有$N$個可能的取值）表示狀態序列。
並且有如下假設：在任一時刻，觀測變量的取值僅僅依賴於狀態變量，即$x_t$僅由$y_t$決定；同時，$y_t$僅依賴於$y_{t-1}$，即狀態變量序列是一個馬爾科夫鏈。由此可以得到所有變量的聯合概率分佈爲：
$P(x_1,y_1,\cdots,x_n,y_n)=P(y_1)P(x_1|y_1)\prod_{i=2}^{n}P(y_i|y_{i-1})P(x_i|y_i)\\ \tag{1-1}$
要想確定一個HMM模型還需要如下三組參數：

• 狀態轉移概率矩陣：$A=[a_{ij}]_{N\times N}$，其中$a_{ij}=P(y_{t+1}=s_j|y_t=s_i),1\leq i,j\leq N$
• 觀測概率矩陣：$B=[b_{ij}]_{N\times M}$，其中$b_{ij}=P(x_t=o_j|y_t=s_i),1\leq i\leq N,1\leq j\leq M$
• 初始狀態概率向量：$\pi=(\pi_1,\pi_2,\cdots,\pi_N)$，其中$\pi_i=P(y_1=s_i)$