隐马尔科夫模型(HMM)入门详解

隐马尔科夫模型(HMM)

---

1. HMM的数学定义

对于$i=1,2,\cdots,n$时刻，HMM中有两组变量序列，用$x=\{x_1,x_2,\cdots,x_n\},x_i\in \{o_1,o_2,\cdots,o_M\}$表示观测序列（每个观测变量有$M$个可能的取值），$y=\{y_1,y_2,\cdots,y_n\},y_i\in\{s_1,s_2,\cdots,s_N\}$（每个状态变量有$N$个可能的取值）表示状态序列。
并且有如下假设：在任一时刻，观测变量的取值仅仅依赖于状态变量，即$x_t$仅由$y_t$决定；同时，$y_t$仅依赖于$y_{t-1}$，即状态变量序列是一个马尔科夫链。由此可以得到所有变量的联合概率分布为：
$P(x_1,y_1,\cdots,x_n,y_n)=P(y_1)P(x_1|y_1)\prod_{i=2}^{n}P(y_i|y_{i-1})P(x_i|y_i)\\ \tag{1-1}$
要想确定一个HMM模型还需要如下三组参数：

• 状态转移概率矩阵：$A=[a_{ij}]_{N\times N}$，其中$a_{ij}=P(y_{t+1}=s_j|y_t=s_i),1\leq i,j\leq N$
• 观测概率矩阵：$B=[b_{ij}]_{N\times M}$，其中$b_{ij}=P(x_t=o_j|y_t=s_i),1\leq i\leq N,1\leq j\leq M$
• 初始状态概率向量：$\pi=(\pi_1,\pi_2,\cdots,\pi_N)$，其中$\pi_i=P(y_1=s_i)$