隐马尔可夫模型（HMM）
一、隐马尔可夫模型
隐马尔可夫模型是结构最简单的动态贝叶斯网，是一种著名的有向图模型，主要用于时序数据建模，在语音识别、自然语言处理等方面有广泛引用。
如上图所示，隐马尔可夫模型中的变量可以分为两组，第一组状态变量，一般假定状态变量是隐藏的，不可观测的；第二组是观测变量。
在隐马尔可夫模型中，系统通常存在多个不同的状态，设Q为可能的状态的集合：
为便于分析，仅考虑离散型观测变量，并设V是所有观测的集合
其中：N 是可能的状态数，M 是可能的观测数
I 是长度为T 的状态序列：
O是对应的观测序列：
除了结构信息，若确定一个隐马尔可夫模型，需要三组参数：状态转移概率矩阵，观测概率矩阵，初始状态概率向量。
1. 状态转移概率矩阵：模型在各个状态空间转换的概率，记为矩阵
其中：
2.观测概率矩阵：模型根据当前状态获得获得各个观测值的概率，记为矩阵
其中：
3. 初始状态概率向量：模型在初始时刻各个状态出现的概率，通常记为：
其中：
通常指定状态空间Q和观测空间 V 以及上述三组参数，就可以确定一个隐马尔可夫模型，并可表示为：
A，B，Pi，为隐马尔可夫模型三要素。状态转移矩阵A和初始状态向量Pi确定了隐马尔可夫链，生成不可观测的状态序列，观测概率矩阵B，确定如何从状态生成观测。
给定一个马尔可夫模型，按照以下过程产生观测序列：
1. 设置 t = 1，并根据初始状态概率Pi选择初始状态 O1；
2. 根据状态 It 和输出 观测概率 B ，选择观测变量取值 Ot ；
3. 根据状态 Ot 和状态转移矩阵 A ，转移模型状态，确定 I(t+1)；
4. 若 t < T ，设置 t=t+1 ，并转移到第二步，否则停止。