隱馬爾可夫模型（HMM）
一、隱馬爾可夫模型
隱馬爾可夫模型是結構最簡單的動態貝葉斯網，是一種著名的有向圖模型，主要用於時序數據建模，在語音識別、自然語言處理等方面有廣泛引用。
如上圖所示，隱馬爾可夫模型中的變量可以分爲兩組，第一組狀態變量，一般假定狀態變量是隱藏的，不可觀測的；第二組是觀測變量。
在隱馬爾可夫模型中，系統通常存在多個不同的狀態，設Q爲可能的狀態的集合：
爲便於分析，僅考慮離散型觀測變量，並設V是所有觀測的集合
其中：N 是可能的狀態數，M 是可能的觀測數
I 是長度爲T 的狀態序列：
O是對應的觀測序列：
除了結構信息，若確定一個隱馬爾可夫模型，需要三組參數：狀態轉移概率矩陣，觀測概率矩陣，初始狀態概率向量。
1. 狀態轉移概率矩陣：模型在各個狀態空間轉換的概率，記爲矩陣
其中：
2.觀測概率矩陣：模型根據當前狀態獲得獲得各個觀測值的概率，記爲矩陣
其中：
3. 初始狀態概率向量：模型在初始時刻各個狀態出現的概率，通常記爲：
其中：
通常指定狀態空間Q和觀測空間 V 以及上述三組參數，就可以確定一個隱馬爾可夫模型，並可表示爲：
A，B，Pi，爲隱馬爾可夫模型三要素。狀態轉移矩陣A和初始狀態向量Pi確定了隱馬爾可夫鏈，生成不可觀測的狀態序列，觀測概率矩陣B，確定如何從狀態生成觀測。
給定一個馬爾可夫模型，按照以下過程產生觀測序列：
1. 設置 t = 1，並根據初始狀態概率Pi選擇初始狀態 O1；
2. 根據狀態 It 和輸出 觀測概率 B ，選擇觀測變量取值 Ot ；
3. 根據狀態 Ot 和狀態轉移矩陣 A ，轉移模型狀態，確定 I(t+1)；
4. 若 t < T ，設置 t=t+1 ，並轉移到第二步，否則停止。