隱馬爾科夫模型（1）

基本概念

模型組成

• 狀態轉移矩陣：A
• 觀測概率分佈矩陣： B
• **初始狀態概率向量：π$\pi$
• **

隱馬爾可夫模型：λ$\lambda$

λ$\lambda$ = (A,B,π)$(A,B,\pi )$ , 其中，A=[aij]N∗N$A=[a_{ij}{]}_{N\ast N}$ ,
aij=P(it+1|it=qi)$a_{ij}=P(i_{t+1}|i_t=q_i)$ 的概率，i = 1, 2, …,N , j = 1, 2,….N
B=[bj(k)]N∗M$B=[b_j(k){]}_{N\ast M}$ ,
其中，bj(k)=P(ot=vk|it=qj)$b_j(k)=P(o_t=v_k|i_t=q_j)$ , k = 1, 2,… M; j = 1, 2, …., N
是在t時刻處於狀態qj$q_j$ 的條件下生成觀測vk$v_k$ 的概率
πi${\pi }_i$ 是初始狀態概率向量，其中，
πi=P(i1=qi)${\pi }_i=P(i_1=q_i)$ 是t = 1的時刻處於狀態qi$q_i$ 的概率，i = 1,2,….N,

兩個基本假設

• 齊次馬爾科夫性假設，即假設隱藏的馬爾科夫鏈在任意時刻t的狀態只依賴於前一時刻的狀態，與其他時刻的狀態及觀測無關，也與時刻t無關，
  
  P(it|it−1,ot−1,...i1,o1)=P(it|it−1)$$P(i_t|i_{t-1},o_{t-1},...i_1,o_1)=P(i_t|i_{t-1})$$
  
  -觀測獨立性假設，即假設任意時刻的觀測只依賴於該時刻的馬爾科夫鏈的狀態，與其他觀測及狀態無關
  
  P(ot|iT,oT,iT−1,oT−1,...i1,o1,)=P(ot|it)$$P(o_t|i_T,o_T,i_{T-1},o_{T-1},...i_1,o_1,)=P(o_t|i_t)$$

三個基本問題

• 概率計算問題，給定模型λ$\lambda$ = (A,B,π)$(A,B,\pi )$ ， 和觀測序列O＝(o1,o2,...,oT)$O＝(o_1,o2,...,o_T)$ , 計算在模型λ$\lambda$ 下觀測序列O出現的概率P(O|λ)$P(O|\lambda )$
• 學習問題，已知觀測序列O＝(o1,o2,...,oT)$O＝(o_1,o2,...,o_T)$ ， 估計模型λ$\lambda$ = (A,B,π)$(A,B,\pi )$ 爲參數，使得在該模型下P(O|λ)$P(O|\lambda )$ 最大，即用極大似然估計法估計參數
• 預測問題：已知模型λ$\lambda$ = (A,B,π)$(A,B,\pi )$ 和觀測序列O＝(o1,o2,...,oT)$O＝(o_1,o2,...,o_T)$ 求給定觀測條件序列條件概率P(O|λ)$P(O|\lambda )$ 最大的狀態序列I=(i1,i2,i3,...iT)$I=(i_1,i_2,i_3,...i_T)$ ,即給定觀測序列，求最有可能的狀態序列

參考資料

李航 統計學習方法