Viterbi algorithm,viterbialgorithm
HMM(隱馬爾可夫模型)是用來描述隱含未知參數的統計模型,是一個關於時序的機率模型,它描述了一個由隱藏的馬爾可夫鏈產生狀態序列,再由狀態序列產生觀測序列的過程。其中,狀態之間的轉換以及觀測序列和狀態序列之間都存在一定的機率關係。
任何一個HMM都可以通過下列五元組來描述:
:param obs:觀測序列
:param states:隱狀態
:param start_p:初始機率(隱狀態)
:param trans_p:轉移機率(隱狀態)
:param emit_p: 發射機率 (隱狀態表現為顯狀態的機率)
而Viterbi演算法是解決隱馬第三問題(求觀察序列的最可能標註序列)。
演算法通過已知的可以觀察到的序列,和一些已知的狀態轉換之間的機率情況,通過綜合狀態之間的轉移機率和前一個狀態的情況計算出機率最大的狀態轉換路徑,從而推斷出隱含狀態的序列的情況。
維基百科動態圖表示Viterbi演算法過程
一個簡單問題
問題描述
隱含的身體狀態 = { 健康 , 發燒 }
可觀察的感覺狀態 = { 正常 , 冷 , 頭暈 }
月兒預判的阿驢身體狀態的機率分布 = { 健康:0.6 , 發燒: 0.4 }
月兒認為的阿驢身體健康狀態的轉換機率分布 = {健康->健康: 0.7 ,健康->發燒: 0.3 ,發燒->健康:0.4 ,發燒->發燒: 0.6}
月兒認為的在相應健康情況條件下,阿驢的感覺的機率分布 = {健康,正常:0.5 ,冷 :0.4 ,頭暈: 0.1 ;發燒,正常:0.1 ,冷 :0.3 ,頭暈: 0.6 }
阿驢連續三天的身體感覺依次是: 正常、冷、頭暈 。
利用五元組來描述問題
1 states = ('Health', 'Fever') 2 observations = ('normal', 'cold', 'dizzy') 3 start_probability = {'Health': 0.6, 'Fever': 0.4} 4 transition_probability = { 5 'Health' : {'Health': 0.7, 'Fever': 0.3}, 6 'Fever' : {'Health': 0.4, 'Fever': 0.6}, 7 } 8 emission_probability = { 9 'Health' : {'normal': 0.5, 'cold': 0.4, 'dizzy': 0.1},10 'Fever' : {'normal': 0.1, 'cold': 0.3, 'dizzy': 0.6},11 }
代碼實現Viterbi 演算法
1 import numpy 2 def Viterbi () : 3 #已知條件 4 states = ('Health', 'Fever') 5 observations = ('normal', 'cold', 'dizzy') 6 start_probability = {'Health': 0.6, 'Fever': 0.4} 7 transition_probability = { 8 'Health' : {'Health': 0.7, 'Fever': 0.3}, 9 'Fever' : {'Health': 0.4, 'Fever': 0.6},10 }11 emission_probability = {12 'Health' : {'normal': 0.5, 'cold': 0.4, 'dizzy': 0.1},13 'Fever' : {'normal': 0.1, 'cold': 0.3, 'dizzy': 0.6},14 }15 day = 316 s = len(states)17 V = [] 18 19 Wether = []20 Temp = []21 #求解初始狀態可能22 for j in list(range(s)):23 Temp.append(start_probability.get(states[j]) * emission_probability.get(states[j])[observations[0]])24 V.append(Temp)25 #根據初始狀態求解26 Wether.append(states[V[0].index(max(V[0]))]);27 28 #求解第2 - day 狀態轉換機率29 prob = []30 for d in [i + 1 for i in list(range( day - 1))]:31 prob = []32 pp = -133 for j in list(range(s)):34 Temp = []35 for k in list(range(s)):36 np = V[d-1][j] * transition_probability.get(states[j])[states[k]] * emission_probability.get(states[k])[observations[d]]37 Temp.append(np)38 #記錄路徑39 if np > pp:40 m1 = j41 m2 = k42 pp = np43 prob.append(Temp)44 45 print('Compute_Probability:')46 print(prob)47 Wether.append(states[m2])48 V.append(prob[m1])49 print('Large_One:')50 print(prob[m1])51 52 print(V)53 print(Wether)54 55 if __name__ == '__main__':56 Viterbi()
結果