《模式识别》课程教学资源（PPT课件讲稿）Chapter 04 参数模型

ch04.参数模型

Ch 04. 参数模型

Part1隐马尔可夫模型

Part 1 隐马尔可夫模型

马尔可夫链 状态O,=1,2 t时刻的状态(t) ·长度为T的离散时间上的状态序列 {∞(1),(2),…,(T)} 例如:u={u1,c4,u2,u2,u1,u4} 转移概率(矩阵) a11a12a13 aj=P(o(t+1)=alot)=o) a a 21a2a23 a a为从状态O到O,的转移概率

马尔可夫链 • 状态 • t时刻的状态 • 长度为T的离散时间上的状态序列 例如： • 转移概率（矩阵） 为从状态 到 的转移概率 , 1, 2, i  i = i  j

马尔可夫链 状态转移图 21 lI

马尔可夫链 • 状态转移图

马尔可夫链 j-阶马尔可夫过程 下一时刻为某个状态的概率仅与最近的个状态有关 P(o(t+1)|o(1),o(2)…,o(t) =P(o(t+1)|o(t-j+1),o(t-j+2),…,o(t) 仅与最近的个状态有关 阶马尔可夫过程 ·任一时刻为某状态的概率仅与上一时刻的状态相关 P(o(t+1)|o(1,o(2),o(t)=P(o(t+1)|o(t) 仅与上一个状态有关

马尔可夫链 • j-阶马尔可夫过程 • 下一时刻为某个状态的概率仅与最近的j个状态有关 • 一阶马尔可夫过程 • 任一时刻为某状态的概率仅与上一时刻的状态相关 仅与最近的j个状态有关 仅与上一个状态有关

急马尔可夫模型 隐马尔可夫模型( Hidden markov model,缩写 为HMM) ·状态不可见 ·在时刻,隐藏的状态以一定的概率激发出可见的 符号x()其取值表示为v,2,n2 长度为T的离散时间上的可见符号序列 X={x(1),x(2)…,x()} 例如:X°={vn,,n,"2ny} ·观察到可见符号的概率 k=P(x()=vo()=0)∑

隐马尔可夫模型 • 隐马尔可夫模型（Hidden Markov Model，缩写 为HMM） • 状态不可见 • 在t时刻，隐藏的状态以一定的概率激发出可见的 符号 ，其取值表示为 • 长度为T的离散时间上的可见符号序列 例如： • 观察到可见符号的概率  (1), (2), , ( ) T X = x x x T   6 5 1 1 5 2 3 X = v v v v v v , , , , , ( ( ) | ( ) ) jk k j b P x t v t = = =   1 jk k b = x t( ) 1 2 3 v v v , ,

急马尔可夫模型 状态转移图 a 13 13

隐马尔可夫模型 • 状态转移图

例子 Box1● Box 2 Box 3 盒子编号不可见 每次从任一盒子中取出一个小球 ·隐藏状态:盒子编号 可见符号:小球 盒子i中取出各种小球的概率 P(●|i)P(o|i)P(O|i) 得到某个特定小球序列的概率?··。。。·。。·

一个例子 • 盒子编号不可见 • 每次从任一盒子中取出一个小球 • 隐藏状态：盒子编号 • 可见符号：小球 • 盒子i中取出各种小球的概率 • 得到某个特定小球序列的概率？

离散HMM的符号表示 隐藏状态集 g2={1,02…,or} 可见符号集 V={1,V2…,m} 完整的HMM参数向量 6=(AB,n) 状态序列 0=0(1)(2)…o(T) 观察序列 X=X(1)x(2)…X(T) 状态转移概率 |a=P(ot+1)=0y1|o(t)= 观察到可见符号的概率 B=争|bk=P(X()=|o(t)=⑨) 初始状态概率 n={1|=P(o1)=0)

离散HMM的符号表示 • 隐藏状态集 • 可见符号集 • 状态序列 • 观察序列 • 状态转移概率 • 观察到可见符号的概率 • 初始状态概率 完整的HMM参数向量

HMM三大核心问题 估值问题 ·已知 ·观察到特定符号序列X ·HMM模型参数向量θ 求 似然函数P(x|6) ·解码问题 已知 ·观察到特定符号序列X HMM模型参数向量6 求 ·最有可能产生X的隐状态序列

HMM三大核心问题 • 估值问题 • 已知 • 观察到特定符号序列X • HMM模型参数向量 • 求 • 似然函数 • 解码问题 • 已知 • 观察到特定符号序列X • HMM模型参数向量 • 求 • 最有可能产生X的隐状态序列