Hidden Markov Models Forward Backward算法

来源：互联网发布：做淘宝买什么电脑好编辑：程序博客网时间：2024/05/18 05:44

Hidden Markov Models 的问题3是给定一个HMMs的模型 $\lambda$ 和一个输出观察序列O，如何调整模型的参数使得产生这一序列的概率最大？我理解这就是一个机器学习的问题，因为有时候HMMs的模型我们是不知道的，我们随机得到一个初始的 $\lambda$ ，通过训练数据进行HMMs模型的参数调整，最终学习出一个局部最优的HMMs（无法得到全局的最优，只能得到局部的最优）。解决的算法是Baum-Welch（即Forward Backward算法）。

在介绍Forward Backward算法之前，先介绍一下Backward算法。

1. Backward算法

定义backward变量 ${\beta}_{t}(j)=P({O}_{t+1}{O}_{t+2}\ldots{O}_{T}|{q}_{t}={s}_{j})$ ，定义为在t时刻状态为 ${s}_{j}$ 的条件下，局部观察序列 ${O}_{t+1}{O}_{t+2}\ldots{O}_{T}$ 的概率。

${\beta}_{t}(i)=\sum_{j=1}^{N}{a}_{ij}{b}_{j}({O}_{t+1}){\beta}_{t+1}(j)$

t时刻与t+1时刻，backward变量关系如图1所示：

图1

第一步：初始化， ${\beta}_{T}(i)=1, 1\leq i \leq N$ ；

第二步：归纳， ${\beta}_{t}(i)=\sum_{j=1}^{N}{a}_{ij}{b}_{j}({O}_{t+1}){\beta}_{t+1}(j)$ $t=T-1, T-2, \ldots 1, 1 \leq j \leq N$ ；

第三步：结果， $P(O|\lambda)=\sum_{i=1}^{N}{\beta}_{1}(i)$

其实backward与forward非常类似。

2. Forward Backward算法

定义变量 ${\gamma}_{t}(i)=P({q}_{t}={s}_{i}|O,\lambda)$ ，定义为在给定HMMs模型 $\lambda$ 和观察序列O的条件下，t时刻状态为 ${s}_{i}$ 的概率；

${\gamma}_{t}(i)=\frac{P({q}_{t}={s}_{i}, O |\lambda)}{P(O|\lambda)}=$ $\frac{{\alpha}_{t}(i){\beta}_{t}(i)}{\sum_{i=1}^{N}{\alpha}_{t}(i){\beta}_{t}(i)}$ ， $\sum_{i=1}^{N}{\gamma}_{t}(i)=1$

定义变量 ${\xi}_{t}(i,j)=P({q}_{t}={s}_{i},{q}_{t+1}={s}_{j}|O,\lambda)$ ，定位为在给定HMMs模型 $\lambda$ 和观察序列O的条件下，t时刻状态为 ${s}_{i}$ ，t+1时刻状态为 ${s}_{i+1}$ 的概率。如图2所示：

图2

${\xi}_{t}(i,j)=\frac{P(O,{q}_{t}={s}_{i},{q}_{t+1}={s}_{j}|\lambda)}{P(O|\lambda)}$

$=\frac{{a}_{t}(i){a}_{ij}{b}_{j}({O}_{t+1}){\beta}_{t+1}(j)}{\sum_{i=1}^{N}\sum_{j=1}^{N}{a}_{t}(i){a}_{ij}{b}_{j}({O}_{t+1}){\beta}_{t+1}(j)}$

这2个变量的关系为 ${\gamma}_{t}(i)=\sum_{j=1}^{N}{\xi}_{t}(i,j)$

$\sum_{t=1}^{T-1}{\gamma}_{t}(i)$ 从状态 ${s}_{i}$ 转移过来的期望数是多少；

$\sum_{t=1}^{T-1}{\xi}_{t}(i,j)$ 从状态 ${s}_{i}$ 转移到 ${s}_{j}$ 的期望数是多少；

重新评估HMMs的参数为：

${\overline{\pi}}_{i}={\gamma}_{1}(i)$ ，expected frequency in state ${s}_{i}$ at time t=1；

${\overline{a}}_{ij}=\frac{\sum_{t=1}^{T-1}{\xi}_{t}(i,j)}{\sum_{t=1}^{T-1}{\gamma}_{t}(i)}$ ，expected number of transitions from ${s}_{i}$ to state ${s}_{j}$ $\div$ expected number of transitions from state ${s}_{j}$ ；

${\overline{b}}_{j}(k)=\frac{\sum_{t=1, s.t.{O}_{t}={v}_{k}}^{T}{\gamma}_{t}(j)}{\sum_{t=1}^{T}{\gamma}_{t}(j)}$ ，expected number of times in state j and observing symbol ${v}_{k}$ $\div$ expected number of times in state j；

同时不要忘记了，新的参数的限制

$\sum_{i=1}^{N}{\overline{\pi}}_{i}=1$

$\sum_{j=1}^{N}{\overline{a}}_{ij}=1$

$\sum_{k=1}^{M}{\overline{b}}_{j}(k)=1$

HMMs的模型参加进行了重新的评估后，计算 $（P(O|\overline{\lambda}) - P(O|\lambda)）> threshold$ ，例如threshold定义为0.001，如果大于，就继续归纳，否则就是收敛。

建议，去读一下 UMDHMM的代码，这样对Forward Backward的算法就有了解了。

Reference: LAWRENCE R. RABINER, A Tutorial on Hidden Markov Models and Selected Applications in Speech Recognition

0 0