HMM知识
来源:互联网 发布:论文统计学分析软件 编辑:程序博客网 时间:2024/04/27 23:26
隐马尔可夫模型
编辑本段引言
隐马尔可夫模型(Hidden Markov Model,HMM)作为一种统计分析模型,创立于20世纪70年代。80编辑本段基本理论
隐马尔可夫模型是马尔可夫链的一种,它的状态不能直接观察到,但能通过观测向量序列观察到,每个观测向量都是通过某些概率密度分布表现为各种状态,每一个观测向量是由一个具有相应概率密度分布的状态序列产生。所以,隐马尔可夫模型是一个双重随机过程----具有一定状态数的隐马尔可夫链和显示随机函数集。自20世纪80年代以来,HMM被应用于语音识别,取得重大成功。到了90年代,HMM还被引入计算机文字识别和移动通信核心技术“多用户的检测”。近年来,HMM在生物信息科学、故障诊断等领域也开始得到应用。编辑本段模型的表达
隐马尔可夫模型(HMM)可以用五个元素来描述,包括2个状态集合和3个概率矩阵: 1. 隐含状态 S 这些状态之间满足马尔可夫性质,是马尔可夫模型中实际所隐含的状态。这些状态通常无法通过直接观测而得到。(例如S1、S2、S3等等) 2. 可观测状态 O 在模型中与隐含状态相关联,可通过直接观测而得到。(例如O1、O2、O3等等,可观测状态的数目不一定要和隐含状态的数目一致。) 3. 初始状态概率矩阵 π 表示隐含状态在初始时刻t=1的概率矩阵,(例如t=1时,P(S1)=p1、P(S2)=P2、P(S3)=p3,则初始状态概率矩阵 π=[ p1 p2 p3 ]. 4. 隐含状态转移概率矩阵 A。 描述了HMM模型中各个状态之间的转移概率。 其中Aij = P( Sj | Si ),1≤i,,j≤N. 表示在 t 时刻、状态为 Si 的条件下,在 t+1 时刻状态是 Sj 的概率。 5. 观测状态转移概率矩阵 B (英文名为Confusion Matrix,直译为混淆矩阵不太易于从字面理解)。 令N代表隐含状态数目,M代表可观测状态数目,则: Bij = P( Oi | Sj ), 1≤i≤M,1≤j≤N. 表示在 t 时刻、隐含状态是 Sj 条件下,观察状态为 Oi 的概率。 总结:一般的,可以用λ=(A,B,π)三元组来简洁的表示一个隐马尔可夫模型。隐马尔可夫模型实际上是标准马尔可夫模型的扩展,添加了可观测状态集合和这些状态与隐含状态之间的概率关系。编辑本段应用HMM通常解决的3类基本问题
1. 评估问题。 给定观测序列 O=O1O2O3…Ot和模型参数λ=(A,B,π),怎样有效计算某一观测序列的概率,进而可对该HMM做出相关评估。例如,已有一些模型参数各异的HMM,给定观测序列O=O1O2O3…Ot,我们想知道哪个HMM模型最可能生成该观测序列。通常我们利用forward算法分别计算每个HMM产生给定观测序列O的概率,然后从中选出最优的HMM模型。 这类评估的问题的一个经典例子是语音识别。在描述语言识别的隐马尔科夫模型中,每个单词生成一个对应的HMM,每个观测序列由一个单词的语音构成,单词的识别是通过评估进而选出最有可能产生观测序列所代表的读音的HMM而实现的。 2.解码问题 给定观测序列 O=O1O2O3…Ot和模型参数λ=(A,B,π),怎样寻找某种意义上最优的隐状态序列。在这类问题中,我们感兴趣的是马尔科夫模型中隐含状态,这些状态不能直接观测但却更具有价值,通常利用Viterbi算法来寻找。 这类问题的一个实际例子是中文分词,即把一个句子如何划分其构成才合适。例如,句子“发展中国家”是划分成“发展-中-国家”,还是“发展-中国-家”。这个问题可以用隐马尔科夫模型来解决。句子的分词方法可以看成是隐含状态,而句子则可以看成是给定的可观测状态,从而通过建HMM来寻找出最可能正确的分词方法。 3. 学习问题。 即HMM的模型参数λ=(A,B,π)未知,如何调整这些参数以使观测序列O=O1O2O3…Ot的概率尽可能的大。通常使用Baum-Welch算法以及Reversed Viterbi算法解决。 怎样调整模型参数λ=(A,B,π),使观测序列 O=O1O2O3…Ot的概率最大?编辑本段基本算法
针对以上三个问题,人们提出了相应的算法 *1 评估问题: 向前向后算法 *2 解码问题: Viterbi算法 *3 学习问题: Baum-Welch算法 [1]- 参考资料
- 1
维基百科-隐马尔可夫模型
http://zh.wikipedia.org/wiki/%E9%9A%90%E9%A9%AC%E5%B0%94%E5%8F%AF%E5%A4%AB%E6%A8%A1%E5%9E%8B
- 1
- HMM知识
- CRF与HMM的部分知识学习
- HMM
- hmm
- hmm
- HMM
- HMM
- HMM
- HMM
- HMM
- HMM
- HMM
- hmm
- HMM
- HMM:隐马尔可夫模型HMM
- HMM学习
- HDP-HMM
- HMM详解
- Java-位运算符
- RIM保证BlacBerry 10应用至少挣1万美元
- 给 DW cs4 安装插件 jQuery_API.mxp
- jenkins结束感言
- 视图实现圆角效果的三种方法及比较
- HMM知识
- 管程
- Alchemy安装配置
- hashcode()与equals()
- linux下I2C驱动分析1
- c中的变量在内存中存放的位置
- LDAP简介
- linux下I2C驱动分析2-(1)
- hibernate 对象的三种状态