机器学习26-隐马尔科夫模型HMM（一）

介绍

HMM可用在标注问题上，在语音识别，NLP，生物信息，模式识别等领域被证明是可用的算法

HMM是关于时间序列的概率模型，描述一个由隐藏马尔科夫链生成不可观测的状态序列，再由状态序列生成观测随机序列的过程

HMM生成的随机状态序列称为状态序列，每个状态随机生成一个观测，由此产生的随机观测序列称为观测序列

上图为隐马尔科夫链，T1随机生成T2，T2随机生成T3 .....  ，T1 T2 T3 ...Tn+1为状态序列。T1随机生成O1 ，T2随机生成O2。O1，O2.....O n+1为观测数列

T1是不确定的，所以O1与O2是不互相独立的

模型的数学描述

   HMM由初始概率分布π，状态转移概率分布A，观测概率分布B组成：

λ = （A B π）

状态转移概率分布A：

每个时刻的状态可能性的种类是一样的，比如T0时刻状态可能是L1，L2，L3......Ln中的一种，T1时刻的状态也可能L1，L2，L3......Ln中的一种状态之间的转化概率称为A，如下图，上时刻L1状态转化为下一时刻L2状态的概率为a12

观测概率分布B：

每个状态可以映射成某个观测值，如下图：状态L2映射为观测O3的概率为a23

        

初始概率分布π：

π（π1，π2，π3，π4.........π n）为转移到T0时刻在状态种类上的概率

概率计算-直接计算：给定λ 与观测数据O （O1，O2，O3，O4 .....On） ， 求p（o |λ ）

概率计算-前向计算：给定λ 与观测数据O （O1，O2，O3，O4 .....On） ， 求p（o | λ ）

    时间复杂度为O（n*n^2）