MLE， DT， MAP简谈

1. MLE

1.1 目标函数

1.2 参数更新

2. MAP

2.1 目标函数

2.2 参数更新

3. MPE

DT训练(DiscriminativeTraining)准则:

         常用的有MMI(MaximumMutual Information)和MPE(MinimumPhone Error)

DT训练和MLE训练的区别：

MLE训练的目的是找到最符合该类数据的描述，着重刻画目标数据的分布

DT训练的目的是找到两类样本的边界，更注重刻画分类的边界

例如：MLE训练告诉模型“这是蓝色”，而DT训练则告诉模型“这是蓝色而不是红色”

    统计量分为分子和分母两部分

    - 分子部分：和MLE的计算方式一致，另外加上语言模型的得分

    - 分母部分：理论上是全部解码空间的竞争路径，然而实际上，我们采用lattice来近似

3.1 目标函数

3.2 参数更新

4. MPEMAP

4.1 目标函数

4.2 参数更新