《统计学习方法，李航》：9、EM算法及其推广（2）

1）EM算法的引入

2）EM算法及简单解释

3）EM算法在高斯混合模型中的应用

4）EM算法的推广——GEM算法

3）EM算法在高斯混合模型中的应用

EM算法的重要应用是高斯混合模型的参数估计。

先给出高斯混合模型：

下面介绍利用EM算法估算高斯混合模型的参数theta：

-）先明确一下目标：

a）明确隐含变量，写出完全数据（直接变量+隐含变量）的对数似然函数：

b）E步：确定Q函数

c）M步：极大化Q函数

最后总结一下高斯混合模型参数估算的EM算法：

4）EM算法的推广——GEM算法

参考原书P166-P169，不再给出。