GMM基础介绍

      好像前两天听说老师要讨论讨论GMM及其用法、证明等等，于是还是回顾了一下GMM的一些基本的知识，也备注在这里吧。

      注：以下的话可能非正式，完全是帮助自己理解的口水话，不一定严谨。

      最开始看到GMM的时候是在运动目标检测的背景建模过程中，采用GMM对背景建模并且进行更新。所谓高斯混合模型（GMM），就是利用多个高斯模型叠加成为一个新的模型，这种方法在单高斯模型（SGM）无法处理的情况下是非常有效地。比如说有一堆样本数据，在二维平面上并不是呈现一个椭圆形，那么用SGM去建模肯定效果不好，这时候如果用GMM去建模则会有明显优势，即用多个SGM加权叠加去建模。当然，这个过程中模型之间是有重合的，于是有一些文章还讨论过重合度的影响，这方面有机会以后可以看看。

      多维SGM的概率密度函数PDF定义如下：

     

      各个变量的意义就不解释了。

      可以通过计算知道（推导过程省略），对SGM参数的最大似然估计如下：

     

      同理，多维GMM的概率密度函数PDF定义如下：

     

      有了这个PDF，我们就可以像使用SGM一样去使用GMM了。但是，还有一个问题就是，我们怎样学习GMM的参数呢，一般的方法是采用EM算法进行训练。这个问题我留在下一次更新吧。