关于文章 A Llook At Gaussian Mixture Reduction Algorithems

第一次写技术文档，要求别太高了，尤其是对于我这样一个小硕，还是一个不怎么懂数学的女生小硕，哈哈

首先，必须说，这篇文章信息量很大，而且有很多数学公式，提到的算法也很多，科研真是不容易啊。。。。

这篇文章是关于混合高斯模型的约简算法，我是因为需要提取运动目标用到了高斯混合模型而接触到这篇文章，对我来说要理解难度很大，很多东西都不懂，很难看进去啊。

话说，科研还真是奇妙，一方面，因为混合高斯模型因为效果还不理想，所以很多人想到了和其他算法的结合使用，简单的有帧间差分法和canny边缘算子，复杂的甚至有和神经网络的结合，这样，算法的复杂度和计算量就在增加；另一方面，却有很多人在想尽办法降低复杂度，就像这篇文章，约简算法，就是为了降低复杂度和计算量。不过呢，两个方面都是为了更好地应用混合高斯模型，这就是精度和速度之间的拉锯战吧。

简单来说，高斯混合模型用于背景建模时可以看做一种聚类算法（其它应用时不了解），也就是根据混合高斯模型来将像素点分为背景和前景两类。

这个高斯混合模型约简算法主要提到了三种约简算法：GMRC（通过聚类的高斯混合约简算法）、COWA（约束优化权重适应）和brute-force approach(蛮力方法或者硬方法），蛮力方法是作为最后仿真实验的一个比较的基准，以及他们的一些改进方法。

这里提到的混合高斯模型算法通俗来说，就是一个概率密度曲线，之前使用N个高斯的混合来表示，为了减少计算量的原因，现在要用L个来表示标率密度，要求是两者之间的失真度最小，也可以说误差最小。例如文中提到的实验都是将原来是10个混合高斯表示的概率密度曲线要用5个高斯的混合来近似表示。

另外要提到的就是约简算法性能的一个评价标准：误差平方积分。从名字来看，就是误差（约简前后概率密度函数的差值）的平方的积分，越小表明效果越好（和误差平方和最小一个道理），所以后面还提到了误差平方积分（ISE）的最小化。

文中提到，约简有两个思路，一个是修剪（pruning），就是根据相似性原则，将一部分高斯部件去掉的意思；另一个思路是融合（merge），就是根据相似的方法将两个高斯部件合成为一个。还有一个方法是对于混合高斯模型的参数进行优化。

文中，两条直线中间文字加粗的就是算法，相当于简单的流程描述，下面一一看一下：

1、GMRC（为什么网上都找不到中文的算法描述呢，真是崩溃）

步骤a：贪婪初始化，运行Runnalls’算法，来货个概率密度函数的初始估计，贪婪初始化有很多种算法，这是其中一种，后面有提到这个算法的具体实现。

步骤ｂ：聚类，使用ｋ均值算法进行聚类，用Kullback-Leiber距离作为一种距离度量来优化估计。

步骤ｃ：优化，对误差平方积分（ISE）进行迭代优化。（最小化）

（P.S. 还真是无泪了，就这一点算法表述提到了贪婪算法、聚类算法、迭代优化，感觉要把所有学过的内容整合到一起来理解贯通一样，真是难啊，现在还是大杂烩、一锅粥啊，希望多看几遍能够有点提高）

 

2、COWA

步骤a：贪婪约简，运行增强的西部算法（enhanced West algorithm），减少一个混合高斯部件（或部件component），后面有提到这个算法的具体实现。

步骤ｂ：优化，对约简后的混合模型的均值和方差做一个估计，计算权重的全局优化值。

步骤ｃ：再进一步约简，如果已经约简到L个部件（原来是N个，这也是约简的目标，即从N个高斯component减少到L个）或者ＩＳＥ已经小于Ｅ（最小阈值），表示已近不能再约简，停止循环，否则回到步骤ａ。

３、Runnalls’算法

步骤a：设置当前混合模型为完全混合（具体意思不懂）。

步骤ｂ：计算ｉ、ｊ部件融合的代价Ｃｉｊ。将当前Ｃｉｊ最小的对应的两个高斯融合，并设置当前混合为结果。

步骤ｃ：如果当前已经达到Ｌ个高斯，退出，否则回到步骤ｂ。

４、enhanced West algorithm算法

步骤a：为当前混合模型的每一个部件计算修正的权值。

步骤ｂ：使ｉ表示修正权值的最小值，融合ｊ部件和ｉ部件的代价是Ｃｉｊ用该ＩＳＥ距离表示。找到一个ｊ使得ｃｉｊ对这个ｉ最小，如果这样的一对ｉｊ未找到，则约简结束，否则将该ｉｊ融合，并且设置当前混合为结果。

５、ｋ均值算法

这个算法很多地方都有讲到，这里就略过。

６、brute-force approach(蛮力方法）

其实这里提到的方法在之前的数学中学到的罗列法是一样的，就像有Ｌ个盒子，Ｎ个小球，要将这些小球放到这些盒子里，原则是每一个盒子里都要有小球即不能空，这样我们会有很多种放的方法，在这里的约简方法就是要将这些放到一个盒子里的部件融合，从而完成约简。我们首先将所有的可能方式罗列出来，然后计算每一种方式的ＩＳＥ，最后ISE最小的方式就是所需要的。

今天，先到这里吧，看不下去了，还是很多地方没看懂，第一遍也没看完，看英文文献真是考验耐力啊，加油！

这种文章选择紫色会不会太不庄重了，不管了，我喜欢紫色，下次还是用黑色好了。

思考：

1、文中提到的思想和算法有什么应用？

         混合高斯模型在数值逼近、语音识别、人体特征识别、图像分类、图像去噪、图像重构、故障诊断、视频分析、信息过滤、密度估计、目标跟踪与识别等领域都有广泛的应用，

2、我们可以如何将文中的思想应用到我们的项目上？

         如果是经典的混合高斯模型用于背景建模提取运动目标，每个像素点模型一般使用3-5个高斯的混合表示，不需要本文提到的混合高斯约简算法。