A generative Perspective on MRFs in Low-level Vision

                                                                                          MRF（A  generative Perspective on MRFs in Low-level Vision）

摘要：

MRF是先验知识比较流行的概率模型。利用简单势函数的MRF模型和有效的GIbbs采样，我们发现一般的模型不能很好地获得自然图像的统计。我们用这个模型通过计算贝叶斯最小均方差（MMSE），通过采样的方法来处理了图像复原。指出了一般MRF模型的缺点。实验表明把我们学习得到的生成模型和基于MMSE方法的采样方法结合，将会产生很好的结果。

1.介绍：

    自然图像和场景统计的学习，提供了MRF学习和特定的模型选择的动机。例如势函数的选择，一般很少评价MRF模型是如何很好地捕获图像的统计特性。之前有人做的是，通过在图像先验中采样，并计算模型采样的梯度直方图。代替的是，通常在一个特定的应用中取评价一个模型，例如在图像先验模型后的图像去噪。这是因为计算MRF的边际分布和其他概率特性比较难。采样是唯一的选择。但是一般的Gibbs采样又比较低效。

本文主要研究的是MRF的生成概率部分，并给出一个严格的概率解释。我们主要针对的是先验和图像复原。对GSM模型的FOE，我们主要利用的是GSM势函数可以通过辅助变量，然后很方便地利用Gibbs采样。用这个工具箱，我们分析对图像先验的采样的生成特性。包括模型特征的边际分布，多尺度梯度，和随机滤波器。作为定量的分析，我们建议用边际分布的KL距离。我们使用一个较有效的采样方法。分析pairwise MRF和high order MRF模型的一些概率特性。惊奇的发现，这些模型是比较差的生成模型。如图2.

为了理解这个，我们使用辅助变量的Gibbs采样，使用对比收敛的方法学习pairwise MRF和high order MRF，并分析他们的特性。第一次提出势函数的形状对捕获自然图像统计特性是很重要的。

3，一般MRF的生成特性

评价MRF先验的质量：计算模型的似然度，这个是比较困难的。这篇文章利用的是：通过在模型中采样，评价采样的质量。

测试图：利用3000个随机抽取的32*32的非重叠块，转换成灰度。训练：3000个50*50的图像。为了从模型中采样，我们设置了3个链，并评价它的收敛性。

Pairwise MRF：我们第一次分析pairwise MRF模型的生成特性。有人还用势函数去拟合梯度直方图，结果并不满意，因为梯度直方图和势函数并没有直接关系。

这些势函数真的能捕获自然图像的统计吗？（1）Laplace （2）GSM：由图1们发现，成对MRF模型不管使用哪个势函数都不能获得真实图像的梯度统计。Pairwise MRF可以理解为捕获一阶梯度的最大熵模型，势函数的形状是唯一的罪人？？

高阶MRF：因为pairwise MRF是对一阶梯度的模型，能力有限。引入high order MRF,目前的FOE模型，可以根据势函数和滤波器的不同分类。

我们通过滤波器响应的边际分布来分析生成特性。

比较了三种FOE模型的质量，发现还是3*3FOE模型最好。

4.更好的学习生成模型MRF

本文实验对象有2个：

（1）pairwise MRF。滤波器固定，势函数采样一个GSM势函数（一个高斯分量）。

由图1发现，我们学到的势函数，比统计分布重尾，更像是一个t分布。它更正确的捕捉到了图像的统计特性，KLD=0.006

（2）High order MRF：3*3 clique。8个GSM的势函数。

分析：主要有两个特征：（1）任意的非0均值滤波器作用于图像都会有重尾分布图5a。（2）梯度统计的尺度不变性图5d。这边分析的是图像边界统计和模型的边界统计的KL距离。由b和e可以看出，我们的pairwise MRF模型可以捕获随机3*3滤波器的统计，由e可以看出对小尺度的图像拟合比较好。

而FOE模型则可以捕获大尺寸滤波器的统计，而且对大尺度的图像拟合比较好。

5.图像复原

（1）MAP：发现尽管我们的生成模型是很好地。可是在MAP图像复原中效果并不好。这是MAP一个固有的问题。分析了以一般化拉普拉斯函数为势函数的pairwise MRF模型。好的生成模型和去噪效果有很弱的相对关系。

（2）MMSE估计

MMSE利用了模型的不确定性，但是一直被认为是不切实际的，因为很难对整幅图像求期望。