压缩感知与稀疏表示

压缩感知，本为信号处理领域中对传统采样定理的改进，现已发展到与信号相关的各个领域，如合成孔径雷达成像、遥感成像、核磁共振成像、深空探测成像、无线传感器网络、信源编码、人脸识别、语音识别、探地雷达成像等诸多领域。稀疏表示是对信号表示的一种方式，众所周知，一个信号可以用傅里叶级数表示，也可以用泰勒级数表示，从另一角度出发，我们可以用其他一些已知信号表示该信号，而能用来表示该信号的已知信号的个数必定占所有已知信号总数的很少一部分，所有就出现了稀疏表示的概念，本文先介绍压缩感知的概念与理论，然后介绍稀疏表示在模式识别中的应用。

一、压缩感知基本概念

在实际的模数转换中，我们依据的都是经典的Nyquist采样定理，该采样定理限定了采样后信号若想恢复原模拟信号的采样速率，即采样信号的带宽有下限，然而随着当今信号带宽的不断加宽，高维信号真正携带信息的部分有时候很少，传统的采样定理就成为了绊脚石。压缩感知理论指出：只要信号是可压缩的或在某个变换域是稀疏的，那么就可以用一个与变换基不相关的观测矩阵将变换所得高维信号投影到一个低维空间上，然后通过求解一个优化问题就可以从这些少量的投影中以高概率重构出原信号，可以证明这样的投影包含了重构信号的足够信息。在该理论框架下，采样速率不再取决于信号的带宽，而在很大程度上取决于两个基本准则：稀疏性和非相干性，或者稀疏性和等距约束性。与经典的Nyquist采样定理相比，压缩感知具有明显的优势，必然会在信息理论中引起一场革命。当前，压缩感知理论主要涉及三个核心问题：

 (1) 具有稀疏表示能力的过完备字典设计；

 (2) 满足非相干性或等距约束性准则的测量矩阵设计；

 (3) 快速鲁棒的信号重建算法设计。

下面对每一个问题逐一做一介绍。

1、信号的稀疏表示

若一个信号可以表示成y=Ax,其中A=[a1,a2,a3,....,am],A的列向量ai称为原子，矩阵A称为相干系数为u的一个原子库，若||u||_0<1/u,则零范数将有唯一最稀疏解，若||u||_0<(sqrt(2)-o.5)/u,则零范数问题可以等效为一范数问题。为什么要把零范数转化为一范数，是因为零范数是一个NP—hard problem。具体证明可参看Elad和Bruckstein发表的论文A Generalized Uncertainty Principle and Sparse Representation in Pairs of Bases。由此我们可以知道，压缩感知必须要求能够找到具有稀疏表示能力的过完备字典（即冗余字典）。由线性代数知识可知，这其实是一个解欠定方程组的问题。从冗余字典中找到具有最佳线性组合的K项原子来表示一个信号，称作信号的稀疏逼近或高度非线性逼近。目前信号在冗余字典下的稀疏表示的研究集中在两个方面：(1)如何构造一个适合某一类信号的冗余字典；(2)如何设计快速有效的稀疏分解算法．这两个问题也一直是该领域研究的热点，学者们对此已做了一些探索，其中以非相干字典为基础的一系列理论证明得到了进一步改进．主要的稀疏分解算法都是逼近算法，如凸松弛法（基追踪BP，基追踪去噪BPDN等），贪婪法（如匹配追踪MP,正交匹配追踪OMP等）。

2、设计测量矩阵

3、信号重构

（后续）