压缩感知重构算法之稀疏度自适应匹配追踪(SAMP)

来源：互联网发布：算法交易与量化交易编辑：程序博客网时间：2024/04/29 03:58

题目：压缩感知重构算法之稀疏度自适应匹配追踪(SAMP)

鉴于前面所述大部分OMP及其前改算法都需要已知信号的稀疏度K，而在实际中这个一般是不知道的，基于此背景，稀疏度自适应匹配追踪(Sparsity Adaptive MP)被提出。

0、符号说明如下：

压缩观测y=Φx，其中y为观测所得向量M×1，x为原信号N×1（M<<N）。x一般不是稀疏的，但在某个变换域Ψ是稀疏的，即x=Ψθ，其中θ为K稀疏的，即θ只有K个非零项。此时y=ΦΨθ，令A=ΦΨ，则y=Aθ。

(1) y为观测所得向量，大小为M×1

(2)x为原信号，大小为N×1

(3)θ为K稀疏的，是信号在x在某变换域的稀疏表示

(4) Φ称为观测矩阵、测量矩阵、测量基，大小为M×N

(5) Ψ称为变换矩阵、变换基、稀疏矩阵、稀疏基、正交基字典矩阵，大小为N×N

(6)A称为测度矩阵、传感矩阵、CS信息算子，大小为M×N

上式中，一般有K<<M<<N，后面三个矩阵各个文献的叫法不一，以后我将Φ称为测量矩阵、将Ψ称为稀疏矩阵、将A称为传感矩阵。

注意：这里的稀疏表示模型为x=Ψθ，所以传感矩阵A=ΦΨ；而有些文献中稀疏模型为θ=Ψx，而一般Ψ为Hermite矩阵(实矩阵时称为正交矩阵)所以Ψ^-1=Ψ^H(实矩阵时为Ψ^-1=Ψ^T)，即x=Ψ^Hθ，所以传感矩阵A=ΦΨ^H，例如沙威的OMP例程中就是如此。

1、SAMP重构算法流程：

以上这个算法流程仅供参考，完全是为了与前面各算法流程形式上保持一致而写的，其实直接看文献[1]中的流程图更明了一些：

2、稀疏度自适应匹配追踪(SAMP)Matlab代码(CS_SAMP.m)

代码参考了文献[2]中的SAMP.m，也可在www.pudn.com中搜索SAMP，可以搜到很多结果。也许这里程序主循环用while循环比较合适，不过这里保持和前面各算法的一致性，仍用for循环。

function [ theta ] = CS_SAMP( y,A,S )%CS_SAMP Summary of this function goes here%Version: 1.0 written by jbb0523 @2015-05-08%   Detailed explanation goes here%   y = Phi * x%   x = Psi * theta%y = Phi*Psi * theta%   令 A = Phi*Psi, 则y=A*theta%   现在已知y和A，求theta%   Reference:Thong T.Do，Lu Gan，Nam Nguyen，Trac D.Tran．Sparsity adaptive%   matching pursuit algorithm for practical compressed sensing[C]．Asilomar%   Conference on Signals，Systems，and Computers，Pacific Grove，California，%   2008，10：581-587.%   Available at:%   http://dsp.rice.edu/sites/dsp.rice.edu/files/cs/asilomar08_final.pdf    [y_rows,y_columns] = size(y);    if y_rows<y_columns        y = y';%y should be a column vector    end    [M,N] = size(A);%传感矩阵A为M*N矩阵    theta = zeros(N,1);%用来存储恢复的theta(列向量)    Pos_theta = [];%用来迭代过程中存储A被选择的列序号    r_n = y;%初始化残差(residual)为y    L = S;%初始化步长(Size of the finalist in the first stage)    Stage = 1;%初始化Stage    IterMax = M;    for ii=1:IterMax%最多迭代M次        %(1)Preliminary Test        product = A'*r_n;%传感矩阵A各列与残差的内积        [val,pos]=sort(abs(product),'descend');%降序排列        Sk = pos(1:L);%选出最大的L个        %(2)Make Candidate List        Ck = union(Pos_theta,Sk);        %(3)Final Test        if length(Ck)<=M            At = A(:,Ck);%将A的这几列组成矩阵At        else            theta_ls=0;            break;        end        %y=At*theta，以下求theta的最小二乘解(Least Square)        theta_ls = (At'*At)^(-1)*At'*y;%最小二乘解        [val,pos]=sort(abs(theta_ls),'descend');%降序排列        F = Ck(pos(1:L));        %(4)Compute Residue        %A(:,F)*theta_ls是y在A(:,F)列空间上的正交投影        theta_ls = (A(:,F)'*A(:,F))^(-1)*A(:,F)'*y;        r_new = y - A(:,F)*theta_ls;%更新残差r        if norm(r_new)<1e-6%halting condition true             Pos_theta = F;            %r_n = r_new;%更新r_n以便输出最新的r_n            break;%quit the iteration        elseif norm(r_new)>=norm(r_n)%stage switching             Stage = Stage + 1;%Update the stage index             L = Stage*S;%Update the size of finalist            if ii == IterMax%最后一次循环                Pos_theta = F;%更新Pos_theta以与theta_ls匹配，防止报错            end            %ii = ii - 1;%迭代次数不更新        else            Pos_theta = F;%Update the finalist Fk            r_n = r_new;%Update the residue        end    end    theta(Pos_theta)=theta_ls;%恢复出的thetaend

3、SAMP单次重构测试代码

以下测试代码基本与OMP单次重构测试代码一样。

%压缩感知重构算法测试clear all;close all;clc;M = 128;%观测值个数N = 256;%信号x的长度K = 30;%信号x的稀疏度Index_K = randperm(N);x = zeros(N,1);x(Index_K(1:K)) = 5*randn(K,1);%x为K稀疏的，且位置是随机的Psi = eye(N);%x本身是稀疏的，定义稀疏矩阵为单位阵x=Psi*thetaPhi = randn(M,N)/sqrt(M);%测量矩阵为高斯矩阵A = Phi * Psi;%传感矩阵y = Phi * x;%得到观测向量y%% 恢复重构信号xtictheta = CS_SAMP( y,A,5);x_r = Psi * theta;% x=Psi * thetatoc%% 绘图figure;plot(x_r,'k.-');%绘出x的恢复信号hold on;plot(x,'r');%绘出原信号xhold off;legend('Recovery','Original')fprintf('\n恢复残差：');norm(x_r-x)%恢复残差

运行结果如下：（信号为随机生成，所以每次结果均不一样）

1）图：

2）Command windows

Elapsed time is 0.079620 seconds.

恢复残差：

ans=

1.3008e-014

4、稀疏度K与重构成功概率关系曲线绘制例程代码

以下测试代码为了与文献[1]的Fig.5(a)作比较。由于暂未研究学习LP算法，所以相比于文献[1]的Fig.5(a)缺少LP算法曲线。另外，本人的ROMP性能不如各文献中的ROMP，不知是不是算法理解有误。

clear all;close all;clc;%% 参数配置初始化CNT = 1000;%对于每组(K,M,N)，重复迭代次数N = 256;%信号x的长度Psi = eye(N);%x本身是稀疏的，定义稀疏矩阵为单位阵x=Psi*thetaM_set = [128];%测量值集合KIND = ['OMP      ';'ROMP     ';'StOMP    ';'SP       ';'CoSaMP   ';...    'SAMP,s=1 ';'SAMP,s=5 ';'SAMP,s=10'];Percentage = zeros(N,length(M_set),size(KIND,1));%存储恢复成功概率%% 主循环，遍历每组(K,M,N)ticfor mm = 1:length(M_set)    M = M_set(mm);%本次测量值个数    K_set = 10:5:70;%信号x的稀疏度K没必要全部遍历，每隔5测试一个就可以了    %存储此测量值M下不同K的恢复成功概率    PercentageM = zeros(size(KIND,1),length(K_set));    for kk = 1:length(K_set)       K = K_set(kk);%本次信号x的稀疏度K       P = zeros(1,size(KIND,1));       fprintf('M=%d,K=%d\n',M,K);       for cnt = 1:CNT %每个观测值个数均运行CNT次            Index_K = randperm(N);            x = zeros(N,1);            x(Index_K(1:K)) = 5*randn(K,1);%x为K稀疏的，且位置是随机的                            Phi = randn(M,N)/sqrt(M);%测量矩阵为高斯矩阵            A = Phi * Psi;%传感矩阵            y = Phi * x;%得到观测向量y            %(1)OMP            theta = CS_OMP(y,A,K);%恢复重构信号theta            x_r = Psi * theta;% x=Psi * theta            if norm(x_r-x)<1e-6%如果残差小于1e-6则认为恢复成功                P(1) = P(1) + 1;            end            %(2)ROMP            theta = CS_ROMP(y,A,K);%恢复重构信号theta            x_r = Psi * theta;% x=Psi * theta            if norm(x_r-x)<1e-6%如果残差小于1e-6则认为恢复成功                P(2) = P(2) + 1;            end            %(3)StOMP            theta = CS_StOMP(y,A);%恢复重构信号theta            x_r = Psi * theta;% x=Psi * theta            if norm(x_r-x)<1e-6%如果残差小于1e-6则认为恢复成功                P(3) = P(3) + 1;            end            %(4)SP            theta = CS_SP(y,A,K);%恢复重构信号theta            x_r = Psi * theta;% x=Psi * theta            if norm(x_r-x)<1e-6%如果残差小于1e-6则认为恢复成功                P(4) = P(4) + 1;            end            %(5)CoSaMP            theta = CS_CoSaMP(y,A,K);%恢复重构信号theta            x_r = Psi * theta;% x=Psi * theta            if norm(x_r-x)<1e-6%如果残差小于1e-6则认为恢复成功                P(5) = P(5) + 1;            end            %(6)SAMP,s=1            theta = CS_SAMP(y,A,1);%恢复重构信号theta            x_r = Psi * theta;% x=Psi * theta            if norm(x_r-x)<1e-6%如果残差小于1e-6则认为恢复成功                P(6) = P(6) + 1;            end            %(7)SAMP,s=5            theta = CS_SAMP(y,A,5);%恢复重构信号theta            x_r = Psi * theta;% x=Psi * theta            if norm(x_r-x)<1e-6%如果残差小于1e-6则认为恢复成功                P(7) = P(7) + 1;            end            %(8)SAMP,s=10            theta = CS_SAMP(y,A,10);%恢复重构信号theta            x_r = Psi * theta;% x=Psi * theta            if norm(x_r-x)<1e-6%如果残差小于1e-6则认为恢复成功                P(8) = P(8) + 1;            end       end       for iii = 1:size(KIND,1)           PercentageM(iii,kk) = P(iii)/CNT*100;%计算恢复概率       end    end    for jjj = 1:size(KIND,1)        Percentage(1:length(K_set),mm,jjj) = PercentageM(jjj,:);    endendtocsave KtoPercentage1000SAMP %运行一次不容易，把变量全部存储下来%% 绘图S = ['-ks';'-ko';'-yd';'-gv';'-b*';'-r.';'-rx';'-r+'];figure;for mm = 1:length(M_set)    M = M_set(mm);    K_set = 10:5:70;    L_Kset = length(K_set);    for ii = 1:size(KIND,1)        plot(K_set,Percentage(1:L_Kset,mm,ii),S(ii,:));%绘出x的恢复信号        hold on;    endendhold off;xlim([10 70]);legend('OMP','ROMP','StOMP','SP','CoSaMP',...    'SAMP,s=1','SAMP,s=5','SAMP,s=10');xlabel('Sparsity level K');ylabel('The Probability of Exact Reconstruction');title('Prob. of exact recovery vs. the signal sparsity K(M=128,N=256)(Gaussian)');

本程序在联想ThinkPadE430C笔记本（4GBDDR3内存，i5-3210）上运行共耗时1591.830781秒，程序中将所有数据均通过“save KtoPercentage1000SAMP”存储了下来，以后可以再对数据进行分析，只需“load KtoPercentage1000SAMP”即可。

本程序运行结果：

参考文献[1]中的Fig.4(a)：

5、测量数M与重构成功概率关系曲线绘制例程代码

以下测试代码为了与文献[1]的Fig.4(a)作比较。由于暂未研究学习LP算法，所以相比于文献[1]的Fig.4(a)缺少LP算法曲线。另外，本人的ROMP性能不如各文献中的ROMP，不知是不是算法理解有误。

clear all;close all;clc;%% 参数配置初始化CNT = 1000;%对于每组(K,M,N)，重复迭代次数N = 256;%信号x的长度Psi = eye(N);%x本身是稀疏的，定义稀疏矩阵为单位阵x=Psi*thetaK_set = [20];%信号x的稀疏度集合KIND = ['OMP      ';'ROMP     ';'StOMP    ';'SP       ';'CoSaMP   ';...    'SAMP,s=1 ';'SAMP,s=5 ';'SAMP,s=10'];Percentage = zeros(N,length(K_set),size(KIND,1));%存储恢复成功概率%% 主循环，遍历每组(K,M,N)ticfor kk = 1:length(K_set)    K = K_set(kk);%本次稀疏度    M_set = 50:5:100;%M没必要全部遍历，每隔5测试一个就可以了    %存储此稀疏度K下不同M的恢复成功概率    PercentageK = zeros(size(KIND,1),length(M_set));    for mm = 1:length(M_set)       M = M_set(mm);%本次观测值个数       P = zeros(1,size(KIND,1));       fprintf('M=%d,K=%d\n',M,K);       for cnt = 1:CNT %每个观测值个数均运行CNT次            Index_K = randperm(N);            x = zeros(N,1);            x(Index_K(1:K)) = 5*randn(K,1);%x为K稀疏的，且位置是随机的                            Phi = randn(M,N)/sqrt(M);%测量矩阵为高斯矩阵            A = Phi * Psi;%传感矩阵            y = Phi * x;%得到观测向量y            %(1)OMP            theta = CS_OMP(y,A,K);%恢复重构信号theta            x_r = Psi * theta;% x=Psi * theta            if norm(x_r-x)<1e-6%如果残差小于1e-6则认为恢复成功                P(1) = P(1) + 1;            end            %(2)ROMP            theta = CS_ROMP(y,A,K);%恢复重构信号theta            x_r = Psi * theta;% x=Psi * theta            if norm(x_r-x)<1e-6%如果残差小于1e-6则认为恢复成功                P(2) = P(2) + 1;            end            %(3)StOMP            theta = CS_StOMP(y,A);%恢复重构信号theta            x_r = Psi * theta;% x=Psi * theta            if norm(x_r-x)<1e-6%如果残差小于1e-6则认为恢复成功                P(3) = P(3) + 1;            end            %(4)SP            theta = CS_SP(y,A,K);%恢复重构信号theta            x_r = Psi * theta;% x=Psi * theta            if norm(x_r-x)<1e-6%如果残差小于1e-6则认为恢复成功                P(4) = P(4) + 1;            end            %(5)CoSaMP            theta = CS_CoSaMP(y,A,K);%恢复重构信号theta            x_r = Psi * theta;% x=Psi * theta            if norm(x_r-x)<1e-6%如果残差小于1e-6则认为恢复成功                P(5) = P(5) + 1;            end            %(6)SAMP,s=1            theta = CS_SAMP(y,A,1);%恢复重构信号theta            x_r = Psi * theta;% x=Psi * theta            if norm(x_r-x)<1e-6%如果残差小于1e-6则认为恢复成功                P(6) = P(6) + 1;            end            %(7)SAMP,s=5            theta = CS_SAMP(y,A,5);%恢复重构信号theta            x_r = Psi * theta;% x=Psi * theta            if norm(x_r-x)<1e-6%如果残差小于1e-6则认为恢复成功                P(7) = P(7) + 1;            end            %(8)SAMP,s=10            theta = CS_SAMP(y,A,10);%恢复重构信号theta            x_r = Psi * theta;% x=Psi * theta            if norm(x_r-x)<1e-6%如果残差小于1e-6则认为恢复成功                P(8) = P(8) + 1;            end       end       for iii = 1:size(KIND,1)           PercentageK(iii,mm) = P(iii)/CNT*100;%计算恢复概率       end    end    for jjj = 1:size(KIND,1)        Percentage(1:length(M_set),kk,jjj) = PercentageK(jjj,:);    endendtocsave MtoPercentage1000SAMP %运行一次不容易，把变量全部存储下来%% 绘图S = ['-ks';'-ko';'-yd';'-gv';'-b*';'-r.';'-rx';'-r+'];figure;for kk = 1:length(K_set)    K = K_set(kk);    M_set = 50:5:100;    L_Mset = length(M_set);    for ii = 1:size(KIND,1)        plot(M_set,Percentage(1:L_Mset,kk,ii),S(ii,:));%绘出x的恢复信号        hold on;    endendhold off;xlim([50 100]);legend('OMP','ROMP','StOMP','SP','CoSaMP',...    'SAMP,s=1','SAMP,s=5','SAMP,s=10');xlabel('No. of Measurements');ylabel('The Probability of Exact Reconstruction');title('Prob. of exact recovery vs. the number of measurements(K=20,N=256)(Gaussian)');

本程序在联想ThinkPadE430C笔记本（4GBDDR3内存，i5-3210）上运行共耗时373.898668秒，程序中将所有数据均通过“save SAMPMtoPercentage1000”存储了下来，以后可以再对数据进行分析，只需“load SAMPMtoPercentage1000”即可。

本程序运行结果：

参考文献[1]中的Fig.5(a)：

6、结语

读几遍SAMP的被提出的参考文献[1]的题目：Sparsity adaptive matching pursuit algorithm for practical compressed sensing，注意后面的“for practical compressed sensing”，这也就解释了很多网友的疑问，程序中的信号直接假设是稀疏的，但现实中的信号都不知道稀疏度是多少啊？前面大部分重构算法都要求输入稀疏度K，那怎么办呢？这时SAMP出场了，它是专为了“practical compressed sensing”而提出的，因为现实中的信号一般稀疏度未知或者说不是严格稀疏的，所要需要稀疏度自适应的算法，也就是SAMP了。

另外在测试时发现前面的CoSaMP有缺陷，因此对此进行了更新，在主循环中加入了：

            if kk == 1                theta_ls = 0;            end

以防止第1就跳出循环导致theta_ls未定义，其它地方未改。

参考文献：

[1]Thong T.Do，Lu Gan，NamNguyen，Trac D.Tran．Sparsityadaptive matching pursuit algorithm for practical compressed sensing[C]．AsilomarConference on Signals，Systems，andComputers，Pacific Grove，California，2008，10：581-587.

(Availableat: http://dsp.rice.edu/sites/dsp.rice.edu/files/cs/asilomar08_final.pdf)

[2]付自杰.cs_matlab. http://www.pudn.com/downloads641/sourcecode/math/detail2595379.html

[3]杨真真，杨震，孙林慧.信号压缩重构的正交匹配追踪类算法综述[J]. 信号处理，2013，29(4)：486-496.

2 0