Question

压缩感知基础理论

Answer 1

姓名 ：卢超杰  学号 ：20021210944

转自：https://blog.csdn.net/weixin_34148340/article/details/86426335?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-6.edu_weight&depth_1-utm_source=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-6.edu_weight

【嵌牛导读 】：在提出压缩感知思想后，我们对其适用条件进行研究，其主要可分为压缩采样，稀疏表示，稀疏重构三部分。前两者对信号提出了一定的要求，后者则探讨了如何对压缩后的信号进行恢复的问题。

【嵌牛鼻子】：压缩感知 压缩采样 稀疏表示 稀疏重构

【嵌牛提问】：压缩感知的原理是？它有什么应用要求

【嵌牛正文】：

主要内容：

信号的稀疏表示

编码测量（采样过程）

恢复算法（非线性）

一、信号的稀疏表示

DSP（数字信号处理）中，有个很重要的概念：变换域（某个线性空间：一组基函数支撑起来的空间）

一般而言，我们的信号都是在时域或空域中来表示，其实我们可以在其他变换域中通过某些正交基函数的线性组合来表示信号。如：sinusoids, wavelets, curvelets, Gabor functions,. . .

对于某个变换域或空间，其基函数是确定的，只要得到系数α的这一组值，即可通过该系数向量来表示信号。

那么系数α该怎么求呢？

说了这么多，为什么要通过变换域的系数来表示信号呢？

很明显，系数向量α的大小远小于原始信号，这一个压缩和降维的过程（稀疏性），有利于存储、传输和处理。

下面以图片为例，介绍传统的图像表示方法DCT和现代的图像表示方法小波变换：

Classical Image Representation: DCT

Discrete Cosine Transform (DCT)

Basically a real-valued Fourier transform (sinusoids)

如上图所示，左边为原始图像，右边为DCT变换后的图像。

该图像表示二维的频率幅值系数，可以看出，右下角的大部分系数接近于0。也就是说图像的大部分能量都集中在左上角的低频部分（稀疏性），

因此我们只要保留左上角的信息（压缩），就可以很好地重建出左边的图像。（有损）

这也就是JEPG图像压缩标准的基础：DCT变换。

DCT重建（反变换）的图像特点：平滑区域好，边缘会有一些模糊。

Modern Image Representation: 2D Wavelets

如上图所示，左边为原始图像，中间为尺度图像，右边为小波变换后的系数结构

系数框架：大系数很少，小系数很多（稀疏性）

这也是JPEG2000压缩标准的基础：小波变换。

小波变换重建（反变换）的图像特点：平滑区域表现很好，边缘更加尖锐（在边缘处理上，比DCT好）

小波系数的分布：

小波变换的重建：

这一部分主要介绍了变换域，以及信号在变换域的稀疏表示，并以图像的DCT和小波变换为例，来阐述信号在变换域的稀疏性。

稀疏性的作用总结：

压缩

去噪

降维

二、压缩采样

压缩测量：即将稀疏信号（K-Sparse）从N维空间通过线性投影到M维空间当中。M<<N

过程：Y=Φ*X

Y即线性投影后的测量值；

Φ即测量矩阵；

X 即信号；

测量矩阵需满足的性质：

必要性：必须有2*K行

有效性：2*K行的高斯随机矩阵

测量过程：从信号x到测量值y的线性投影过程

N维空间到M维空间映射的几何模型：

举个简单的小例子，来说明测量矩阵的选择问题：

此处的测量矩阵应该如何选择呢？考虑以下几种情况：

上述的矩阵过于简单，但主要说明的问题就是：测量矩阵所在的空间基向量与信号的稀疏基向量必须满足一定的不相关性。

三、稀疏重构算法

假设信号是K-sparse，测量矩阵是高斯随机矩阵，现在通过采集获得了M个测量值，我们如何恢复出我们的信号呢？

测量过程：

重建过程： （数学建模：L1 Minimization，当然还有其他方法，后续再叙述）

需要多少个测量值才能够有效地恢复出信号呢？一个、两个很明显是不行的，N个显然就没有了压缩的意义，那么至少多少才合适呢？

下面的公式给出了一个估计值：

变换域重建：

举例：