即插即用就是把算法的近端算子换成去噪器

摘要
即插即用先验(PnP)是通过物理模型和学习模型的集成来解决计算成像问题的最广泛使用的框架之一。PnP利用高保真物理传感器模型和强大的机器学习方法对数据进行先验建模，以提供最先进的重建算法。PnP算法在最小化数据保真项以促进数据一致性和以图像去噪器的形式施加学习的正则化器之间交替。最近非常成功的PnP算法的应用包括生物显微镜、计算机断层扫描、磁共振成像和关节断层扫描。本文通过追溯其根源，描述其主要变化，总结主要结果，并讨论在计算成像中的应用，对PnP进行了统一和原则性的回顾。我们还通过讨论与PnP算法相关的平衡方程的最近结果，指出了进一步发展的方向。

一、历史背景
考虑从噪声测量值y∈Rm估计未知图像x∈Rn的逆问题。通常用最优化的方法来表述这个问题

其中g是一个数据保真项，量化了与观测测量y的一致性, h是一个正则器，对x施加先验知识。Eq.(1)中的公式对应于最大后验概率(MAP)估计器，当


图1. 对于正则化项h是非光滑的复合函数f(x) = g(x) + h(x)，交替方向乘法器法(ADMM)和快速迭代收缩/阈值算法(FISTA)是两种被广泛使用的迭代算法。这两个函数都避免通过求近端算子来求导h。

其中py|x是x与测量值y相关的概率，px是先验分布。例如，给定形式为y = Ax + e的测量，其中A是表征成像仪器响应的测量算子(也称为前向算子)，e是加性高斯白噪声(AWGN)，数据保真度项减少为最小二乘函数g(x) = 1 2ky−Axk22。另一方面，许多流行的图像正则化器都是基于稀疏性促进正则化器h(x) = τ kw xk1，其中τ > 0是正则化参数，W是一个合适的变换。多年来，人们提出了各种合理的h的选择，例如总变分(TV)和马尔可夫随机场函数。

这些函数具有优雅的分析形式，并在从医学成像的断层摄影到手机相机的图像去噪等应用中产生了重大影响。

式(1)的解决方案平衡了数据一致和合理的需求，这可以直观地解释为在两个流形之间找到平衡:传感器流形和先验流形。传感器流形由g(x)的小值表示，在线性正演模型的情况下，大致是Rn的仿射子空间。类似地，先验流形由h(x)的小值表示，并包括在我们的应用程序中可能出现的图像。重要的是，真实的图像具有大量的结构，其中的偏离对领域专家来说是立即可见的。因此，在高维嵌入空间中，可信图像位于低维流形附近。

当g或h是非光滑[1]时，近端算法常用于解决式(1)中的问题。最广泛使用和最有效的近端算法之一是乘法器的交替方向法(ADMM)，它使用增广的拉格朗日公式来轮流交替最小化每个函数(ADMM的概述见[2])。

ADMM通过迭代算法1中总结的步骤来计算Eq.(1)的解，直到3收敛。ADMM的一个重要特性是，它不明确要求了解g或h或它们的梯度，而是依赖于近端操作符，它被定义为、

PnP-ADMM和PnP-FISTA具有模块化的重要特征;它们明确地将物理模型的应用(两种算法的第3行数据保真度更新)与学习模型的应用(两种算法的第4行图像去噪)分开。这一观察揭示了PnP方法的一个关键优势:通过改变数据保真项，可以轻松地为不同的测量操作人员定制它们，从而可以在广泛的应用中使用相同的学习CNN，而无需重新训练。类似地，PnP方法提供了一种简单的机制，通过简单地改变去噪器d来组合同一问题上的不同图像先验

改变保真项就可以适应不同的测量操作人员
也可以组合不同的去噪器和物理模型来适应不同的任务

由于PnP中的先验是在一个借口任务(图像去噪)上学习的，而不是在最终任务(图像重建)上，PnP可以被认为是一个自监督学习框架

PnP-ADMM以其快速的经验收敛和许多计算成像中广泛使用的算子的效率而闻名。但是，它需要计算近端映射，而PnP-FISTA只需要计算梯度∇g。原则上，梯度比近端映射更简单，但在许多应用中，近端映射可以使用通用方法(如共轭梯度)或专用方法(例如当正演模型是一个空间模糊算子时，可以使用快速傅里叶变换(FFT)[14]计算)有效地计算或逼近。在其他情况下，可以使用部分更新[15]有效地计算近端映射，以避免式(5)中(I + γATA)的显式反转。

这是通过维护一个额外的状态变量来实现的，该状态变量被用作近端最小化问题的初始化。从初始化开始，通过迭代求解器的几个步骤来近似地实现最小化。当外部循环收敛时，这个额外的状态变量也收敛[15]，所以这些部分更新减少了计算量，而不影响最终解决方案的准确性。

一个重要的概念点是带黑盒去噪器的PnP算法通常不能解决优化问题。即原来的ADMM和FISTA算法解决了(1)中的优化问题，但一旦将近端映射去噪操作替换为黑箱去噪器D，则不再有相应的函数h进行最小化。事实上，对许多广泛使用的去噪器，包括BM3D和DnCNN的数值评估表明，它们的雅可比矩阵不是对称的，这意味着这些去噪器既不是近端映射，也不是梯度下降步骤[16，定理1]

尽管如此，仍然有可能用一致的均衡公式17来制定PnP收敛解的标准

其中G:=近γ G, x, u为PnP-ADMM的收敛值。有趣的是，在(6)的共识平衡方程中，x是最终的重构，u可以解释为一方面在x = D(x + u)中被去噪器去除的噪声，另一方面在x = G(x−u)中通过数据拟合更新的作用进行平衡。

为了建立(6)，注意PnP-ADMM迭代的固定点z、x和u满足