通过范数正则化和随机 ADMM-PDPF 优化算法实现图像去模糊

《Neurocomputing》：Image deblurring through norm regularization and stochastic ADMM-PDPF optimization algorithm

　　

• 本文将图像去模糊视为一个控制问题，并对梯度采用范数正则化，为该领域提供了一个独特的视角。
• 主要目标是确保所提出的随机 ADMM-PDPF 算法的收敛性，突显其鲁棒性和可靠性。
• 数值实验验证了所提模型的有效性。

引言
近年来，成像科学取得了显著进展，应用范围从消费级摄影到临床诊断 [1]、[2] 和显微镜学。现代采集系统现在能提供仅十年前难以实现的分辨率 [3]、[4]。然而，尽管有这些硬件改进，图像质量仍易受退化影响，最明显的是由相机运动、失焦或大气湍流引起的模糊，这遮蔽了精细结构并减少了图像的信息内容。因此，准确量化此类退化至关重要：除了传统指标外，最近的盲图像质量评估方法，包括基于核的方法 [5]、轻量级架构 [6] 和基于图的方法 [7]，提供了更具判别力的无参考感知质量度量，更好地与人类判断相一致。

尽管采集技术取得了最新进展，从模糊观察中恢复清晰图像仍是一项具有挑战性的任务。除了纯粹的视觉增强外，图像去模糊在医学成像、模式识别和遥感等应用中至关重要。从数学角度来看，它被表述为一个反问题。在本工作中，我们采用图像处理中常用的标准线性退化模型。设 为图像域。对于 ，第 - 个观测帧 与未知清晰图像 之间的关系通过...其中每个 是建模空间不变模糊的线性算子（即与点扩散函数（PSF）的卷积），而 代表加性噪声。尽管索引 遍历帧序列的多个帧，但退化模型 (1) 是独立应用于每个 2-D 帧的：算子 考虑帧特定的模糊（例如，源于时间步 处的相机抖动或物体运动），但在前向模型层面未施加帧间的显式时间耦合。因此，多帧结构仅用于跨帧聚合互补的空间信息，而不是通过 3-D 卷积或帧间正则化来强制时间一致性。这种逐帧表述与既有的多帧超分辨率和去模糊文献 [8] 一致，并构成了一种刻意的建模选择：每帧的恢复由空间先验正则化，而集合 提供了冗余观测，从而稳定了否则严重病态的反演过程。问题的困难源于 PSF 的低通特性：算子 强烈衰减高频成分，因此直接反演会极大地放大噪声和数值误差，产生远离真实图像的不稳定重建。

为了解决 ，算子的直接反演在现实设置中因病态而不切实际。一种标准方法是将重建任务重新表述为变分问题，结合捕获观测模型的数据保真项和纳入关于 先验信息的正则化项。这种正则化表述强制了理想的性质，如平滑性或稀疏性，同时缓解了噪声放大 [8]。正则化器的正确选择至关重要，因为它决定了方法适用的图像类别。Tikhonov 正则化 [9] 被认为是最经典的选择。它惩罚图像的梯度范数。产生的优化问题可以通过傅里叶域求解，但惩罚项无法区分噪声引起的振荡和微小图像特征（如边缘）。在实践中，Tikhonov 正则化重建过度平滑，细微细节受损。

全变分（TV）正则化通过将二次惩罚替换为图像梯度的范数来解决这一局限性。由于其保持边缘的特性，TV 已成为图像处理中最广泛使用的正则化器之一 [10]、[11]，应用包括盲去卷积 [12]、[13]、修补 [14] 和超分辨率 [15]、[16]、[17]。然而，TV 均匀地惩罚梯度幅值，有效由阈值控制，这通常导致细纹理被抑制。因此，重建图像往往表现出分段常数的结构，通常称为阶梯效应。这种伪影在视觉上令人不快，并且可能会扭曲某些应用中的重要信息 [18]。经典 TV 的这些众所周知的局限性促使开发了替代正则化策略，这些策略保留由非凸正则化引起的边缘结构 [19] 和梯度惩罚，同时为平滑区域和纹理区域提供更具真实感的表示。近年来提出了几种此类方法。

一种方法是用非凸惩罚替换范数，如拟范数（），或折叠凹函数如 SCAD 和 MCP，它们对小梯度幅值施加较温和的惩罚。因此，强度渐变区域被较少激进地平滑，而与真实边缘相关的大梯度仍然受到足够的惩罚以保持其定位。一种互补策略利用了这样的观察：从自然图像中提取的图像块，当排列成矩阵时，通常表现出近似低秩结构。执行秩惩罚促进了全局自相似性的保持，能够在不降低重复模式的情况下有效抑制噪声 [20]。这两个想法可以自然地结合。最近的工作将非凸梯度正则化与低秩约束相结合，产生了能够捕获图像中局部边缘信息和长程结构相关性的混合模型 [21]、[22]。此类方法通常优于经典 TV，特别是在纹理和几何特征在多个尺度上共存的图像上，在这种设置下简单的正则化器往往不够充分。其他成功的方法是 [23]、[24]、[25] 中开发的低秩优化方法，它们通过最小化潜在矩阵或张量表示奇异值的各种拟范数惩罚 () 来利用图像和视频数据的内在低秩结构。这些公式为同时抑制噪声和恢复细微结构细节提供了一个原则性的框架，特别是在信号允许紧凑低维表示的场景中。

除了纯粹基于模型的正则化器外，近年来在学习型恢复技术方面也取得了显著进展，最值得注意的是去噪扩散模型，它们已通过引导、投影或零空间采样策略 [26]、[27]、[28]、[29] 适应于去模糊等反问题。尽管它们具有令人印象深刻的感知质量，但此类方法与本工作考虑的基于优化的设置根本不同。首先，基于扩散的求解器作为从大型图像语料库学习到的生成先验的随机采样器；因此，恢复的内容不保证与退化观测一致，并且可能会引入幻觉结构，这在测量保真度至关重要的应用中是一个关键缺陷。其次，它们的采样过程每图像需要数百次神经网络评估，导致运行时间和硬件要求远超基于优化的方案，这阻止了在本文考虑的计算机标准下进行公平比较。第三，作为数据驱动的采样器，它们相对于潜在的变分目标不提供收敛保证，而所提出的随机版本享有第 4 节建立的收敛性质；它们固有的随机采样也复杂化了可重复性，相比之下我们的小批量方案具有统计可控的行为。出于这些原因，实验比较仅限于最先进的基于优化的方法，它们共享相同的变分表述，从而允许对本文的算法贡献进行无偏评估。

我们的方法遵循不同但相关的方向。而不是修改应用于梯度分量的逐点惩罚或引入辅助低秩项，我们考虑了一个基于图像梯度范数与范数之比的基本不同的正则化泛函。如下节所述，该比率表现出强烈的稀疏促进特性，使其成为图像恢复的自然选择。尽管产生的优化问题是非凸的，但它可以通过本文开发的基于交替方向乘子法（ADMM）的算法 [30] 进行有效处理。

在追求更忠实的数据表示的过程中，该比率作为有效的正则化工具受到了越来越多的关注。最初由 Hoyer [31] 在非负矩阵分解的背景下引入，后来由 Yin 等人 [32] 给予了坚实的理论基础，他们建立了最小化与范数优化之间的联系。这一见解激励了广泛的后续工作。Hurley 和 Rickard [33] 分析了稀疏度测度的关键性质，而 Wang 等人 [34] 将该框架应用于稀疏梯度恢复。Rahimi 等人 [35] 进一步引入了用于稀疏信号重建的尺度不变表述，而 Wang 等人 [36] 建立了与惩罚模型的联系。最近，Tao [37] 导出了相关近端算子的闭合形式表达式。在成像背景下，El Hakoume 等人 [38] 提出了一种增强的基于模型，展示了图像恢复的有前景的结果。最近，Zhang 等人提出了一种统一框架，通过用单个自适应和灵活函数替换特定案例的范数（例如，和核范数）来泛化各种线性回归问题。通过调整内部参数并选择适当的变量元素，作者将不同的正则化和损失函数组合构建到单个优化表达式中。这种方法解决了逐个案例研究凸测度的局限性，为多样化的最小化任务提供了一个多功能模型。

该正则化的一个关键优势在于其能够实现稀疏促进和平滑保持之间的有利平衡。这一特性对于具有丰富结构内容和细纹理的图像特别有益，因为它鼓励稀疏表示同时保留边缘、轮廓和细节特征。受上述工作的启发，我们在本文中提出了一种新的基于变分优化的图像去模糊问题公式，其中包含该正则化。

为了解决提出的变分问题 (5)，我们开发了一系列逐步优化的算法，这些算法基于既定的优化框架并针对带有 正则化的图像去模糊进行了定制。作为基线，我们首先考虑经典的 ADMM-ADMM 方案。基于 Chen 等人 [39] 的原始对偶不动点框架，我们接着提出了 ADMM-原始对偶不动点（PDPF）算法，这是一种基于邻近性的方法，非常适合可分离问题，并且天然易于并行实现。这种方法有效地结合了 ADMM 和原始对偶不动点迭代的优点。尽管它们有效，但由于每次迭代评估全梯度，这两种方法都会产生显著的计算成本。

上述描述的两种方法，ADMM-ADMM 和 ADMM-PDPF，都需要在每个内迭代评估数据保真项的全梯度，涉及所有 前向和伴随算子。当观测数量很大时，这成为主要的计算瓶颈。这引发了一个问题：能否以较低的每次迭代成本实现相当的重建质量。

受此观察的启发，我们介绍了我们的主要算法贡献：随机 ADMM-PDPF 方法。关键思想是用从随机选择的观测子集计算的随机近似来替换全梯度。然而，确保由此产生的非凸设置中的鲁棒性需要仔细控制由随机梯度引入的方差，否则可能会阻碍收敛或降低解决方案质量。为了解决这个问题，我们采用了一种递减步长策略，在整个迭代过程中逐步减少随机梯度噪声的影响，确保尽管更新具有固有随机性，但具有渐近收敛性。这是随机优化理论的基石 [40]、[41]、[42]，支撑着 SGD [43]、Adam [44] 及其变体在机器学习、信号处理和图像恢复的广泛大规模应用中的成功。

更准确地说，本文的新颖性有四点。首先，我们构建了一个离散变分去模糊模型，其中该比率应用于图像梯度，并与多个模糊观测耦合。该模型通过 ADMM 分裂处理，将非光滑分子与分母分开，同时在可行性上保持原始比率结构。其次，我们为产生的非凸和非光滑问题推导了一组求解器：ADMM–ADMM 基线、基于原始–对偶不动点框架 [39] 的确定性 ADMM–PDPF 方法，以及设计用于减少重复评估全多观测数据保真梯度的随机 ADMM–PDPF 方法。第三，与直接的确定性图像恢复方案不同，所提出的随机变体使用了适当缩放的小批量梯度估计器以及递减步长规则，允许内原始–对偶迭代在每次迭代中仅使用观测的子集。第四，我们在明确陈述的假设下（包括有界方差和比率分母的非退化性），为产生的随机 ADMM–PDPF 方案提供了收敛性分析。

这些要点将本文提出的方法与现有的正则化恢复模型以及标准的随机原对偶算法区分开来。本文提出的随机方法与随机近端方法和随机原对偶方法[45]、[46]相关，但在本文所考虑的具体非凸结构方面存在差异。具体而言，难点不仅在于随机梯度的使用，还在于梯度比中可变分母的存在及其与外层ADMM分裂的交互作用。因此，本文提出的小批量估计器是针对多观测数据保真项构建的，而ADMM罚项和原对偶耦合则以确定性方式处理。递减步长规则用于修正累积的随机方差，并支持内层随机PDPF迭代的收敛性分析。从实际角度来看，第5节中的数值实验评估了三种所提出求解器的重建质量和计算成本。目标是确定随机变体是否能够在运行时与质量的权衡方面相对于确定性ADMM-PDPF和ADMM-ADMM方案取得优势。当考虑视频序列时，本文提出的模型将各帧视为前向模型中的多个观测；并未施加时间正则化或时间一致性项。因此，该方法应被理解为逐帧或多观测去模糊方法，而非时间耦合的视频去模糊模型。本文其余部分组织如下：

- 第2节介绍核心数学模型并描述相应的变分公式。
- 第3节详细阐述了解决所得优化问题的所提出算法。
- 第4节致力于主要理论结果，包括全面的收敛性分析。
- 最后，第5节报告了广泛的数值实验，将本文方法与国际先进基准进行了比较，展示了其有效性并提供了实证性能见解。

## 章节摘要

**所提出的模型**

前向模型(1)导致一个在Hadamard意义下不适定的逆问题，即解在存在时并不连续地依赖于数据。从实际意义上讲，观测数据中的微小扰动可能导致直接反演模糊算子时产生高度不稳定和不准确的重建结果。

本节的目标是开发一个变分框架，在正则化该不适定性的同时，仍然适应图像重建的特定需求。

**算法**

本节专门介绍所提出的算法，以解决非光滑、非凸问题(5)。所有三种方法都依赖于一个统一的ADMM"外壳"，用于解耦比率范数的分子和分母分量[2]。为了提前了解算法架构的后续步骤，请参阅图2。

**收敛性分析**

本节通过两个阶段呈现严格的收敛性推导。首先，在第4.1节中，我们关注内层随机PDPF迭代。我们实际上确保了每个子问题的收敛性。在此基础之上，其次，在第4.2节中，我们在适当的结构假设下证明完整的ADMM序列收敛到增广拉格朗日函数的一个驻点。图5提供了各逻辑依赖关系的可视化路线图。

**数值实验**

本节的目的是通过一系列全面的数值测试，验证前述章节中开发的算法框架的实际性能。我们首先介绍实验设置、退化过程、参数选择以及所使用的度量指标，然后呈现模拟和实际结果。

本节中的所有实验均在Python环境中进行，运行在配备Intel Core i5 2.30 GHz处理器的PC上。重建质量为

**结论**

本文提出了一种新颖的去模糊框架。我们引入了一种称为随机ADMM-PDPF的随机变体算法，用于最小化范数。主要贡献在于提出了一种随机优化方法来稳定且实用地求解控制问题(5)，并提供了收敛性结果的支持。我们给出了一些数值结果，详细比较了三种不同策略并论证了它们之间的联系。这些优化策略包括：经典ADMM、

**未引用的参考文献** [52]

**CRediT作者贡献声明**

Ziad Zaabouli：写作——审阅与编辑、写作——初稿、可视化、验证、监督、软件、资源。Imane El Malki：写作——审阅与编辑、写作——初稿、可视化、验证、监督、软件、资源。Amine Laghrib：写作——审阅与编辑、写作——初稿、可视化、验证、监督、软件、资源、项目管理。Lekbir Afraites：写作——审阅与编辑、写作——初稿、

**利益冲突声明**

作者声明他们不存在已知的竞争性经济利益或个人关系，这些利益或关系可能影响本文所报告的工作。

**致谢**

我们衷心感谢编辑和审稿人提供的宝贵反馈和建议，这些反馈和建议有助于提升我们稿件的质量。

**Ziad Zaabouli** 获得苏尔坦穆莱·斯利曼大学硕士学位。随后于2025年在苏尔坦穆莱·斯利曼大学获得应用数学博士学位。他的研究兴趣包括逆问题和图像处理。

Ziad Zaabouli | Imane El Malki | Amine Laghrib | Lekbir Afraites