基于结构化自适应字典的太极展开网络用于盲图像去噪

《Neurocomputing》：Taichi unfolding network with structured adaptive dictionary for blind image denoising

　　张健|曾贤华
中国重庆，400065，重庆邮电大学计算机科学与技术学院

摘要
深度展开网络通过将迭代优化算法映射到可学习架构中，为图像去噪提供了一种原理性的方法。然而，许多近期的基于展开的去噪模型用可学习网络替代了正则化更新，因此先验不再由显式正则化指定，而是隐含在网络参数中。尽管这种设计提升了模型的经验表示能力，但它模糊了底层优化目标，削弱了优化模型与展开网络之间的对应关系。为解决这一问题，我们提出了太极展开网络（TUN），这是一种双向协同设计框架，它将数据保真度、基于扩散的显式系数先验以及自适应字典表示整合到一个统一的卷积字典学习框架中。其核心组件——扩散扩展先验（DEP）通过扩散诱导的概率分布对系数正则化进行建模，使神经网络学习从黑箱求解器近似转变为显式先验构建。由此产生的网络将优化过程分解为多个级联阶段，包括分析性数据保真度更新、一步扩散先验注入模块（ODPIM）以及结构化自适应字典追踪模块（SADPM）。ODPIM将多步扩散教师模型简化为高效的一步先验更新，而SADPM则通过全局内存增强型外部注意力及内部结构注意力机制自适应地优化字典核。在合成数据及真实世界去噪基准测试上的实验表明，TUN在多种噪声环境下均实现了出色的重建保真度、感知质量及鲁棒性，从而证明了显式扩散先验建模与自适应字典追踪在可解释图像去噪中的有效性。

引言
图像去噪是一种典型的逆问题，其目标是在给定的退化模型下，从含噪观测值中恢复出清晰图像。得益于强大的数据驱动表示能力，近期深度神经网络在图像修复任务（包括图像去噪）[1]、[2]、[3]中取得了显著性能。然而，可靠的逆问题求解不仅需要良好的经验重建精度，还需要明确描述数据保真度约束、图像先验以及重建表示如何影响最终结果。纯数据驱动模型通常将这些因素嵌入到黑箱网络参数中，使得难以分析退化建模与先验假设各自的贡献。深度展开网络（DUNs）[4]、[5]、[6]通过将迭代优化算法映射到级联网络阶段，为基于优化的建模与深度表示学习提供了原理性途径，在这些阶段中，变量、更新规则及正则化算子可部分或完全由模型学习得到。在图像去噪领域，作为字典学习的平移不变扩展，卷积字典学习（CDL）[7]为DUNs提供了一种可解释的、以模型为导向的框架，这也推动了诸多近期基于展开的去噪方法的发展。

早期的DUNs通常从其底层优化模型中继承稀疏或正则化先验，表示空间由固定变换、手工设计的基函数或显式参数化的字典确定。后续方法逐渐引入了可学习和自适应的先验表示。例如，DCDicL在展开网络中学习系数与字典先验[6]，RCDNet将卷积字典先验与学习得到的近端模块相结合[8]，而M2ADL则通过动态记忆与注意力机制进一步优化字典构建[9]。在这些方法中，深度神经网络常被用作学习得到的求解器，隐含地编码了底层逆问题的深度先验，从而提升了表示能力；不过，这类先验被吸收进网络参数中，使其正则化语义难以追溯。最近，扩散模型也被纳入展开框架，作为逐阶段更新的学得先验[10]。值得注意的是，为提升表示能力，先验建模已从传统的正则化项转向深度学习得到的先验，这类先验往往以独立于底层优化模型及其对应表示子空间的网络形式实现，进而削弱了展开机制所具有的可解释性与架构透明度。

上述分析表明，随着DUNs越来越多地通过基于深度神经网络的求解器或可学习算子引入深度学得先验以提升建模能力，一个新的挑战出现了：如何在避免将展开架构简化为黑箱参数化的同时，保留显式的优化语义。主要难点在于学得深度先验与求解器之间的关系。在许多近期DUNs中，基于深度神经网络的求解器被用来近似处理与正则化步骤相关的子问题解，而相应的先验则是通过这些求解器映射隐含地生成的，而非在优化目标中显式指定——而优化目标的结构正是展开阶段可解释性的主要来源。因此，正则化机制难以识别，其与逐阶段更新的交互也不够透明。另一个相关问题涉及学得先验所施加的表示子空间。在CDL框架中，表示子空间由字典核决定，影响着先验对图像重建的贡献。解决这些问题对于开发能够在不削弱优化语义的前提下提升表示能力的展开框架至关重要。

为解决上述问题，我们提出了太极展开网络（TUN），这是一种深度展开架构，它在统一优化框架下将扩散扩展先验（DEP）与结构化自适应字典追踪相结合。DEP重新定义了深度神经网络在展开过程中的作用，使其从近似处理与正则化相关的子问题解的角色，转变为直接对先验分布进行建模，从而使学得的先验被显式引入优化公式，并通过展开网络模块得以实现。字典追踪组件则在各个展开阶段不断优化字典核，为系数表示提供自适应的重建子空间。我们选用“太极”这一术语来描述这一设计理念，即优化层面的先验建模与展开过程中的网络实现以互补方式结合在一起。图1直观展示了这一原理。据此，TUN在建模层面是白箱结构，因为DEP被明确嵌入到优化目标中，而各个展开模块则根据相应的数据保真度更新、先验更新及字典更新操作进行组织。

在TUN中，DEP被实现为一种高效的先验注入机制，而非完整的多步扩散采样过程。一步扩散蒸馏技术将预训练的扩散先验转化为轻量级的更新，而数据驱动的先验校正则使先验引导能够适应观测到的输入。结构化自适应字典追踪则通过优化字典核并构建紧凑的重建子空间，进一步完善这一设计，从而为系数表示提供更好的支持。这些设计使得先验建模、字典表示与数据一致性能够在展开过程中协同工作，最终形成一种具有明确模型引导的结构化去噪架构。本文的主要贡献如下：
(1) 我们提出了太极展开范式，这是一种透明的展开框架，通过双向协同设计建立了优化模型与网络架构之间的明确对应关系。
(2) 我们提出了扩散扩展先验，它将数据驱动的推理与深度先验中的求解器网络分离开来。这一设计使得可以先验构建一个由领域知识与数据共同驱动的双重先验，从而在可解释性与性能之间实现平衡。
(3) 我们设计了双层注意力字典追踪模块，该模块结合了外部与内部注意力机制。通过在全局上下文感知记忆的基础上进行自适应选择，该模块能够确保最优的子空间覆盖范围，进一步提升数据表示的表达能力。

章节概述
字典学习
字典学习（DicL）[11]是一种经典的基于模型的表示学习方法，在图像去噪领域得到了广泛研究[12]。DicL基于这样一个假设：自然图像可以在过完备字典上获得稀疏表示，而加性白噪声则不具备这样的稀疏结构。基于DicL的典型去噪模型可表示为：其中表示含噪样本，为字典，为对应的稀疏码。用于强制实现稀疏性。

模型构建与优化
在本节中，我们提出了DEP及其对应的优化模型，随后还给出了求解该模型的高效算法。

整体结构
在本节中，我们将所提出的优化模型转化为深度网络，并介绍了用于图像去噪的TUN，其整体架构如图2所示。TUN的核心由个级联阶段组成，每个阶段对应于底层优化过程的一次迭代。如3.2节所述，变量会在各阶段依次更新，每一步更新都由相应的计算模块实现。具体而言，每个阶段包含四个部分。

收敛性分析
在本节中，我们从下面定义的复合逐阶段更新算子的角度，分析了所提出TUN的收敛行为。在学得更新具有显式利普希茨连续性且满足收缩条件的情况下，理想的迭代过程会线性收敛到唯一的不动点。这一分析还给出了为实现所需重建精度所需的展开阶段数量的明确上限。

假设
首先，我们列出相关假设。

实验
在本节中，我们描述了合成数据与真实世界的噪声数据集以及实验设置，随后进行了定量与定性评估。接着，我们还展示了分析实验，包括消融研究与模型复杂度分析。在所有表格中，最佳结果以粗体标出，次佳结果则用下划线标出。

讨论
TUN研究了如何在深度展开框架中利用显式先验来引导表示子空间的构建。它没有将先验学习与字典适配视为独立的机制，而是通过系数表示将二者结合起来。DEP用于建模清晰图像的系数分布，而SADPM则用于调整用于重建的字典子空间。这种联合建模方式将去噪过程转变为一种由先验引导的系数与子空间推断过程，其中学得的先验起到了约束作用。

结论
本文提出了TUN，这是一种基于系数先验与表示子空间显式联合建模的盲图像去噪展开框架。DEP将基于扩散模型的系数先验引入优化目标，而ODPIM则通过从多步扩散教师模型中提取的高效一步更新来实现这一先验。SADPM则通过全局记忆引导及内部结构感知的优化机制来调整字典子空间，从而实现系数推断。

CRediT作者贡献说明
张健：写作——审稿与编辑，写作——初稿撰写，软件，方法论，研究，形式分析，概念设计。曾贤华：指导，资金获取。

利益冲突声明
作者声明存在以下可能被视为潜在利益冲突的财务利益/个人关系：曾贤华表示获得了中国国家自然科学基金的资金支持。其他作者则表示没有已知的可能影响本文工作的财务利益或个人关系。

致谢
作者感谢匿名审稿人的帮助。本研究得到了中国重庆市教育委员会科技研究计划[项目编号KJZD-M202400605]、中国国家自然科学基金[项目编号62076044]以及中国重庆人才计划项目[项目编号cstc-2022ycjh-bgzxm0160]的支持。张健分别于2016年和2020年在中国重庆邮电大学获得自动化专业工学学士学位和计算机科学与技术专业工程硕士学位，目前他正在该校攻读计算机科学与技术专业的博士学位。他的研究兴趣包括模式识别、机器学习、深度学习以及计算机视觉。