《Neurocomputing》:Prior-guided anchor-conditioned diffusion for underwater image enhancement
编辑推荐:
•我们提出了一个基于先验的、带有条件约束的扩散框架,用于水下图像增强。•通过结合水下图像退化先验、结构恢复和动态颜色校正,我们生成了一个抑制退化的恢复锚点。•我们利用这个恢复锚点来指导扩散过程的精细化处理,从而改善了颜色一致性、结构保真度和视觉质量。引言水下图像增强(UIE)是一
- •
我们提出了一个基于先验的、带有条件约束的扩散框架,用于水下图像增强。
- •
通过结合水下图像退化先验、结构恢复和动态颜色校正,我们生成了一个抑制退化的恢复锚点。
- •
我们利用这个恢复锚点来指导扩散过程的精细化处理,从而改善了颜色一致性、结构保真度和视觉质量。
引言
水下图像增强(UIE)是一项基本的低级视觉任务,在海洋探索、水下机器人技术、生态监测、考古学检查和海洋场景理解等领域具有广泛的应用[1]、[2]、[3]。在水下环境中捕获的图像通常会因为波长依赖的光吸收、介质散射和非均匀照明而遭受严重的视觉退化[4]、[5]、[6]。这些退化会导致色彩偏移、对比度降低、结构细节减弱以及可见度降低,这不仅影响人类的视觉感知,还会降低后续视觉任务(如检测、分割、跟踪和3D重建)的可靠性[7]、[8]、[9]。因此,恢复视觉上自然且结构上忠实的水下图像是实现稳健水下感知的重要前提[7]。
尽管取得了相当大的进展,水下图像增强仍然具有挑战性,因为水下退化在空间上是变化的,并且与物理因素相互耦合。传统的基于先验和物理的方法通常依赖于一些手工制定的假设,例如颜色恒定性、红色通道补偿、暗通道统计或简化的成像模型[10]、[11]。这些方法在某些成像条件下是可解释且有效的,但当水质、照明条件、成像距离和场景内容发生显著变化时,它们固定的先验可能会失效[8]。基于学习的方法通过从配对或未配对的数据中学习恢复映射来克服这一限制[12]、[13]、[14]。然而,大多数现有的网络将UIE视为一个确定性的图像到图像的转换问题,并优化像素级或结构目标[15]、[16]。这样的方法倾向于预测出一个平均的恢复结果,当多个合理的增强图像对应于同一个退化观测时,往往会产生过度平滑的纹理或不够自然的局部细节[17]、[18]。
扩散模型为图像恢复提供了有 promis 承诺的替代方案,因为它们能够模拟清晰图像的条件分布,并通过迭代去噪生成逼真的细节[19]。最近的基于扩散的恢复方法在处理病态逆问题方面显示出很强的潜力[20]。然而,直接将条件扩散模型应用于水下图像增强会引入一个关键问题:原始的水下图像本身并不是一个可靠的依据。与常见的退化现象(如 additive 噪声或模糊)不同,水下退化将场景辐射与波长依赖的吸收、散射引起的光线遮挡、非均匀照明和结构减弱等因素混合在一起。因此,一个退化的水下观测结果既包含了有用的场景内容,也包含了退化 artifacts,但并没有明确指示哪些信息应该保留,哪些成分应该去除,以及哪些细节应该重建[8]、[9]。当这样的观测结果直接作为扩散模型的条件使用时,反向去噪过程可能会受到不稳定的颜色统计、低对比度结构或残余退化模式的干扰,从而导致色彩偏移、结构不一致和出现 hallucinated 的局部细节[19]。
这一观察结果引发了一个核心问题:当原始的退化图像本身含糊不清且受到退化污染时,如何构建一个可靠的条件用于基于扩散的水下图像增强?为了解决这个问题,我们提出了一个基于先验的、带有条件约束的扩散框架。该框架不是直接将扩散模型条件化于原始的水下图像,而是首先生成一个抑制退化的恢复锚点。这个锚点是根据完整的清晰参考图像进行训练的,可能已经提供了显著的增强效果。在整个方法中,它作为一个确定性的中间条件,对后续的扩散精细化过程进行约束。
具体来说,所提出的框架首先将原始的水下图像映射到一个经过退化正则化的条件域中,以减轻不稳定的颜色和亮度分布。然后,它提取与结构退化、红色通道衰减和散射引起的低对比度相关的水下退化先验。在这些先验的指导下,LSR 分支增强局部结构和对比度,而基于原始图像的 DCC 分支则保持场景适应的颜色关系,避免固定或过度的色彩校正。由此产生的恢复锚点为扩散模型提供了一个更干净、更注重恢复效果的条件。在此锚点条件下,扩散过程进行受限的感知细化处理,而不是直接去除严重的水下退化,从而为颜色一致性和结构保留的恢复提供了更可靠的指导。这项工作的主要贡献总结如下:
•我们提出了一种基于先验的、带有条件约束的扩散框架,用于水下图像增强,该框架将高度病态的恢复过程分解为抑制退化的恢复锚点生成和基于锚点的感知细节细化。
•我们设计了一个基于先验的恢复锚点生成(PGRA)模块,它结合了退化正则化的条件域构建(CDC)、水下退化先验提取、LSR 和基于原始图像的 DCC,以产生一个具有平衡颜色、增强对比度和可靠结构特征的稳定锚点。
•我们开发了一个基于锚点的扩散细化模块,该模块使用抑制退化的恢复锚点作为条件指导,将扩散过程从直接去除水下退化转变为受限的感知细节增强,同时保持全局颜色一致性和结构保真度。
章节片段
基于先验和物理的水下图像增强
基于先验和物理的 UIE 方法通过模拟波长依赖的吸收、散射、背景光和通道级别的衰减来指导颜色校正、对比度增强和图像融合。Galdran 等人利用红色通道衰减来进行颜色和对比度恢复[21],而 Ancuti 等人通过颜色平衡和多尺度融合来提高可见度[22]。尽管这些方法在物理上是可解释的,但它们通常依赖于固定的先验或简化的假设,可能会导致
概述
给定一张原始的水下图像,我们的目标是恢复一张视觉上自然且结构上忠实的水下增强图像。直接将严重退化的水下观测图像映射到清晰的参考图像上是一个高度病态的问题,因为水下退化涉及到空间变化的颜色衰减、散射、低对比度和结构损坏。为了缓解这种不确定性,我们提出了一个基于先验的、带有条件约束的扩散框架,将该过程分解为两个
实施细节
所有实验都是使用 Python 和 PyTorch 在单颗 NVIDIA RTX 4090 GPU 上进行的。两个阶段分别进行训练,优化计划独立。第一阶段使用 Adam 算法进行了 200,000 次迭代,学习率遵循从到的余弦调度。训练使用了随机裁剪的图像块,并结合了随机的水平/垂直翻转和间隔旋转。验证和检查点保存
结论
在本文中,我们提出了 PGACD 方法用于水下图像增强,该方法将恢复过程分解为基于先验的锚点生成和基于锚点的感知细节细化。一个经过退化正则化的条件域和水下退化先验指导轻量级的结构恢复和动态颜色校正,从而产生一个稳定的锚点,而扩散阶段则进行受限的感知细节细化,而不是直接去除复杂的退化现象。在 UIEB 上的实验表明
CRediT 作者贡献声明
李玉瑞:撰写 – 原始草稿、可视化、验证、软件实现、方法论。朱亚坤:撰写 – 审稿与编辑、撰写 – 原始草稿、可视化、监督、方法论、概念化。董俊宇:撰写 – 审稿与编辑、监督、方法论、概念化。
利益冲突声明
作者声明他们没有已知的竞争性财务利益或个人关系,这些利益或关系可能会影响本文报道的工作。
李玉瑞目前在北京技术及商学院的数学与统计学院攻读学士学位,并自 2025 起在中央财经大学统计与数学学院参加联合培养项目。研究兴趣包括机器学习和图像处理。
李玉瑞|朱亚坤|董俊宇