基于高频注意力和噪声面部先验的极度退化面部图像超分辨率技术

《Signal Processing: Image Communication》:Extremely degraded face image super-resolution based on high frequency attention and noisy facial priors

【字体: 大 中 小 】 时间:2026年04月27日 来源:Signal Processing: Image Communication 3.4

编辑推荐:

  极端退化人脸超分辨率问题中,提出基于高频注意力机制与噪声面部先验的FANP方法,通过设计高频率注意力模块有效提取退化图像中的高频细节,结合噪声面部先验信息增强结构重建,实验表明该方法在公开数据集上显著优于现有SOTA方法。

  
朱晓科|胡继辉|陈晓盼|张帆|吴飞|景晓元
河南大学计算机与信息工程学院,开封,中国

摘要

在现实世界场景中捕获的面部图像通常分辨率极低且噪声严重,这主要是由于物理成像设备和环境条件的限制。面部超分辨率(FSR)旨在提高低分辨率(LR)面部图像的分辨率,以生成高分辨率的面部图像。尽管近年来在面部超分辨率领域取得了显著进展,但极端退化面部超分辨率(ED-FSR)问题仍鲜有研究。本文提出了一种基于高频注意力与噪声面部先验(FANP)的面部超分辨率方法,用于解决ED-FSR问题。具体而言,设计了一种高频注意力引导的特征提取模块,以更有效地提取高频面部信息,从而提高超分辨率面部图像的质量。此外,还引入了一个面部先验提取模块,用于提取和利用噪声面部先验信息,进一步改善在极端退化条件下的重建质量。在公开可用的数据集上的实验结果证明了所提出方法的有效性。

引言

面部超分辨率(FSR)是一种专门的图像超分辨率任务,旨在从低分辨率(LR)图像恢复高分辨率(HR)图像。它在许多实际视觉系统中发挥着重要作用,如视频监控、刑事调查、智能安全、数字取证等,其中面部图像通常在低分辨率和退化的成像条件下获取。由于其在身份相关和安全应用中的实际意义,FSR在过去几十年中受到了图像处理和计算机视觉领域的越来越多的关注。近年来,提出了大量的FSR方法,显著提高了面部超分辨率的恢复性能。在早期的FSR研究中,Baker等人[1]基于高斯图像金字塔开发了一个多层次预测模型来提高低分辨率面部图像的分辨率。Liu等人[2]提出了一种马尔可夫随机场(MRF)模型,将全局参数化主成分分析(PCA)模型与局部非参数FSR相结合。进行FSR的主要策略大致可以分为三类:(1)基于全局面部统计模型的超分辨率[3]、[4]、[5];(2)基于局部块重建的面部超分辨率[6]、[7]、[8]、[9];(3)结合全局和局部信息的混合策略[11]。这些代表性方法极大地推动了FSR研究的发展。
在现实世界场景中,物理成像系统和采集条件的限制不可避免地会在捕获的面部图像中引入各种退化,如严重噪声、模糊和低空间分辨率。这些退化严重阻碍了从相应的低分辨率(LR)输入中准确恢复高分辨率(HR)面部图像,使得在这种条件下进行面部超分辨率变得特别具有挑战性。在这些真实且严重退化的场景中的面部超分辨率被称为极端退化面部超分辨率(ED-FSR)。具体来说,图1(a)显示了一个通过4×下采样并添加强噪声后得到的严重退化的低分辨率输入,其中大部分面部细节被严重破坏。图1(b)展示了我们提出的方法重建的高分辨率(HR)面部图像,而图1(c)显示了真实的高分辨率图像。可以看出,ED-FSR旨在从极端噪声和低分辨率的输入中恢复真实的面部结构和细微细节。
为了解决这种场景下的超分辨率恢复问题,Chen等人[10]提出了一种基于重表达的图像均匀化策略。具体来说,首先引入了LR和HR空间中的均匀投影,作为对经典LR/HR投影的补偿。随后,采用重表达过程来弥合复杂和简单退化之间的差距,从而减少严重噪声和模糊等异质因素的影响。此外,为了提高均匀化的准确性,使用两种均匀化投影分别重新表达输入的LR图像和最初推断的HR图像。
尽管现有方法在极端退化条件下实现了令人鼓舞的面部恢复性能,但如何更有效地利用极端退化图像中包含的有用信息仍然是一个未解决的问题。具体来说,当前方法的局限性主要体现在两个方面:
(1) 面部先验的利用有限。 [10]中的方法没有明确利用面部先验信息。现有研究[12]、[13]、[14]、[15]、[16]已经证明,面部先验(如面部标志点、面部解析图和组件位置)可以有效捕捉全局面部结构。这些先验提供了有价值的结构约束,有助于提高恢复面部图像的重建精度和视觉质量。然而,在极端严重的退化情况下,强噪声和大量信息丢失使得从输入图像中可靠地提取准确的面部先验变得非常困难。
(2) 高频信息的利用不足。高频信息在产生高质量超分辨率结果中起着关键作用。然而,如何有效地从极端退化图像中提取高频细节尚未得到充分研究。最近的研究[17]、[18]表明,基于Transformer的网络由于其较大的感受野和长距离依赖建模能力,在捕捉面部图像的全局结构信息方面非常有效。这激发了使用Transformer架构来更好地探索严重退化图像中嵌入的信息。然而,在极端退化的场景中,大量高频内容被严重破坏或丢失[19],而标准Transformer模型是为通用图像表示设计的,并不专门关注高频细节建模。因此,如何明确增强和利用严重退化面部图像中的高频信息仍然是一个具有挑战性的研究问题。
基于上述分析,我们旨在开发一种新的方法,能够更有效地从极端退化图像中提取高频信息,并在超分辨率恢复过程中明确利用面部先验信息。
本工作的主要贡献总结如下:
(1) 我们提出了一种基于高频注意力与噪声面部先验(FANP)的面部超分辨率框架,用于极端退化面部超分辨率(ED-FSR)问题。据我们所知,这是首次尝试明确利用噪声面部先验进行ED-FSR。
(2) 我们设计了一种高频注意力引导的特征提取模块,以更有效地从严重退化的面部图像中提取高频信息,从而实现具有更丰富结构细节的面部图像重建。
(3) 在公共基准数据集上的广泛实验结果表明,所提出的方法在ED-FSR任务上始终优于现有的最先进方法。此外,本研究的源代码可在https://github.com/xiaopanchen/FANP公开获取,以便于复制。

相关工作

相关工作

在本节中,我们简要回顾了与我们工作密切相关的两个主题:(1)一般面部超分辨率;(2)极端退化条件下的面部超分辨率。

提出的方法

在本节中,我们详细阐述了所提出方法的总体架构。如图2所示,该框架包括三个关键组成部分:噪声面部先验提取模块、高频注意力引导的Transformer模块和高质量图像重建模块。

数据集

在我们的实验中,我们使用了以下数据集来评估所提出方法的性能。
(1) CAS-PEAL-R1数据集
CAS-PEAL-R1数据集[48]最初是为面部识别任务设计的,但在本研究中被重新构建成用于面部超分辨率。该数据集包含了丰富的面部特征变化,如姿势、表情、装饰、照明和背景。CAS-PEAL-R1包含来自1040个人的30,867张图像。在我们的实验中,我们选择了800张图像

结论

在本文中,我们提出了一种基于高频注意力与噪声面部先验(FANP)的面部超分辨率方法,用于极端退化场景。FANP利用面部先验信息在严重退化条件下提高重建质量。为了更有效地提取高频面部细节,我们引入了一个注意力引导的Transformer(AGT)模块,该模块增强了特征表示并有助于恢复精细纹理。在公开数据集上的广泛实验表明

CRediT作者贡献声明

朱晓科:方法论、监督、写作——审阅与编辑。胡继辉:数据整理、软件、写作——初稿。陈晓盼:可视化、写作——审阅与编辑。张帆:形式分析、写作——审阅与编辑。吴飞:资源。景晓元:资源。

利益冲突声明

作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文报告的工作。

致谢

本工作得到了国家自然科学基金(编号:62576115、62176069、62006070、62206092)、河南省自然科学基金(编号:252300421865)、广东省自然科学基金(编号:2023A1515012653)、广东省教育厅创新团队(编号:2020KCXTD014)、广东省2019关键学科项目、国家重点研发计划(编号:2023YFC330 6204)以及湖南省自然科学基金的支持
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号