MLHFA:多位置高频注意力机制与特征聚合技术,用于通用深度伪造检测

《Journal of Visual Communication and Image Representation》:MLHFA: Multi-local high-frequency attention and feature aggregation for generalizable deepfake detection

【字体: 大 中 小 】 时间:2026年04月08日 来源:Journal of Visual Communication and Image Representation 3.1

编辑推荐:

  本文提出MLHFA模型,通过多局部特征选择和基于高频信息的跨注意力机制,有效平衡检测准确性与泛化能力,在GenImage数据集上超越现有最优方法4.7%,并展现强鲁棒性。

  
李毅|何茜萍|何丹|谢晓琴|刘旭媛|刘欣
重庆科技与商业大学,人工智能学院,中国重庆,400067

摘要

深度伪造技术的快速发展引发了各种负面的社会挑战。现有的检测方法通常依赖于全局特征,导致泛化能力不足,或者无法充分探索伪造细节,从而影响检测准确性。为了解决这些问题,我们提出了MLHFA方法。具体来说,真实图像和伪造图像在纹理简单区域的噪声分布存在显著差异,关注这些区域可以提高模型提取伪造痕迹的能力。此外,伪造图像中的高频信息遵循特定的分布模式,而真实图像的噪声分布更为随机。因此,MLHFA采用多局部特征选择和高频引导的交叉注意力机制,专注于关键的伪造特征,同时减少全局特征的干扰。广泛的实验表明,MLHFA的平均跨数据集准确率达到98.2%,比现有最佳方法高出4.7%,并且计算效率具有竞争力,并且对图像质量的下降具有良好的鲁棒性。该论文的代码将在MLHFA上公开。

引言

近年来,人工智能和物联网(IoT)被广泛应用于提升公共安全和社会治理,从自主远程安全系统[1]到公共空间中的人工智能辅助社交距离监测[2][3]。然而,深度伪造技术的迅速普及带来了重大的社会挑战,威胁到了数字媒体的完整性。
随着深度伪造技术的快速发展,通过DALL-E[4]和Midjourney[5]等手段生成的高度逼真的面部图像已经几乎无法用肉眼区分。这一进步引发了诸多社会问题,包括利用女性肖像通过换脸技术制作色情内容,以及通过深度伪造视频进行欺诈。此外,长期以来被视为重要司法证据的图像和视频的可信度和权威性,现在因伪造技术的出现而面临前所未有的挑战。
目前针对特定数据集或伪造技术设计的深度伪造检测方法已经取得了较高的检测准确率[6][7][8]。然而,这些方法在面对新的数据集或不同的伪造方法时往往无法保持准确性[9][10][11]。在现实世界中,几乎无法确定互联网上传播的深度伪造图像所使用的具体伪造方法。因此,提高检测方法的泛化能力已成为深度伪造检测领域的一个关键研究方向。虽然伪造图像在纹理一致性上存在异常,但这些异常为提高深度伪造检测的泛化能力提供了潜在的机会。
目前基于全局特征的深度伪造检测方法[12][13][14]能够充分利用图像信息,学习尽可能多的有助于检测的伪造痕迹,从而提高准确率。然而,这些方法的问题在于模型倾向于从图像数据集中学习语义信息,导致模型依赖于数据集和伪造方法,从而降低了其泛化能力。基于局部图像信息提取特征的方法[15][16][17]可以避免全局语义信息的干扰,迫使模型在伪造图像的局部细节中发现纹理异常,从而提高模型的泛化能力。然而,选择局部信息可能会导致原始图像数据的部分丢失,这可能会影响检测准确性。因此,在提高模型利用图像信息的能力和防止模型过度学习完整图像信息之间找到平衡至关重要。为此,需要从有限的局部特征块中提取尽可能多丰富且有效的伪造痕迹。这种关注特定局部区域的动机与GenSumNet[18]等视频分析框架的最新趋势一致,这些框架强调上下文感知的特征选择。与使用完整图像或单个局部补丁的方法不同,我们在模型中设计了多局部特征选择和聚合模块来实现这种平衡。
真实图像和伪造图像之间的频率分布差异为区分深度伪造图像提供了可能性。如图1所示,真实图像的频率图显示出随机且均匀的分布,没有明显的模式,而伪造图像则显示出规则的亮点,反映了生成模型的特点。例如,BigGAN[19]、ADM[20]、VQDM[21]和Glide[22]显示出密集且强烈的高频成分,表明纹理和噪声更为复杂。相比之下,SDv1.4[23]、SDv1.5[23]、Midjourney[5]和Wukong[24]显示出稀疏且较弱的高频细节,强调平滑性和一致性。FFT能量直方图和谱熵进一步突出了这些差异。BigGAN[19]、ADM[20]、VQDM[21]和Glide[22]具有更多的高能量成分和锯齿状波动,而SDv1.4[23]、SDv1.5[23]、Midjourney[5]和Wukong[24]在高能量区域显示出急剧下降和更平滑的分布。真实图像的变化较大,既有波动也有平滑性,谱熵波动显著,而某些伪造图像则表现出集中的值。
基于上述真实图像和伪造图像之间频率分布(尤其是高频部分)的差异,我们进一步考虑将高频信息纳入模型。类似于[25]中的注意力引导方法,我们使用注意力机制来增强空间和通道维度上的特征,强化块内更细致和规则的高频伪造特征,从而提高模型的检测准确性。
本文的贡献可以总结如下:
(1) 提出了一种MLHFA模型,通过采用多局部特征选择和聚合策略,在有限的局部特征块中揭示有效的伪造痕迹,从而避免模型对数据集和伪造方法的依赖。
(2) 设计了一种由高频信息引导的交叉注意力机制。通过利用真实图像和伪造图像之间高频分布的规律性差异,增强了局部块的细粒度伪造特征提取,进一步提高了检测准确性。
(3) 在包含8种伪造方法的GenImage数据集上进行了实验,MLHFA的平均准确率比现有最佳模型高出4.7%,在BigGAN和Adm数据集上的准确率分别提高了18.2%和12%,同时具有较高的计算效率。
(4) 进行了广泛的实验以进一步验证MLHFA的鲁棒性和泛化能力。结果表明,MLHFA对模糊和压缩具有很强的鲁棒性,并在跨数据集实验中表现出优异的泛化性能。
本文的其余部分结构如下:第2节总结和分析相关工作。第3节详细介绍所提出的方法。第4节展示实验结果和分析。第5节总结本研究并提出未来工作。

部分摘录

深度伪造方法

伪造生成技术的发展可以分为两个主要阶段。第一阶段是传统的基于图形的伪造生成,其中的伪造效果通常用肉眼容易识别。随着深度学习的发展并在计算机视觉任务中的广泛应用[26],第二阶段是基于深度学习和深度伪造生成的,GAN和Diffusion模型的出现使得深度伪造效果几乎无法区分

整体架构

为了实现具有良好泛化能力的深度伪造检测方法,所提出的MLHFA模型框架(如图2所示)主要由两个模块组成。模块1:多局部特征选择和聚合;模块2:特征增强,包括两个子模块:高频引导的交叉注意力空间特征增强和带有SENet的通道注意力特征增强。
为了解决基于全局特征的方法存在语义依赖性和泛化能力差的问题

GenImage数据集

GenImage[50]是一个新引入的数据集,用于评估深度伪造检测方法的泛化能力。它包含2,681,167张图像,其中1,331,167张是真实图像,1,350,000张是伪造图像。真实图像来自ImageNet,而伪造图像是使用8种先进的伪造方法生成的:BigGAN[19]、GLIDE[22]、VQDM[21]、Stable Diffusion V1.4[23]、Stable Diffusion V1.5[23]、ADM[20]、Midjourney[5]和Wukong[24]。每种伪造方法生成的

结论与未来工作

本文提出了MLHFA,这是一种新颖的、具有泛化能力的深度伪造检测框架,采用多局部特征选择和聚合策略。通过优先考虑局部补丁而非全局图像信息,该模型有效地平衡了检测准确性和泛化能力。这项工作的一个关键贡献是将高频信息与在空间和通道维度上运行的注意力机制相结合,显著增强了模型的能力

CRediT作者贡献声明

李毅:撰写——原始草稿,方法论。何茜萍:撰写——审稿与编辑,监督,资金获取。何丹:撰写——审稿与编辑。谢晓琴:软件,数据整理。刘旭媛:可视化。刘欣:调查。

利益冲突声明

作者声明以下可能被视为潜在利益冲突的财务利益/个人关系:何茜萍报告称获得了重庆市教育委员会科技研究计划的财务支持。如果还有其他作者,他们声明没有已知的可能会影响本文工作的财务利益或个人关系。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号