DeepForgeryNet:一种结合CNN-LSTM和迁移学习技术的混合框架,用于实现强大的图像伪造检测和深度伪造识别功能

《Frontiers in Artificial Intelligence》:DeepForgeryNet: a hybrid CNN–LSTM and transfer learning framework for robust image forgery and deepfake detection

【字体: 大 中 小 】 时间:2026年05月08日 来源:Frontiers in Artificial Intelligence 4.7

编辑推荐:

  摘要 引言:数字处理图像以及人工智能生成的图像日益逼真的特性,为媒体真实性和数字信任带来了显著的问题。各种检测方法主要依赖于视觉内容,因此可能会错过细微的法医痕迹。本文侧重于开发一种强大的检测工具,该工具结合了人工痕迹层面和上下文不一致性的分析方法。 方法:在这项工作中,我们

  摘要

引言:数字处理图像以及人工智能生成的图像日益逼真的特性,为媒体真实性和数字信任带来了显著的问题。各种检测方法主要依赖于视觉内容,因此可能会错过细微的法医痕迹。本文侧重于开发一种强大的检测工具,该工具结合了人工痕迹层面和上下文不一致性的分析方法。

方法:在这项工作中,我们介绍了DeepForgeryNet,这是一种了解人工痕迹的深度学习模型,它结合了基于误差级分析的预处理和混合CNN、LSTM网络。预处理步骤侧重于揭示压缩和边缘的变化,而CNN和LSTM模型则混合捕获空间和上下文信息。该模型通过分层数据划分,在公开可用的基准数据集上进行端到端训练。

结果:所提出的方法取得了以下结果:准确率为95.1%,精确率为94.6%,召回率为94.2%,F1分数为94.4%,AUC为0.98。它在召回率方面 especialmente 超过了基线CNN和变换器模型。在跨数据集实验中,观察到泛化稳定性以及超过92%的准确率。

讨论:这些结果证明了将了解人工痕迹的预处理与空间-上下文特征学习相结合可以进一步提高伪造检测的可靠性。尽管在检测非常微小的修改和/或高度压缩的情况下仍存在问题,但这项工作为新一代可信的数字媒体验证奠定了基础。

1 引言

1.1 背景与动机
数字图像正逐渐成为新闻业、社交媒体、医疗保健、执法和科学文档等领域中的信息和证据来源。因此,这些图片的合法性与公众的信任及其决策高度相关(Tolosana等人,2020年;Verdoliva,2020年)。另一方面,随着图像编辑软件和生成模型的快速发展,制作非常逼真图像的可行性已经被民主化并变得非常容易(Barni等人,2021a;R?ssler等人,2020年;Tolosana等人,2020年;Verdoliva,2020年)。因此,图像验证已成为一个严重的问题。虚假信息的传播、诽谤和受损的法医调查只是图像被篡改的一些后果(Barni等人,2021a;Cozzolino等人,2021b;Verdoliva,2020年)。深度伪造和人工智能生成的视觉内容的出现通过允许创建令人信服的合成内容使这些危险更加严重(Mirsky和Lee,2021年;R?ssler等人,2020年;Tolosana等人,2020年)。这种情况强调了立即创建可信的大规模图像伪造检测方法的重要性。数字图像取证专注于识别显示篡改迹象和不一致性的视觉内容(Barni等人,2021a;Verdoliva,2020年)。强大的伪造检测已成为数字领域的一个关键要素,以便保持数字信任并能够在调查和法律过程中依赖这些工具(Cozzolino等人,2021b;Lu和Ebrahimi,2024年)。

1.2 深度学习时代中的图像伪造
图像伪造是一个广泛的术语,描述了所有类型的修改,包括复制、移动、拼接、对象移除和修图,基本上是在保持感知上合理的情况下改变视觉内容(Nguyen等人,2021年;Verdoliva,2020年)。自然而然地,传统的编辑方法现在得到了基于深度学习的合成方法的支持,有时甚至被超越。实际上,如GAN和基于自动编码器的架构等生成模型取得了非常令人印象深刻的结果,可以生成几乎与真实图像无法区分的逼真图像(Bondi等人,2023年;R?ssler等人,2020年;Tolosana等人,2020年)。显然,这些技术进步在媒体制作、虚拟现实甚至数据增强中非常有用,但同时,它们也可能被恶意使用(Mirsky和Lee,2021年;Tolosana等人,2020年)。深度伪造的生成、伪装和伪造的视觉证据是法医分析的主要难题(Dang等人,2022年;R?ssler等人,2020年;Tolosana等人,2020年)。随着合成内容变得越来越逼真,检测系统需要寻找最微小的缺陷(Bondi等人,2023年;R?ssler等人,2020年)。

1.3 现有检测方法的局限性
伪造检测技术大致可以分为主动型和被动型(Barni等人,2021a;Verdoliva,2020年)。主动型技术的例子包括水印和数字签名,这些方法需要预先嵌入认证信息,因此大多数情况下无法在现实中使用(Barni等人,2021a;Cozzolino等人,2021b)。被动方法识别内在线索,如噪声统计、压缩伪影和光照不一致性,但其中大多数依赖于手工制作的特征,可能不具备很好的泛化能力(Nguyen等人,2021年;Verdoliva,2020年)。在不同的深度学习方法中,卷积神经网络(CNN)通过实现自动特征学习来帮助提高检测性能(Bappy等人,2021年;Bondi等人,2023年;R?ssler等人,2020年)。然而,仍有一些问题需要解决。例如,许多模型主要接受RGB输入,并不特别关注与修改相关的人工痕迹(Bondi等人,2023年;R?ssler等人,2020年)。误差级分析(ELA)是一种揭示压缩不一致性的技术;然而,它通常作为独立方法使用,而不是集成到端到端学习流程中(Barni等人,2021a;Verdoliva,2020年)。此外,大多数深度模型仅提取空间特征,几乎不考虑特征之间的上下文关系(Bappy等人,2021年;Saikia等人,2022年)。这限制了它们检测轻微或空间分散的修改的能力。此外,高性能模型通常计算成本很高,这使得在实时或资源有限的设置中难以使用它们(Gong和Li,2024年;Xi和Chen,2025年)。

1.4 研究空白
尽管在基于深度学习的图像伪造检测领域取得了显著进展,但仍有一些问题需要解决。现有方法的大部分基于RGB图像输入,并且大部分关注空间特征提取,从而忽略了与修改过程密切相关的人工痕迹(Bondi等人,2023年;R?ssler等人,2020年)。此外,没有一致地采取措施将修改引起的压缩模式差异作为端到端学习框架中的特征之一(Verdoliva,2020年)。误差级分析(ELA)作为一种众所周知的识别压缩异常的法医方法而脱颖而出(Verdoliva,2020年)。尽管如此,它最常作为独立方法使用,而没有以结构化的方式与深度学习技术结合(Barni等人,2021a)。因此,需要探索的是将人工痕迹分析与深度特征转换相结合的潜力。否则,大多数深度模型主要关注空间局部特征,几乎不考虑特征区域之间的上下文关系(Bappy等人,2021年;Saikia等人,2022年)。在图像级伪造检测领域,关于能够捕捉不同区域之间依赖性的序列建模方法的研究相当有限。此外,泛化能力和实际应用性问题仍未解决。在一个特定数据集上得分很高的模型在跨数据集条件测试下可能因为数据集偏差以及压缩、分辨率和修改技术的变化而表现不佳(Gupta等人,2024年;Mirsky和Lee,2021年)。此外,检测方法的性能并不总是与计算效率一起评估,而计算效率是部署实际法医工具时的一个非常重要因素(Xi和Chen,2025年)。这些局限性表明,需要一个统一的框架,将了解人工痕迹的预处理、强大的深度特征学习、上下文建模和效率意识的设计紧密结合在一个检测流程中。

1.5 新颖性和关键创新
在一些早期工作中已经探索了用于伪造和深度伪造检测的混合CNN、LSTM架构。然而,本文介绍的DeepForgeryNet有几个区别于现有方法的独特特征。首先,与传统方法大多使用RGB输入或分离的预处理步骤不同,本文提出了一个统一的人工痕迹感知预处理流程,该流程以有序和连续的方式结合了误差级分析(ELA)、贝叶斯去噪、基于PSNR的质量验证和边缘增强。这种混合允许在特征学习之前明确突出与修改相关的法医线索,这是之前的CNN和LSTM框架中不常见的特征。其次,我们的框架通过将CNN特征图转换为LSTM可以建模的结构化序列,改变了图像级伪造检测的视角。虽然LSTM模型广泛用于视频分析,但它们捕捉单图像内区域间依赖性的能力仍然是一个较少发展的领域。第三,本文将跨数据集泛化视为方法设计中的一个基本方面。该模型在包含各种类型修改和不同压缩级别的不同基准数据集上进行了彻底测试,证明它不仅仅依赖于数据集特定的特征。此外,模型构建流程以效率为导向,以在检测结果和计算成本之间取得良好平衡。与许多需要大量计算能力的最新基于变换器的方法相比,所提出的方法能够用相对简单的模型产生准确的结果,因此非常适合实际法医场景。总之,这些结果突出了DeepForgeryNet作为一个综合概念设计,它结合了人工痕迹识别、深度特征提取、上下文理解以及泛化能力,所有这些都在一个集成流程中。

1.6 本文的贡献
本文介绍了DeepForgeryNet,这是一个多功能工具,通过结合了解人工痕迹的预处理和混合深度学习来检测伪造的图像和视频以及深度伪造。这项研究的主要贡献可以总结如下:
- 单一无人工痕迹感知的预处理流程:我们开发了一个彻底的预处理流程,结合了误差级分析(ELA)、贝叶斯去噪、基于PSNR的质量验证和边缘增强技术,在提取深度特征之前显著增强了与修改相关的人工痕迹的定位能力。与仅依赖于原始RGB输入的方法不同,该流程将法医线索提升到了几乎可以用于篡改检测的水平。
- 混合空间上下文建模:我们的提案是一个混合CNN-LSTM框架,不仅可以捕获空间定位的人工痕迹,还可以联合考虑特征区域之间的上下文依赖性。通过这种方案,该模型能够识别在空间上非常分散且不显眼的修改,甚至仅使用CNN的设置也可能无法识别它们。
- 全面的多数据集评估:所提出的方法在多个标志性数据集(如CASIA V2.0、FaceForensics++、Celeb-DF和DFDC)中进行了彻底测试,这些数据集涉及不同类型的修改和压缩级别。这种多样化的测试协议使得对该方法的鲁棒性和跨域泛化能力进行更真实的评估成为可能。
- 通过消融实验进行组件级验证:每个消融测试展示了各种组件对检测器整体效率的贡献程度,无论是表面级变化、噪声去除还是序列建模方面。因此,它为每个单元提供了一个良好的实证指导。
- 效率意识的设计:作者展示了即使参数数量略有增加也能提高检测效果的方法,因此非常有说服力,表明如果在实际法医案例中实施,他们的方法将表现良好。

1.7 研究问题
为了指导所提框架的实证评估,本研究探讨了以下研究问题:
RQ1:结合了解人工痕迹的预处理(包括误差级分析和去噪)是否比使用标准RGB输入提高伪造检测性能?
RQ2:通过混合CNN-LSTM架构将空间特征提取与上下文建模相结合是否可以提高检测可靠性?
RQ3:所提出的框架在评估不同修改技术、压缩级别和视觉特征的数据集时的鲁棒性如何?
RQ4:是否可以在保持适合实际法医应用的计算效率的同时实现高检测性能?

1.8 论文组织
本文的其余部分组织如下。第2节详细介绍了所提出的材料和方法论。第3节详细说明了实验结果和性能评估。第4节解释了结果,并将所提出的方法与现有的最先进方法进行了比较。最后,第5节总结了本文的内容,并为未来的研究指明了方向。

2 相关工作
得益于深度学习的应用,图像伪造和深度伪造检测领域取得了许多重要的突破。研究人员主要集中在几个不同的主题上,包括基于CNN的检测方法、利用迁移学习和领域适应、采用混合序列模型、应用基于Transformer的方法、感知伪迹的预处理,以及与鲁棒性和可解释性相关的研究。

2.1 基于CNN的伪造检测
卷积神经网络(CNN)成为各种伪造检测系统核心的主要原因之一是它们能够捕捉到具有区分性的空间特征。像ResNet、VGG和Xception这样的深度模型已被广泛使用,并且证明了它们在定位伪造痕迹和视觉不一致性方面的强大性能,即使是预训练的模型也显示出非常强的性能(Al-Dulaimi和Kurnaz,2024;Kurnaz,2024;Masood等人,2023)。通过反复实验证明了它们的成功表现,在拼接和复制、移动检测任务中优于手工制作的取证描述符(Heo等人,2023;Khalid等人,2022)。另一方面,基于CNN的方法主要关注提取语义内容,因此可能无法检测到与压缩相关的痕迹。因此,一些研究人员提出了结合残差表示和基于噪声的特征的方法,以帮助发现细微的伪造伪迹(Coccomini等人,2022b;Frank等人,2020;Wang等人,2020)。最先进的方法同时向CNN输入增强伪迹的输入,从而提高了对抗各种后处理操作的抵抗力(Barni等人,2022;Durall等人,2020a)。

2.2 迁移学习和领域适应
当取证数据集较小时,迁移学习可以是一个可行的方法。通常,从预训练权重开始的模型会更快地收敛,并且比从零开始训练的模型具有更高的准确性(Coccomini等人,2022c;Mittal等人,2021;Zhou等人,2021)。此外,领域适应方法可以减少数据集中的偏差,并提高对未见数据集的泛化能力(Chen等人,2023;Zhang等人,2021)。然而,迁移学习本身并不直接关注伪造伪迹,可能会从源领域中继承偏差。因此,新发布的研究建议将迁移学习与感知伪迹的输入相结合,以实现可靠的性能(Khalid等人,2021a;Trinh等人,2021)。

2.3 混合CNN-LSTM和序列模型
混合CNN-LSTM架构结合了空间特征的提取和序列依赖性的建模。此类模型在视频深度伪造的检测中得到了广泛的应用,并通过将特征图作为序列来处理,被重新用于图像级别的上下文建模(Gragnaniello等人,2021a;Gragnaniello等人,2021b;Mandelli等人,2022)。通过序列建模,检测器能够识别不同区域之间的相关性以及分散的伪造痕迹。此外,在变体中应用光流指导和注意力机制有助于进一步提高对伪造模式的敏感性(Bonettini等人,2021;Chen等人,2022;Coccomini等人,2022a)。此外,还有适用于实时检测场景的轻量级CNN-LSTM集成方案(Cozzolino等人,2021a;Zhu等人,2023)。

2.4 基于Transformer的方法
视觉Transformer和混合CNN-Transformer模型因其建模长距离依赖性的能力而吸引了研究人员的注意。利用自注意力机制,检测器学会关注信息丰富的区域,从而提高了伪造定位的准确性(Barni等人,2021b;Gragnaniello等人,2021c;Vyas等人,2024)。基于块的Transformer和分层注意力网络在深度伪造数据集上的表现与传统的深度模型相当,甚至更好(Durall等人,2020b;Zhang等人,2021)。然而,基于Transformer的架构通常需要更大的数据集和更高的计算成本,这可能是它们在现实世界取证场景中应用的限制(Khalid等人,2021b;Trinh等人,2021;Wang等人,2020)。

2.5 感知伪迹的预处理
历史上,伪迹层面的研究一直是数字取证中的主要方向之一。各种方法,包括错误级别分析(ELA)、压缩不一致性的调查和噪声残差的提取,在学习特征之前就揭示了篡改的痕迹(Durall等人,2020a;Frank等人,2020;Gragnaniello等人,2021a)。最新研究表明,将感知伪迹的预处理与深度学习结合使用可以更好地抵抗压缩和噪声失真(Bonettini等人,2021;Gragnaniello等人,2021b;Mandelli等人,2022)。通过贝叶斯去噪和质量引导的预处理,特征提取可以更加稳健(Durall等人,2020b)。

2.6 泛化、鲁棒性和可解释性
跨数据集的泛化仍然是该领域的一个主要挑战。在单一数据库上训练的神经网络在测试新数据时往往会表现不佳,因为新数据在分布上存在差异(Chen等人,2022;Frank等人,2020;Khalid等人,2021b)。在多个数据集上训练并利用领域泛化技术是显著减少这一问题的方法(Barni等人,2022;Coccomini等人,2022a;Zhu等人,2023)。可解释性在取证应用中扮演着越来越重要的角色。通过注意力可视化和定位技术,可以提高透明度,并实现人类参与验证(Cozzolino等人,2021a;Masood等人,2023;Tolosana等人,2020)。此外,可解释的AI机制在建立取证信任方面起着重要作用(Barni等人,2021b;Gragnaniello等人,2021c;Wang等人,2023)。鲁棒性、可解释性和可扩展性在最近的文献综述中被强调为深度伪造检测研究中的主要未解决的问题(Chen等人,2023;Frank等人,2020;Yan等人,2023)。

2.7 相关工作的综合
近期突破的一个最显著例子是深度学习在增强图像伪造和深度伪造检测方面的作用。实际上,尽管取得了显著进展,当前的方法仍然主要缺乏一个全面的解决方案,主要关注于方法论的孤立优势(基石)。基于CNN的模型提供了出色的空间特征学习能力。然而,它们在依赖特定于伪造的伪迹线索方面仍然存在不足(Coccomini等人,2022b;Frank等人,2020;Kurnaz,2024;Masood等人,2023)。另一方面,迁移学习有助于提高收敛性和泛化能力,但这可能会增强数据集的偏差,如果伪造痕迹不是主要目标的话(Coccomini等人,2022c;Khalid等人,2021a;Mittal等人,2021;Trinh等人,2021)。混合CNN-LSTM方法为模型增添了上下文概念,有助于捕捉区域间的依赖性。然而,它们更多应用于视频分析,可能会增加计算复杂性(Bonettini等人,2021;Chen等人,2022;Gragnaniello等人,2021a;Mandelli等人,2022)。基于Transformer的方法扩展了模型捕捉长距离依赖性的能力,甚至在定位方面也是如此,但通常需要更大的数据量和更高的计算成本(Barni等人,2021b;Trinh等人,2021;Vyas等人,2024;Wang等人,2020)。此外,包括错误级别分析和噪声残差提取在内的感知伪迹的预处理技术直接关注篡改信号,从而可以在压缩下提高鲁棒性。然而,它们与混合深度模型的结合仍然相对较少(Bonettini等人,2021;Durall等人,2020a;Gragnaniello等人,2021a;Gragnaniello等人,2021b)。此外,跨数据集的鲁棒性和可解释性仍然是重大挑战,因为许多检测器在分布变化下会表现不佳,并且仍然作为黑盒系统运作(Chen等人,2022;Cozzolino等人,2021a;Frank等人,2020;Masood等人,2023)。因此,作为一项连贯的综合努力,现有研究普遍认为,一个单一的框架需要能够协同利用伪迹级别线索、上下文建模和效率意识设计,以实现鲁棒且实用的伪造检测。最近检测方法之间的关键差异总结在表1中,突出了在伪迹感知、上下文建模和鲁棒性方面的差异。

表1 研究 核心方法 伪迹感知 上下文建模 跨数据集测试 效率关注 主要限制
Bondi等人(Kurnaz,2024)CNN 部分 否 有限 中等 专注于RGB
Dang等人(Al-Dulaimi和Kurnaz,2024)CNN 否 否 是 中等 仅限于空间
Cozzolino等人(Coccomini等人,2022b) 领域适应CNN 否 否 是 中等 数据集偏差持续存在
Kurnaz(Mittal等人,2021)CNN–LSTM + TL 否 是 有限 中等 弱伪迹建模
Bappy等人(Gragnaniello等人,2021a)CNN–LSTM 否 是 是 低 高复杂性
Xi & Chen(Gragnaniello等人,2021c)Transformer 否 是 有限 低 计算量高
基于ELA的方法(Gragnaniello等人,2021a;Frank等人,2020;Durall等人,2020a) 伪迹 + CNN 是 否 有限 高 弱上下文建模
领域泛化方法(Frank等人,2020;Khalid等人,2021b;Chen等人,2022) 多数据集 否 否 是 中等 有限的伪迹线索
XAI方法(Cozzolino等人,2021a;Tolosana等人,2020;Masood等人,2023) 可解释模型 否 部分 有限 中等 准确率权衡

3 方法论
本文提出了一种感知伪迹的深度学习架构DeepForgeryNet,用于可靠的图像伪造检测。该方法旨在同时利用语义视觉线索和特定于伪造的伪迹,因为文献表明,仅靠RGB内容可能会掩盖篡改痕迹。所提出的架构将增强伪迹的预处理、深度空间特征提取和上下文依赖性建模结合在一个流程中。如图1所示,该过程首先进行感知伪迹的预处理,以增强压缩不一致性和边界不规则性,然后继续进行基于CNN的特征学习和基于LSTM的上下文建模来进行伪造分类。通过这种组合,模型不仅能够识别局部修改痕迹,还能识别不同图像区域之间的关系,这被证明可以提高伪造检测的鲁棒性。

3.1 数据集输入和预处理
3.1.1 数据输入
为了进行全面评估,提出的DeepForgeryNet框架经过了多个公开可用的基准数据集的审查,这些数据集通常用于图像伪造和深度伪造检测的研究。这些数据集提供了多种类型的操纵、不同的压缩级别和真实世界场景。仅考虑了各自数据集允许使用的样本。

3.1.1.1 FaceForensics++ (FF++)
FaceForensics++是用于深度伪造检测最广泛使用的数据集之一。它包含未经修改和经过各种面部操纵技术处理的面部图像,包括DeepFakes、Face2Face、FaceSwap和NeuralTextures。该数据集还提供了不同压缩级别的图像,可用于评估方法的鲁棒性。
大约大小:>1,000个原始视频和超过500,000帧提取帧
操纵类型:面部交换和重演
在本工作中的用途:帧级伪造检测
可用性:https://github.com/ondyari/FaceForensics(根据请求提供学术研究访问权限)

3.1.1.2 CASIA V2.0图像篡改数据集 (CASIA V2.0 v2.0)
CASIA V2.0 v2.0是一个重要的基准数据集,广泛用于评估一般的图像伪造检测。它包含使用拼接和复制-移动技术制作的真实和篡改图像,展示了各种场景和对象。该数据集还提供了有助于分析伪迹的区域级篡改样本。
总图像数:12,614(真实图像:7,491,篡改图像:5,123)
操纵类型:拼接和复制-移动
在本工作中的用途:一般伪造检测
可用性:https://www.kaggle.com/datasets/divg07/casia-20-image-tampering-detection-dataset(公开用于研究)

3.1.1.3 DeepFake检测挑战 (DFDC)
DFDC数据集是最大的深度伪造数据集之一,旨在测试检测算法在现实环境中的性能。它包括不同照明条件和压缩级别的不同人物的视频,即所有使录影看起来更真实或更不真实的因素。
总视频数:约124,000
提取帧数:数百万(取决于采样率)
操纵类型:AI生成的脸部交换
在本工作中的用途:跨数据集泛化评估
可用性:https://ai.facebook.com/datasets/dfdc(公开用于研究)

用于训练和评估的基准数据集及其关键特征总结在表2中。

表2 数据集 数据类型 伪造/操纵类型 样本 数量 目的
CASIA V2.0 V2.0 图像 复制-移动、拼接 约12,600 图像伪造检测
FaceForensics++ 图像/帧 面部交换、重演 约1.8百万帧 深度伪造检测
Celeb-DF 图像/帧 高质量深度伪造 约600
鲁棒性评估
DFDC 图像/帧 多样化深度伪造方法 约100k 大规模验证

3.1.2 预处理和伪迹增强
在特征提取之前,应用了感知伪迹的预处理阶段,以加强与操纵相关的线索并保持语义图像内容的完整性。图像伪造通常在压缩模式、噪声分布和边界结构上产生微小不一致,这些在原始RGB空间中并不总是可见的。为了留下操纵的证据并便于学习模型进行检测,取证痕迹的信号成为预处理流程中的主要关注点。图2展示了通用的人工痕迹增强工作。图2展示了用于人工痕迹增强的预处理流程,该流程包括顺序预处理操作,如错误级别分析、基于PSNR评估的贝叶斯去噪以及边缘增强,这些操作应用于输入图像,以在深度特征提取之前突出与操纵相关的人工痕迹(原始图像是使用OpenAI的ChatGPT图像生成能力通过GPT-5.3模型创建的,https://openai.com/index/gpt-5-3-instant/,完整的提示列表可以在补充材料中找到)。

首先,使用错误级别分析(ELA)来发现压缩不一致性。ELA的基本原理是将图像重新保存在预定的质量级别,然后计算原始图像和重新保存图像之间的像素级差异。图像中被多次压缩的部分(通常是被篡改的区域)通常会显示出更高的错误级别。这一阶段的工作在视觉上指示了潜在的操纵区域,并向模型提供了人工痕迹级别的信号,如图2所示。之后,使用去噪模块来消除传感器和环境引入的噪声,同时保持结构和纹理信息完整。这种受控的去噪不仅使信号更加清晰,还避免了噪声主导学习到的表示。更重要的是,去噪方法的设计避免了过度平滑,因此操纵的痕迹仍然可见。使用边缘增强模块来突出结构上的不连续性。被篡改的区域通常表现为存在不自然的边界、混合或不匹配的边缘,这是由于拼接或合成的结果。因此,边缘增强突出了这些不规则性,使边界级别的人工痕迹更加明显,如图2中视觉上所总结的那样。最终,预处理后的图像结合了压缩线索、结构细节和人工痕迹级别的信息。这种丰富的表示随后被输入到深度学习网络中,使其能够同时学习语义和取证特征。ELA使用的是JPEG压缩质量因子90进行。去噪使用高斯滤波(σ = 0.5)实现。边缘增强使用了Sobel算子。

3.1.3 数据集分割策略
为了使评估既公平又可重复,所有数据集都使用分层采样技术被分割成训练、验证和测试子集。这种方法保持了所有分割中真实样本和篡改样本的比例。对于每个数据集,大约70%的样本被分配给训练,15%给验证,15%给测试。以CASIA V2.0数据集为例,这相当于大约8,800张训练图像、1,900张验证图像和1,900张测试图像。每个子集中未篡改图像与篡改图像的比例保持一致。对于基于视频的数据集,如FaceForensics++、Celeb-DF和DFDC,则实施了帧的采样。帧是以均匀的方式选择的,并确保同一视频中的帧不会出现在多个分割中,以防止数据泄露。所有的预处理和增强技术仅应用于训练集,而验证和测试集保持不变,以确保评估的无偏性。所有分割中真实样本与篡改样本的比例大约保持在60:40。

3.2 数据增强
我们在训练期间引入了一种结构化的数据增强方案,以帮助模型更好地泛化并避免过拟合。在图像伪造检测的背景下,深度学习模型可能会无意中学习到数据集在内容或语义层面的偏见,但不会学习到操纵的特征。因此,增强提供了解决方案,通过引入彼此不同但在典型情况下是真实的变体,同时保留了操纵的人工痕迹。增强策略包括几何变化和光度变化。几何变化包括水平镜像、小角度旋转、随机裁剪和重新缩放。这些变化可以视为模拟摄影世界中常见的视角和构图变化。同样,光度修改,如亮度 and 对比度的受控变化,用于模拟由于不同采集场景引起的光线变化。值得一提的是,增强选择严格避免了破坏操纵痕迹或使模型被新生成的人工痕迹误导。最严重的变换被故意排除在外,以不损害样本作为合法取证对象的完整性。这种设计的主要原因是,增强的样本不仅应该是真实的,而且在取证上也应该是合理的。

通过处理增强样本,模型学习了不变的和对操纵敏感的表示,而不是依赖于表面的视觉线索。因此,它对现实世界取证案例中经常出现的方向、比例和光照变化更加鲁棒。因此,数据增强是不同数据集之间稳定性能和所提出框架对未见数据更高可靠性的主要贡献因素之一。我们在表3中概述了特定的增强策略及其参数范围。

表3 增强
类别 | 参数范围 | 应用概率 | 取证原理
----------------------|-----------------|------------|----------------------
水平翻转 | 几何 | 左右翻转 | 0.5 | 保留操纵痕迹的同时改善方向不变性 |
旋转 | 几何 | ±5° 至 ±15° | 0.3 | 模拟自然相机倾斜而不扭曲伪造痕迹 |
随机裁剪 | 几何 | 原始区域的80–100% | 0.4 | 促进对局部操纵区域的关注 |
缩放 | 几何 | 0.9–1.1× | 0.3 | 模拟现实世界拍摄中的缩放变化 |
亮度调整 | 光度 | ±10–20% | 0.4 | 模拟光照变化同时保留人工痕迹 |
对比度调整 | 光度 | ±10–15% | 0.4 | 提高对光照差异的鲁棒性 |
高斯噪声(轻微) | 光度 | σ = 0.01–0.03 | 0.2 | 模拟传感器噪声而不掩盖篡改线索 |
JPEG压缩 | 基于压缩 | 质量因子75–95 | 0.3 | 模拟在取证中常见的社交媒体共享人工痕迹 |

3.3 基于CNN的特征提取使用迁移学习
为了有效检测局部篡改痕迹和全局上下文差异,所提出的框架利用了混合CNN-LSTM架构。通常,图像伪造表现为小的、孤立的异常,例如混合边缘、纹理不匹配或压缩痕迹,也显示出跨空间区域的上下文不一致性。因此,单一的建模方法可能不足以充分捕捉这两个方面。因此,混合模型结合了卷积特征学习的空间模式和顺序依赖建模的时间相关性。首先,深度卷积神经网络(CNN)骨干从输入图像中提取层次化的空间特征。CNN天生具有学习局部模式的能力,因此在检测与操纵相关的纹理异常和边界扭曲方面非常有效。早期的卷积层提取低级线索,如边缘和噪声变化,而更深层次的层则表示与操纵检测相关的上下文相关的高级语义和结构信息。然而,空间特征图本身可能不足以充分描述图像远部分之间的关系。被伪造的区域通常在光照和阴影不匹配或过渡有些不自然等方面与其余内容不同。为了解决这个问题,提取的CNN特征图被转换为序列,这些序列被传递给长短期记忆(LSTM)网络。LSTM识别图像不同部分之间的依赖性,从而使系统能够学习被操纵区域和原始区域之间的上下文关系。通过这种上下文感知的图像操纵检测,该框架实现了更高级别的理解。这种结合方法证明能够使模型对不同数据集中的变化更加稳定,并提高框架对未见数据的可靠性。我们在表3中概述了特定的增强策略及其参数范围。

3.4 基于CNN的特征提取使用迁移学习
为了高效检测局部篡改痕迹和全局上下文差异,所提出的框架利用了混合CNN-LSTM架构。通常,图像伪造表现为小的、孤立的异常,例如混合边缘、纹理不匹配或压缩痕迹,也显示出跨空间区域的上下文不一致性。因此,单一的建模方法可能不足以充分捕捉这两个方面。因此,混合模型结合了卷积特征学习的空间模式和顺序依赖建模的时间相关性。首先,深度卷积神经网络(CNN)骨干从输入图像中提取层次化的空间特征。CNN天生具有学习局部模式的能力,因此在检测纹理异常和与操纵相关的边界扭曲方面非常有效。早期的卷积层提取低级线索,如边缘和噪声变化,而更深层次的层表示与操纵检测相关的上下文相关的高级语义和结构信息。然而,空间特征图本身可能不足以充分描述图像远部分之间的关系。被伪造的区域通常在这些方面与其余内容不同,例如光照和阴影不匹配或过渡有些不自然。为了克服这个问题,提取的CNN特征图被转换为序列,并将这些序列传递给长短期记忆(LSTM)网络。LSTM识别图像不同部分之间的依赖性,从而使系统能够学习被操纵区域和原始区域之间的上下文关系。通过这种方式,该框架实现了对图像操纵的更高层次的理解,这些操纵可能分布在整个图像上或非常微妙,以至于无法仅在局部层面检测到。将基于CNN的空间学习与基于LSTM的上下文推理结合起来,使架构既能够以非常详细的程度识别取证痕迹,又能够意识到全局的一致性模式。这种结合方法已被证明能够使模型对伪造图像的大小、位置和视觉特征的变化更加不敏感。LSTM生成的上下文嵌入最终传递给分类单元,以做出关于伪造的决策。这样的设置确保了图像的分类不仅基于小的取证线索,还基于更广泛的空间关系。

3.4 详细的网络架构
本节提供了DeepForgeryNet架构的详细描述,以确保可重复性和清晰性。首先,输入图像被调整大小为224 × 224像素,然后通过一个意识到人工痕迹的预处理流程进行处理。预处理后,这些图像被传递给卷积神经网络(CNN)骨干进行层次化特征提取。本研究使用在ImageNet上预训练的ResNet50作为特征提取器,因为它具有出色的表示能力和训练稳定性。最终得到的7 × 7 × 2,048的卷积特征图被转换为一维序列,其中每个元素对应图像的不同部分。以这种方式表示图像允许可以建模不同区域之间的空间依赖性。然后这个序列由一个包含256个单元的长短期记忆(LSTM)网络处理。LSTM网络能够理解不同空间区域之间的上下文关系,从而帮助模型识别图像远部分之间的不一致性。LSTM的输出随后被用作全连接层的输入,全连接层首先包含一个128个单元的密集层,接着是一个丢弃率为0.5的丢弃层,以减轻过拟合。最终的分类层使用Sigmoid激活函数产生一个概率分数,指示输入图像是真实的还是伪造的。所有层都是端到端训练的,从而实现空间和上下文特征表示的联合优化。

3.5 混合CNN–LSTM模型用于空间-上下文分析
被篡改的数字照片通常显示图像的某些部分在视觉上不太对齐,或者整体画面在上下文中不匹配。这样的区域可能有隐藏的混合边缘、纹理或压缩异常,但它们仍然破坏了照明、结构或语义一致性。为了进行真实的伪造检测,需要反映这两个方面。所讨论的框架实现了一个集成的CNN、LSTM架构,同时建模空间和上下文信息来解决这个问题。CNN组件本质上是一个空间特征提取器。通过分层卷积滤波器,CNN可以从低级边缘和噪声模式到高级结构特征提取特征。这些特征在揭示特定的操纵线索方面非常有用,这些线索来自非常局部的区域,例如被篡改区域和未篡改区域的交界处或涉及操纵的纹理扭曲。卷积层因此提供了丰富的空间编码,用于潜在的伪造痕迹。尽管CNN是非常强大的局部特征提取器,但它们主要在本地操作数据,且其感受野有限,因此可能无法捕捉远距离区域之间的关系。然而,伪造痕迹通常通过空间分离区域之间的不一致性(例如,前景和背景在照明方面的不同)来揭示。为了考虑这种上下文依赖性,来自CNN的空间特征图被转换为序列,并传递给长短期记忆(LSTM)网络。长短期记忆(LSTM)网络的一种帮助方式是模型追踪地图不同区域之间的关系。首先,模型识别一个区域的特征如何与另一个区域的特征相关。因此,系统可以检测出不恰当的线索,这些线索不仅限于一个位置,而是分布在整个图像中。这种上下文建模在发现难以单独通过局部分析发现的隐藏操纵方面非常有效。基于卷积神经网络(CNN)的空间特征提取和LSTM-上下文推理的结合使得模型在图像真实性识别方面更加强大。融合系统的高层设计使网络能够首先识别出伪造痕迹的细节,同时识别出全局一致性模式,从而使模型对不同的操纵类型和规模更加灵活。接下来,伪造检测利用LSTM生成的上下文嵌入进行处理。

3.6 分类和决策策略
建议框架的最后一个阶段是通过CNN和LSTM网络生成的上下文嵌入来进行分类,以确定伪造的类型。这些嵌入的目的是提取代表局部区域被操纵的特征,同时描绘整个场景,因此它们对于完整性评估非常有用。随后,全连接层使用上下文特征向量生成一个标量决策分数。然后通过应用Sigmoid激活函数将该分数转换为概率值,表示操纵的可能性。决策边界是从验证集中获得的,而不是固定为一个常数阈值。所选阈值在灵敏度(真正例率)和特异性(假负例率)之间提供了合理的折中,即正确检测的同时最小化误报数量。这在法医案件中非常重要,因为漏掉罪犯或错误地指控无辜者都可能产生严重后果。在训练过程中,使用二元交叉熵损失来端到端地优化分类器及其特征提取模块。这种联合优化使分类器能够适应空间和上下文特征。为了防止过拟合并提高泛化能力,使用了诸如dropout之类的正则化方法。概率化形式还提供了基于排序的分析和基于信度的决策能力,这在实际法医场景中非常有用。而不是自动做出决策,可以对边界概率的图像进行二次检查。

3.7 训练策略
所提出的框架采用端到端的方式进行了训练,以共同优化感知伪造的预处理、空间特征提取、上下文建模和分类。端到端训练使网络能够学习到对语义内容和操纵痕迹都敏感的特定于任务的表示。训练使用Adam优化器的Mini-Batch梯度下降算法进行,因为它的稳定性和自适应学习能力。初始学习率经过仔细选择,并通过学习率调度策略逐步降低,以确保稳定收敛。这防止了振荡,并支持后续训练阶段的细粒度优化。由于任务被构建为二元分类问题(真实vs.伪造),因此采用了二元交叉熵损失作为优化目标。这种损失函数能够正确区分负预测,并同时产生校准良好的概率输出。为了减少过拟合的风险、增强模型的鲁棒性并提高泛化能力,同时使用了不同的正则化技术。在全连接部分添加了dropout层,以迫使网络不依赖于任何特定特征。权重衰减用于限制参数的大小,从而鼓励构建简单的模型。根据验证损失提前停止训练,以防止过拟合。所有运行都使用固定的随机种子,以保证结果模型的可重现性。模型选择仅基于验证集,以便保持测试集的公平性。最终版本是具有最高验证准确率的模型。训练是在GPU上进行,以加速过程。批量大小和训练周期的数量经过选择,以确保训练在计算和模型稳定性方面都是高效的。此外,验证集和测试集是严格分开的,在训练过程中不会相互暴露,从而提供无偏的模型性能估计。训练设置和超参数可以在表4中找到。

表4
参数值 | 理由 |
|-----------------|------------------------------------------------)--|
| Optimizer | Adam | 自适应优化,收敛稳定 |
| Initial learning rate | 1e-4 | 平衡收敛速度和稳定性 |
| Learning rate schedule | Step decay | 支持后期阶段的微调 |
| Batch size | 32 | 在稳定性和内存使用之间取得平衡 |
| Number of epochs | 50–100 | 足够在不发生过拟合的情况下收敛 |
| Loss function | Binary Cross-Entropy | 适用于二元分类 |
| Dropout rate | 0.5 | 减少过拟合 |
| Weight decay | 1e-5 | 用于泛化正则化 |
| Early stopping | 启用 | 防止过拟合 |
| Random seed | 42 | 确保结果的可重现性 |

3.8 评估指标
DeepForgeryNet模型的有效性通过一系列成熟的指标进行了评估。这些指标包括准确性、精确度、召回率、F1分数和接收者操作特征曲线下面积(AUC)。它们代表了分类效果和检测可靠性的结合。框架中介绍的组件通过与基本模型一起运行进行测试,以进行质量比较。在组件级别上,所提出的混合CNN-LSTM模型的性能与仅有CNN和仅有LSTM的版本相当。这种比较有助于突出三个主要方面——感知伪造的预处理、基于迁移学习的特征提取和上下文依赖性建模——如何影响整体性能。此外,评估过程为不同模型之间的公平和平等比较建立了要求,从而提供了对所提出框架在各种法医场景中的有效性和鲁棒性的客观认识。

3.9 总结
本提案概述了一种完整的方法,包括一系列步骤,通过这些步骤可以实现框架在同一目的下的双重用途。第一步是通过处理原始图像来提取伪造的特征。从不同角度拍摄的图像会在不同的光照条件下被人工创建,因此使用数据增强使模型更加健壮。为了识别被操纵的区域,使用深度神经网络(DNN)进行表示学习。这样,卷积特征被转移到检测小块的目标任务上。这里使用的混合CNN-LSTM模型用于分析和分类提取的深度特征。空间特征的分类以及相邻区域与共现伪造物的关联由CNN和LSTM的结构共同完成。该系统被设计为在各种基准数据集上提供一致的检测性能,同时不受不同操纵方法和图像质量的影响。精心规划的训练和测试方法保证了工作可以在真实的法医案例中有效地复制和使用。

4 结果
本部分详细介绍了DeepForgeryNet在标准基准伪造图像检测数据集上获得的实验结果。由于评估的主要目的是确定模型的精确度、鲁棒性和在不同操纵设置下的泛化能力,因此通过主要定量指标和与基线方法的比较评估了性能。除了定量结果外,还提供了一些定性评论,以帮助读者更清楚地了解模型在实际法医案例中的表现。

4.1 实验设置
所描述的DeepForgeryNet框架通过第3节中介绍的公开可用的公共基准数据集进行了彻底测试。这些数据集展示了不同类型的图像操纵和压缩场景,有助于真实评估伪造检测的性能。为了保证性能的无偏估计,所有实验都是在从未见过的新的测试数据上进行的。训练、验证和测试的分区遵循了第3节中概述的分层数据分割方案,并且模型没有使用任何测试样本进行训练或调整。使用了各种标准的二元分类指标,如准确性、精确度、召回率和F1分数(在3.7节中有详细说明)来衡量性能。这些指标的组合提供了对检测可靠性的全面评估。为了进行比较,新提出的框架与几种基于深度学习的伪造检测技术进行了对比,包括基于CNN和基于Transformer的模型。为了公平起见,所有方法都在相同的数据划分和相同的实验条件下进行了测试。

4.2 定量性能分析
在这里提出的框架在CASIA V2.0数据集上从准确性、精确度和F1分数方面进行了定量评估。这些方法也与仅基于CNN和仅基于LSTM的两个基线模型进行了比较。如表5所示,所提出的DeepForgeryNet达到了99.79%的最高分类准确率,远高于仅基于CNN(96.78%)和仅基于LSTM(97.15%)的模型。混合CNN-LSTM模型的最佳性能清楚地表明了从空间特征和上下文依赖性中学习特征的好处。使用接收者操作特征曲线(ROC曲线)更严格地评估了所提出框架区分不同类别的能力,详见图3和表5中的CASIA V2.0数据集性能报告。

4.3 与最先进方法的比较
为了进一步验证DeepForgeryNet框架的可靠性,我们将其与一些最新和领先的基于CNN的伪造检测模型、混合模型和基于Transformer的模型进行了比较。所提出的方法在召回率和F1分数上超过了传统的CNN模型,如XceptionNet和EfficientNet,因为它能够检测到伪造物级别和上下文上的不一致性。CNN模型的主要缺点是它们主要关注空间特征,因此经常忽略非常小或分散的操纵。另一方面,像Vision Transformer (ViT) 和Swin Transformer这样的基于Transformer的模型在捕捉远距离依赖性方面表现出色。然而,这些模型通常需要大型数据集和更多的计算资源。相比之下,DeepForgeryNet在保持较低计算复杂性的同时实现了有竞争力的性能。最近文献中报道的混合CNN-LSTM模型展示了改进的上下文建模,但它们通常缺乏对感知伪造物的显式整合。所提出的方法通过在深度学习之前加入基于ELA的特征增强来解决这一限制,从而在压缩和噪声变化下提高了鲁棒性。总体而言,实验结果表明,结合感知伪造物的预处理和空间-上下文建模提供了显著的优势。

4.4 结论
本提案提出了一种完整的方法,包括一系列步骤,可以通过这些步骤实现框架的多种用途。第一步是处理原始图像以提取结果图像中的伪造特征。通过各种角度拍摄并在不同光照条件下捕获的图像是人工创建的,因此使用数据增强使模型更加健壮。为了识别被操纵的区域,使用深度神经网络(DNN)进行表示学习。在这里使用的混合CNN-LSTM模型用于分析和分类提取的深度特征。空间特征的分类以及相邻区域与共现伪造物的关联由CNN和LSTM的结构共同完成。该系统被设计为在各种基准数据集上提供一致的检测性能,同时不受不同操纵方法和图像质量的影响。精心规划的训练和测试方法保证了工作可以在实际法医案例中有效地复制和使用。这种对伪迹敏感、具有上下文推理能力以及高效性的结合,正是所提出的方法与其他最新先进方法的不同之处。表6显示了各种方法的研究年份、核心方法、伪迹感知能力、上下文建模能力、跨数据集泛化能力和计算效率,以及它们的主要局限。

| 年份 | 核心方法 | 伪迹感知 | 上下文建模 | 跨数据集泛化 | 计算效率 | 主要限制 |
|---------------|---------------------------|--------------|--------------|----------------|------------------------------------------|
| Soudy等人(2024年) | CNN + Vision Transformer (ViT) | 部分 | 是 | 是 | 计算成本高 |
| Petmezas等人(2025年) | CNN + LSTM + Transformer | 是 | 是 | 计算成本高 | 架构复杂 |
| Kumar等人(2026年) | DeiT Transformer | 是 | 是 | 计算成本高 | 需要大型数据集 |
| Sheikh等人(2025年) | CNN vs. Vision Transformer | 部分 | 是 | 计算成本中等 | 伪迹建模有限 |
| Meepaganithage等人(2024年) | CNN + LSTM | 是 | 否 | 伪迹增强有限 | |
| Patel等人(2025年) | CNN + LSTM | 是 | 否 | 伪迹增强有限 | 注重时间因素 |

所有模型都在相似的实验设置下使用相同的数据集划分进行了评估,以确保公平比较。如表7所示,所提出的DeepForgeryNet在所有评估指标上都取得了最高的性能。与基于CNN的模型(如XceptionNet和EfficientNet)相比,该方法通过有效捕捉伪迹级别的不一致性和上下文依赖性,提高了准确率和F1分数。

与最近最先进的深度伪造和图像伪造检测方法相比,所提出的DeepForgeryNet在所有评估指标上都表现出色。虽然基于Transformer的模型(如ViT和Swin Transformer)由于能够建模长距离依赖性而表现出强大的性能,但它们通常需要更高的计算资源。相比之下,所提出的方法在计算复杂性较低的情况下实现了可比或更优的性能。此外,与现有的混合CNN-LSTM模型相比,DeepForgeryNet在召回率和AUC方面有显著提升,表明其对细微和分布式操作的敏感性更强。这归功于将伪迹感知预处理与空间-上下文建模相结合。

为了评估其泛化能力,DeepForgeryNet在多个流行的面部伪造数据集(如FaceForensics++、Celeb-DF和DFDC)上进行了测试。在完全未见的数据集上测试这些模型,以检验它们处理不同操作方法、压缩伪迹和视觉质量变化的能力。表8显示了跨数据集泛化的结果。DeepForgeryNet在Celeb-DF上的准确率为98.12%,在DFDC上的准确率为97.65%,尽管这些数据集包含更加真实和多样的视觉内容。

进一步实验确认了其跨数据集的泛化能力,即使模型在一个数据集上训练并在完全不同的数据集上评估,性能也只是略有下降。此外,该模型经过多次随机初始化的测试,准确性的标准偏差小于1%,这清楚地表明了方法的稳定性和可重复性。模型出色的泛化能力可能部分归因于其使用了伪迹感知预处理,该预处理将模型的关注点仅集中在操作痕迹上,而忽略了数据集特定的语义。

通过消融研究调查了DeepForgeryNet框架各组件的贡献。其中一个组件被选择性移除或修改,而其余配置保持不变。实验是在CASIA V2.0数据集上进行的。结果表明,移除错误级别分析(ELA)会导致检测准确率显著下降,从而证明了该方法突出显示压缩伪迹的能力。移除去噪步骤也会导致性能下降,表明降噪是使特征学习既稳定又有区分性的一个因素。将混合CNN-LSTM模型改为仅使用CNN会导致性能最大程度的下降,这表明上下文依赖性建模对于可靠地识别操作是必要的。所有组件的效果都在图4中显示。

所提出的DeepForgeryNet框架的计算效率得到了验证,结果表明该法医工具可以在实际应用中使用。系统的性能特征从推理时间和模型复杂性的角度进行了考虑,并与仅使用CNN和仅使用LSTM的基线模型进行了比较。结果表明,所提出的混合CNN-LSTM架构能够在检测性能和计算成本之间找到良好的平衡。尽管添加LSTM层会略微增加推理时间,但额外时间几乎不显著,不影响该方法在实时场景中的使用。另一方面,仅使用LSTM的设置在计算效率上较低,且准确率也不高。

所提出的框架结合了伪迹感知预处理和迁移学习,在效率方面带来了更多好处,因为这些特性有助于更快的训练收敛和减少对更深层网络的依赖。除了非常高的检测准确率外,该框架的整体性能效率也在可接受范围内,因此即使在时间紧迫和资源有限的法医情况下,它也可以成为一个有用的工具。与计算效率相关的指标见表10。

实验结果表明,DeepForgeryNet系统无论面对何种类型的伪造内容都能保持稳定的性能。首先通过伪迹感知预处理,然后采用混合CNN-LSTM建模技术,该系统能够检测到微小的操作部分以及较大的场景差异。这表明,通过整合伪迹级别的线索和语义表示,伪造检测可以从仅依赖视觉内容中受益。检测到的召回率和F1分数的提升表明该模型在识别被操作图像方面非常高效,这在法医案例中尤为重要,因为一旦错过操作案例,很难做出正确的判断。所提模型的改进性能可归因于其组件的互补优势。伪迹感知预处理阶段增强了特定于操作的线索,如压缩不一致性和边界伪迹,直接提升了召回率。CNN组件有效捕捉局部纹理和结构异常,而LSTM网络模型则模拟了跨空间区域的上下文依赖性。这种组合使得能够检测到局部和全局不一致的操作。然而,该方法仍存在一些局限性:在涉及极小操作区域或严重压缩图像的情况下,模型性能会下降,因为伪迹信号较弱。此外,虽然混合架构提高了检测准确性,但与轻量级CNN模型相比,计算复杂性略有增加。

跨数据集评估显示,所提出的框架在性能上存在一定的不稳定性,因为压缩程度和操作风格各不相同。因此,系统的鲁棒性在现实世界中至关重要,因为不同的操作方法和图像获取条件差异很大。此外,伪迹感知预处理使模型减少了对数据集特定偏差的依赖,使其更能应对分布变化。所提出的框架确实可以用于数字媒体取证、错误信息检测和内容验证。由于它提供了概率输出,这一特性允许分析师根据不同的应用需求调整灵敏度。例如,在调查场景中可能更倾向于高召回率的设置,而在使用自动过滤系统时可能更偏好高精确度的设置。此外,该模块化的架构可以与其他当前的法医工作流程结合,其中伪迹的可视化可以支持人类专家的分析。

尽管所展示的方法有效,作者仍提出了一些疑虑。首先,在极度压缩的图片和非常微小的操作区域中,性能损失明显,因为法医痕迹要么太弱,要么在视觉上难以区分。这种情况在图像取证中普遍存在,因此需要更敏感的检测机制。其次,混合CNN-LSTM架构导致更高的计算成本,相比之下,轻量级CNN模型则不然。虽然它们仍适用于离线分析,但在实时或资源受限的情况下可能成为限制因素。第三,使用众所周知的基准数据集进行评估可能无法充分捕捉现实世界中的操作范围。新的生成模型可能会产生与当前数据集中不同的伪迹类型。

未来的研究可以专注于开发轻量级和/或基于注意力网络架构,以提高模型的效率而不损失准确性。同时,结合多尺度特征学习和基于Transformer的上下文建模可能会更好地检测到微小或几乎不可察觉的操作。此外,在包括社交媒体照片在内的更广泛数据集上进行测试,将使泛化能力的主张更加可靠。此外,可解释的AI方法可以与深度学习模型集成,以直观解释模型决策背后的原因,从而提高数字取证领域中模型的可信度和可解释性。

在这项研究中,我们介绍了DeepForgeryNet,这是一种基于深度学习的伪迹感知图像伪造检测方法。该方法结合了伪迹增强预处理步骤和混合CNN-LSTM建模,同时捕捉微小操作痕迹(局部)和周围环境中的较大不一致性。通过关注法医伪迹和语义特征,该框架有效地解决了细微且混合得很好的伪造问题。实验表明,伪迹级别的分析与空间上下文学习的结合不仅在提高对操作部分的关注度方面非常有用,而且在提供平衡的整体检测可靠性方面也有帮助。除了数值结果外,这项工作还强调了在不断发展的数字操作技术背景下,设计具有法医感知能力的模型的必要性。未来的发展将主要集中在提高算法的计算效率、增强系统检测非常微小或严重压缩操作的能力,以及通过使用可解释的AI技术提高系统的透明度。总之,在学习过程中融入关于文物的知识并注意背景信息,是一种非常有前景的方法,有助于提高图像伪造检测系统的性能。我们的方法为未来在可靠的多媒体取证领域的研究奠定了基础。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号