《Forensic Science International: Synergy》：Interpol review of detection of AI-generated image and video deepfakes, 2022-2025
编辑推荐：
近年来，人工智能生成深度伪造及合成媒体的技术取得了显著进展。本系统性综述从法医学视角出发，讨论了人工智能生成深度伪造图像与视频的最新进展及其检测方法。研究人员分析了2022年至2025年间发表的400余篇相关研究，重点关注人工智能生成的深度伪造内容，而非对现有
近年来，人工智能生成深度伪造及合成媒体的技术取得了显著进展。本系统性综述从法医学视角出发，讨论了人工智能生成深度伪造图像与视频的最新进展及其检测方法。研究人员分析了2022年至2025年间发表的400余篇相关研究，重点关注人工智能生成的深度伪造内容，而非对现有媒体的篡改。综述概述了生成式架构的发展，包括生成对抗网络（GANs）、扩散模型（DMs）和自回归模型（ARs），强调了其在视觉保真度、用户可控性、内容一致性和计算效率方面的进步。此外，研究人员梳理了检测方法的常见设计范式，分析了用于检测的多类特征。研究表明，当前创新主要集中于解决面向未见过的生成器的泛化能力挑战，以及针对常见扰动和对抗性攻击的鲁棒性问题。然而，评估数据集使用的不一致性使得不同方法难以进行横向比较。本综述确定了若干未来研究方向，包括通过纳入法医相关基准数据集使方法更直接地适用于法医实践、加强对可解释性的关注，以及将检测方法嵌入证据评估框架中。
3 合成媒体生成
生成式模型通过实现从广泛数据分布中合成逼真图像和连贯视频，彻底改变了计算机视觉领域。本节介绍这些生成模型的基本原理，并讨论媒体合成领域的最新进展及其对法医实践的启示。
3.1 生成式架构
当前图像与视频生成的最先进（SOTA）技术主要基于自回归模型（ARs）、生成对抗网络（GANs）和扩散模型（DMs）及其混合方法。虽然归一化流和变分自编码器等其他架构也存在，但本综述重点讨论与上述SOTA生成器最相关的模型家族。
3.1.1 自回归模型
自回归Transformer模型通过显式建模数据分布并以序列方式从中采样来生成数据。模型以迭代方式预测token，每个预测都基于所有先前生成的token。PixelRNN和PixelCNN等早期模型直接使用像素作为token，这在处理百万级像素图像时速度较慢，且由于预测链过长难以捕捉图像的全局依赖关系。后续研究如矢量量化变分自编码器（VQ-VAE）通过使用离散视觉token集（码本）建模数据空间，提升了图像的全局感知能力并降低了计算需求。随后的研究尝试以多种方式优化码本中的token选择。OpenAI的DALL-E证明，大规模训练自回归模型能够从任意文本描述中生成高质量图像，即使这些描述未出现在训练数据中。
3.1.2 生成对抗网络
GANs由生成器和判别器两个神经网络组成。生成器的目标是通过学习将随机噪声转换为与真实图像无法区分的图像；判别器的目标是区分生成器生成的图像与真实图像。二者通过对抗方式训练，生成器从判别器的反馈中学习。形式上，这可描述为一个极小极大博弈优化过程。若训练成功，生成器最终能生成与真实图像无异的内容。然而，GANs的训练并不简单，若生成器或判别器一方性能过强，训练会变得不稳定甚至停止，还可能出现模式崩溃或梯度消失等问题。为解决这些问题，研究者提出了多种改进架构，如通过修改网络架构提升训练稳定性的深度卷积GAN（DCGAN）；通过重新定义损失函数并在判别器输出上引入梯度惩罚来解决模式崩溃问题的Wasserstein GAN（WGAN）及带梯度惩罚的WGAN（WGAN-GP）；采用渐进式训练策略、从低分辨率开始逐步增加层数以提升稳定性并支持高分辨率生成的渐进式GAN（ProGAN）；通过引入解耦语义属性（如姿态和身份）的潜空间以增强生成可控性的StyleGAN及后续版本StyleGAN2；通过加倍每层特征图并结合自注意力层与谱归一化以提升视觉保真度的BigGAN；以及支持实时生成、解决纹理粘连和锯齿伪影的GigaGAN、StyleGAN-XL和StyleGAN-T等。
3.1.3 扩散模型
扩散模型（DMs）是一类通过学习从随机噪声中生成数据的模型，其基于概率去噪过程实现。DMs的训练包含两个过程：前向过程中，噪声被逐步添加到图像中直至变为纯噪声；反向过程中，训练一个如U-Net之类的神经网络，随时间步迭代对图像进行去噪，最终生成图像。与其他生成方法相比，DMs在多个领域和应用中表现出更优的性能。大多数DMs基于去噪扩散概率模型（DDPMs）构建，其在固定数量的离散时间步中去噪。而扩散确定性隐式模型（DDIM）通过使用固定的噪声调度替代前向过程中的随机噪声，解决了采样非确定性问题，允许跳过采样步，大幅提升生成速度。
反向过程的每一步都可基于额外输入信息进行条件化，如文本或图像。无分类器引导（Classifier-free guidance）等技术可利用CLIP等视觉语言模型中嵌入的语义知识，通过结合有条件和无条件生成的结果来引导扩散过程。许多后续架构基于DDPM和DDIM发展而来：潜在扩散模型（LDMs）如Stable Diffusion（SD）将去噪过程从像素域转移到潜空间，解决了高分辨率图像生成的计算限制；Stable Diffusion XL（SDXL）使用三倍大的U-Net以提升视觉保真度；消融扩散模型（ADM）通过运动模式估计器预测轨迹先验来提升采样速度；DeepFloyd-IF则通过将去噪过程移回像素空间并结合超分辨率层以实现高分辨率输出；Spatial-Frequency U-Net（SFUNet）通过在小波域结合空间与频率信息来提升生成质量与效率。除DDPMs外，基于得分匹配与朗之万动力学（SMLD）及随机微分方程（SDEs）的框架也被提出，前者估计各噪声尺度下的得分（即对数概率密度相对于数据的梯度）并通过退火朗之万动力学引导采样，后者将扩散过程建模为连续时间框架而非离散步长。Rectified Flow模型则提出了新的生成建模范式，让数据沿数据空间中的直线轨迹转化为噪声（反之亦然），而非传统扩散模型的随机曲折路径，该模型也已适配潜空间与自回归模型。
DMs也被扩展至视频领域。许多模型基于预训练的文本到图像模型，仅添加时间组件，避免了从头学习视觉概念，加速了训练过程并聚焦于学习真实运动和时空动态。视频扩散模型（VDM）采用预训练图像扩散模型，结合时间注意力和三维U-Net架构生成时序一致的视频。时间注意力也可通过交叉帧注意力等方式实现。潜在视频扩散模型（LVDMs）则将去噪过程移至潜空间，可更高效地生成长时长、高质量的视频。
3.1.4 混合方法
混合架构结合了两种或更多模型家族的思想，如Diffusion-GAN、StyleSwin和taming transformers等。这类方法的优势在于可融合多个模型家族的优点，常能实现快速、高保真且多样化的生成输出。广泛应用的混合架构包括将DMs中传统U-Net骨干替换为Transformer架构的扩散Transformer（DiT），知名DiT模型DALL-E 3即结合了基于大语言模型（LLM）的文本编码器与潜空间及像素空间的混合扩散方法。DiffiT、PixArt-α、HDiT和FLUX1等近期模型进一步证明了将扩散框架的高输出质量与自回归Transformer的可扩展性优势相结合的价值。
3.1.5 其他方法
深度伪造检测文献中常见的其他方法还包括感知损失模型和低级视觉模型。感知损失模型如IMLE和CRN利用感知损失函数，不直接比较两幅图像的像素值，而是比较从神经网络中提取的图像嵌入，因此这类高层模型更关注视觉相似性而非逐像素的准确性。相比之下，低级视觉模型如SAN和SITD则聚焦于提取和处理纹理、边缘、颜色和运动等基本图像特征，使用与原始像素值密切相关的局部操作，这与处理物体识别和场景理解等抽象语义概念的高层模型有所不同。
3.1.6 商业模型
近年来，大量商业模型和应用程序涌现，使公众可便捷使用图像与视频生成技术，如Midjourney、Google Imagegen、OpenAI GPT-4o用于图像生成，Sora、Kling AI、Veo3、Imagen、Runway Gen-4、Luma Dreammachine和Meta的MovieGen用于视频生成，这些工具均能产出SOTA质量的媒体内容。许多商业模型基于DM或DiT架构构建，但由于其专有性，具体内部工作机制细节未知。例如Midjourney架构未公开，但基于SD1.4训练的检测器对其生成图像的泛化性能良好，推测其很可能基于DM。谷歌的Imagegen和Runway采用类似GLIDE的级联扩散流程。OpenAI的GPT-4o则使用自回归多模态大语言模型生成图像，支持高保真图像生成、内容一致性和图像编辑。
多家公司试图通过内容违规政策防止模型滥用，禁止生成有害内容。例如谷歌的Imagen会在生成的媒体中加入不可见水印以便溯源识别。但这些措施存在局限：对抗技术可绕过内容违规政策，水印也可能被移除。因此仅依赖此类技术进行检测是不够的，仍需专门的检测方法。
3.2 近期发展趋势
研究人员识别出生成模型发展的三大主要趋势：提升视觉保真度、增强细粒度用户控制、降低计算需求，三者之间存在紧密关联。
3.2.1 视觉保真度
尽管生成模型的逼真度已取得显著进展，但在人脸、卫星影像及频率谱等复杂或未被充分探索的领域仍存在挑战。视觉保真度通常通过Fréchet Inception距离（FID）、峰值信噪比（PSNR）和结构相似性指数（SSIM）等指标衡量，同时也会结合主观视觉评估。由于这些指标与人类评估有时并不一致，研究者也开发了专门的人类评估数据集和更符合人类偏好的新指标。为提升生成质量，架构改进包括为CycleGAN加入注意力机制和自适应残差块、在StyleGAN中集成基于自编码器的注意力模块、探索无需离散token的连续自回归生成以减少量化阶段的信息损失、采用智能训练策略和适配的损失函数、在保持保真度的同时提升多样性、通过显式建模图像表征或在扩散过程中融入自回归潜建模增强关系理解、以及设计更高效架构以支持更大参数量等。此外，多生成器组合策略（在扩散过程抽象层面或语义层面分别生成输出组件）、解耦运动与外观、多阶段从粗到精的迭代生成等方法也被用于提升视觉保真度。除模型架构外，数据质量和训练策略同样关键，包括数据增强、标签平滑、精细微调、数据清洗与标注、智能损失函数选择、训练中采用掩码技术、对自回归模型进行规模化训练、在扩散模型训练中优先处理中等噪声水平的损失、为GANs优化训练中的反馈信号、以及优化负提示词以提升保真度和提示词遵循度等。对于视频合成，通过交叉注意力机制显式建模时空关系可改善文本-视频对齐、单帧质量和时间连贯性；在说话人头部生成视频中添加眨眼、轻微头部运动、更多表情细节及运动先验约束，可提升真实感；但当前视频合成方法仍面临纹理粘连、不自然元素融合、物理规律不准确、画面元素突现或消失等时空伪影的挑战。
3.2.2 细粒度用户控制
该领域的第二大挑战是赋予用户对生成过程的细粒度控制。除提示词策略和LLMs辅助生成更精准的指令外，最有效的方法是融入用户提供的额外约束。语义掩码（抽象空间标签）已被广泛采用。当前策略包括解耦语义与控制输入、聚焦感知重要区域、融合多张现有图像的输入，以及在Transformer模型中通过token合并将同一对象及其属性的token聚合以提升提示词遵循度。GLIGEN和ControlNet等框架提供了对预训练DMs进行再训练的架构，使其兼容边界框、关键点、图像等多种控制输入，后续研究又针对控制输入多样性、效率、响应速度和局部影响范围等进一步优化。这些方法也被扩展至自回归模型和视频合成模型中。此外，通过跨注意力或互自注意力机制连接输入图像、参考图像或文本提示词的编码，可实现更灵活的控制；还可训练特定编码器从输入图像中提取特定概念（如从一张图提取姿态、另一张图提取背景），确保输出内容符合要求。部分方法通过改进扩散过程引导方式或设计可解释的潜空间，实现了无需训练的一致性图像生成，重点包括潜空间中各类语义特征的解耦。FreeDoM等方法改进了条件化过程，支持跨条件引导。主动学习机制则允许用户直接参与模型微调循环。对于视频合成，通过融入图像作为空间先验或输入视频的运动模式作为时间先验，可同时提升用户控制能力和生成保真度；部分文本到视频方法通过融入学习到的运动先验或设计可添加至现有文本到图像模型的模块化运动模块，减少了对此类额外输入的依赖；几何约束被用于加强不同视角的关联性，支持从单张图像生成更长的新视角视频；针对文本对运动的描述通常较粗略、更难控制的特性，研究者通过训练可添加至预训练DM的运动模块来改善这一问题。
3.2.3 计算需求
高质量媒体（尤其是视频）的生成面临巨大计算挑战。针对DMs的常见优化策略包括将去噪过程转移至潜空间、采用从低分辨率到高分辨率的级联扩散操作、使用局部注意力替代全局注意力、以及应用时空压缩策略。此外，通过简化扩散过程的得分函数、利用预训练DM的特征、在扩散过程中设计更高效的噪声采样器、通过插值多帧而非顺序生成所有帧、以及集成因果注意力掩码等方式，提升了生成速度，使更长视频的生成成为可能。尽管有这些改进，实现高分辨率输出的实时生成仍是挑战，尤其对视频合成模型而言。此外，高质量多模态数据集的缺乏仍是训练能从文本或图像生成视频的鲁棒模型的瓶颈。为此，研究者提出利用CLIP生成伪文本特征、基于大规模文本-图像数据集预训练后再进行无监督视频训练、采用分阶段训练机制（先在低质量数据上建立时空耦合，再在高分辨率图像上优化空间质量）、将语义学习与视觉质量学习解耦、以及开发所需训练数据更少的更高效方法等策略加以应对。
4 合成媒体检测
已有大量方法被提出用于合成媒体检测，主要针对合成图像。理想的检测方法应具备良好的未见生成器泛化能力、对压缩等后处理的鲁棒性以及可解释性。尽管多数技术包含特征提取和分类组件，但二者的组织方式差异显著。本节首先梳理深度伪造检测中使用的各类特征及分类策略，随后详述文献中采用的各类整体架构，最后讨论训练方法和规避检测的对抗策略。
4.1 特征提取
近年深度伪造检测中使用的特征可分为五大类：语义特征、空间特征、频率特征、重建误差特征和深度学习特征。前四类为预定义的手动设计特征，第五类为从训练好的深度学习模型中提取的学习特征。
4.1.1 语义特征
语义特征与图像的语义内容相关，通常体现为某种伪影或物理层面的不可能现象，包括扭曲的肢体、畸形的面部等明显伪影，以及不一致的透视线、错位或不一致的阴影、不对称、面部元素排列异常等更细微的特征。大部分语义特征研究聚焦于人脸，眼睛是重要来源，包括巩膜中静脉缺失、瞳孔形状异常、双眼相似度过高，以及双眼反射不一致等。研究表明，结合多种语义特征可获得最佳整体性能。语义特征的优势在于可解释性强。
4.1.2 空间特征
空间特征与像素值及其在图像或视频中的位置相关。研究发现，许多生成器尚无法准确复现真实图像的自然颜色分布，因此图像的颜色分布具有区分性。许多研究将图像转换至YCbCr颜色空间以分离色度和亮度分量，也有方法同时使用多种颜色空间的表示作为输入。其他颜色相关特征包括颜色通道间的共生矩阵或通道间差异。尽管颜色特征总体有效，但有证据表明其在图像经压缩等后处理后效能会显著下降。除颜色外，纹理特征也有用，可通过Sobel滤波器、局部二值模式滤波器、Canny边缘检测或Gabor滤波器提取，也可通过纹理或对比度增强技术凸显此类特征。灰度共生矩阵的各类统计量（如角二阶矩、相关性、差异性、熵、能量、逆差矩）也被广泛应用。邻近像素关系（NPR）特征可捕捉空间域中的上采样伪影，引导滤波可用于分离伪影痕迹，还有研究通过估计面部表面特征来辅助检测。自相关性也被发现是有效特征，合成图像的自相似性通常高于自然图像。图像的噪声分布同样可用于检测，生成模型常忽略这一层面。常用方法包括提取常用于相机源识别的光响应非均匀性（PRNU）信号，或仅利用图像中最简单区域的噪声模式以减少纹理丰富区域的干扰，也有方法通过学习真实图像的噪声模式并检测偏差以避免对特定生成器伪影的过拟合。对于视频，可分析视频序列中运动预测模式的频率，因为伪造视频的运动通常不如真实视频流畅自然。
4.1.3 频率特征
当前生成模型在准确复现自然图像的频率谱（尤其是高频区域）方面存在缺陷。为提取此类差异，常使用傅里叶变换、离散余弦变换、离散小波变换或完全可分小波变换将图像转换至频域。部分方法进一步提取功率谱或角频谱功率密度，或通过高通滤波器仅提取特征峰值，也有方法利用学习到的掩码或积分径向运算增强频率谱中的信息部分。基于压缩的方法也被探索，其核心假设是合成图像比真实图像更容易被神经网络压缩。错误级别分析（ELA）可识别JPEG压缩伪影，也有应用价值。频率特征的优势在于易提取、可解释且对特定生成器具有较强辨识度，可能优于其他分类特征。但其易受后处理操作（如调整大小和压缩）影响，在现实场景中可能被掩盖或完全消除；且观测到的伪影不仅取决于生成器，还与数据集和生成器架构细节密切相关，导致训练出泛化性强的检测器较为困难。
4.1.4 重建误差
重建误差基于这样的思想：合成图像生成器在重建合成图像时表现优于重建自然图像。因此，通过使用自编码器或扩散生成器对图像进行编码和解码，并计算原始图像与重建图像的差异，可估计重建误差。多项研究基于不同编码解码模型（如Stable Diffusion、ADM、LDM）在图像和视频上验证了该思路。近期研究通过计算每一步去噪的重建误差或汇总所有时间步的重建误差以获得更丰富的特征表示。重建误差的变体包括使用潜DM模型激活而非重建结果作为特征、向图像添加学习的对抗噪声掩码、以及基于仅在真实图像上拟合的模型判断偏离程度等。若有真实参考材料（如真实人物面部），也可利用生成内容与真实内容的偏差进行检测。
4.1.5 神经网络嵌入
近年文献主要使用从预训练深度学习模型中提取的特征（即嵌入）进行合成媒体检测。深度神经网络能够将图像编码为特征向量，并可融合多种特征形成新的表示。许多方法采用在大规模图像数据集（如ImageNet）上预训练的成熟模型架构，可直接使用或针对任务微调，有时会添加分类层等架构修改。常用的CNN嵌入网络包括ResNet、VGG、VGG-Face、EfficientNet、Xception、DenseNet
