基于深度学习模型中无覆盖信息隐藏技术的可逆对抗样本生成

《Neurocomputing》:Reversible Adversarial Examples Generation Based on Coverless Information Hiding in Deep Learning Model

【字体: 大 中 小 】 时间:2026年04月08日 来源:Neurocomputing 6.5

编辑推荐:

  可逆对抗样本生成框架通过模型驱动无覆盖信息隐藏解决传统方法不可逆问题,在保持高攻击成功率的同时实现视觉质量优化和精确恢复,适用于隐私敏感场景。

  
刘小龙|林思彦|陈阳城|陈书武
福建农林大学计算机与信息科学学院,福州350002,中国

摘要

对抗性样本对深度神经网络的鲁棒性和安全性构成了重大挑战。然而,大多数现有的对抗性攻击存在不可逆性,这限制了它们在可控和保护隐私的场景中的应用。为了解决这一限制,本文提出了一种基于深度学习模型中无覆盖信息隐藏的新颖可逆对抗性样本(RAE)生成框架。与传统依赖于外部载体或可见扰动的方案不同,所提出的方法将可逆扰动信息直接嵌入到结构化密钥模型中。具体来说,设计了一种基于模型的无覆盖隐藏机制,在对抗性扰动生成过程中编码必要的可逆信息,从而实现强大的攻击能力和精确的可逆性。在多种对抗性设置下的综合实验表明,所提出的方法取得了与普通对抗性样本相当的攻击成功率,同时保持了高视觉质量。此外,生成的可逆对抗性样本可以准确地恢复到其原始状态,突显了该方法在隐私敏感和安全关键应用中的潜力。

引言

深度神经网络(DNNs)[1]、[2]在从大规模数据中学习有效特征表示方面展示了显著的能力。然而,DNNs对大量训练数据有很强的依赖性,并且通常缺乏可解释性,这引发了对其鲁棒性和安全性的关键担忧[3]、[4]。一个显著的漏洞在于对抗性攻击,其中在输入图像中添加了精心设计但难以察觉的扰动,导致DNNs产生错误预测[5]、[6]。除了其对抗性本质外,最近的研究还强调了对抗性样本在某些情境下的建设性用途。具体来说,对抗性样本可以作为保护隐私的机制,防止未经授权的访问或对敏感数据的推断[7]。这种双重视角不仅强调了对抗性样本带来的安全威胁,还揭示了它们作为增强智能系统隐私保护的防御工具的潜力。
传统对抗性样本的生成通常是通过在图像或其他媒体中引入小的扰动来实现的,从而误导深度学习模型并导致它们产生错误预测[8]。然而,这样的扰动通常是不可逆的,意味着对抗性样本无法通过逆操作恢复到其原始状态,如图1(a)所示。这一限制阻止了数据所有者或授权用户恢复原始信息,这促使了可逆对抗性样本(RAE)的概念[9]的产生。RAE指的是一种不仅通过轻微的输入修改来误导目标模型,而且可以通过特定的逆操作恢复到其原始形式的对抗性样本,如图1(b)所示。通过这种方式,用户可以在开放媒体环境中发布外观自然的对抗性图像,避免被机器学习模型识别,同时在需要时仍能完美恢复原始图像。
关于RAE的研究赋予了对抗性样本新的意义,将其应用范围从攻击性攻击扩展到保护隐私和增强安全性的机制。刘等人[10]利用可逆信息隐藏算法并提出了嵌入可逆扰动来生成RAE,使对抗性样本同时实现攻击效果和可逆性。尹等人[11]引入了一种可逆图像转换框架,通过可逆转换将原始图像伪装成对抗性图像,确保了误分类和可恢复性。后续的工作[12]、[13]、[14]、[15]试图在提高攻击成功率的同时减少可逆对抗性图像的失真。
然而,直接将传统的可逆信息隐藏算法应用于RAE构建往往会加剧这些问题,因为许多经典的信息隐藏方案存在有效载荷容量有限、嵌入痕迹可检测或鲁棒性不足的问题。为了解决这些挑战,本文提出了一种基于卷积模型的无覆盖信息隐藏策略用于RAE生成。与传统的隐写方法不同,我们的方法将神经网络本身视为模型密钥。训练一个授权的密钥模型,使得给定模型密钥和经过最小修改的对抗性图像时,可以可靠地嵌入和提取扰动信息。实际上,只需要对原始对抗性样本进行微妙的更改,必要的扰动与密钥模型相关联,并通过模型驱动的嵌入/提取结合轻量级的可逆隐藏操作来访问。这种范式减少了可见的嵌入痕迹,增加了有效载荷容量,并确保了恢复能力严格依赖于密钥模型的拥有,从而增强了RAE的安全性和实用性。本文的主要贡献如下:
  • (1)
    我们提出了一种生成RAE的新方法,该方法既能欺骗未经授权的深度模型,又能使授权方完美恢复原始图像,有效解决了传统对抗性攻击的不可逆性问题。
  • (2)
    我们没有依赖显式的载体进行可逆嵌入,而是设计了一种基于模型的无覆盖隐藏机制,其中训练好的模型本身充当隐写密钥。这一创新增强了安全性并消除了可见痕迹,显著降低了扰动的可检测性。
  • (3)
    广泛的实验表明,所提出的方法在保持较高感知质量和完全可恢复性的同时,取得了与普通对抗性样本相当的攻击成功率。这些结果突显了该方法在保护隐私和安全关键的人工智能应用中的强大潜力。
  • 相关工作

    对抗性攻击是指故意在输入样本中添加精心设计的扰动,以误导深度学习模型。自从Goodfellow等人[16]提出快速梯度符号方法(FGSM)以来,对抗性样本的生成迅速发展,出现了多种基于梯度、基于优化和基于启发式搜索的方法。通过利用梯度信息,可以高效地生成对抗性样本。

    提出的方案

    为了降低用户媒体信息被无意识别的风险,本节介绍了一种基于深度学习模型的新型可逆对抗性样本生成方法,旨在克服现有可逆对抗性样本技术的局限性。如图2所示,所提出方法的框架包括三个主要阶段:对抗性样本生成、可逆对抗性样本生成和

    实验结果与分析

    本节介绍了实验设置、评估指标和所提出方法的性能,随后是对所提出方法与最先进的RAE生成技术的比较分析。

    结论

    本文提出了一种使用无覆盖模型密钥驱动信息隐藏策略生成可逆对抗性样本的新框架。所提出的方法在确保高视觉保真度和完全可逆性的同时,有效地保持了对抗性攻击的成功率,优于现有的RAE生成方法。实验结果证明了它在攻击能力和感知质量之间的强大平衡,使其适用于保护隐私和安全敏感的应用

    CRediT作者贡献声明

    刘小龙:撰写——原始草稿,验证,项目管理,方法论,概念化。陈阳城:撰写——审阅与编辑,验证,方法论。林思彦:撰写——原始草稿,软件,调查,数据管理。陈书武:撰写——审阅与编辑,验证,监督,资金获取。

    利益冲突声明

    作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文报告的工作。

    致谢

    本工作部分得到了教育部(MOE)人文社会科学项目(项目编号25YJA880044)、福建省校企合作项目(项目编号2024h6007、2024h6030)以及福建省软件技术创新与产业化项目(项目编号2024.488)的资金支持。
    刘小龙于2016年在中国台湾交通大学信息科学与工程学院获得博士学位。他目前是福建农林大学的副教授,研究兴趣包括多媒体安全、深度学习对抗性样本和区块链。
    相关新闻
    生物通微信公众号
    微信
    新浪微博
    • 搜索
    • 国际
    • 国内
    • 人物
    • 产业
    • 热点
    • 科普

    热点排行

      今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

      版权所有 生物通

      Copyright© eBiotrade.com, All Rights Reserved

      联系信箱:

      粤ICP备09063491号