CMFA:跨模型特征对齐技术,用于实现可迁移的3D对抗性攻击

《Neurocomputing》:CMFA: Cross-model feature alignment for transferable 3D adversarial attacks

【字体: 大 中 小 】 时间:2026年05月09日 来源:Neurocomputing 6.5

编辑推荐:

  陈军|李欣?|李崇寿|李天瑞中国四川省成都市西南交通大学计算机与人工智能学院,610031摘要现有的针对3D点云的黑色 box对抗攻击通常依赖于单一的代理模型,这导致了对特定架构特征的过度拟合以及跨架构的可迁移性较差。为了解决这一限制,我们提出了一种新的跨模型代理范式,并引入了跨

  
陈军|李欣?|李崇寿|李天瑞
中国四川省成都市西南交通大学计算机与人工智能学院,610031

摘要

现有的针对3D点云的黑色 box对抗攻击通常依赖于单一的代理模型,这导致了对特定架构特征的过度拟合以及跨架构的可迁移性较差。为了解决这一限制,我们提出了一种新的跨模型代理范式,并引入了跨模型特征对齐(Cross-Model Feature Alignment,简称CMFA)。CMFA结合使用了源模型和一个结构上异构的辅助模型,在优化过程中明确地对齐它们的中间特征表示,从而引导扰动朝着所有架构共有的脆弱子空间发展。我们进一步提出了迁移效率(Transfer Efficiency,简称TE)这一新的评估指标,该指标能够更好地量化多目标攻击的性能。在ModelNet40和ScanObjectNN上的广泛实验表明,我们的方法在各种跨架构设置下始终优于现有的黑色 box攻击方法,验证了其有效性和泛化能力。代码将在接受后公开提供。

引言

深度神经网络(DNN)在3D点云理解任务中取得了显著的成功,并已被广泛应用于安全关键的专家系统中,包括自动驾驶[40]、智能机器人[32]和工业异常检测[20]。然而,大量研究[1]、[15]、[35]表明,DNN对不易察觉的对抗性扰动非常脆弱,这在实际应用中带来了重大的安全风险。在实际攻击场景中,攻击者通常无法访问目标模型的内部参数或梯度,只能通过有限的查询接口与其交互,因此需要采用黑色 box攻击策略。因此,开发具有强大可迁移性的黑色 box攻击方法[6]、[17]对于全面评估和提高3D智能系统的鲁棒性具有理论和实践意义。
如图1所示,当前最先进的基于迁移的黑色 box攻击方法通常依赖于一个单一的代理模型(称为源模型)来生成对抗性样本。然而,由于不同网络架构(如PointNet[18]、DGCNN[25]和PointNet++[19])在特征提取机制上的根本差异,仅在一个源模型上优化的扰动倾向于过度拟合其特定于架构的决策边界和特征表示。因此,当这些扰动转移到结构上不相似的未见目标模型时,其攻击性能会显著下降。
为了解决这些问题,我们提出了一种新的双模型代理范式,该范式结合使用了源模型和一个结构上异构的辅助模型来构建一个更具泛化能力的对抗性扰动空间(见图1)。我们的关键见解是,尽管架构不同,但在识别同一对象类别时,各种模型会激活语义上一致的中间特征。通过在优化过程中明确地对齐它们的特征表示,可以将扰动引导到一个跨架构共享的脆弱子空间,从而显著提高可迁移性。
受此启发,我们提出了跨模型特征对齐(CMFA)。在对抗性优化过程中,CMFA联合传递源模型和辅助模型,并最小化它们选定中间层之间的特征分布距离。由此产生的扰动不会针对模型特定的脆弱性,而是朝着一个共享的语义敏感区域发展,从而增强了可迁移性。然而,强烈的对齐可能会放大几何失真。为了缓解这一问题,我们引入了模型内对齐(Intra-Model Alignment,简称IMFA)作为辅助正则化器,以稳定源模型的内部特征流,并结合 Chamfer 距离正则化来保持几何上的不可察觉性。重要的是,IMFA并非独立组件,而是CMFA的必要补充,用于平衡对齐强度和结构保真度。
此外,为了更好地评估多目标的可迁移性,我们提出了一种新的指标——迁移效率(Transfer Efficiency,简称TE),该指标量化了在多个未见目标模型上的平均攻击效果。本工作的主要贡献如下:
  • •
    我们提出了CMFA,这是一种明确对齐异构代理模型的中间特征以引导扰动朝向共享脆弱区域的方法。
  • •
    我们设计了TE这一新的评估指标,它更准确地反映了基于多目标迁移的攻击的整体性能。
  • •
    我们在ModelNet40和ScanObjectNN上展示了CMFA的优越性,它在这些任务中始终优于现有的黑色 box攻击方法。
  • 部分摘录

    3D点云分类方法

    点云分类是几何深度学习中的一个基础任务,近年来提出了许多代表性架构。PointNet[18]首次通过共享的MLP和全局最大池化实现了从无序点集的端到端学习,以实现排列不变性。PointNet++[19]通过层次化的局部特征聚合扩展了这种方法,用于细粒度的几何建模。后续的研究探索了多种范式:DGCNN[25]使用了动态图

    方法论

    为了提高对抗性样本对未见目标模型的可迁移性,我们提出了跨模型特征对齐(CMFA)策略。如图2所示,CMFA不同于仅依赖于单一源模型的梯度或扰动结构的现有方法,它引入了一个具有异构结构的辅助模型,形成了一个双模型引导框架。核心见解是,尽管架构不同,各种3D网络往往依赖

    实验设置

    数据集。我们在两个公开的3D点云分类基准测试集合上评估了我们的方法:ModelNet40[29]和ScanObjectNN[24]。ModelNet40包含来自40个对象类别的12,311个对齐的CAD模型,通常用于理想化条件下的验证。相比之下,ScanObjectNN由室内场景捕获的真实世界对象组成,这些对象包含了遮挡、背景杂乱和几何不完整等实际挑战,因此提供了更现实的

    结论和社会影响

    在本文中,我们提出了一种新的针对3D点云的黑色 box对抗攻击方法,该方法通过跨模型特征对齐有效提高了可迁移性。我们还引入了一种新的评估指标——迁移效率(Transfer Efficiency,简称TE),以更好地量化跨模型攻击的有效性,而不仅仅是传统的攻击成功率。我们的方法联合优化了两个互补组件:CMFA用于对齐可迁移的特征,以及结合Chamfer正则化的IMFA以保持

    CRediT作者贡献声明

    陈军:撰写——原始草案,验证,方法论。李欣?:方法论,形式分析,概念化。李崇寿:撰写——审阅与编辑,资源协调,概念化。李天瑞:监督,资源获取。

    利益冲突声明

    作者声明他们没有已知的财务利益或个人关系可能会影响本文报告的工作。

    致谢

    该项目部分得到了中国国家自然科学基金(项目编号62202395)和四川省科技计划(项目编号2026YFHZ0077)的支持。
    陈军于2024年获得中国成都西南民大学士学位。他目前正在中国成都西南交通大学攻读硕士学位。他的研究兴趣包括3D点云的鲁棒性、对抗性攻击与防御以及AI安全。
    相关新闻
    生物通微信公众号
    微信
    新浪微博

    热点排行

      今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

      版权所有 生物通

      Copyright© eBiotrade.com, All Rights Reserved

      联系信箱:

      粤ICP备09063491号