对比梯度流解释:通过建模竞争类别提升卷积神经网络判别性归因的方法

《Machine Learning and Knowledge Extraction》:Contrastive Gradient-Flow Interpretation (CGFI): A Composable Operator for Class-Discriminative Explanation of Convolutional Neural Networks

【字体: 大 中 小 】 时间:2026年09月30日 来源:Machine Learning and Knowledge Extraction 8.4

编辑推荐:

   摘要

  

摘要

随着卷积神经网络在安全关键领域的广泛应用,对透明、判别性解释的需求日益迫切。然而,基于梯度的方法(如Grad-CAM)仅针对单一类别得分计算解释,生成的显著性图会激活与竞争类别共享的区域。这一局限性在多类别和细粒度识别场景中尤为严重,非判别性解释降低了方法的实用价值,并阻碍了对模型的可靠审计。本研究通过提出对比梯度流解释(Contrastive Gradient-Flow Interpretation, CGFI)为该领域的知识体系作出贡献。CGFI是一种作用于梯度加权归因图的算子,其应用对比原则——即通过建模"某类别不是什么"来增强判别性——生成具有类别判别性的解释图。CGFI显式建模前K个竞争类别,计算其聚合的梯度归因,并在特征图级别上从目标类别的归因中减去其影响,从而突出预测类别所独有的特征区域。该研究在四个骨干网络(Grad-CAM、Grad-CAM++、XGrad-CAM、Score-CAM)上进行了评估,分别在ResNet-50、VGG-16和VGG-19上测试了有无对比的两种情况。在所评估的1162个图像-骨干网络组合中,CGFI均降低了目标类别与竞争类别之间的排名相关性,并在12个案例中的11个提升了目标概率份额,同时保持了归因的保真度。这些发现表明,对比归因是提高解释特异性的有效机制。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号