对比梯度流解释:通过建模竞争类别提升卷积神经网络判别性归因的方法
《Machine Learning and Knowledge Extraction》:Contrastive Gradient-Flow Interpretation (CGFI): A Composable Operator for Class-Discriminative Explanation of Convolutional Neural Networks
【字体:
大
中
小
】
时间:2026年09月30日
来源:Machine Learning and Knowledge Extraction 8.4
摘要
随着卷积神经网络在安全关键领域的广泛应用,对透明、判别性解释的需求日益迫切。然而,基于梯度的方法(如Grad-CAM)仅针对单一类别得分计算解释,生成的显著性图会激活与竞争类别共享的区域。这一局限性在多类别和细粒度识别场景中尤为严重,非判别性解释降低了方法的实用价值,并阻碍了对模型的可靠审计。本研究通过提出对比梯度流解释(Contrastive Gradient-Flow Interpretation, CGFI)为该领域的知识体系作出贡献。CGFI是一种作用于梯度加权归因图的算子,其应用对比原则——即通过建模"某类别不是什么"来增强判别性——生成具有类别判别性的解释图。CGFI显式建模前K个竞争类别,计算其聚合的梯度归因,并在特征图级别上从目标类别的归因中减去其影响,从而突出预测类别所独有的特征区域。该研究在四个骨干网络(Grad-CAM、Grad-CAM++、XGrad-CAM、Score-CAM)上进行了评估,分别在ResNet-50、VGG-16和VGG-19上测试了有无对比的两种情况。在所评估的1162个图像-骨干网络组合中,CGFI均降低了目标类别与竞争类别之间的排名相关性,并在12个案例中的11个提升了目标概率份额,同时保持了归因的保真度。这些发现表明,对比归因是提高解释特异性的有效机制。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号