TopicCL：基于主题建模的视觉概念解释

《Pattern Recognition》：TopicCL: Visual concept explanation with topic modeling

　　

•提出了一种名为主题概念学习（TopicCL）的统一无监督概念解释框架。
•设计了一种基于球面柯西分布的超球面概念变分自编码器（C-VAE）来发现视觉概念。
•引入了一种球面消融评分（SAS）方法来量化概念对模型决策的贡献。
•采用平均重建误差（mRE）来评估概念在捕捉预测信息方面的完整性。

引言
得益于深度学习和图形处理单元的进步，视觉神经网络在表示学习任务中取得了显著性能 [1]，[2]。然而，这些网络由一系列嵌套的非线性函数组成，在前向推理过程中表现出黑盒特性，从而难以提供透明的决策过程 [3]。另一方面，随着人工智能（AI）伦理和法规的不断发展，模型可解释性已成为技术开发和实际应用中的基本要求，这使得开发者有必要为用户提供关于模型决策的合理解释 [4]。与此同时，多任务优化最近作为一种有前途的范式出现，它可以在统一框架内联合学习多个相关任务，从而提高优化效率和泛化性能 [5]。这一需求进一步激励了为视觉神经网络开发更灵活、可扩展的概念解释框架 [6]，[7]。

在此背景下，已经提出了各种可解释性方法来揭示视觉神经网络的黑盒行为 [8]，[9]。其中，基于归因的方法，如扰动分析 [10] 和类激活映射 [11]，用于生成显著性热力图，以突出对模型决策有影响的图像区域 [12]，[13]。然而，最近的研究表明，基于归因的方法难以提供有意义的解释 [14]，[15]。近年来，提出了一种更具表现力的视觉可解释性范式，称为基于概念的解释 [16]，[17]。Echterhoff 等人 [18] 将概念瓶颈模型引入自动驾驶，以学习一个人工智能可理解的概念层，用于车辆控制预测和连续驾驶场景的解释。Bie 等人 [19] 提出了一种用于可解释疾病诊断的多模态框架，该框架在图像、令牌和概念层面将医学图像与临床概念对齐，从而提供人类可理解的文本和视觉解释。然而，这些方法仍然依赖于一组预定义的概念，其可解释性受限于专家知识的完整性和准确性，这限制了它们对大规模数据的适用性 [20]，[21]。

为了克服上述挑战，提出了一种名为主题概念学习（TopicCL）的无监督概念解释框架，该框架引入了视觉概念的四个基本属性，即因果性、交互性、一致性和完整性。基于这些原则，设计了一个概念变分自编码器（C-VAE），并通过球面柯西（spCauchy）分布将超球面约束引入潜在空间。与广泛使用的冯米塞斯 - 费雪（vMF）分布相比，spCauchy 分布表现出更重的尾部和更平坦的集中度分布，而 vMF 分布需要计算修正贝塞尔函数进行归一化，这使得它在高维设置中计算成本高昂。因此，可以增强潜在空间的表达能力，并且可以更好地分离异质以及细粒度的视觉概念。此外，由于避免了涉及难处理特殊函数的归一化，可以获得更高效的计算形式。随后，学习的概念通过变分推理在超球面上聚类，从而反映模型的语义偏好。为了量化概念对模型决策的贡献，设计了球面消融评分（SAS）。通过观察在超球面空间中施加切向扰动时模型输出的变化，量化每个概念的重要性。在实验中，提出了一种称为平均重建误差（mRE）的完整性指标，用于衡量概念中包含的预测信息。TopicCL 为 VggNet [22]、ResNet [23]、ViT [24] 和 PVTv2 [25] 生成的概念热力图如图 1 所示。

本文其余部分组织如下。第 2 节回顾了关于主题建模和概念解释的相关工作。第 3 节描述了 TopicCL 的设计过程。第 4 节展示了 TopicCL 在各种定性和定量评估中的实验结果。第 5 节是结论。

章节片段
主题建模
主题建模作为一种统计技术被用于自然语言处理，旨在自动发现文档集合中的潜在主题 [26]。常用方法包括潜在狄利克雷分配（LDA）[27] 和非负矩阵分解（NMF）[28]。LDA 通过假设文档由潜在主题的混合组成来对文档生成过程进行建模，其模型参数通过变分推理或吉布斯采样进行推断 [29]。

TopicCL：提出的方法
在本文中，提出了一种名为主题概念学习（TopicCL）的视觉解释框架，其整体流程如图 2 所示。该框架由三个阶段组成，即概念发现、重要性评分和概念评估。首先，通过骨干网络 G(?) 的前向传播从输入图像 X 中提取激活特征 A，即 A=G(X)。随后，在指定的目标层之后插入一个概念变分自编码器（C-VAE）。

实验
在本节中，进行了一系列定性和定量实验，从连贯性、忠实性、完整性、纯度和可理解性方面评估 TopicCL。实验中采用了四种主流的视觉神经网络，包括 VggNet-19、ResNet-50、ViT-B/16 和 PVTv2-B4。对于所有模型，激活特征均从分类头部之前的层中提取，以确保激活特征包含高级语义信息。

结论
回顾了将主题建模与基于概念的解释相结合的优势，并提出了一种统一且高效的无监督概念解释框架，称为主题概念学习（TopicCL）。TopicCL 引入了概念的四个基本属性，即因果性、交互性、一致性和完整性，并设计了概念变分自编码器（C-VAE）来学习具有语义意义的视觉概念。此外，球面柯西

CRediT 作者贡献声明
史玉龙：写作 - 初稿，可视化，方法论，数据管理，概念化。孙明伟：写作 - 审查与编辑，监督，方法论，资金获取，概念化。陈增强：写作 - 审查与编辑，监督，方法论，数据管理。

利益冲突声明
作者声明他们没有已知的竞争性财务利益或个人关系，这些关系可能被认为会影响本报告的工作。

致谢
这项工作由中国国家自然科学基金（批准号 62473209 和 62073177）资助。

史玉龙 | 孙明伟 | 陈增强