多变量时间序列分类的多目标子序列稀疏反事实解释

《Neurocomputing》：Multi-SpaCE: Multi-objective subsequence-based sparse counterfactual explanations for multivariate time series classification

　　

深度学习（Deep Learning）系统在复杂任务中表现出色，但往往缺乏透明度，阻碍了其在关键应用中的使用。反事实解释（CFEs）作为可解释人工智能（XAI）的核心工具，通过识别改变模型预测结果的最小输入变化来提供对模型决策的洞察。然而，由于单变量假设、对修改的刚性约束或缺乏有效性强制机制，现有的时间序列数据方法在现实问题中仍存在有限的应用。本文引入了多目标子序列稀疏反事实解释，这是一种用于多变量时间序列分类的新型多目标反事实解释方法。使用带精英保留的非支配排序遗传算法II（NSGA-II）和定制的子序列变异算子，该方法提供了一个帕累托前沿解集，实现了满足不同最终用户需求的灵活性。至关重要的是，通过对无效候选解的惩罚以及强制反事实解释有效性的重新初始化机制，确保了解释的有效性。在UCR/UEA存储库的多样化数据集上进行的综合实验表明，该方法能够在多变量设置下提供有效的反事实解释，并且在多个评估指标上取得了与现有方法相比具有竞争力的性能。

深度学习在医疗、金融和制造业等众多行业中日益普及，但其“黑盒”特性导致决策缺乏透明度，严重阻碍了其在高风险应用中的部署。为了解决该问题，可解释人工智能（XAI）应运而生，其中反事实解释（CFEs）因与人类认知过程一致而备受关注。CFEs通过寻找改变原输入实例预测结果所需的最小变化来探索“假设”场景。然而，现有的时间序列CFEs生成方法普遍面临三大局限性：第一，多数方法受限于单变量假设，无法应对真实世界中常见的多变量时间序列；第二，它们往往强制执行单一或固定长度子序列的刚性约束，限制了其在复杂场景下的灵活性；第三，现有方法通常将有效性仅视为一个优化目标而非严格的约束条件，缺乏明确的有效性强制机制，导致生成的解释无法真正改变预测结果。基于上述问题，开展本研究旨在提出一种能够同时处理多变量数据、平衡多目标冲突且严格保证有效性的新方法。

为此，研究人员提出了一种名为多目标子序列稀疏反事实解释的方法，并得出结论：该方法能够同时支持多变量时间序列，采用帕累托多目标优化以应对不同约束，并具备显式的有效性强制机制。这一研究成果发表在《Neurocomputing》期刊上，其重要意义在于首次在时间序列分类领域联合实现了上述三项实际应用所需的关键属性，大幅提升了人工智能模型在实际应用中的可解释性、可信度及适用性。

在关键技术方法方面，研究人员采用了基于非支配排序遗传算法II（NSGA-II）的多目标优化框架来生成反事实解释。该方法通过构建一个二进制变化掩码，指出原始数据被最近异类邻居（NUN）替换的位置。优化过程综合考虑了目标类别概率、稀疏性、连续性和似然性四个目标。在搜索过程中，设计了针对时间序列的子序列扩展、压缩和修剪变异算子以确保变化的连续性。同时，引入了随机惩罚项和重新初始化机制以严格保证生成反事实解释的有效性。样本队列来源于公开的UCR/UEA时间序列分类库存库数据集以及PTB诊断心电图（ECG）数据库。

研究结果如下：
1. 问题形式化
通过将反事实生成转化为基于掩码的有效性约束多目标搜索问题，研究人员证明了通过应用足够大的惩罚项，可以使无效解系统性地被有效解支配，从而在理论上保证了帕累托前沿的最优解必定是有效的反事实解释。

2. 掩码结构
研究人员提出了共用掩码和独立掩码两种参数化形式。共用掩码在所有通道间共享，促进了时间相干的多通道编辑并减少了决策变量；独立掩码为每个时间通道对分配独立决策，提供了修改的灵活性。该方法结合两者优势，先利用共用掩码引导时间相干的候选区域，再利用独立掩码进行特定通道的细化。

3. 多目标效用函数与优化
通过将期望类别概率、稀疏性、连续性和似然性形式化为四个优化目标，并在每个目标中加入有效性惩罚项。使用NSGA-II算法进行求解时发现，该算法能随迭代更新帕累托前沿的近似值，无需预先固定各目标的权重。此外，当在前G次迭代中未达到有效性时，重新初始化机制会提高激活率并重启优化，从而确保最终至少返回一个有效的反事实解释。

4. 实验设置与主结果
在有效性方面，通过在多变量及单变量数据集上的广泛实验得出结论：Multi-SpaCE是唯一能在所有多变量数据集实例中持续提供有效反事实的方法。在其余指标上，虽然某些基线方法在特定指标上表现优异，但往往伴随极低的有效性；而Multi-SpaCE在确保完全有效性的前提下，在近似度、似然性、稀疏性、连续性及其权衡综合指标上均表现出极具竞争力的稳定平均排名。

5. 执行时间与消融研究
实验表明，Multi-SpaCE在执行时间上优于大多数基线方法，且随输入维度的增加表现出良好的扩展性。消融研究证实，中等程度的扩展、压缩和修剪变异概率能产生最佳的反事实质量；增加种群大小和迭代次数可提升解的质量；引入仅包含修剪的最终细化阶段比单纯增加主优化阶段时更能有效提升稀疏性与连续性。

6. 应用案例：心电图心肌梗死检测
在使用15导联ECG信号检测心肌梗死的应用中，Multi-SpaCE生成的反事实解释成功将修改集中在QRS波群和T波等符合临床预期的症状区域。形态学统计分析证实，健康到心梗的转换主要表现为T波峰、面积和凸起下降及S-T段水平上升；心梗到健康的转换则表现为Q波振幅下降及T波峰、凸起与R峰的上升。这表明该方法能够有效暴露与疾病相关的预期症状。

最后，在讨论与结论部分，研究人员总结了Multi-SpaCE的核心贡献并指出了当前存在的局限与未来方向。结论表明，Multi-SpaCE作为一种新型多目标方法，通过显式强制有效性机制，成功生成了保持有效的帕累托解释集。实验证明其能在单变量和多变量设置中持续提供有效的反事实解释，同时保持各项指标竞争力的同时解决现有方法的局限性。然而，该方法也存在一定局限：首先，其高度依赖最近异类邻居（NUN）的典型性与代表性，若NUN异常则可能将不良模式遗传给反事实解释；其次，当前反事实解释的评估协议多仅计算有效解释的指标，可能偏袒低有效性的方法；再次，其计算成本在处理高维数据时仍是一个挑战；最后，该方法还需依赖辅助似然性模型，并尚未探索时间序列数据中的因果感知反事实解释。未来的研究应重点关注更鲁棒的NUN选择策略、联合考量质量与可靠性的评估协议、更高效的搜索策略以及因果可解释性方向。