基于稀疏自编码器的运动想象脑电解码模型可解释性机制分析框架

《Machine Learning and Knowledge Extraction》：Interpretability of EEG Models via Sparse Autoencoders

　　

摘要专业翻译 深度神经解码器在基于脑电（EEG）的运动想象（MI）脑机接口（BCI）中已展现出强劲性能，但其内部表征仍难以解释，限制了神经科学洞见与模型可审计性。本文提出一种机制可解释性框架，利用稀疏自编码器（SAEs）分解MI-EEG解码器的潜在表征，并以代表性解码器CIACNet为实例，研究单个稀疏特征是否编码左手与右手运动想象中具有生理意义且因果有效的关联特征。研究人员首先利用训练会话（Session-T）数据确立受试者能力，随后在保留队列的合并Session-T数据上联合训练一个共享编码器，以获得通用的跨受试者潜在表征。继而训练一个无标签Top-K稀疏自编码器，将该表征分解为稀疏特征字典。候选特征通过汇聚性证据进行解释，涵盖判别选择性、跨受试者一致性、感觉运动节律生理学与对侧拓扑结构、因果干预、语义特异性，以及在评估会话（Session-E）上的留出跨会话特征级复现。通过整合上述互补证据链，所提可解释性框架将解码器内部表征与其判别作用、因果影响及潜在感觉运动生理学联系起来。在该证据链上获得支持的特征被认定为生理一致且功能相关的MI表征。由此获得的频谱、空间及因果刻画，为从潜在特征发现到深度EEG模型机制理解提供了系统化路径。上述发现支持所提Top-K稀疏自编码器框架用于MI-EEG表征机制分析的可行性，但并不意味着其优于其他分解方法或稀疏自编码器配置。研究结果凸显了稀疏自编码器在开发不仅具有预测能力、而且可解释、生理一致且跨受试者与跨会话可审计的EEG-BCI解码器方面的潜力。

论文解读文章

一、研究背景与问题

脑机接口（BCI）为神经活动与外部系统之间提供了直接通路，在运动或交流功能受损个体中具有重要应用前景。在非侵入式BCI范式中，基于脑电（EEG）的运动想象（MI）已被广泛研究，应用于通信接口、光标控制、假肢、机器人系统及运动康复等领域。运动想象会引起感觉运动振荡活动的特征性变化，最显著的是在μ节律（约8–12 Hz）和β节律（约13–30 Hz）频段内的事件相关去同步与同步（ERD/ERS），且通常呈现对侧感觉运动组织模式。这些已确立的频谱与空间特征为理解MI-BCI解码器如何处理EEG信号提供了重要的生理参考点。

然而，可靠的MI解码仍面临挑战，因为头皮EEG噪声大、空间分辨率有限，且存在显著的受试者间与会话间变异性。传统方法如共空间模式（CSP）和滤波器组共空间模式（FBCSP）显式提取判别性空间与频谱特征。近年来，深度神经网络通过直接从记录信号中学习判别性表征，显著推进了EEG解码。但深度模型表征能力的提升以可解释性为代价——解码器可能可靠地区分左手与右手运动想象，却几乎无法揭示其内部表征编码了什么，也无法说明其决策是否依赖有生理意义的感觉运动活动而非噪声、伪迹或会话特异性关联。

现有可解释人工智能（XAI）方法提供了有用但不完整的答案。输入归因方法如LIME、SHAP、Grad-CAM和层间相关性传播（LRP）可以识别与预测相关的EEG通道、时间区域或信号成分，但主要解释预测信息在输入中的位置，而非在网络内部如何被表征和利用。归因本身也不能确立某个表征对模型行为具有因果贡献，且其解释对方法学选择敏感。

机制可解释性提供了互补视角，通过检查训练后神经网络的内部表征与计算来理解模型。核心挑战是叠加问题：神经网络可将多个特征编码为激活空间中的重叠方向，导致单个神经元或潜在维度呈现多语义行为。稀疏自编码器（SAEs）通过从稀疏的字典特征集合中重建密集网络激活，为解决该问题提供了有前景的途径。尽管SAEs在机制可解释性中的应用日益增多，但其在理解深度EEG解码器方面的潜力仍未得到充分探索。EEG还提出了独特的可解释性挑战：潜在特征不应仅因其与类别标签相关就被视为有意义。对于MI解码器，更强的证据要求特征具有判别性、跨受试者可复现、与已确立的感觉运动频谱和空间生理学一致、对解码器行为具有因果参与、语义特异，且能跨记录会话独立复现。

二、研究内容与结论

针对上述问题，研究人员开发了一个模型无关的、基于SAE的MI-EEG解码器机制可解释性框架，以CIACNet为实例。研究首先确立可靠的受试者依赖解码，并在选定受试者间学习共享潜在表征。无标签Top-K SAE将该表征分解为稀疏特征字典。候选特征使用预设标准进行评估，涵盖判别选择性、跨受试者一致性、感觉运动节律生理学与对侧拓扑结构、受控潜在干预、语义特异性及跨会话复现。这些标准首先应用于Session-T数据，通过包含统计类别选择性与跨受试者一致性、受控模型内抑制与引导、基于μ节律活动及对侧C3/C4组织的方向性感觉运动生理一致性的顺序流水线。在完成发现与机制刻画阶段后，共享CIACNet编码器、表征标准化参数、SAE检查点、保留特征身份、偏好类别方向及评估规则在检查Session-E数据之前被冻结。冻结流水线随后仅应用一次于Session-E，进行留出跨会话特征级复现，不进行任何模型重训练。

研究得出以下主要结论：在BCI IV-2a和IV-2b两个数据集中，八个受试者满足能力标准，而受试者2不满足。共享CIACNet表征在留出受试者上保留了可迁移的MI判别信息。Top-K SAE字典满足所有健康标准，解释了99.2%的方差，重建MSE为0.0425，所有96个特征均被利用且冗余度有限。在特征解释方面，96个SAE特征经FDR校正后86个显著，经严格类别选择性标准后保留40个，最终仅4个特征（F0003、F0020、F0070和F0078）满足方向性生理一致性。在因果干预方面，BCI IV-2a中所有四个保留特征在抑制和引导下均显示显著效应，F0020效应最大。BCI IV-2b中八个报告特征均显示显著双向模式。在方向性生理学方面，BCI IV-2a中所有四个保留特征均显示显著的μ频带方向性耦合，而β频带测试不显著；BCI IV-2b中μ频带支持仍占主导，部分特征额外显示显著β频带参与。空间拓扑图显示右手指向特征F0003在左感觉运动区有更强抑制，而左手指向特征F0020、F0070和F0078在右感觉运动区有更强抑制，与MI相关感觉运动活动的预期对侧组织一致。

三、关键技术与方法

研究采用的主要技术方法包括：（1）CIACNet解码器，一种集成多尺度卷积特征提取、通道与时间注意力的轻量级深度网络，用于学习96维试次级潜在表征；（2）受试者能力评估，使用Session-T上的受试者内K折交叉验证获得袋外预测，通过精确条件随机化检验和Benjamini–Hochberg错误发现率（BH-FDR）校正确定能力队列；（3）共享编码器训练，在能力受试者的合并Session-T数据上从头训练，获得通用跨受试者潜在空间，并通过受试者不相交四折验证评估表征质量；（4）Top-K稀疏自编码器（SAE），采用96维字典和K=16稀疏约束，配合死特征恢复辅助损失，将共享表征分解为稀疏特征字典；（5）特征解释流水线，包括类别选择性分析（AUROC、留一受试者法LOSO AUROC、Cohen's d）、因果干预（潜在抑制与剂量分级引导）、对侧频率定位（Welch功率谱密度与Spearman相关）、方向性生理学分析（对侧-同侧偏侧化相关与置换检验）。数据来源为BCI Competition IV-2a（22通道，9受试者）和IV-2b（3双极通道C3/Cz/C4，9受试者）两个公开数据集，Session-T用于模型开发与特征发现，Session-E保留用于冻结跨会话复现。

四、结果分述

MI-EEG解码性能：在Session-T上独立开发每个受试者的CIACNet解码器，使用交叉验证袋外预测评估受试者级解码可靠性。两个数据集中九个受试者中的八个满足能力标准，受试者2未满足。能力队列在Session-E检查前固定。

共享表征结果：共享CIACNet表征在留出受试者上保留了可迁移的MI判别信息。BCI IV-2a中线性探针平均平衡准确率为65.9%，神经头提升至71.5%；BCI IV-2b中分别为70.0%和73.9%。

SAE字典健康：字典解释了99.2%的原始共享表征方差，重建MSE为0.0425，每试次平均16个活跃特征。所有96个字典特征均被利用，无死亡、近死亡或始终活跃的特征。最大绝对余弦相似度均值远低于冗余边界。

类别选择性结果：96个SAE特征经FDR校正后86个显著，经严格类别选择性标准联合应用后保留40个，经方向性生理一致性阶段后最终保留4个特征。保留特征的定向AUROC在BCI IV-2a中介于0.86至0.90之间，BCI IV-2b中介于0.82至0.88之间，LOSO AUROC与合并估计接近，受试者方向一致性高。

因果干预结果：BCI IV-2a中四个保留特征在抑制和引导下均显示显著双向证据。F0020效应最大，抑制效应为-0.082，引导效应为0.098。BCI IV-2b中八个特征均显示显著效应，但幅度差异较大。效应幅度异质性表明各特征的功能贡献强度不同。

对侧频率定位结果：Morlet时频图显示保留特征在提示后μ频段（8–12 Hz）出现显著功率降低，β频段抑制较弱且不一致，符合运动想象感觉运动生理学特征。

方向性生理学结果：BCI IV-2a中四个保留特征均显示显著μ频带方向性耦合，β频带不显著。BCI IV-2b中μ频带支持占主导，部分特征额外显示β频带参与。μ频带ERD拓扑图显示清晰的对侧感觉运动模式，右手指向特征在左感觉运动区有更强抑制，左手指向特征在右感觉运动区有更强抑制。

五、讨论与结论

讨论部分指出，四个保留特征不应被解释为CIACNet表征的完整机制说明，而是代表在当前统计与生理评估标准下获得最强支持的特征子集。未保留特征不一定无关或无信息，其生理解释在当前框架下仍未解决。因果干预的统计显著性不一定意味着大的实际效应，干预结果应结合效应幅度、置信区间、跨受试者一致性和BH-FDR校正统计证据联合解释，支持对相应机制发现的谨慎解读。框架将SAE用作稀疏且可审计的表征，用于统计刻画、模型内干预、生理评估和跨会话复现，不应被解释为优于其他潜在空间分解方法或完全解决叠加问题。

研究结论部分可翻译为：本文提出了一种基于稀疏自编码器的机制可解释性框架，用于分解MI-EEG解码器的潜在表征，并以CIACNet为实例进行了系统验证。通过将统计关联、因果影响与生理解释分离，框架实现了对任务受限的可解释MI特征的保守识别。研究将潜在解码器表征与可复现的频谱、空间和因果感觉运动特征联系起来，将EEG模型解释从事后归因推进到对深度EEG解码器所学内容及其表征如何促成决策的机制一致性理解。研究结果支持所提Top-K SAE框架用于MI-EEG表征机制分析的可行性，凸显了SAEs在开发不仅具有预测能力、而且可解释、生理一致且跨受试者与跨会话可审计的EEG-BCI解码器方面的潜力。