融合记忆卷积网络的向量自回归Transformer用于可解释的端到端癫痫预测

《Neural Networks》：Enhancing Vector Autoregressive Transformer with Memory Convolutional Network for Explainable End-to-End Seizure Prediction

　　

摘要：准确早期预测癫痫发作对于改善患者预后至关重要，但由于显著的患者异质性，这仍然具有挑战性，这往往导致现有方法中的特征表示不充分和可解释性有限。为解决这些问题，本研究提出了一种新型的记忆卷积网络增强的向量自回归变换器（MemConvVAT），用于端到端癫痫发作预测。该模型主要由两个组件组成：向量自回归变换器（VAT）和记忆卷积网络（MemConv）。具体而言，VAT通过重构数据流将多层变换器与向量自回归（VAR）对齐，同时引入路径剪枝和快捷连接以保持计算效率。此外，它通过引入跨层时间影响路径来增强复杂时间依赖关系的建模，实现多步信息的动态聚合，并产生潜在可解释的、可分解的神经通路。另一方面，MemConv采用外部记忆机制动态存储和检索与输入相关的原型特征。该设计克服了传统卷积网络有限的感受野，赋予模型全局模式匹配和特征关联能力。值得注意的是，通过对比发作前和发作间期状态的特征演化，并结合系统性的特征消融分析，本研究为改善深度学习的可解释性提供了有价值的视角。在患者内实验中，MemConvVAT在CHB-MIT和SWEC-ETHZ数据集上都实现了超过90%的准确率，模型性能在多个关键指标上与当前最先进方法相当。我们的实现在 https://github.com/JW-Image/MemConvVAT 公开提供。

引言：癫痫是一种影响全球超过5000万人的慢性神经系统疾病（Y. Liu, Liu, Wu, & Tin, 2025; S, S, Mohan, & K.P, 2024），主要表现为由大脑异常神经元放电引起的发作，导致短暂性神经功能障碍（Deng, et al., 2025; Vieluf, Hasija, Kuschel, Reinsberger, & Loddenkemper, 2023）。这些发作可由急性结构损伤（如脑出血）或全身性紊乱（包括感染和代谢失衡）在临床上诱发（Lehnertz, Br?hl, & Wrede, 2023）。除了发作本身，癫痫对患者的负担还包括治疗相关不良反应和生活方式限制（包括驾驶和就业限制）。虽然抗癫痫药物的应用显著改善了患者预后，但大约30%到40%的患者会发展为难治性癫痫（Affes, Mdhaffar, Triki, Jmaiel, & Freisleben, 2022; Y. Sun, et al., 2025; Y. Xu, Yang, Ming, Wang, & Sawan, 2024）。这一显著的治疗差距突出了早期发作预测的临床紧迫性。准确高效的发作预测可以促进针对性干预，潜在地降低并发症风险。作为癫痫诊断的金标准，脑电图（EEG）在癫痫发作预测中发挥着不可或缺的作用（Anita & Meena Kowshalya, 2024; L. He, et al., 2025; N, Hait, Guha, & Mahadevappa, 2024）。然而，现有的预测模型通常面临特征表示不足和可解释性有限的双重挑战，这严重限制了其临床可信度和更广泛的应用（Borhade, Bangare, Bangare, Apare, & More, 2025; S. Wang, et al., 2024; Zhang, et al., 2025）。

在癫痫发作预测领域的最新进展显示出基于机器学习的计算机辅助系统在通过分析EEG信号提供早期预警方面的潜力。这些系统通常采用支持向量机（SVMs）（Qureshi & Kaleem, 2022; Y. Wang, et al., 2024）、贝叶斯分类器（Chuanyu Li, et al., 2025）或随机森林（RFs）（Alickovic, Kevric, & Subasi, 2018; Y. Liu, et al., 2024）等分类器，结合复杂的预处理方案来实现准确的信号分类。然而，当应用于大规模临床数据时，它们对预定义特征集的高度依赖往往导致性能下降，这主要是由患者间数据变异性引起的。这种对手动特征学习的依赖尤为成问题；鉴于癫痫EEG信号固有的复杂动态耦合，这不仅引入了主观性，还限制了其在现实临床环境中的实际效用（Hong, et al., 2025）。因此，迫切需要开发增强泛化能力和临床适用性的端到端学习框架。值得注意的是，这些系统并非旨在取代临床决策，而是作为补充工具来改善癫痫诊断和治疗结果。

深度学习（DL）在计算机视觉（CV）、自然语言处理（NLP）和医学图像分析等领域的成功应用为癫痫发作预测的临床转化提供了关键技术支持（Haotian Li, et al., 2024）。通过利用端到端自适应学习，DL克服了传统机器学习在特征表示方面的局限性。当前基于DL的预测算法主要依赖三种架构：卷积神经网络（CNNs）（Deng, et al., 2023; G. Liu, Tian, Wen, Yu, & Zhou, 2024）、循环神经网络（RNNs）（Rukhsar & Tiwari, 2025; Shanmugam & Dharmar, 2024）和变换器。虽然CNN和RNN已被证明在EEG识别中有效，但它们主要采用的线性堆叠往往无法捕获EEG信号中固有的复杂动态耦合特征。数据属性与模型架构之间的这种不匹配可能导致关键神经信息在特征编码过程中的非线性衰减，最终损害模型性能。

利用其自注意力机制，变换器（Bhattacharya, Baweja, & Karri, 2022; Rukhsar & Tiwari, 2023）有效克服了传统CNN（局部感受野（Ein Shoka, Dessouky, El-Sayed, & El-Din Hemdan, 2023））和RNN（梯度消失/爆炸（Z. He, Yang, Alroobaea, & Yee Por, 2024））的局限性，从而显著改善了长程依赖关系建模。在此背景下，变换器越来越多地应用于癫痫发作预测，并在模型架构优化方面取得了显著进展。例如，Deng等人提出了HVIT-DUL（Deng, et al., 2023），一种基于视觉变换器（ViT）的模型，该模型纳入了数据不确定性学习，通过捕获EEG信号中的分布不确定性来增强鲁棒性。此外，Li等人开发了TConv-ViT，将时间卷积与ViT集成（Z. Li, et al., 2026），而Peng等人引入了基于Kolmogorov-Arnold网络（KAN）的记忆增强ViT KAN-MemViT（Peng, et al., 2026）。这两种方法将CNN或KAN的局部特征学习能力与ViT在建模长程依赖关系方面的优势相结合，以提高模型泛化能力。值得注意的是，Dong等人设计的多尺度时空注意力网络（MSAN）（Q. Dong, Zhang, Xiao, & Sun, 2025）和Shi等人提出的广注意力机制（S. L. Shi & Liu, 2024）都有助于降低误报率。与此同时，Wang等人引入了一种基于多分支动态多图卷积的通道加权变换器特征融合网络（MBdMGC-CWTFFNet），用于高效的发作预测（Yifan Wang, et al., 2023）。尽管具有强大的序列建模能力，但变换器的临床转化面临重大障碍，即其注意力机制的二次计算复杂度和决策过程的有限可解释性。

在使用自回归机制的癫痫EEG研究中，线性注意力机制有时表现出优于原始注意力机制的性能。然而，更深的变换器架构往往偏离自回归原则，这不仅模糊了线性注意力的内在向量自回归特性，还限制了其在EEG特征提取中的有效性。为解决这一问题，我们提出了一种记忆卷积网络增强的向量自回归变换器（MemConvVAT），用于端到端癫痫发作预测。该模型由两个核心组件组成：向量自回归变换器（VAT）和记忆卷积网络（MemConv）。具体而言，VAT通过重新设计数据流将多层变换器操作与向量自回归（VAR）对齐，同时引入路径剪枝和快捷连接以保持计算效率。它还通过时间影响路径增强复杂时间依赖关系的建模，动态聚合多步信息，并将网络操作分解为可解释的路由组合。相反，MemConv模块采用外部记忆机制动态存储和检索与输入相关的原型特征。这种方法克服了CNN有限的感受野，并实现了鲁棒的模式匹配和全局特征关联。值得注意的是，通过对比发作前和发作间期状态的特征演化，并结合系统性特征消融分析，本研究为改善深度学习的可解释性提供了有价值的视角。

总之，本研究的主要贡献如下：
1. 本研究提出了一种新型的记忆卷积网络增强的向量自回归变换器（MemConvVAT），用于端到端癫痫发作预测。
2. VAT通过数据流重构将多层变换器与VAR集成，采用路径剪枝和快捷连接以保持计算效率。通过捕获跨层的复杂时间变化关系，它显式地将神经网络操作分解为可解释的路径组合。
3. MemConv模块采用外部记忆机制动态存储和检索与输入相关的原型特征。该设计缓解了CNN固有的有限感受野，同时增强了模式匹配和全局特征关联。
4. 本研究引入了两种可解释策略：联合特征可视化策略和高效特征消融分析，以改善深度学习的可解释性。

片段

整体框架
如图1所示，MemConvVAT架构集成了两个关键组件：VAT和MemConv。具体而言，VAT通过数据流重构将多层变换器与VAR对齐，从而在层间建立时间影响通路，实现对信息随时间的动态聚合。为保持效率，该模块还采用路径剪枝和快捷连接，在不损害特征学习的情况下降低计算复杂度。MemConv

发作间期和发作前状态的定义
为增强MemConvVAT的临床适用性，本研究根据国际抗癫痫联盟（ILAE）指南（图7）定义了两个关键时间窗口：1分钟的发作预测时间窗（SPH），以确保充足的临床干预时间；以及30分钟的发作发生期（SOP），旨在减少因长时间预期而可能引起的患者焦虑（Deng, et al., 2025; Y. Shi, et al., 2024）。

CHB-MIT数据集
CHB-MIT头皮EEG数据集（Dissanayake,

讨论
为了解决当前基于深度学习的癫痫发作预测方法的局限性，包括特征表示不足和模型可解释性有限，本研究提出了一种集成向量自回归变换器和记忆卷积网络的端到端预测框架。核心创新并不在于对CNN、注意力机制和记忆模块的简单组合，这已在时间序列分析和计算机视觉中得到广泛探索。

结论
本研究提出了MemConvVAT，一种集成记忆卷积网络和向量自回归变换器的端到端发作预测模型。为改善可解释性，该模型通过对比发作间期和发作前状态的特征演化模式来解决深度学习在临床环境中的"黑箱"问题。具体而言，VAT通过重构数据流将多层变换器与VAR模型对齐，并引入路径剪枝和快捷连接。

CRediT作者贡献声明
Jie Wang：撰写—初稿，验证，可视化，方法学，软件，数据管理。
Yingchao Wang：撰写—审阅与编辑，验证，可视化，方法学，软件。
Yan Leng：撰写—审阅与编辑。
Jianping Qiao：撰写—审阅与编辑，监督。
Weiwei Nie：撰写—审阅与编辑，监督。
Qi Yuan：撰写—审阅与编辑，监督，资金获取，资源，项目管理。

数据可用性
数据可根据要求提供。

CRediT作者贡献声明
Jie Wang：撰写—初稿，可视化，验证，软件，方法学，数据管理。
Yingchao Wang：撰写—审阅与编辑，可视化，验证，软件，方法学。
Yan Leng：撰写—审阅与编辑。
Jianping Qiao：撰写—审阅与编辑，监督。
Weiwei Nie：撰写—审阅与编辑，监督。
Qi Yuan：撰写—审阅与编辑，监督，资源，项目管理，资金获取。

利益冲突声明
作者声明他们没有已知的竞争性经济利益或个人关系可能影响本文报道的工作。

致谢
本工作得到山东省自然科学基金（编号：ZR2023MF068, ZR2021MH252和ZR2025MS1040）以及山东省千佛山医院国家自然科学基金培育基金（编号：QYPY2021NSFC0802）的共同支持。

Jie Wang | Yingchao Wang | Yan Leng | Jianping Qiao | Weiwei Nie | Qi Yuan