多变量时间序列预测是众多关键领域的基础性任务,其应用范围从预测金融市场中的价格波动[1]、气象系统中的温度湿度变化[2],到工业互联网中的设备状态监测和能耗管理[3]。该领域的核心难点在于其双重动态特性:即每个变量本身包含复杂的非线性时序依赖性的序列内动态,以及不同变量之间复杂的、随时间变化的交互作用的序列间依赖性[4]。如果不能同时对这两种动态进行建模,预测性能将会受到极大限制。因此,设计一种能够有效捕捉这两种动态的模型,已成为时间序列预测领域的关键挑战[5]。
为应对这一挑战,研究范式逐渐从传统的统计模型转向深度学习架构。ARIMA[6]和VAR[7]等传统方法擅长线性建模,但在面对现实世界中普遍存在的非线性模式时力不从心[8]。以长短期记忆网络[LSTM][9],[10],[11],[12]和门控循环单元[GRU][13],[14]为代表的深度学习方法在一定程度上解决了这一问题。然而,它们在处理长序列预测任务时容易面临梯度消失和长期记忆丢失的问题[15]。
近年来,基于注意力机制的Transformer模型[16],[17]已成为该领域最前沿且强大的方法之一[18]。Informer[19]和Autoformer[20]等一系列优秀变体相继出现,推动了多变量时间序列预测的发展。尽管这些基于Transformer的模型取得了显著成果,但它们仍存在若干共同问题:(1)计算复杂度高:核心的自注意力机制具有二次方级复杂度,在处理极长序列时会成为计算瓶颈,限制了模型的扩展性[21]。(2)对局部信息不敏感:虽然全局注意力擅长捕捉长距离依赖关系,但有时会忽视对局部细粒度模式的精准建模[22]。(3)缺乏时间归纳偏差:Transformer并非为序列数据而设计,其优异性能严重依赖于复杂的位置编码和大量训练数据[23],且缺乏针对时间序列固有特性(如季节性和趋势)的结构设计[24]。总之,尽管现有的深度学习模型在多变量时间序列预测方面取得了很大进展,但在更高效、更稳健地建模复杂时变依赖关系,以及探索超越主流范式的新型计算架构方面,仍有很大研究空间[25]。
上述问题促使人们需要探索新的计算范式。膜计算[26]是一种受生物细胞结构和功能启发的分布式并行计算模型,为这一领域提供了新的视角。在这一框架下,数值脉冲神经P系统[27]与多变量时间序列预测的双重动态特性有着高度的结构契合性。具体而言,NSNP核心单元的灵活性使得建模复杂的序列内动态成为可能。与传统具有固定归纳偏见的深度学习层不同,NSNP中的“神经元”拥有任意的“生产函数”[28]。这一理论特性使得我们可以构建出能够捕捉单个序列中多种非线性时序模式的自适应、可学习运算符。同时,针对单通道表征的稳健性问题,该系统通过其固有的并行演化机制提供了解决方案。通过模拟对象在多个膜层间的多步演化和参数共享,该系统为在通道无关范式下构建结构化特征集合提供了严谨的理论框架,有效克服了单一参数空间的表征限制。因此,NSNP不仅仅是一种并行计算模型,更是一种专为提取稳健的序列内动态、构建结构化集合以有效抑制变量间噪声而设计的范式。
然而,尽管膜计算是一种极具前景的计算范式,其在时间序列预测领域的应用仍处于初期阶段[29]。一些研究,如将非线性脉冲神经P系统与储层计算相结合的RC-NSNP模型[30],以及与信号处理技术相整合的NSNP-NSST模型[31],已在特定数据集上取得了初步成功[32]。不过,这些研究通常存在两个主要局限:(1)它们大多聚焦于单变量或小规模任务,缺乏在主流多变量时间序列预测基准数据集上的系统验证[30],[31],[32],[33],因此难以根据相同标准将它们的性能与现代深度学习模型进行直接比较。(2)这些模型的性能尚未与iTransformer[34]和PatchTST[35]等最先进模型进行过对比测试。综合来看,这种强大的生物启发式范式——膜计算的真正潜力,在现代多变量长序列预测领域还有待进一步探索和验证。
鉴于上述问题,本文旨在全面验证膜计算在主流多变量时间序列预测框架中的应用潜力。我们提出了数值脉冲神经P系统驱动网络(NSNP-Net),该模型对NSNP系统的核心理论进行了现代化改造,并专为多变量时间序列的双重动态特性而设计。其主要贡献如下:
- •
验证膜计算模型在多变量时间序列预测范式中的最先进潜力:我们提出了一种基于膜计算理论的新型预测架构,通过在主流多变量时间序列预测基准数据集上的严格测试,证明其性能能够全面媲美甚至超越当前最先进的基线模型。
- •
通过向量化生产函数设计序列内动态模块:我们将NSNP理论中的抽象“生产函数”转化为一组可学习的“时序模式向量”,从而高效捕捉单个时间序列中的复杂动态。
- •
提出高效的循环通道排列和多步结构集成机制:受膜计算中并行演化概念的启发,我们设计了一种新颖的循环移位演化机制。该机制巧妙地将通道无关范式与多膜层架构相结合,通过让单个时间序列变量在具有不同初始值的多个膜系统间传递,有效避免了变量间噪声的干扰,进而显著提升了单通道特征表示的多样性和全局稳健性。
本文的其余部分结构如下:第2节回顾相关研究;第3节详细阐述我们所提出的NSNP-Net的架构和核心组件;第4节介绍实验设置、结果、分析及案例研究;最后,第5节总结全文并探讨未来的研究方向。