分而治之：基于自适应规范化的傅里叶图学习方法在时间序列预测中的应用

《Neurocomputing》：Divide and conquer: Adaptive normalization-enhanced Fourier graph learning for time series forecasting

　　

摘要

时间序列预测是指基于过去的序列来预测时间序列中的值序列，在许多实际应用中发挥着至关重要的作用。传统方法通常采用全局规范化来稳定输入分布，但这忽略了局部统计变化，并引入了分布不匹配的问题。为了解决这些问题，我们提出了AdaFGNet，这是一种新颖的分而治之框架，它将自适应规范化与傅里叶图学习相结合，以实现鲁棒和准确的预测。在第一阶段，一个自适应统计预测器学习补丁级别的分布演变，从而实现局部规范化和有效的反规范化，以处理动态变化。在第二阶段，傅里叶图网络通过在频域进行图操作来建模全局时空依赖性，提高了表示能力并降低了复杂性。这种两阶段设计将局部统计适应性与全局依赖性学习分开，从而形成一个平衡且可解释的预测框架。在多个公共数据集上的广泛实验表明，AdaFGNet取得了最先进的性能。代码将在https://github.com/HowardLiu28/AdaFGNet处发布。

引言

随着对动态系统中智能决策需求的增长，时间序列分析已成为建模和预测时间动态的关键技术[1]、[2]、[3]。其中，多变量时间序列预测（TSF）在交通管理[4]、能源规划[5]、金融分析[6]和气候预测[7]等应用中至关重要。TSF旨在自动建模历史数据中的内在时间依赖性，从而实现无需手动注释的准确和高效的未来预测。

现有研究主要集中在时间建模上，导致了各种预测架构的出现，如基于RNN的[8]、基于CNN的[9]、基于Transformer的[10]以及最近的基于LLM的框架[11]。这些方法通过捕捉时间序列中的时空依赖性取得了令人印象深刻的结果。然而，在处理现实世界的非平稳数据时，不同时间尺度之间的差异往往会导致模型过度拟合回顾序列的统计模式，从而限制了泛化能力。此外，大多数方法假设属性的一致性，并采用全局实例规范化来消除动态因素[12]、[13]、[14]，忽略了观测序列和预测序列之间的固有分布差异，这会给预测带来偏差。时间序列预测中的非平稳性主要表现为统计属性（例如均值和方差）随时间的演变。这应与语义上的OOD问题区分开来；这里的核心挑战是模型必须适应这些波动的统计特性，以揭示潜在的不变的动态。

为了进一步说明我们的动机，我们在图1中绘制了一个TSF任务的示例。可以看到，来自不同时期的序列在其均值上显示出明显的变化，揭示了随时间的分布变化。在这种情况下应用全局统计规范化会破坏脆弱的局部模式并引入分布不匹配。由于输入分布在局部补丁内相对稳定，我们遵循[15]的方法，将时间序列分解为更简单但信息量更大的补丁单元。随后，使用统计预测模型来预测统计分布，从而实现独立学习反规范化模块，该模块能够独立建模补丁级别统计属性的演变。这种自适应的局部规范化可以更精确地消除非平稳因素，而不会破坏每个局部区域内的内在动态。

虽然自适应规范化通过对齐局部分布有效地缓解了统计非平稳性，但得到的平稳化补丁序列仍然包含复杂的结构模式和空间依赖性。我们认为，通过专门的空间-时间建模来捕捉这些残余动态是实现长期预测准确性的关键。受到先前基于图神经网络（GNN）的预测方法[16]、[17]、[18]的启发，我们提出了一个超变量图框架，该框架使用傅里叶图运算符（FGO）作为其基本计算单元，从统一的视角捕捉局部和全局的时空动态。关键思想是将局部平稳化的补丁嵌入视为独立节点，而全局时空相关性则编码为超变量图中的节点间依赖性。此外，FGO用傅里叶域矩阵乘法替代了传统的图卷积，提高了表示能力，同时将计算复杂性降低到对数线性规模。

为了克服现有时间序列预测方法的局限性，我们提出了AdaFGNet，这是一个结合自适应规范化和傅里叶图建模的统一时空框架，以共同捕捉局部平稳性和全局依赖性。AdaFGNet的核心是分而治之策略，它将预测过程分解为局部统计分布预测和全局时空依赖性学习。在第一阶段，每个子序列都独立进行规范化，统计预测模型自适应地学习未来的分布特征以处理局部动态变化。在第二阶段，将平稳化的补丁嵌入视为图节点，并通过在傅里叶域堆叠FGO层来构建傅里叶图网络，以捕捉长距离的时空依赖性。与对噪声敏感的时间域图不同，我们的频域方法能够捕捉稳定的结构模式，这是将其集成到第二阶段的主要原因。此外，还采用了一种联合时频优化目标来规范第二阶段的预测模型，强制预测序列和实际序列之间的逐点和循环对齐。通过这种分而治之的设计，AdaFGNet分别解决了局部统计变化和全局时空依赖性问题，实现了时间和序列预测中的协同集成，提高了鲁棒性和准确性。

总结如下：

• •
  我们提出了AdaFGNet，这是一个两阶段框架，概念上将统计非平稳性与结构依赖性分开。与那些难以处理交织的分布变化和空间建模的传统端到端模型不同，我们的“分而治之”策略确保模型首先对齐局部分布，然后再捕捉不变的动态，显著提高了在演变环境中的预测鲁棒性。
• •
  引入了一种补丁级别的自适应规范化方案，结合统计预测来捕捉局部分布的演变，并在反规范化过程中将预测恢复到原始的非平稳尺度。通过显式建模和预测局部统计（均值和方差）的演变，我们的方法有效地将非平稳段“重新中心化”到稳定的潜在空间中。
• •
  开发了傅里叶图网络，以在频域中高效捕获全局特征，实现了表达能力和计算效率之间的平衡。通过将平稳化的补丁视为节点，FGO捕获了在时间域中经常被掩盖的高阶时空相关性（潜在的超图依赖性）。
• •
  在多个真实世界数据集上的广泛实验表明，AdaFGNet取得了最先进的性能，证实了其分而治之设计的有效性。

部分片段

在本节中，我们简要回顾了TSF的相关工作（第2.1节），重点介绍了该领域使用的两种主要方法：1）规范化（第2.2节）和2）用于TSF任务的图神经网络（第2.3节）。

提出方法

为了解决上述挑战，我们提出了AdaFGNet，这是一种如图2所示的分而治之架构。在第一阶段，时间序列被分割成时间窗口，并作为子序列补丁进行局部规范化。统计预测模块建模局部统计的演变，以估计目标序列的统计特征。这种解耦将分布对齐与依赖性建模分开，防止了非平稳尺度变化的影响

实验

在本节中，我们在公共数据集上对AdaFGNet进行了与各种基线的比较（第4.2节）。我们通过消融研究来评估模块贡献（第4.3节），通过比较分析来评估效率（第4.4节），并通过真实世界案例研究来验证有效性（第4.5节）。所有实验都遵循统一的配置[26]和流程。

结论

在本文中，我们介绍了AdaFGNet，这是一种将自适应规范化和傅里叶图学习结合在一起的时间序列预测框架。通过将局部统计适应性与全局依赖性建模分开，提出的两阶段范式有效地减轻了非平稳性并提高了预测的鲁棒性。补丁级别的自适应规范化捕捉了演变的局部分布，而傅里叶图网络则建模了全局时空依赖性

CRediT作者贡献声明

王宇：撰写 – 审稿与编辑，撰写 – 原始草稿，可视化，验证，监督，资源管理，项目管理，方法论，调查，形式分析，数据整理，概念化。杨浩春：撰写 – 审稿与编辑，可视化。张红扬：撰写 – 审稿与编辑，可视化，概念化。李晨：撰写 – 审稿与编辑，可视化。刘寅浩：撰写 – 审稿与编辑，撰写 – 原始草稿，可视化，验证。

利益冲突声明

作者声明他们没有已知的竞争性财务利益或个人关系可能会影响本文报告的工作。

王宇获得了中国福州福建学院的学士学位和厦门大学的硕士学位。他目前正在厦门大学信息学院攻读博士学位。他的主要研究兴趣包括机器学习、嵌入式系统和稀疏表示。

王宇|杨浩春|张红扬|李晨|刘寅浩|丁星豪

厦门大学信息学院，中国福建厦门，361005