MPFN：一种用于多变量时间序列分析的多视角融合网络

《Neurocomputing》：MPFN: A multi-perspective fusion network for multivariate time series analysis

　　摘要
实时监测与传感技术的进步使得时间序列数据大量产生。为从这些数据中提取有价值的信息，设计高效且稳健的多变量时间序列分析方法变得尤为迫切。然而，目前的研究主要侧重于从单一视角挖掘有效信息，缺乏能够全面整合时间序列中复杂模式与动态依赖关系的综合框架。为此，我们提出了一种用于多变量时间序列分析的多视角融合网络（MPFN）。该网络由两个核心模块组成：频域增强型时频通道Transformer（FTCT）和双分支局部信息提取模块（DBLIEM）。FTCT模块旨在捕捉全局的时序与变量依赖关系，同时运用傅里叶变换方法将频域信息融入时间序列数据，从而提升模型对复杂时序模式的理解能力。对于DBLIEM模块，我们设计了内部分支与跨分支两种并行结构，以捕获多变量时间序列中的丰富局部细节。通过在多个基准数据集上的大量实验，我们证明MPFN在时间序列预测与异常检测任务中的表现均优于现有最先进方法。

引言
时间序列数据是由传感器在连续时间间隔内采集的观测记录集合。作为现代数据科学的重要组成部分，时间序列数据在医疗健康监测、交通流量预测以及工业自动化控制等诸多领域发挥着重要作用。因此，许多研究人员致力于时间序列建模研究，其主要内容包括时间序列预测与异常检测。时间序列数据的采集依赖于多传感器设备，这使得时间序列包含更复杂的背景信息。因此，开发一种能够有效整合多视角信息的时间序列分析框架，已成为该领域研究的重点。

时间序列分析是指利用特定的统计与数学模型，从一系列时间序列数据中提取有价值的信息与模式。这一过程不仅涉及识别或捕捉时间序列中的潜在规律特征，如趋势、季节性变化及周期性波动，还旨在预测未来的行为状态。时间序列分析技术已从传统的统计方法发展到深度学习技术。最初，时间序列分析与建模主要依赖统计方法，这类方法依据预定义规则捕捉数据中的潜在趋势，但其有效性往往受数据线性假设的限制，且需要结合特定领域知识才能更好地应用。

机器学习的出现为时间序列分析带来了更大灵活性。基于机器学习的方法通过分析历史数据中的潜在模式来预测未来趋势。例如，自回归方法[1]通过将下一时间步的预测值表示为前几时间步观测值的线性函数，从而有效预测未来时间序列值。在此基础上，自回归积分移动平均方法[2][3]引入差分步骤与移动平均项，以应对非平稳时间序列带来的复杂性。不过，基于机器学习的方法在捕捉数据中的长期依赖关系方面存在困难。

深度学习的发展为时间序列分析研究带来了重大突破。通过神经元之间的相互连接，神经网络能够高效地学习特定任务，并自动调整节点间的权重参数，以实现未来趋势的精准预测。此外，神经网络具有高度的可扩展性，可通过整合多种网络架构来处理复杂多样的任务，这有效地克服了传统机器学习算法在处理复杂时间序列数据时的局限性。

在各种神经网络架构中，基于Transformer的方法因其注意力机制而广受欢迎，例如Informer[4]和Autoformer[5]。这种机制能够直接建模序列中任意两个位置之间的依赖关系，从而有效捕捉时间序列数据中的长期依赖关系。近期研究还探讨了多层感知器（MLP）在时间序列分析中的潜力[6][7]，在特定领域的数据集上取得了良好效果。然而，MLP属于简单的线性结构，可能限制其建模非平稳序列的能力，而且单个MLP模型难以完全捕捉时间序列中的各种复杂依赖模式。图神经网络（GNN）由于擅长建模节点间的结构化关系，已被广泛应用于时间序列分析，以有效捕捉变量间的相关性。

基于这些神经网络架构，时间序列建模形成了两种主要范式：1）时频通道依赖关系建模，用于捕捉时序维度与变量维度之间的相关性；2）全局-局部依赖关系建模，用于提取单一时序维度内长期模式与短期模式之间的交互关系。现有研究通常将这两种范式分开处理，要么专注于优化时频通道特征，要么独立提升全局-局部模式，但并未考虑二者之间的整合。然而，在现实系统中，时间序列的演变并非由单一模式的语义信息决定，而是多种复杂依赖关系共同作用的结果。例如，流行病的传播既包含季节性爆发，也存在随机局部聚集现象，同时还与跨区域传播相关。因此，联合建模这些多种依赖关系有助于模型对时间序列进行更全面的分析。

基于以上考虑，我们提出了多视角融合网络（MPFN）。MPFN将不同依赖关系的提取过程分解为多个子任务，每个子任务由独立的模块负责处理。不同模块分别聚焦于捕捉数据模式的特定方面，从而有效识别数据中的各种复杂依赖关系。具体而言，在MPFN中，我们首先设计频域增强型时频通道Transformer（FTCT），用于捕捉时间序列中的全局时序与变量依赖关系；其次，构建双分支局部信息提取模块（DBLIEM），从时间序列中提取丰富的细粒度特征；最后，通过输出重塑模块整合来自多视角的模式信息，进而提升时间序列分析的性能。

本研究的主要贡献如下：
1. 我们提出了MPFN，这是一种新颖的多变量时间序列分析方法，通过有效整合多模式信息，在预测与异常检测任务中均展现出更优异的性能。
2. 我们设计的FTCT模块运用两个注意力网络，实现时序信息与通道信息的协同利用，并能从全局视角自动提取具有重要贡献的关键特征。此外，FTCT模块还结合了傅里叶算子与偏差学习机制，进一步提升模型对时序依赖关系的理解能力。
3. 我们设计的DBLIEM模块利用内部分支与跨分支两种网络结构，分别捕捉内部与跨尺度层面的局部语义信息，从而弥补FTCT模块的不足，赋予模型更强大的时间序列建模能力。
4. 我们在涵盖多个领域的11个基准数据集上进行了大规模实验验证，结果表明MPFN在预测与异常检测任务中的表现均优于现有最先进方法。具体而言，与基准模型的最佳结果相比，MPFN在预测任务的均方误差上降低了3.78%，在异常检测任务的F1分数上提升了最多2.5%。

相关工作
在本节中，我们将系统地回顾时间序列分析两大核心任务——预测与异常检测的相关研究，内容分为以下三部分。

问题阐述
时间序列预测：在预测任务中，给定一个长度为L的时间序列窗口，其中n为时间序列的特征维度，我们的目标是利用该窗口数据预测后续时间步的观测值，即y???，其中y?为当前时间步的观测值。
时间序列异常检测：我们将异常检测任务视为预测任务的一种特例。具体而言，首先利用已知数据生成下一个时间步的预测值，该预测值包含特征变量x?。

实验
为验证MPFN的有效性，我们在时间序列预测与异常检测这两大主流时间序列分析任务上进行了大量实验。所有实验均在配备Intel(R) Xeon(R) CPU E5-2603 v2 @ 1.8GHz处理器及Geforce RTX 3060ti显卡的服务器上完成。

讨论
我们提出了一种多视角学习框架，通过捕捉时频通道依赖关系与全局-局部依赖关系，为时间序列数据提供更优的表示形式。实验结果表明，所提出的MPFN模型在时间序列预测与异常检测任务中均表现出优异的性能。如图6所示，MPFN在抗噪声性能方面也具备较强的竞争力，尽管其抗噪声能力略逊于现有方法。

结论
本文提出了用于多变量时间序列分析的MPFN模型。该模型由FTCT与DBLIEM两个核心网络模块构成，分别负责从不同模式中提取关键信息。FTCT模块专注于捕捉数据中的全局时序与变量依赖关系，而DBLIEM模块则专门用于提取时间序列中的丰富局部细节。通过整合这两个模块的优势，MPFN实现了更出色的分析性能。

CRediT作者贡献说明
谢远：撰写——初稿、验证、软件、方法论、概念设计。
强宝华：撰写——审阅与编辑、指导、资金获取。
张世豪：撰写——审阅与编辑、研究工作。
杨贤毅：撰写——审阅与编辑、指导。
陶林：撰写——审阅与编辑。
陈瑞东：撰写——审阅与编辑。

利益冲突声明
作者声明不存在任何可能影响本文工作的已知财务利益或个人关系。

致谢
本研究部分得到了国家自然科学基金项目（编号62262006）的支持，部分得到了广西重点研发计划项目（编号AB24010112、AB23026048）的支持，部分得到了桂林市科技发展计划项目（编号20230110–1）的支持，部分得到了广西研究生教育创新项目（编号YCBZ2025161、YCBZ2026173）的支持，还有部分得到了桂林电子科技大学研究生教育创新项目（编号2025YCXS050、2026YCXS056）的支持。谢远于2015年在中国长春的吉林大学获得学士学位，2022年在中国桂林的桂林电子科技大学获得硕士学位，目前在该校计算机科学与信息安全学院攻读博士学位。他的研究兴趣包括时间序列表示学习、时间序列预测以及异常检测。

谢远|强宝华|张世豪|杨贤毅|陶林|陈瑞东
中国桂林市541004，桂林电子科技大学计算机科学与信息安全学院