PeriodPatch：一个基于频率感知的模块化框架，采用基于补丁的嵌入方法和周期性偏差机制，用于多变量时间序列预测

《NEOTROPICAL BIOLOGY AND CONSERVATION》：PeriodPatch: A Frequency-Aware Modular Framework with Patch-Based Embedding and Periodic Bias for Multivariate Time Series Forecasting

针对多变量时间序列预测中周期模式捕捉不足的问题，本文提出PeriodPatch模型。通过引入趋势-残差分解模块、基于傅里叶变换的参考信号生成机制以及跨变量注意力机制，有效整合了时序动态、周期结构和变量间关联。实验表明，PeriodPatch在11个基准数据集上显著优于基线，尤其在长期预测任务中MSE降低13.1%，短期任务MAE提升25%。

　　

彭宏星|江淑霞|任建基|刘海青|袁永亮|辛云|陈云峰

中国焦作河南理工大学软件学院

摘要

由于复杂的时间动态、变量间的关联以及周期性结构，多变量时间序列预测具有挑战性。基于补丁的架构显示出一定的潜力，但它们往往无法捕捉频域模式或随时间和变量变化的结构性多样性。为了填补这些空白，PeriodPatch（基于补丁的周期性感知预测）将频率感知和结构敏感的设计融入到补丁框架中。PeriodPatch利用补丁内的卷积和分解模块来提取趋势和残差成分，以改进局部时间表示。通过傅里叶变换和参考信号生成器（RSGenerator）提取显著的频率成分，生成时间编码参考信号。这些参考信号通过受控的周期性嵌入合并到补丁嵌入中，以增加频率对齐的位置偏差。跨注意力机制选择性地关注对齐的周期性模式，将观察到的补丁嵌入与频率信息丰富的参考序列结合起来。变量间学习注意力权重通过捕捉动态的跨通道依赖性，增强了多变量表示的结构感知能力。PeriodPatch在11个基准数据集和四个预测周期中的准确性和鲁棒性均优于大多数基线方法。与PatchTST相比，它在长期预测任务中将MSE和MAE分别降低了13.1%和11.7%，在短期任务中提高了25%和20%。PeriodPatch的性能优于DLinear和基于Transformer的方法，如Informer、Autoformer、FEDformer和iTransformer。PeriodPatch能够识别周期性结构和变量依赖性，使其成为一种强大、可解释且通用的多变量时间序列预测方法。

引言

时间序列预测是一项基于历史数据预测未来值的关键任务，为包括经济（Cryer，1986年）、能源（Pang等人，2022年）、交通（Ma等人，2021年）和医疗保健（Yuan等人，2025a；Yuan等人，2023年；Yuan等人，2025c）在内的多个领域提供了重要的决策洞察。这项预测技术在供应链优化、天气预测（Karevan和Suykens，2020年）和疾病诊断等领域的广泛应用显著节省了成本，并大幅提高了管理效率。时间序列数据表现出显著的多样性和复杂性，常常隐藏着难以识别的模式（Chen等人，2023年）。它通过异常波动和不同区域的统计特征变化展示了变异性。这种固有的复杂性大大增加了预测任务的挑战性。在涉及多个变量的场景中，各个通道之间的相互联系使建模过程变得更加复杂（Kim等人，2025年）。模型的构建应在适应性和效率之间取得平衡，确保其能够有效识别复杂的时间相关性。

早期的时间序列方法，如自回归积分滑动平均（ARIMA）模型（Li等人，2023年）和向量自回归（VAR）模型（Bashir和Wei，2018年），由于它们的数学简洁性、可解释性和在建模线性时间依赖性方面的效率，已被广泛采用了几十年。然而，它们在处理非线性关系和结构突变方面存在固有的局限性（Hao等人，2026年）。机器学习方法，如支持向量回归（SVR）（Karmy等人，2021年）和基于决策树的模型，可以捕捉非线性关系。但它们依赖于手动特征设计，并且在处理复杂的时间结构时遇到困难，这促使人们使用深度学习（Yuan等人，2024年；Yuan等人，2025b）。在这种背景下，最近的深度学习方法通过直接从数据中学习表示来克服这些限制，例如EDMF、CARM和多视角表示学习方法（Li等人，2021年；Liu等人，2021年；Liu等人，2022a）。

深度学习引入了序列模型，原则上可以捕捉复杂的时间依赖性（Hao和Liu，2024年）。循环神经网络（RNN）及其改进版本，特别是长短期记忆（LSTM）网络和门控循环单元（GRU），在学习和表示非线性时间动态方面表现出显著的能力（Yamak等人，2019年）。它们的架构设计有助于有效建模序列数据中的复杂时间依赖模式（Maleki等人，2024年；Peng等人，2025年）。然而，它们在处理非常长的序列时会遇到梯度消失问题。卷积神经网络（CNN）利用卷积滤波器对输入数据进行处理，使网络能够自主学习局部模式，包括趋势和周期性（Livieris等人，2020年）。通过采用分层特征提取，CNN能够有效捕捉短期波动和长期结构。然而，它们有限的感受野限制了对长距离依赖性的建模，从而为Transformer的发展铺平了道路。Transformer架构在时间序列预测中受到了广泛关注，因为它们的自注意力机制能够动态地加权所有时间步长的时间特征（Vaswani等人，2017年）。在过去的几年中，多层感知器（MLP）（Zhang等人，2020年）和DLinear（Zeng等人，2023年）等模型为时间序列预测提供了轻量高效的选择，这些模型侧重于通过简单的前馈结构或线性分解来捕捉时间模式。尽管这些模型提高了效率，但它们的简单性限制了对非线性和跨通道动态的表示。

为了获得更好的性能，最近关于PatchTST的研究引入了一种基于补丁的Transformer框架，该框架将输入时间序列分割成固定长度的补丁（Nie等人，2023年）。这种补丁策略使模型能够有效捕捉局部时间模式，同时适应长的回望窗口。通过将Transformer编码器应用于与通道无关的输入，并在预测前通过线性头对补丁表示进行平坦化，PatchTST在各种基准测试中取得了最先进的性能，通常超过稳健的线性基线。尽管其实证表现强劲，但PatchTST缺乏捕捉周期性和季节性趋势的明确机制（Yu等人，2024年），而这些在许多实际时间序列中很常见。该架构依赖于应用于固定长度补丁的自注意力，没有结合归纳偏差或专门用于识别重复时间模式的组件，包括日周期、周周期或年周期。缺乏专门的周期性建模降低了提取全局时间结构和长期趋势-季节性动态的能力，特别是在需要准确预测的具有规律时间模式的数据集中。

一个简单的概念性例子可以用来说明这些问题。图1(a)中将时间序列分割成固定长度的补丁，每个补丁的总周期为24，补丁长度为16。PatchTST使用了这种补丁技术，但如果补丁长度与实际周期性不匹配，可能会导致周期性模式被遗漏或扭曲。特别是，在A和B区域，补丁边界可能会阻止周期性峰值的完整记录。图1(b)进一步展示了趋势变化的情况，时间序列在C点突然转向上升趋势。这种突然的趋势变化很可能被视为噪声，而不是作为潜在趋势的显著变化被识别出来，因为PatchTST中没有特定的分解方法来区分季节性和趋势。此外，图2展示了两个通道之间的关联。通道D和E之间存在相关行为，即一个通道增加时，另一个通道也会增加。然而，由于PatchTST分别处理每个通道，它无法识别跨通道依赖性。

为了解决这些挑战，我们提出了PeriodPatch，这是一种新颖的时间序列预测模型，旨在通过增强的周期性识别、趋势-季节性分解和多变量交互建模来克服上述限制。PeriodPatch的架构通过专门的周期注意力机制放大周期性模式学习，使模型的感受野与固有的季节性周期对齐，从而捕捉到重复的峰值和低谷，而不会因任意的补丁边界而失真。此外，一个专门的AdaKernel-Decomp模块明确地将每个时间序列分为趋势和季节性成分，确保突然的趋势变化被识别为数据中的结构变化，而不是被噪声掩盖。此外，引入了InterVariableAttention机制，以实现多个通道之间的丰富信息交换，使模型能够学习到独立通道处理会忽略的相关运动和跨通道依赖性。通过将这些组件整合到一个连贯的框架中，PeriodPatch实现了对复杂时间动态的更全面和准确的表示，展示了在多变量时间序列预测任务中建模长期模式和交互的高级能力。

主要贡献如下：

•

PeriodPatch通过将周期注意力机制与RS生成器和周期感知嵌入相结合，增强了周期性模式学习，明确对齐并放大了重复周期，从而实现了更清晰的季节性表示和更高的预测准确性。

•

PeriodPatch使用AdaKernel-Decomp分离趋势和季节性，分别建模长期漂移和短期波动，从而减轻趋势干扰，增强跨时间尺度的鲁棒性，并提高可解释性。

•

PeriodPatch引入了InterVariableAttention模块，捕捉多变量序列中的跨通道依赖性，有效利用序列间的相关性来提升预测性能。

•

PeriodPatch在11个真实世界数据集上表现出优越的泛化能力，优于最先进的基线方法，证实了其可扩展性和实际效果。

相关研究

相关工作

由于经典时间序列模型在分析平稳模式方面的简单性和有效性，它们被广泛使用（Rizvi等人，2024年）。近年来，机器学习和深度神经网络利用基于Transformer的架构和混合模型增强了预测能力。同时，基于补丁的方法作为一种创新技术也应运而生。本节回顾了三个类别的密切相关研究：经典时间序列模型、深度序列模型和Transformer模型

提出方法

为了解决多变量时间序列预测中建模周期性结构和捕捉变量间依赖性的挑战，现有方法仍然不足。因此，开发了PeriodPatch作为专门用于克服这些限制的框架。

本文使用的主要符号在表A.7中进行了总结，以便清晰。

数据集描述

为了验证该方法的有效性，本研究在11个真实数据集上进行了实验，这些数据集在研究中得到了广泛应用，并具有独特的特征，如表1所详述。这些数据集包括：

ETT，与电力变压器相关，时间跨度为2016年7月至2018年7月，包含七个影响因素。该数据集分为四个子集，ETTh1和ETTh2子集的时间步长为小时，而ETTm1和ETTm2子集的时间步长为...

结论

本文介绍了PeriodPatch，这是一种用于多变量时间序列预测的模型。该架构通过模块化、频率感知的设计来捕捉时间依赖性和周期性模式。PeriodPatch通过明确结合周期性结构，生成可解释的潜在表示，并实现动态的、特定于变量的依赖性建模，从而改进了现有的基于补丁和基于Transformer的方法。

CRediT作者贡献声明

彭宏星：概念化。江淑霞：撰写——初稿，概念化。任建基：撰写——审阅与编辑。刘海青：监督。袁永亮：资金获取。辛云：数据整理。陈云峰：验证。

利益冲突声明

作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文报告的工作。

致谢

本工作得到了中国国家自然科学基金（编号52404163）、河南省高等学校科技创新人才计划（编号26HASTIT017）、河南省自然科学基金（编号222300420168）、河南省科技计划项目（编号232102211007和252102221003）、河南省高等学校基本科研业务费（编号NSFRF220415、NSFRF230503）的支持。