《Neurocomputing》:Ada-FMP: An adaptive fluctuation-aware multi-scale patch network for time series forecasting
编辑推荐:
摘要现实世界中的时间序列具有强烈的非线性、复杂的多周期模式以及较大的波动性,这给模型捕捉潜在信息带来了巨大挑战。本研究提出了一种自适应的、考虑波动性的多尺度补丁网络(Ada-FMP),用于高效地建模历史序列中的关键信息,并实现准确的长期预测。具体而言,Ada-FMP在多尺度补丁嵌
摘要
现实世界中的时间序列具有强烈的非线性、复杂的多周期模式以及较大的波动性,这给模型捕捉潜在信息带来了巨大挑战。本研究提出了一种自适应的、考虑波动性的多尺度补丁网络(Ada-FMP),用于高效地建模历史序列中的关键信息,并实现准确的长期预测。具体而言,Ada-FMP在多尺度补丁嵌入过程中明确纳入了时间特征和波动特征,从而能够捕捉全局跨尺度模式以及细粒度的局部动态。在序列分解方面,该模型采用自适应分解核策略,基于移动平均框架提升模型在不同预测时段的适应性。此外,在预测组件融合阶段还设计了逐元素自适应加权机制,以提高预测的稳定性和整体性能。通过在不同回溯窗口和预测时段下的大量实验表明,Ada-FMP在保持计算效率的同时,其性能始终优于现有方法。在多种公开数据集上的补充实验进一步证明了Ada-FMP的泛化能力和优异性能。消融实验则进一步验证了各个核心组件的有效性与必要性。
引言
时间序列数据在现实世界的诸多应用中随处可见,涉及医疗、交通、航空航天等多个重要领域[1]、[2]、[3]、[4]。作为时间序列分析中的基础任务,时间序列预测旨在通过从历史序列中提取潜在的时间依赖关系和特征,来建模内在模式,进而预测未来状态[5]。对这些数据的准确分析和预测能够为诸多应用提供支持,包括故障诊断[6]、[7]、步态分析[8]以及交通流量预测[3]。然而,由于系统本身的复杂性和非线性,现实世界中的时间序列往往具有多尺度和非平稳特性[9]。此外,在实际应用中,不同领域的这类数据还存在差异[10]。这些特性给捕捉潜在的时间模式和实现准确预测带来了很大困难。
目前已有许多深度学习模型被用于时间序列预测。基于Transformer的模型[11]、[12]利用多头自注意力机制有效捕捉长距离依赖关系,因此在长期预测方面表现优异。尽管效果不错,但这些模型的二次复杂度限制了其可扩展性和实际应用能力。而基于线性模型的方法[1]、[13]则通过提升计算效率并取得出色的基准测试成绩来克服这一局限,不过它们在建模复杂非线性动态方面的能力较为有限。在此基础上,基于补丁的方法[14]、[15]、[16]在保持架构简洁的同时,实现了全局上下文与局部动态的结合。另外,频域方法[17]通过傅里叶变换在频谱空间对时间序列进行分析,能够有效捕捉周期性模式和趋势成分。
不过,现有方法仍存在一些局限性。首先,大多数模型直接处理原始的历史序列,没有明确提取能够体现数据内在特征和模式的特征表示,这使得它们难以捕捉复杂的时序动态,往往需要增大模型规模才能获得理想性能。其次,当前方法通常采用统一的建模策略,无法充分满足不同预测时段下的不同信息需求,这不利于有针对性地提取和利用与特定预测范围相关的关键潜在模式。为解决这些问题,我们提出了自适应的、考虑波动性的多尺度补丁网络(Ada-FMP),该模型能够在保持计算效率的同时,提升深度学习在处理复杂现实世界模式时的预测性能。本研究的主要贡献如下:
- •
通过明确整合时间特征和波动特征,构建了改进的多尺度补丁嵌入框架,使Ada-FMP能够捕捉跨尺度的全球模式以及细粒度的局部动态。
- •
在组件融合阶段设计了逐元素自适应加权机制,实现了分解后表示之间的精细协调,提升了预测的稳健性。
- •
通过对真实世界数据集进行的全面实验和消融研究,证明了Ada-FMP的有效性;而在不同领域的公开数据集上的评估则显示了其良好的泛化能力。
章节节选
方法论
图1展示了所提出的Ada-FMP模型的结构。以下各小节将详细介绍其核心组成部分。
实验
本研究利用真实的观测数据来验证所提出的Ada-FMP模型,并评估其性能。现实世界中的时间序列通常具有多尺度模式交织、明显的非平稳性以及瞬态动态等特点[20],这些都给预测模型带来了巨大挑战。这类特征在临床、工业以及航天等多个领域都很常见。在航天领域,诸如轨道
讨论
本研究提出了Ada-FMP,用以应对具有复杂模式特征的现实世界时间序列预测难题。在临床、工业以及航天等多个领域的现实世界时间序列,往往都具有多尺度模式交织、明显的非平稳性以及瞬态动态等特点。在航天领域,太阳射电通量指数就是一个极具挑战性的例子,因为其动态还会受到太阳活动的影响而变得更加复杂
结论
本研究提出了Ada-FMP,这是一种能够在现实世界时间序列预测中有效平衡模型规模与预测性能的模型。通过将时间特征和波动属性明确嵌入到多尺度补丁中,该模型能够同时实现对全局依赖关系和局部动态的建模,从而大幅提升其捕捉现实世界时间序列中复杂模式的能力。为了提升模型在不同预测时段的灵活性,该模型还采用了自适应机制
CRediT作者贡献说明
楚庆豪:写作——审阅与编辑,写作——初稿撰写,可视化,验证,方法论,研究设计,概念构思。王志龙:写作——审阅与编辑,指导监督,资源提供。江宇:可视化,研究工作。侯鹏荣:可视化,研究工作。史欣:可视化,研究工作。姚浩然:可视化,研究工作。赵洪凯:可视化,研究工作。陈永涛:可视化,研究工作。吉安卡洛·福尔蒂诺:可视化工作,
利益冲突声明
作者声明,他们不存在任何可能影响本文研究结果的已知财务利益冲突或个人关系。
致谢
本研究得到了国家科技重大专项(项目编号2022ZD0117302)、国家重点基础研究发展计划(项目编号2022JCJQZD20600)、中央高校基本科研业务费(项目编号DUT25YG111)、“****”(项目编号2022-500)以及国家航天局重点创新团队支持项目(项目编号2022–901)的支持。
楚庆豪于2022年在中国沈阳的沈阳工业大学获得硕士学位,目前他正在中国大连的大连工业大学控制科学与工程学院攻读控制工程博士学位。他的研究兴趣包括轨道传播、碰撞分析、空间态势感知以及人工智能相关领域的研究。
楚庆豪|王志龙|江宇|侯鹏荣|史欣|姚浩然|赵洪凯|陈永涛|吉安卡洛·福尔蒂诺
中国辽宁省大连市116024,大连工业大学控制科学与工程学院,教育部工业设备智能控制与优化重点实验室