MDFTS：一种面向零样本时间序列预测的多域特征感知双流模型

《Neurocomputing》：MDFTS: A multi-domain feature-aware dual-stream model for zero-shot time series forecasting

　　

摘要：零样本时间序列预测要求模型在不接触目标域数据的情况下，仅利用预训练知识直接预测未知的目标分布。现实场景中普遍存在的非平稳分布漂移使得这一任务极具挑战性。近期研究通过建立一维时间序列与二维视觉表示之间的映射关系，初步验证了跨模态知识迁移的可行性。然而，现有方法往往面临难以兼顾全局历史模式与局部时间窗口聚焦的权衡困境。前者容易受到分布漂移引起的过度平滑效应影响，而后者则无法捕捉跨周期的长程依赖关系。为克服这些局限，我们提出了MDFTS——一种多域、特征感知的双流模型，通过显式解耦机制将时间序列数据分解为全局流与局部流。模型采用共享且冻结的预训练视觉编码器，其中全局流捕捉宏观的跨周期依赖，局部流则敏锐检测近期趋势漂移。此外，一种多域特征感知门控机制可动态调节两流之间的融合权重，该机制融合了频率分布一致性、局部统计波动性和时间趋势连续性三个维度的信息，相较于传统“黑箱”门控策略具有显著更高的可解释性。在六个主要基准数据集和两个补充跨域数据集上的零样本评测表明，MDFTS取得了具有竞争力的性能，在长预测跨度和高度非平稳数据集上展现出尤为突出的稳定性。本研究证实了这种协同架构在迁移预训练视觉知识方面的有效性，并为复杂非平稳环境下的零样本预测提供了全新框架。引言：时间序列预测是各学科领域的重要基石，涵盖能源系统调度[1]、金融风险管理[2]、天气预报[3]以及智能交通[4]等方面。预测精度是决策效率和资源优化配置的核心驱动力。随着信息系统和传感器网络的广泛部署，当代时间序列数据日益展现出高维耦合、多尺度噪声叠加以及强非平稳演化等复杂属性[5]。尤为关键的是，零样本预测范式要求模型在未接触目标数据集标签或统计先验的情况下做出预测，这对动态适应能力和跨域泛化能力提出了严苛要求。传统模型通常依赖单一建模视角或固定统计假设，使得适应分布偏移与复用预训练知识之间的权衡变得复杂，最终制约了其在复杂动态环境中的可靠性。近年来，该领域正从任务特定建模方法向预训练知识复用范式转变，这一转变主要受计算机视觉和自然语言处理领域基础模型突破的启发[6]，以及它们在遥感[7]等特定领域的成功跨模态应用的影响。然而，零样本场景下的跨模态知识迁移面临两大瓶颈。第一，Chronos[8]和MOMENT[9]等原生时间序列基础模型的发展受到高质量时间序列数据匮乏和大规模训练巨额计算开销的限制。第二，基于大语言模型（LLM）的跨模态适配策略如Time-LLM[10]虽然展现出强大的推理能力，但离散文本表示与连续数值时间序列之间的“模态鸿沟”可能导致复杂高频信号细节的丢失[11]。相比之下，预训练视觉模型提供了一项引人注目的"免费午餐"效益，这得益于图像与时间序列在周期模式和波形纹理方面的内在结构同构性[12]。更重要的是，时间序列预测与计算机视觉中掩码自编码器（MAE）的补丁重建和上下文补全任务在机理上具有高度同源性。一旦时间序列片段被映射为视觉表示，预测未来时间步就自然转化为对缺失"补丁"的零样本补全过程。早期的工作如VisionTS[13]利用预训练掩码自编码器（MAE）[14]处理时间序列切片，为该范式在零样本场景下的有效性提供了初步证据。然而，当前的基于视觉的方法通常采用单一的宏观建模视角，这在非平稳性和零样本预测需求的双重约束下造成了困境。过度强调全局历史数据以最大化复用长程预训练知识往往导致特征平均化，掩盖了目标域中近期的突变分布偏移。相反，仅聚焦于局部时间窗口以捕捉瞬时动态往往由于跨周期宏观结构的丢失而导致相位失配。短期动态适应与长程知识复用之间的这一根本性冲突严重制约了跨模态知识迁移在复杂零样本环境中的性能上限。为解决上述问题，我们提出了MDFTS：一个专为零样本场景设计的多域、特征感知、双流时间序列预测模型。通过超越单一视角建模的局限，MDFTS引入了显式双流解耦机制。利用共享且冻结的预训练视觉编码器，该架构将数据分解为两条独立路径：（1）全局流涵盖完整历史记录，用于提取鲁棒的宏观跨周期依赖；（2）局部流配合周期感知切片策略，敏锐识别高频微变和近期趋势漂移。为应对动态流融合的复杂性，我们提出了一种多域特征感知门控机制，显著提升了决策的可解释性。与传统的基于"黑箱"多层感知机（MLP）的权重生成不同，该机制基于三个互补维度——局部统计波动性、频域分布一致性和时域趋势连续性——动态计算两流的融合权重。通过模拟专家决策逻辑，该架构使模型能够根据信号内在属性自适应地平衡对近期动态数据和预训练历史知识的依赖程度，从而确保无需目标数据微调即可实现可靠的零样本预测。本研究的核心贡献可概括如下：（1）我们提出了MDFTS，一种专为零样本任务设计的多域特征感知双流预测模型。该方法通过精细化跨模态预训练视觉表示来抵御非平稳分布漂移的干扰，在缺乏目标域数据的情况下实现高精度预测。（2）我们开发了一种显式双流解耦机制，利用共享且冻结的预训练视觉编码器。全局流捕捉宏观长程依赖，局部流则采用周期感知切片策略来精准检测分布偏移和近期趋势。该架构成功平衡了短期动态适应与长期知识复用。（3）我们提出了一种多域特征感知门控机制，通过量化局部统计波动性、频域一致性和时域趋势连续性来调节双流融合权重。该方法相较于标准黑箱策略显著提升了算法的可解释性。（4）在基准数据集上进行的全面实验表明，MDFTS在零样本场景中显著优于基线模型，特别是在强非平稳和长序列任务中表现突出。这些结果证实了动态迁移跨模态预训练视觉模型在复杂环境中的效率。相关工作：据我们所知，这是首次提出专为零样本场景设计的多域、特征感知、双流时间序列预测模型的研究。通过将双流架构与多域特征感知门控机制相结合，所提出的模型更有效地解决了非平稳数据中宏观历史模式与近期动态波动之间的关键权衡问题。相关文献主要涵盖四个领域：预备知识与问题定义：本研究严格遵循目标域零样本协议，即模型在预训练过程中从未接触目标域的时间序列数据。相反，它完全通过跨模态映射利用通用编码器的表征能力。该范式旨在研究通用预训练权重在数据稀缺环境中的泛化边界，而非追求"无数据"预训练。考虑一个标准的多变量时间序列……实验目标：本节描述了为全面验证所提出的MDFTS模型在零样本时间序列预测方面的有效性和鲁棒性而开展的实验，通过多维实证研究进行验证。为此，实验框架围绕以下四个主要目标组织：零样本预测能力验证：评估模型在缺乏目标域微调的零样本背景下，能否有效利用通用预训练……结论：为应对零样本预测中非平稳时间序列的根本性挑战，本研究提出了一种专为零样本场景设计的多域、特征感知、双流时间序列预测模型（MDFTS）。该方法超越了传统单一视角建模的局限，显式地将全局长程依赖与局部短期漂移建模进行解耦。通过集成基于……多域特征感知门控机制……作者贡献声明：郭佳俊：论文撰写与审阅编辑、原创草稿撰写、验证、方法论、调查研究、概念构思。张学杰：论文撰写与审阅编辑、原创草稿撰写、监督指导、项目管理、经费获取。李鑫：论文撰写与审阅编辑、监督指导、调查研究。吕鑫：论文撰写与审阅编辑、监督指导、调查研究。王隆宝：调查研究。陈佳乐：调查研究。毕亚迪：调查研究。利益冲突声明：作者声明不存在可能影响本文所述工作的已知竞争性经济利益或个人关系。致谢：本研究部分由国家重点研发计划（项目编号：2024YFC3210203）、国家自然科学基金（项目编号：62401196）以及江苏省自然科学基金（项目编号：BK20241508）资助。郭佳俊于2024年毕业于江苏科技大学（中国镇江），获工学学士学位。目前在南京大学（中国南京）计算机科学与技术学院攻读硕士学位。研究方向包括时间序列预测和数据挖掘。郭佳俊 | 张学杰 | 李鑫 | 吕鑫 | 王隆宝 | 陈佳乐 | 毕亚迪