超越简单补丁法：基于小波令牌与跨尺度解耦注意力机制的电力负荷预测方法

《Scientific Reports》：Beyond flat patching: wavelet tokens with cross-scale and decoupled attention for electricity load forecasting

　　

摘要

长期多变量时间序列预测在电力负荷管理、金融风险评估以及气候监测等诸多领域中发挥着重要作用。目前的深度学习方法存在两大局限性：现有的Transformer变体难以在统一的架构中有效整合多尺度时间模式，同时兼顾建模能力与计算成本；而时频域方法则将频率分解和时间建模视为两个独立的步骤，限制了多分辨率学习的潜力。为解决这些问题，我们提出了WCDformer（小波跨尺度解耦Transformer），这是一种创新架构，通过三项关键设计将基于小波的分解与注意力机制相结合：首先，小波多分辨率分词技术通过Haar分解生成按频率分层的表示；其次，时间模式解耦注意力机制将查询生成分为趋势、周期性和残差三类，以实现针对不同模式的高效处理；最后，跨尺度交叉注意力机制则在统一的端到端框架内促进不同时间尺度之间的信息传递。在五个基准数据集上的大量实验表明，WCDformer的性能可与最新的优秀模型相媲美，且具有出色的精度与效率平衡性。在天气预报数据上的多种子稳定性分析显示，所报告的误差范围均在正常变异范围内，尤其是在复杂的长期预测场景中。我们的方法为多尺度时间建模提供了理论基础，将传统信号处理技术与现代深度学习架构相结合，用于构建更先进的预测系统。源代码可在https://anonymous.4open.science/r/wcdformer-0207/获取。