基于统计特征引导的自适应模式加权与双分支注意力融合的短期负荷预测

《Sustainable Energy Technologies and Assessments》：Statistical feature-guided adaptive mode weighting and dual-branch attention fusion for short-term load forecasting

　　

•统计特征引导的自适应模态加权利用IMF统计量进行门控。•TSMixer-Transformer通过交叉注意力融合局部和全局特征。•RevIN和残差预测提高了在非平稳负荷下的稳定性。

引言

电力需求预测为电力系统规划、调度和需求侧能源管理提供了至关重要的基础。准确的短期负荷预测可以提高运行安全和经济效益，同时为可再生能源并网、储能调度、需求响应和电力市场运行提供可靠的需求信息[1]。随着分布式能源和柔性负荷越来越多地参与现代电力系统，降低需求侧不确定性对于高效能源调度和可持续能源系统的协调运行尤为重要。

实际用电量记录通常表现出非线性和非平稳特征。对于企业用户，负荷模式可能随生产节奏和作息安排而变化。因此，单一预测模型很难同时捕捉长程时间依赖关系、局部波动和突变。同时，电力需求还受外部环境和时间因素影响，包括温度、湿度、降雨量和节假日类型[2]。因此，负荷序列包含多种复杂分量，如长期趋势、周期波动和随机扰动，导致复杂的非线性特征，给高精度预测带来了巨大挑战[3]。

传统的时序数据预测方法主要包括经典统计模型和传统机器学习模型。经典统计方法，如自回归模型及其变体，结构简单，可解释性好。然而，它们通常依赖于线性和平稳假设，这在实际负荷序列中往往难以满足[4]。常见的机器学习方法，包括支持向量回归[5]、随机森林[6]和梯度提升方法[7]，在一定程度上可以建模非线性关系，并已被广泛应用于能源预测任务。然而，此类方法通常需要大量的人工特征提取，且其自动学习时间依赖关系的能力仍然有限。

深度学习的最新进展为时序预测任务引入了替代技术路径。循环架构及其扩展，包括长短期记忆网络（LSTM）和门控循环单元（GRU），可以从历史负荷序列中学习序列关系，并在住宅和工业负荷预测任务中取得了有前景的结果[8]，[9]。基于卷积的神经网络模型[10]和时间卷积网络[11]也被引入以从负荷序列中提取局部时间模式。但当输入序列变长时，循环结构可能会面临不稳定的梯度传播和长期信息丢失问题，这限制了它们表示电力需求序列中复杂重复行为的能力。此类架构在局部特征提取和并行计算方面具有良好的效率。然而，它们的建模能力仍然受感受野设计的影响，在表示扩展时间关系和全局时间相关性方面可能相对较弱。为了解决这些不足，基于注意力的模型被越来越多地用于时序预测，因为它们显式地刻画了远距离时间步之间的关联。

Transformer架构[12]为序列建模提供了新的解决方案。通过使用自注意力机制，Transformer可以直接建模不同时间步之间的依赖关系，并在时序预测应用中展现出强大的性能。为了提高其效率和适应性，基于Transformer构建的预测架构近年来持续发展。Ahmad等人[13]提出了TFTformer用于短期电力需求预测。该方法为气象变量、时间指标和历史需求使用独立的嵌入，并将时间卷积集成到Transformer编码器中以改进特征表示和长期依赖建模。Saeed等人[14]开发了SmartFormer，将图嵌套结构与基于Transformer的能源需求预测相结合，其中图神经网络组件被引入Transformer模块以刻画多变量需求数据中不同序列之间的关系。Zhu等人[15]提出了一种动态时空图Transformer，设计用于近期电力负荷预测，该模型结合了多尺度Transformer建模和图卷积以捕捉多周期时间模式和动态空间相关性。与此同时，轻量级基于MLP的模型，如TSMixer [16]，沿时间维度和特征维度混合信息，以高计算效率捕捉多变量相关性。

尽管基于Transformer的模型和基于MLP的模型增强了时间序列预测能力，但单一模型结构仍然难以同时捕捉全局时间依赖关系和局部波动模式。因此，混合或并行预测框架的研究越来越多。这些方法通常结合不同的特征提取模块以增强负荷序列的表示能力[17]。例如，采用注意力机制的架构适合建模扩展的时间关系，而卷积或基于MLP的模块更适合提取局部时间变化和跨变量交互。Yu等人[18]开发了一种AMD-CNN-LSTM组合架构用于短期电力需求预测，使用自适应模态分解在预测前分离负荷波动分量。Pentsos等人[19]开发了一种增强的混合架构，将LSTM与Transformer集成用于电力需求预测，结合LSTM和Transformer以提高多步住宅负荷预测精度。Gong等人[20]开发了一种联合TCN-LSTM-LightGBM集成模型用于近期需求预测，使用多变量线性回归方案融合模型预测以提高预测精度。

负荷预测中的另一个关键挑战是原始需求序列表现出的时变行为。基于分解的方法被采用以降低与复杂时间模式相关的预测难度。变分模态分解[21]构成了在非迭代信号分离技术中在受限变分优化框架内制定的方法。它将一个复杂信号分离成多个具有不同频谱特性的本征模态分量。然而，VMD分解质量强烈受模态数和惩罚系数的影响。这些参数的不当选择会导致欠分解、过度分解或模态间分离不足。为减少手动参数配置造成的不确定性，元启发式搜索技术已被纳入面向分解的预测框架[22]。灰狼优化器（GWO）[23]属于基于种群的智能搜索方法，灵感来源于灰狼群中观察到的社会支配结构和协作捕食策略。它结构简单，全局搜索能力强。通过使用GWO来确定合适的VMD参数，所得到的分解过程可以更好地适应不同的负荷序列，并为后续预测提供更可靠的IMF分量。

尽管VMD可以生成多个IMF分量，但不同分量对预测任务的贡献并不相同。一些IMF分量包含平滑的趋势信息，而其他主要描述快速波动或局部扰动。如果将所有IMF分量直接拼接或以相同的重要性处理，模型可能无法充分利用有用的模态信息[24]。Wen等人[25]提出了一种由样本熵驱动的分层分组策略，基于复杂性水平对IMF进行分组，这为在高波动的近期负荷预测中组合模态分量提供了更合适的方法。Sun等人[26]使用CPSO优化的VMD并进一步分解了具有最大样本熵的IMF，表明复杂的分解分量需要差异化处理。

近期的研究进一步探索了分解分量的精细分解和差异化建模。Zhang等人[27]将二次VMD与Informer结合，在预测前从分解分量中进一步提取负荷特征。Wu等人[28]提出了一种加性神经分解框架，将净负荷分离为相对稳定的形状分量和高频残差分分量，分别建模后进行自适应融合。

除了基于分解的处理外，多尺度特征建模在负荷预测中也受到越来越多的关注。Gao等人[29]开发了一种频率感知的多任务预测框架，其中VMD分量根据其频率特征进行分组，并通过混合时间卷积和多头注意力编码器处理以提取局部和全局特征。Jia等人[30]将CEEMDAN-VMD混合分解与注意力门控多尺度时间卷积网络相结合，其中使用多个感受野以不同尺度提取负荷特征。这些研究表明，将分解与多尺度特征提取相结合可以提供对复杂负荷模式更全面的表示。与这些研究不同，本文框架进一步为分解后的IMF分量引入了样本级自适应门控，并组合互补的TSMixer和Transformer分支进行局部和全局特征提取。

除特征提取外，分布偏移是时间序列预测中的另一个常见挑战。负荷序列的均值和方差可能在不同时间段发生变化，这会削弱预测模型的泛化能力。可逆实例归一化（RevIN）[31]被引入以通过在每个输入实例上进行归一化并在输出阶段恢复统计信息来缓解此问题。

此外，残差预测也被广泛用于提高深度预测模型的稳定性[32]。模型不需要直接学习最终的负荷值，而是只需学习相对于基线序列的残差变化，这可以降低预测难度并增强对局部波动的修正能力。

本研究的主要贡献概述如下：

1. 提出了一种统计特征引导的自适应模态加权（SFAMW）机制，基于紧凑的统计描述符为分解后的IMF分量生成样本级自适应门控系数。这使模型能够根据当前输入段的特征自适应地调整每个IMF分量的贡献。

2. 开发了一种并行的TSMixer-Transformer预测骨干网络，用于共同捕捉多尺度负荷序列中的局部波动、跨变量交互和全局时间依赖关系。

3. 在双分支框架中引入了协调的特征交互和残差预测策略，以改进互补表示学习和短期预测稳定性。

变分模态分解

变分模态分解（VMD）构成了用于信号分析的鲁棒非递归方法[33]。它是本文中克服时间频谱混叠现象的核心预处理方法。VMD不同于经验模态分解（EMD）[34]，后者易受端点效应和模态混合的影响。相反，VMD将分解过程制定为受限变分优化问题。通过变分框架，它有效地抑制了

数据集和VMD预处理

本文使用的数据集来自某地区的两家企业用户。用户1和用户2包含2024年8月1日至2025年7月31日的电力负荷记录，覆盖365天，采样间隔为15分钟。数据首先按时间顺序以7:1:2的比例划分为训练、验证和测试子集，然后使用滑动窗口程序构建预测实例。

为避免未来观测信息泄露，所有VMD参数

结论

在本研究中，开发了一种基于统计特征引导的自适应模态加权（SFAMW）和双分支注意力融合的短期负荷预测框架。首先，GWO确定合适的VMD参数值，并将负荷序列分解为若干IMF分量。此过程有助于减少非平稳性和多尺度波动的影响。然后，SFAMW模块根据均值、标准差和……生成样本级自适应门控系数

CRediT作者贡献声明

卢心怡：撰写—初稿，软件，方法论，形式化分析。王丹昊：撰写—审阅与编辑，验证，监督。彭道钢：撰写—审阅与编辑，监督，资金获取。屈波钢：撰写—审阅与编辑，验证，调查。燕祖泰：撰写—审阅与编辑，可视化，验证。

利益冲突声明

作者声明他们没有已知的可能影响本文工作的竞争性经济利益或个人关系。

致谢

本工作得到了国家自然科学基金（编号：62373241）和国家自然科学基金青年科学基金项目（编号：62303301）的支持。

卢心怡|王丹昊|彭道钢|屈波钢|燕祖泰