一种自适应N-BEATS电力负荷预测框架，结合了多尺度建模和概念漂移检测技术

《Knowledge-Based Systems》：An Adaptive N-BEATS Electric Load Forecasting Framework Incorporating Multi-Scale Modeling and Concept Drift Detection

电力负荷预测中存在多时间尺度依赖和概念漂移问题，本文提出自适应多尺度漂移鲁棒N-BEATS模型，通过结合多头自注意力和稀疏坐标注意力机制，并集成概念漂移检测与自适应参数更新策略，有效提升模型在非平稳环境下的预测精度和鲁棒性。实验表明，该模型在小时级电力负荷数据上的MAE为2.39，MAPE为3.21%，R2达0.978，且具有优异的漂移检测和恢复能力。

　　

张勇|李彤|孙杰|程文涛|胡浩雷|王丽|范书瑞|张静宇

天津商学院信息工程学院，中国天津300134

摘要

准确的工业电力负荷预测对于现代电力系统的安全、稳定和经济运行至关重要。然而，电力负荷时间序列通常表现出复杂的多尺度时间依赖性和概念漂移，这大大增加了实际预测建模的难度。为了解决这些挑战，本研究提出了一种自适应神经基扩展分析模型（AMDR-N-BEATS），该模型结合了多头自注意力（MHA）和稀疏坐标注意力（SCA），以及概念漂移检测和自适应更新机制，以提高非平稳环境中负荷预测的稳定性和适应性。首先，双注意力机制增强了捕捉长期依赖性的能力，同时关注显著的局部特征，从而改善了多尺度特征解耦并减少了冗余计算。此外，开发了一种混合概念漂移检测方法，结合累积和（CUSUM）统计量和Jensen–Shannon（JS）散度来检测突发性和渐进性分布变化。检测到漂移后，采用矩匹配策略和增量微调来重新调整特征分布并动态更新模型参数，显著加速了漂移后的性能恢复。在长达一年的每小时负荷数据集上进行的实验结果表明，所提出的方法具有稳定的性能，平均绝对误差（MAE）为2.39，平均绝对百分比误差（MAPE）为3.21%，决定系数（R2）为0.978，并且在漂移检测和漂移后误差恢复方面也表现出良好的整体效果。在给定的数据和实验配置下，所提出的框架为非平稳负荷场景下的自适应预测提供了可行的解决方案。

引言

电力负荷预测长期以来一直是电力领域的核心研究课题，主要关注分析和预测电力需求及其相关特征的时间演变[1]。早期的研究主要由统计时间序列模型主导，如自回归积分滑动平均（ARIMA）模型和指数平滑状态空间（ETS）模型[[2], [3], [4]]。这些方法基于严格的数学基础，但受到刚性线性假设的约束，并且需要大量的手动特征工程，因此无法有效处理非线性交互。

为了缓解这些限制，引入了支持向量回归（SVR）等机器学习方法，并在解决非线性建模问题方面显示出了一定的效果[5]。然而，它们对人工制作的时间特征的强烈依赖限制了在异构电网环境中的可扩展性。深度神经网络（DNNs）的出现[6]，特别是基于长短期记忆（LSTM）[[7], [8], [9]]和时间卷积网络（TCNs）[[11], [12]]的架构，实现了自动特征提取[[13], [14]]，从而加速了向数据驱动预测方法的转变[15]。尽管取得了进展，现有的深度学习模型在多步预测和多尺度表示学习方面仍面临挑战。然而，这类深度网络通常依赖于较大的参数规模和复杂的架构。为了用更少的参数降低建模成本，提出了Kolmogorov–Arnold网络（KAN）[16]。然而，现有的KAN研究主要关注通用时间序列或回归问题，缺乏针对电力负荷数据的多尺度结构和概念漂移的专门设计。

在这种背景下，用于可解释时间序列预测的神经基扩展分析（N-BEATS）框架因其强大的预测性能和对趋势和季节性成分的可解释分解而受到了广泛关注[17]。通过堆叠前向块并采用模块化设计，N-BEATS克服了传统架构的多个建模限制，并在各种领域展示了强大的泛化潜力。然而，在电力负荷预测的背景下，负荷曲线的非平稳性质常常导致多尺度时间依赖性（例如，日内波动、季节性周期）和跨尺度概念漂移（例如，由于政策变化或天气变化）。这些因素对预测模型的鲁棒性和适应性提出了更严格的要求。

内在的多尺度时间依赖性与外部引起的跨尺度概念漂移之间的相互作用，在非平稳环境中创造了复杂的预测挑战[18]。尽管N-BEATS架构凭借其可解释的基础分解在时间序列预测中取得了显著成功，但其应用于电力负荷场景仍面临两个主要限制：(1)

传统N-BEATS模型依赖于预定义的基础函数（例如，多项式和傅里叶基）来分解负荷序列，这限制了捕捉多尺度动态耦合的能力。虽然在平稳条件下表现良好，但在捕捉突发事件与长期趋势之间的动态交互方面存在局限性。在极端情况下，多尺度耦合效应会显著放大预测误差。具有固定基础函数的模型缺乏捕捉跨尺度相关性的自适应机制，导致关键时间信息的遗漏。为了解决这个问题，已经探索了注意力机制，在浅层应用稀疏坐标注意力（SCA）来提取局部特征，在深层应用多头自注意力（MHA）来建模长期依赖性，同时降低整体复杂性。

(2)

检测和适应异步概念漂移仍然是电力负荷预测中的一个重大挑战。分布变化通常出现在多个时间粒度上，其中短期和长期漂移共存并相互作用。现有的在线学习方法通常依赖于单尺度漂移检测策略，无法区分漂移来源，经常将局部噪声误认为是系统性变化，导致过度适应。此外，全参数微调机制引入了过高的计算成本，限制了其在边缘设备上的实时部署可行性。尽管混合检测框架（如CUSUM和Kullback–Leibler散度的组合）可以提高敏感性，但仍然不足以捕捉跨尺度漂移传播的异质性。这些限制强调了集成矩匹配以调整基础函数参数并与增量学习相结合的必要性，从而实现快速适应，并应用正则化来降低过拟合的风险。

为了克服这些挑战，本文提出了一种自适应多尺度抗漂移N-BEATS（AMDR-N-BEATS）框架，直接解决了两个关键科学问题。首先，它建立了一个高效且可解释的架构，能够解耦多尺度负荷模式。其次，它在计算和存储资源受限的情况下实现了对跨尺度概念漂移的准确检测和快速响应。

理论和实验结果表明，层次化MHA和SCA的协同使用显著改善了多尺度特征解耦。此外，结合CUSUM和JS散度的混合漂移检测器，当与增量基础重构策略结合使用时，显著降低了模型更新的时间和资源成本，从而提高了在动态负荷环境中的适应性和鲁棒性。

文献综述

在电力负荷预测中协同管理多尺度时间依赖性和概念漂移是提高智能电网韧性的核心挑战[19]。多尺度依赖性源于负荷信号在分钟、小时、天、周和季节等不同时间粒度上的复杂交互，例如工作日傍晚高峰与周末中午模式的非线性叠加。

问题描述

本研究探讨了多维自适应电力负荷预测问题，输入数据包括日期和负荷等特征。由于负荷序列随时间表现出概念漂移，我们提出了一种方法，该方法结合了自注意力层来提取长期依赖性，以及坐标注意力层来捕捉短期特征。

使用Kullback–Leibler（KL）散度作为CUSUM程序的输入，以获取相关信息

N-BEATS模型

N-BEATS模型是一种基于深度学习的时间序列预测方法，主要用于单变量预测任务。与其他模型相比，它具有相对简单的架构，但表现出强大的表达能力。它不依赖于特定的时间序列特征工程或输入预处理，因此能够有效地泛化到不同的预测任务中。此外，N-BEATS具有快速的训练速度和强的预测可解释性

集成N-BEATS混合网络与漂移检测和自适应优化

如第3节所述，数据分布随时间演变，导致基于历史数据训练的模型泛化能力下降。在第4节介绍的基础模型基础上，本节结合了概念漂移检测和在漂移点的模型适应。具体来说，首先使用CUSUM来确定数据集中是否发生了分布变化。随后，采用矩匹配策略来更新模型参数

N-BEATS混合网络与注意力层和自适应优化策略

在第4节讨论的N-BEATS负荷预测模型和第5节介绍的集成N-BEATS混合网络与漂移检测和自适应优化的基础上，本研究提出了一种自适应N-BEATS负荷预测模型，该模型结合了自注意力和稀疏坐标注意力机制。该模型专门针对工业电力负荷时间序列中的多尺度时间依赖性和跨尺度概念漂移挑战进行了设计。

结果与讨论

基于中国一家电力供应商提供的工业电力消耗数据，本研究通过以下步骤验证和分析了所提出模型的性能：首先，对原始数据进行了异常值检测和缺失值填充。在将数据输入模型之前进行了标准化处理，在评估模型输出时进行了反标准化处理。其次，使用了一个结合注意力的复合N-BEATS网络

结论

本文提出了AMDR-N-BEATS模型，该模型结合了多头注意力（MHA）和稀疏坐标注意力（SCA）机制，构建了一个用于非平稳电力负荷序列的自适应多尺度预测框架。该模型不仅有效地捕捉了负荷数据中的多尺度时间依赖性，还在可控的参数化下增强了对其局部突发特征的关注，从而解决了过拟合和特征冗余问题

CRediT作者贡献声明

张勇：撰写 – 审稿与编辑，撰写 – 原始草稿，可视化，方法论，调查，资金获取，形式分析，概念化。李彤：可视化，验证，软件，资源，方法论，形式分析。孙杰：可视化，验证，软件，数据整理。程文涛：可视化，验证，数据整理。胡浩雷：可视化，验证，软件，数据整理。王丽：。范书瑞：可视化，验证，调查。

利益冲突声明

作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文报告的工作。

致谢

本工作部分得到了天津市自然科学基金（项目编号24JCZDJC00350）；国家自然科学基金（项目编号42075129、62441405）；天津市教育委员会科研项目（项目编号2024KJ080）的支持。