基于模式记忆库与多尺度特征感知调制的深度学习方法在风力发电预测中的应用优化

《Engineering Applications of Artificial Intelligence》：Deep learning enhancement for wind power prediction using pattern memory bank and multi-scale feature perceptive modulation

　　摘要：准确的风电预测对于确保电网的稳定运行和经济效益至关重要。然而，传统的深度学习模型难以捕捉长期依赖关系，也无法适应天气变化带来的特征重要性变化。为解决这些问题，本文提出了一种改进的风电预测模型，通过训练阶段的闭环记忆优化机制，将模式记忆库和多尺度特征感知调制模块整合到传统深度学习模型中。模式记忆库包含上下文编码器、记忆矩阵、三重重要性跟踪系统以及门控读写机制。作为一种具有重要性感知能力的地址式外部记忆模块，模式记忆库在训练过程中存储并更新具有代表性的气象-功率模式，从而支持更长时间的依赖关系建模。多尺度特征感知调制模块则是一种由记忆引导的门控多尺度特征调节模块，它通过自适应门控和扩张卷积，利用当前输入和检索到的记忆模式动态调整不同时间尺度上的特征权重。在训练阶段，闭环记忆优化机制促进了模式记忆库、多尺度特征感知调制模块与神经网络预测模型之间的相互作用；而在推理阶段，记忆矩阵保持不变，模型以纯读取和前馈方式运行。实验在真实的风电场数据集上进行，结果与传统的深度学习模型以及最先进的时序预测方法进行了比较。在整体数据集层面的对比中，所提出的模型在各个数据集上都优于最强的竞争模型，平均绝对误差降低了约11%，均方根误差降低了6.23%至8.59%。这些结果表明，所提出的带有模式记忆库-多尺度特征感知调制模块的模型提升了风电预测的准确性和可靠性。

引言：作为一种清洁且可再生的能源，风能对于解决化石燃料枯竭和环境恶化问题具有重要意义（Wang等人，2024年）。根据2025年全球风能报告（全球风能理事会，2025年），2024年全球已安装的风电容量达到了创纪录的1136吉瓦。然而，风电输出对天气条件的变化极为敏感，这种固有的间歇性给电网整合带来了挑战（Y. Wang等人，2023年）。因此，准确的风电预测对于保障电网稳定和实现大规模风电应用至关重要（Yan等人，2015年），也有助于实现向碳中和的可持续发展目标（Hanifi等人，2020年）。

现有的风电预测模型大致可分为三类：物理模型、统计模型以及基于人工智能的模型。物理模型，如数值天气预报模型（Dong等人，2016年），利用理论方程来模拟风能分布和功率转换过程（M. Yang等人，2025年；De Giorgi等人，2011年）。统计模型包括ARIMA模型（Shan等人，2024年）、灰色模型（Ran等人，2025年）以及马尔可夫链模型（Al-Duais和Al-Sharpi，2023年），它们通过历史数据建立输入与输出之间的关联。不过，无论是物理模型还是统计模型，都难以充分考虑风电生成过程中的非线性动态特性，这限制了它们的实际应用效果（Wang等人，2025年）。

随着人工智能技术的进步，尤其是其在捕捉时序数据中的非线性特征方面的能力提升，基于人工智能的预测模型在风电预测领域受到了越来越多的关注（Ahmadi等人，2025年）。常见的基于人工智能的模型包括支持向量机（SVM）（Zeng和Qiao，2013年）、极端学习机（ELM）（Liu等人，2018年）、人工神经网络（ANN）（Almonacid等人，2011年）、卷积神经网络（CNN）（Geng等人，2023年）、循环神经网络（RNN）（Cai等人，2024年）、长短期记忆网络（LSTM）（Zhang等人，2023年）以及门控循环单元（GRU）（Xiao等人，2023年）。其中，基于LSTM和CNN的预测模型在风电预测中应用最为广泛。J. Wang等人（2023年）开发了一种改进的LSTM模型，使得季节性误差指标分别降低了37.37%、13.44%、10.64%和20.78%。Mo等人（2024年）提出了频率滤波增强型双LSTM网络，该网络通过序列分解和嵌入过滤，提升了LSTM模型捕捉长序列和多尺度特征的能力。Jonkers等人（2024年）基于CNN设计了一种提前一天的区域风电预测框架，利用数值天气预报网格和风力发电机位置数据来提升模型在不同区域的泛化性能。尽管已经取得了一些进展，但现有的基于人工智能的风电预测模型在捕捉长期时间依赖关系方面仍面临挑战，这是由于基于梯度的优化方法存在固有局限（Liu和Zhang，2024年）。

静态注意力机制，如Luong机制（Jin等人，2025年）和Bahdanau机制（Belletreche等人，2024年），被广泛应用于风电预测中。Shang等人（2022年）构建了一种新的深度学习CNN注意力模型，该模型结合了因果卷积网络和静态注意力机制。在四个数据集上的三组实验表明，所提出的模型性能优于普通的CNN模型。然而，静态注意力机制的交互结构依赖于固定的权重矩阵（Aykas和Mehrkanoon，2021年），这使得它无法有效模拟风速、气压和温度等关键气象变量之间不断变化的关系（Liu等人，2024年）。此外，静态注意力机制的注意力权重计算并未考虑实时天气状况，这限制了模型对突发气象变化的响应能力。因此，这些局限性表明静态注意力机制并不适合用于描述气象条件的动态变化。

近年来，人们开始研究动态注意力机制，以克服静态注意力机制的这些缺陷。Liu等人（2022年）提出了一种非平稳变换器，该变换器采用了去平稳注意力机制，以便捕捉非平稳模式并更好地模拟多变量间的动态相互作用。Fu等人（2019年）开发了一种时空注意力网络，该网络利用多头自注意力机制来捕捉风电场内的空间相关性和时间依赖性。这类动态且对环境敏感的注意力机制能够更灵活地适应不断变化的气象条件。不过，尽管有所改进，现有的基于注意力的方法在捕捉多尺度时间变化和快速变化的气象模式方面仍然存在局限。这就需要一种更为灵活的特征调节机制，能够在不同的时间尺度上赋予特征不同的重要性，而这超出了传统注意力机制的范畴。

本文提出了一种新的风电预测模型，该模型通过两个互补的、针对特定任务设计的模块得到了增强，即模式记忆库和多尺度特征感知调制模块。模式记忆库作为一种具有重要性感知能力的外部记忆模块，用于存储、检索和维护气象-功率模式，从而解决了传统深度学习模型无法捕捉长期依赖关系的难题；而多尺度特征感知调制模块则通过记忆引导的方式实现门控多尺度特征调节，从而在各种动态且非平稳的运行条件下，适应性地调整不同时间尺度上的特征权重，进而弥补静态注意力机制的不足。作为可直接插入使用的组件，模式记忆库和多尺度特征感知调制模块被进一步整合到一个训练阶段的闭环记忆优化框架中，在该框架中，记忆检索会引导特征调节，同时从训练样本中获得的高激活度候选隐藏状态会被用来优化记忆库的结构。在推理阶段，经过训练的记忆矩阵保持不变，仅用于读取模式数据以实现前馈式预测，从而避免了因预测而导致的记忆更新和递归误差积累。本研究的主要贡献如下：

（1）开发了一种专门用于存储和检索气象-功率模式的重要性跟踪外部记忆模块——模式记忆库。该模块整合了上下文编码器、结构化的记忆矩阵、三重重要性跟踪机制以及门控读写策略。通过基于上下文的条件记忆寻址和具有重要性感知能力的记忆维护，模式记忆库能够存储和检索长期的气候模式，从而显著提升了对长时间依赖关系的建模能力，而这一点是传统神经网络所无法做到的。

（2）开发了多尺度特征感知调制模块，以实现动态且具有上下文感知能力的特征适配。与静态注意力机制依赖基于相似性的时间加权不同，多尺度特征感知调制模块通过当前输入和从模式记忆库中检索到的记忆信息共同驱动的自适应门控机制来实现特征调节。此外，该模块还结合了多尺度扩张卷积技术，能够为不同时间分辨率下的气象变量赋予动态变化的重要性权重，从而有助于在不断变化且非平稳的气象条件下有效地建模非线性特征之间的相互作用。

（3）设计了一个训练阶段的闭环记忆优化框架，旨在加强训练过程中基于模式记忆库的记忆检索、基于多尺度特征感知调制模块的特征调节与核心预测模型之间的相互作用。在该架构中，模式记忆库会检索具有代表性的历史模式，以此指导多尺度特征感知调制模块进行动态特征加权；同时，从训练样本中获得的具有高激活度的候选隐藏状态会被用来通过余弦门控写入和基于重要性感知的替换操作来优化模式记忆库的结构。在推理阶段，记忆矩阵保持不变，模式记忆库仅用于读取数据进行前馈式预测，从而避免了因预测而引发的记忆更新和误差累积。

（4）在两个真实的风电场数据集上进行了大量实验，以全面评估所提出的框架的性能。该模型与传统的预测模型以及最先进的时序预测方法进行了比较，同时还进行了额外的消融实验、增量实验、稳健性测试和敏感性分析。实验结果表明，所提出的框架在不同风电场条件下都能实现准确且稳定的预测性能，而进一步的分析则研究了该框架在季节性变化、迁移场景以及突变事件情况下的表现。

架构与方法：本文提出了一种风电预测模型，该模型将模式记忆库和多尺度特征感知调制模块作为针对特定任务的模块整合到基于LSTM的深度学习模型中，这种模型被称为PMB-MFPM-LSTM。如图1所示，模式记忆库、多尺度特征感知调制模块和LSTM被整合到了一个训练阶段的闭环记忆优化框架中。需要指出的是，无论是训练阶段还是推理阶段都会进行读取操作，而写操作则仅在训练阶段的记忆优化或可选的在线更新时才会执行。

数据准备：在模型训练之前，需要对本研究使用的数据集进行仔细的处理。这些数据来自中国不同省份的两个风电场，分别被命名为数据集1和数据集2。这两个数据集包含了以15分钟间隔记录的气象变量和历史风电功率数据，不过它们所包含的输入变量并不完全相同。数据集1包括风速、风向、温度、气压、湿度等数据。

模型比较与性能分析：为了全面评估所提出框架的有效性和泛化能力，本文在来自不同风电场的两个风电数据集上进行了对比实验。所提出的PMB-MFPM-LSTM模型与传统的循环模型和混合模型进行了比较，这些传统模型包括LSTM和CNN-GRU模型，此外还与一些最先进的模型进行了对比，这些先进模型包括iTransformer、NSTransformer、TCN、DLinear、TimesNet、PatchTST和Informer模型。这些对比模型涵盖了……

结论：本文提出了模式记忆库和多尺度特征感知调制模块这两种架构组件，并将其整合到传统的深度学习模型中，以此提升风电预测的准确性。所提出的框架解决了现有预测模型的两个主要缺陷，即对长期时间依赖关系的建模不足，以及对于动态变化的气象特征重要性的适应能力有限。模式记忆库通过选择性保存和检索数据，增强了模型对长期依赖关系的建模能力。

作者贡献声明：Xiaolin Liang负责写作——审阅与编辑、写作——初稿撰写、可视化、验证、监督、方法论、形式分析工作；Fei Guo负责写作——审阅与编辑、写作——初稿撰写、验证、方法论、研究调查、形式分析、数据整理工作；Wangbin Cao负责写作——审阅与编辑、可视化、软件应用、资金获取、形式分析、数据整理工作；Xingchen Lv负责写作——审阅与编辑、软件应用、研究调查、数据整理工作。

利益冲突声明：作者声明不存在任何可能影响本文研究成果的已知财务利益或个人关系。

致谢：本研究得到了中国国家自然科学基金（编号：62001166）、河北省自然科学基金（编号：F2024201053）、中央高校基本科研业务费（编号：2026MS140）以及河北省科技计划项目（编号：2023KFKT002、编号：SZX2020034）的支持。

Xiaolin Liang | Fei Guo | Wangbin Cao | Xingchen Lv
河北大学电子与信息工程学院，中国保定市071002