MSMCFA-Net：一种用于可再生能源系统中增强风速预测的多尺度多通道特征注意力网络

《Knowledge-Based Systems》：MSMCFA-Net: A Multi-scale Multi-channel Feature Attention Network for Enhanced Wind Speed Forecasting in Renewable Energy Systems

　　

摘要

近年来，可再生能源的使用大幅增加。其中，风能尤为丰富，开发成本低，能源转换效率高，且对环境友好。风速是风力发电系统规划、运行和维护中的关键因素。本文提出了一种名为多尺度多通道特征注意力（MSMCFA）的新型网络架构用于风速预测。所提出的网络集成了不同层次和尺度的特征，以提高风速预测的准确性。具体来说，引入了两个新模块：多层次通道注意力和低层特征注意力，这两个模块结合了低层和高层特征，同时更强调低层特征。为了评估所提出的方法，使用了来自两个来源的风速数据：克尔曼（Kerman）站点和意大利法维贾纳岛（Favignana Island）微电网的AGSea数据集。多步风速预测（WSF）的结果表明，该混合模型具有很高的准确性。例如，对于克尔曼站点，2009年的平均绝对百分比误差（MAPE）范围为3.9853%至5.5059%。

引言

可再生能源在世界各地发挥着至关重要的作用，为电力生成提供了环境可持续的方案。在这些能源中，风力发电因其卓越的可靠性、低的维护成本以及无排放发电能力而备受关注。然而，大规模风能并入电网带来了重大的运营挑战，进而影响电价。与传统的能源相比，风力发电最重大的挑战之一是发电固有的不可预测性。这种变异性极大地影响了风力发电在电力市场的盈利能力。因此，风速和功率的波动性使得准确预测至关重要。准确的风速预测（WSF）和风电功率预测（WPF）对于电力市场参与者至关重要，因为它们有助于降低成本和提高整体绩效。近年来，已开发出众多方法来预测包括风力发电在内的可再生能源产量。这些方法大致可分为四类：物理模型、统计模型、人工智能模型和混合模型。物理模型利用气象和地理数据，使其尤其适合长期可再生能源预测[[1], [2], [3]]。相比之下，统计模型强调揭示输入和输出变量之间的关系[[4], [5], [6], [7]]，在短期预测中相比物理方法表现出优异的性能。人工智能技术，包括人工神经网络[[8], [9], [10], [11], [12]]、支持向量机（SVR）[13]和模糊逻辑[14]，在预测短期可再生能源产量方面表现出卓越的准确性。值得注意的是，深度神经网络在该领域表现出卓越的有效性[[15], [16], [17], [18], [19], [20]]。例如，Li等人[21]提出了一种创新的混合模型，该模型结合了遗传算法（GA）、变分模态分解（VMD）、改进的圣甲虫优化算法（IDBO）和带注意力机制的双向长短期记忆网络（BiLSTM-A）。在另一项研究中，Song等人[22]提出了一种用于WSF的混合转子等效模型，该模型结合了机理分析和数据驱动技术，利用激光雷达测量来提高预测精度。同样，Yang等人[23]开发了一种新型的选择性集成WSF系统，该系统利用多个预测器进行子序列预测。由于采用了全面的设计，该方法具有显著优势，其中包括数据预处理、多样化预测器、自适应选择机制和多目标集成模块。Chen等人[24]提出了一种多步预测框架，该框架结合了集成经验模态分解（EEMD）和由布谷鸟搜索算法优化的改进K调和平均聚类算法。Moreno等人[25]提出了一种将分解模型与LSTM集成的WSF方法。Hao等人[26]开发了一种深度学习混合模型，该模型利用混合频率建模来提高预测精度，突出了混合频率数据在提高预测性能方面的价值。Zhang等人[27]提出了一种基于分解方法（HMD）、在线顺序异常值鲁棒极限学习机（OSORELM）和纵横交叉算法（CSO）的混合模式，用于短期WSF。Jiang等人[28]提出了一种创新的WSF框架，该框架集成了VMD、图神经网络（GNN）和时间序列预测组件，有效地利用多个大气变量来提高预测精度。Wang等人[29]提出了一种基于去噪卷积Transformer的截断高斯密度网络，用于WSF。Bommidi等人[30]介绍了一种创新的WSF混合深度学习架构，该架构围绕自定义损失函数设计。风速数据使用改进的完全集合经验模态分解（ICEEMDAN）方法进行去噪。此外，它还利用了Transformer网络（TRA）和一种新颖的核均方误差（Kernel MSE）损失函数（NLF）来提高预测精度。Zhao等人[31]提出了一种由VMD、CNN和GRU组成的混合深度学习模型，用于短期WPF。Zhang等人[32]介绍了一种基于变分异方差高斯过程回归（VHGPR）的多步WSF混合方法，利用其处理不确定性和提高预测精度的能力。Chen等人[33]介绍了一种基于回声状态网络（ESN）的混合模型，用于多步WSF。他们提出了四种不同的混合模型，并通过应用ESN来整合每个混合模型的结果，进一步提高了预测性能，从而实现了更准确和稳健的最终预测。Zhang等人[34]提出了一种全面的WSF模型，该模型由谱聚类经验小波变换（SCEWT）、蜂王遗传算法-GRU（QBGA-GRU）和改进的粒子群优化-广义学习系统（IPSO-BLS）模块组成。Jiang等人[35]提出了一种基于二次分解（SD）和多标签特定XGBoost特征选择方法的CGRU多步WSF模型。Wang等人[36]提出了一种采用两阶段数据预处理方法的WSF系统。Zhang和Wang[37]提出了一种日前风速预测的概率模型，该模型将CNN-BiLSTM架构与深度集成策略相结合。Yang等人[38]提出了一种基于注意力的多输入LSTM模型，该模型采用了基于滑动窗口的两阶段分解方法，用于WSF。Du等人[39]通过结合线性模型、各种神经网络和深度学习技术，引入了可解释的TFT模型用于WSF。表1总结了所审阅的某些论文的分类，基于其工作的不同方面。

本文提出了一种新型的网络架构用于风速预测。所提出的网络集成了不同层次和尺度的特征，以提高预测精度。具体来说，我们引入了一个名为多层次通道注意力的新模块，该模块结合了低层和高层特征。该模块采用了残差结构以防止梯度消失，同时有效地提取在低层特征图中可能被忽视的特征。众所周知，随着神经网络变得更深，低层特征——尽管常常至关重要——可能会被网络忽视。为了解决这个问题，我们提出了一个低层特征注意力模块，以确保重要的低层特征不被深层网络忽略。此外，我们引入了一个金字塔结构来集成多尺度特征注意力，使模型能够捕获不同分辨率的特征。上述所有模块均应用于不同的输入分辨率，以提取多尺度、多层次特征。本文的主要贡献总结如下：

• 1
  多层次通道注意力模块：与之前的工作不同，这些工作中注意力被应用于单一层，我们的架构引入了一种机制，在应用注意力之前将多个卷积层（低、中、高）的特征拼接在一起。这使得模型能够动态地强调多个抽象层次的特征，从而保留在更深网络中通常被抑制的重要低层模式。
• 2
  低层特征注意力（LLFA）：我们提出了一个新的LLFA模块，该模块使用残差结构将高层特征整合回低层输入。这有助于缓解深层网络中低层特征丢失或被稀释的常见问题。
• 3
  多尺度输入设计：我们的模型在不同分辨率下处理输入序列，这使得它同时能够捕获短期波动和长期趋势——这不是模块的简单堆叠，而是一种结构化的层次设计。
• 4
  所提出算法的有效性通过广泛的仿真结果得到证实。

本文的结构组织如下：第2节详细介绍了所提出方法的框架。第3节展示了数值结果，证明了该方法的卓越精度和有效性。最后，第4节总结了主要发现并讨论了未来研究的可能方向。

章节片段

所提出的架构

本文提出了一种新颖的风速预测架构。所提出的方法是端到端的，以最近1,000个风速样本作为输入，并预测接下来的24个风速作为输出。该架构以嵌套结构采用了三个不同的模块。具体来说，通道注意力模块集成在多层次特征注意力（MLFA）模块中，以更有效地强调所有层次的特征。如[40]中所述，数据中的大部分信息

数值结果

为了使用本研究提出的方法提前24小时预测风速，执行了以下步骤：

• 1.
  WS数据最初是在2009年伊朗克尔曼（Kerman）按每小时间隔收集的，总计8,760个数据点。为本研究的目的，使用了4,000个数据点的子集，如图6所示。同样，对于意大利法维贾纳岛（Favignana Island）微电网，2020年总共收集了16,079个数据点，如图11和图15所示。
• 2.
  输入和输出矩阵

结论

本文介绍了一种新型模块——多层次通道注意力模块，旨在集成低层和高层特征。该模块采用了残差结构以降低梯度消失的风险，并结合这些特征来捕获在低层特征图中可能被忽视的细节。为了评估所提出混合模型的性能，使用克尔曼站点的风速数据和法维贾纳岛的AGSea数据集进行了实验

CRediT作者贡献声明

Hossein Noori：监督、软件、方法论、概念构思。Gholamreza Memarzadeh：撰写-初稿、可视化、验证、方法论。Mohammad Hossein Gholizadeh：撰写-审阅和编辑、调查、数据整理。Elaheh Amirteimoury：撰写-审阅和编辑。

利益冲突声明

作者声明他们没有已知的竞争经济利益或个人关系，这些可能被认为会影响本文所报告的工作。

Hossein Noori|Gholamreza Memarzadeh|Mohammad Hossein Gholizadeh|Elaheh Amirteimoury