面向多风电机组风速时空不确定性预测的多阶段图条件概率预报器（MGPF）——双流时间编码与节点对自适应图融合

《Engineering Applications of Artificial Intelligence》：A multi-stage graph-conditioned probabilistic forecaster with dual-stream temporal encoding for wind speed forecasting

　　

多阶段图条件概率预报器（MGPF）将自适应图学习、时间编码和概率预测统一起来。节点对图融合能够捕捉风电机组之间异构的空间依赖关系。数据集特定编码可为不同数据集选择GPT-2或Patch表示。时空交叉注意力将时间动态与基于图的空间特征联系起来。MGPF在三个风电场数据集上优于竞争模型。

Xinyu Zhai、Xiancong Wu、Yulong Lv、Qiang Li和Qing Lv提出多阶段图条件概率预报器（Multi-stage Graph-conditioned Probabilistic Forecaster, MGPF；一种统一自适应图学习、时间编码与概率预测的多风电机组风速预测框架）。研究背景上，风电快速扩张使准确风速预测对功率调度和电网稳定日益重要；多风电机组受布局、风传播和尾流效应等影响存在空间关联，且风速随机性和波动性使确定性预测难以描述未来可能范围。现有问题包括：风速非平稳、多尺度波动和噪声干扰使稳定时间特征提取困难；完整经验模态分解与自适应噪声（Complete Ensemble Empirical Mode Decomposition with Adaptive Noise, CEEMDAN；一种自适应信号分解方法）等分解方法主要作用于输入阶段，后续仍需模型刻画动态和空间关系；固定图、共享图或全局融合权重难以反映不同风电机组对间空间关系差异；通用大语言模型直接用于连续数值序列存在适配问题，且仅靠时间编码难以描述风电场内时空耦合；概率预测信息仍不足。为此，研究人员开展MGPF研究，结论是其在三个真实风电场数据集上整体优于竞争模型，并能输出随输入状态变化的概率区间；意义在于将风速分解、节点对图融合、数据集特定时间编码、时空交互与不确定性建模统一到同一框架，为风功率风险感知调度提供更全面信息。

关键技术方法不超过250字：采用三个真实风电场数据集：OLD20（NREL WIND，20台，1 h，2012年全年，8784×20）、SDWPF（KDD Cup 2022，134台，10 min，245天，35016×134）和Kelmarsh（Kelmarsh SCADA，6台，10 min，2019.1—2021.6，131328×6）。关键技术包括CEEMDAN预处理、生成式预训练Transformer 2（Generative Pre-trained Transformer 2, GPT-2；基于Transformer解码器的预训练语言模型）/Patch（局部片段表示）双流时间编码及数据集选择、节点对自适应图融合（以α_ij融合先验图与可学习图得到A_final）、时空交叉注意力（spatiotemporal cross-attention；利用查询-键-值机制实现时空特征交互），以及以高斯负对数似然（Gaussian negative log-likelihood, NLL；概率预测损失）训练、同时估计均值μ和方差σ²并构建95%预测区间的概率预测头；训练采用三阶段策略、Adam和早停。

4.1 数据集描述：通过三个真实风电场数据集的统计与按时间划分，构建互补实验场景。4.2 基线与评价指标：通过与十种代表性基线比较，采用平均绝对误差（mean absolute error, MAE）、均方根误差（root mean square error, RMSE）、决定系数（coefficient of determination, R²），以及负对数似然（negative log-likelihood, NLL）、连续排序概率分数（Continuous Ranked Probability Score, CRPS）、预测区间覆盖率（prediction interval coverage probability, PICP）、平均预测区间宽度（mean prediction interval width, MPIW）、归一化平均预测区间宽度（prediction interval normalized average width, PINAW）、Interval Score和校准曲线评估点预测、概率预测与区间预测。4.3 实现细节：在PyTorch和单张RTX 4090上训练，设置隐藏维128、4头注意力、dropout 0.1，OLD20用GPT-2、SDWPF用Patch，Adam初始学习率1×10^-3、150轮、早停耐心30、批大小4/16。4.4 主要结果：4.4.1 不同数据集整体性能：在OLD20上MGPF取得R²=0.9398、MAE=1.1026 m/s、RMSE=1.4296 m/s；在SDWPF上取得R²=0.8553、MAE=0.7032 m/s、RMSE=0.9762 m/s，均优于比较模型。4.4.2 不同预测步长：在OLD20的1、3、6、12步预测中，MGPF保持最佳R²、MAE和RMSE，虽误差随步长增加而上升但表现较稳定。4.5 消融研究：通过去除CEEMDAN、固定α=0.5、去除交叉注意力、去除LLM编码器和去除概率头，发现完整MGPF最优；去除LLM编码器时R²降至0.5933、RMSE升至3.1416，影响最显著；固定α=0.5时R²为0.8568、RMSE为2.2689。4.6 数据集特定编码器选择：通过同一框架下比较GPT-2与Patch，得出OLD20宜用GPT-2、SDWPF宜用Patch。4.7 GPT-2预训练和微调策略：通过部分微调、全微调、冻结、随机初始化和匹配宽深Transformer对照，得出部分微调最佳，随机初始化性能明显下降，说明预训练表示有贡献。4.8 多阶段训练分析：通过Stage 1冻结、Stage 2解冻顶部三层、Stage 3全解冻比较，得出Stage 2最佳，Stage 3轻微下降且原文归因于小数据集上参数更新过多可能引起过拟合。4.9 图结构分析：通过动态时间规整（Dynamic Time Warping, DTW；一种时间序列相似性度量）先验图与最终融合图可视化，得出A_final保留块状结构但权重被数据驱动调整，部分节点对权重明显变化；原文同时指出该可视化不足以验证具体机制。4.10 概率预测分析：4.10.1 概率预测性能：在OLD20、SDWPF和Kelmarsh上，MGPF的NLL、CRPS、MPIW、PINAW和Interval Score均低于Prob-LSTM，PICP更接近0.95，区间更窄且覆盖接近名义水平。4.10.2 校准分析：通过不同名义覆盖率下的校准曲线，得出MGPF曲线更接近理想对角线，SDWPF差异最明显，经验覆盖接近目标。4.11 进一步分析与讨论：4.11.1 Kelmarsh数据集泛化评估：通过外部风电场验证，得出MGPF的R²=0.8450、MAE=0.8552 m/s、RMSE=1.1443 m/s，优于比较模型，较最佳基线MAE和RMSE降低3.88%和4.31%。4.11.2 计算效率分析：通过参数量、GFLOPs、训练显存、训练时间和推理时延比较，得出OLD20使用GPT-2时开销较大，SDWPF改用Patch后计算成本、显存和推理时延显著降低，甚至优于GPT2-Forecaster。4.11.3 超参数敏感性与鲁棒性分析：通过6、10、14输入长度与5×10^-4、1×10^-3、2×10^-3学习率共9种组合、三次随机种子重复，得到R²为0.8438—0.8562、MAE为0.0494—0.0522、RMSE为0.0690—0.0720（归一化空间），波动有限。

讨论部分表明，MGPF并非单模块驱动，时间编码、CEEMDAN和自适应图融合对整体预测尤为重要；GPT-2的作用不限于增加参数，预训练表示与调参方式直接影响风速序列应用效果；模型在跨风场与不同预测步长下具有较好适用性，但预训练GPT-2会增加计算与存储成本，限制资源受限环境直接部署，未来可通过知识蒸馏、剪枝、高效微调、轻量编码器降低复杂度，并引入更全面不确定性建模与跨风场迁移研究。研究结论（译）：本文提出MGPF，将风速分解、空间关系学习、时间编码和概率预测统一于一个框架。模型在节点对层面融合物理先验图与数据驱动图，使不同风电机组间空间依赖可按数据调整；时间建模结合预训练GPT-2与轻量Patch表示，并按数据规模和时间特征选择合适编码，以平衡长程依赖与局部动态；时空交叉注意力建立时间表示与图空间特征交互，使目标风电机组预测同时利用自身历史变化和其他风电机组空间信息。MGPF进一步将多风电机组风速预测从确定性点预测扩展为概率预测，同时估计未来风速及其不确定性，提供随输入状态变化的预测区间。节点级图融合、时间编码和时空交互共同贡献最终概率预测，概率实验表明其在保持区间锐度的同时取得合理覆盖。多个真实风电场实验验证该设计：MGPF在主要数据集上保持良好确定性预测性能，在不同预测步长上稳定，并能适应Kelmarsh等外部风场数据；消融表明性能并非由单一模块驱动，时间编码、风速分解和自适应图融合尤为重要；GPT-2对照实验表明其作用不限于增加参数，预训练表示和参数调优方式直接影响应用效果。MGPF仍有改进空间：预训练GPT-2在部分场景增加计算和存储成本，限制资源受限环境直接部署；未来工作将聚焦通过知识蒸馏、模型剪枝、高效参数微调和轻量编码器降低复杂度，并引入更全面不确定性建模方法、进一步研究不同风场间直接迁移能力，以更好适应跨区域和不同运行条件下的风速预测任务。