用于光伏功率预测中LSTM与RNN模型超参数调优的随机灰狼优化算法(Stochastic Grey Wolf Optimization, SGWO)

《Scientific Reports》：Stochastic Grey Wolf Optimization for Hyperparameter Tuning of LSTM and RNN Models in Energy Forecasting

　　

摘要：准确的光伏（Photovoltaic, PV）功率预测对于支持太阳能可靠、高效地并入现代电网至关重要。尽管循环神经网络（Recurrent Neural Network, RNN）及长短期记忆网络（Long Short-Term Memory, LSTM）等模型在时间序列预测中表现优异，但其预测精度高度依赖于超参数（Hyperparameter）的选择。为此，本研究提出一种基于随机灰狼优化算法（Stochastic Grey Wolf Optimizer, SGWO）的RNN与LSTM超参数优化系统用于PV功率预测。该算法在标准灰狼优化算法（Grey Wolf Optimizer, GWO）基础上引入随机扰动机制以增强搜索能力，通过在优化过程中加入随机性来避免早熟收敛（Premature Convergence）并提高解空间探索（Exploration）能力。所提SGWO系统基于真实世界PV数据集进行测试，对比对象包括手工调参（Manual Tuning）、随机搜索（Random Search）及标准GWO，采用均方根误差（Root Mean Squared Error, RMSE）、平均绝对误差（Mean Absolute Error, MAE）和决定系数（Coefficient of Determination, R2）作为评估指标以衡量各算法在样本外预测中的表现。实验结果表明，SGWO优化后的LSTM模型（SGWO-LSTM）取得了最高的样本外预测精度：MAE = 0.018，RMSE = 0.041，R2= 0.978。

论文解读：基于随机灰狼优化算法(SGWO)的LSTM与RNN超参数调优在光伏功率预测中的应用

一、研究背景与意义

随着太阳能等可再生能源在电网中渗透率不断提高，由于光伏（Photovoltaic, PV）发电受天气及昼夜周期影响呈现强波动性与间歇性，准确的光伏功率预测成为降低电网运行不确定性、提高调度效率及实现可靠并网的关键前提。深度学习中的循环神经网络（Recurrent Neural Network, RNN）尤其是长短期记忆网络（Long Short-Term Memory, LSTM）因能捕捉时间序列中的非线性关系与长短时依赖，被广泛应用于光伏预测。然而，RNN与LSTM的预测性能强烈依赖于学习率、隐藏层神经元数、层数、Dropout率等超参数（Hyperparameter）的选取。传统的手工调参和随机搜索（Random Search）在高维非凸空间中效率低且易陷入局部最优；标准灰狼优化算法（Grey Wolf Optimizer, GWO）虽具结构简单、寻优能力强的特点，但其确定性包围机制及控制参数线性递减易导致种群多样性丧失及早熟收敛。针对此，研究人员提出在标准GWO位置更新前注入独立高斯随机扰动，构造随机灰狼优化算法（Stochastic GWO, SGWO），旨在增强探索能力并保持GWO的领袖引导结构，并将其用于RNN与LSTM的超参数自动寻优，通过统一实验协议在同真实PV数据集上对比手工调参、Random Search、GWO及SGWO的效果。该研究成果发表于《Scientific Reports》。

二、主要关键技术方法

研究人员采用IEEE DataPort中中国北方某光伏电站与气象站2022年全年（采样间隔15 min，共35040条）的可再生能源输出数据集。数据预处理包括中位数填补缺失值、基于四分位距（Interquartile Range, IQR）诊断异常值但不做激进剔除、构建时间周期特征（时/月/年积日的正弦余弦编码）及物理衍生变量（组件与环境温差、辐射效率指标、直射/散射比、归一化气压、湿度平方项、温湿交互项），采用Spearman's rho与Kendall's tau进行基于秩的特征相关性筛选，预测变量经Z-score标准化而目标变量（实际发电功率，per unit, p.u.）保持原量纲。构建滑动窗口为L=10（回溯2.5 h）的多变量序列到单点（sequence-to-one）监督学习样本，按时间顺序以64%训练、16%验证、20%测试（不打乱）切分。搭建双层RNN与双层LSTM（含Dropout层）对比架构，超参数搜索空间含两层隐层单元数u₁、u₂（整型）、Dropout率d₁、d₂（连续）、Adam学习率η（连续）及Batch Size b（整型）。SGWO在标准GWO三领袖（α、β、δ）引导的位置更新分量X_1,j^(t)、X_2,j^(t)、X_3,j^(t)求均值前分别叠加σ·ξ·α_j^(t)等高斯扰动（ξ~N(0,1)，σ=0.1固定），狼群规模N=5、迭代次数T=5（共25次候选评估），适应度函数为验证集平均绝对误差（Mean Absolute Error, MAE_val）。训练采用Early Stopping（patience=3）与固定随机种子保证可复现，评估指标为测试集MAE、均方误差（Mean Squared Error, MSE）、RMSE及决定系数（R²）。

三、研究结果

Literature Review（文献综述）

经梳理现有文献发现，虽RNN/LSTM在PV预测中应用广泛，但缺乏在同一框架下系统比较RNN与LSTM结合确定性与随机群智能搜索进行超参数优化的研究，且标准GWO在多峰问题中存在早熟收敛缺陷，此为研究切入点。

Benchmark Functions（基准函数测试）

研究人员选用F1–F19标准单峰/多峰/低维固定维全局优化基准函数（含30维高维与2–4维固定维），在相同种群数与迭代次数下对比GWO与SGWO。结果显示GWO在平滑单峰函数（F1–F6等）具更强开发（Exploitation）能力与更快收敛；SGWO在多峰及不规则搜索空间（F7、F8、F12、F13、F14、F15、F19等）取得更优均值与较小标准差，表明随机扰动提升了种群多样性与逃离局部极小值能力，验证了SGWO在多模态问题上的探索（Exploration）优势。

Main Photovoltaic Forecasting Results（主光伏预测结果）

在主要实验设定（EPOCHS=5，迭代=5，随机种子SEED=42）下，所有配置测试集R²> 0.91。LSTM整体优于RNN。SGWO优化之LSTM（SGWO-LSTM）取得最佳测试性能：MAE = 0.018，MSE = 0.001681，RMSE = 0.041，R²= 0.978；相较手工调参LSTM基线MAE降低28.0%、RMSE降低22.64%、R²提升0.016。RNN组中SGWO获最低MAE，Random Search（Keras Tuner）获最低RMSE与最高R²，说明超参数优化对简单RNN亦有益但增益不如LSTM显著。计算耗时方面SGWO略高于基线与GWO，源于多次候选模型训练评估。

Sensitivity to the Training Budget（训练预算敏感性分析）

延长最大训练轮数（EPOCHS = 10/50/100/150）且保持超参数搜索预算不变重复实验。LSTM在EPOCHS=5时SGWO综合最优；增大训练预算后手工调参LSTM在EPOCHS≥50时可接近或微超SGWO（如EPOCHS=50/100/150时MAE=0.016，RMSE=0.038，R²=0.980）。RNN最优配置随轮数变化：5与10轮Random Search较优，50轮基线较优，100与150轮GWO较优。说明优化器效果受模型类别、早停机制及可用训练预算交互影响，在有限低训练预算下SGWO结合LSTM提供最优配置。

Validation Behavior and Convergence Analysis（验证行为与收敛分析）

绘制各优化策略下LSTM与RNN的训练/验证RMSE及不同轮数下验证R²与RMSE轨迹。LSTM中SGWO配置验证行为较平滑且与主流相当；RNN中各方法表现较参差。相对排名随训练预算变动，再次印证SGWO在低预算主实验中具竞争力，大预算下基线等方法可匹敌。

四、讨论与结论（翻译浓缩）

本研究提出了一种用于光伏功率预测中RNN与LSTM超参数调优的随机灰狼优化算法（SGWO）框架，并在统一实验条件下对比了手工调参、Keras Tuner实现的随机搜索、标准GWO及SGWO。基准函数实验表明两种狼群优化器的相对表现取决于目标函数形态：标准GWO在较光滑函数上具更强开发能力与快收敛，SGWO因随机扰动在多峰或不规则曲面上具更优搜索多样性并能减少早熟聚集。在实际PV预测任务中，SGWO-LSTM模型取得了最佳样本外测试性能（MAE = 0.018，RMSE = 0.041，R²= 0.978），SGWO-RNN亦优于手工基线并与其它调优方案具竞争力。研究表明，在标准GWO搜索流程中加入随机（Stochastic）扰动可增强基于循环深度学习的预测模型生成精确预测的能力，且在统一超参数优化协议下具鲁棒性。受限于单一站点数据与固定时序留出验证，后续研究拟拓展至多站点多气候区、滚动原点交叉验证、概率预测、可解释性分析及与Transformer等架构和其他超参数优化框架对比验证。