面向行业特异性电力负荷预测的深度学习模型约束优化集成方法

《Results in Engineering》：A Constrained-Optimization Ensemble of Deep Learning Models for Sector-Specific Electric Load Forecasting

　　

精确的电力负荷预测对于优化资源配置与保障电网稳定性至关重要。尽管深度学习（DL）模型已显示出显著潜力，但其在不同能源消费部门之间的比较性能仍缺乏充分研究。本文提出一种具备行业感知特征的中长期电力负荷预测框架，利用月度数据支持战略性基础设施规划。研究人员对五种先进架构——长短期记忆网络（LSTM）、双向长短期记忆网络（BLSTM）、序列到序列模型（Seq2Seq）、卷积神经网络-长短期记忆网络（CNN-LSTM）以及深层长短期记忆网络（Deep LSTM）——在农业、工业、商业和居民四个部门中的表现进行了综合评估。通过穷举网格搜索确定最优超参数，并采用前向滚动验证（walk-forward validation）方法进行验证。本研究的核心贡献在于构建了一种通过约束最小二乘最小化优化的加权集成模型。为突出该优化策略的优势，研究进一步将所提方法与简单平均基线进行了比较。基于均方根误差（RMSE）、平均绝对误差（MAE）、决定系数（R²）和平均绝对百分比误差（MAPE）的性能评估表明，相较于单一模型及基线方法，集成模型在预测精度上实现了明确提升，并在聚合数据集上达到RMSE为3.43E+08、R²为0.9459的性能。然而，鉴于数据集规模存在局限，这些结果更适宜被解读为对战略规划潜力的指示，而非确定性的运行级预测。总体而言，本研究为行业特异性的能源管理提供了一个系统化框架。

该文发表于《Results in Engineering》，围绕行业特异性电力负荷预测构建了一套系统性的深度学习集成分析框架。研究背景在于，电力负荷预测是保障现代电网稳定运行和经济高效配置的基础。传统统计方法虽然为负荷预测奠定了方法学基础，但在处理复杂非线性消费模式方面能力有限；随后机器学习（ML）与深度学习（DL）逐渐成为主流，尤其是长短期记忆网络（LSTM）等模型在时间序列预测中表现突出。然而，现有研究多数将电网需求视作单一同质系统，忽视了农业、工业、商业和居民等不同用能部门在需求波动机制、季节性、生产驱动性与气象敏感性方面的显著差异。这种聚合建模方式容易掩盖行业之间的异质性，导致部门级预测精度不足，也限制了规划层面的可操作性。因此，开展面向行业差异的电力负荷预测研究，对于支撑能源基础设施长期规划和精细化管理具有现实必要性。

针对上述问题，研究人员提出了一个面向四类用电部门的多阶段深度学习预测框架，并对五类代表性架构进行系统比较，包括LSTM、双向长短期记忆网络（BLSTM，双向时序建模结构）、序列到序列模型（Seq2Seq，编码器-解码器预测结构）、卷积神经网络-长短期记忆网络（CNN-LSTM，融合局部特征提取与时序建模）以及Deep LSTM。研究不仅关注单一模型性能，还进一步设计了基于约束最小二乘优化的加权集成模型，以克服简单平均法默认各子模型贡献相同的局限。结果表明，深层模型与混合集成策略在多个部门中都优于传统统计基线与单一深度模型，其中约束优化集成模型在总体数据上取得最优表现，RMSE为3.43E+08，MAE为2.77E+08，R²为0.94593，MAPE为3.58%。研究由此得出结论：不同部门具有不同时间动态特征，采用多架构协同与优化加权的方式能够更有效地捕捉其复杂性，从而提高中长期负荷预测的稳健性与实用价值。其重要意义在于，为电网运营者与政策制定者提供了更具针对性的战略规划依据，也为行业特异性能源管理提供了可复现实证框架。

研究所采用的关键技术方法主要包括：基于美国能源信息署（EIA）与美国国家海洋和大气管理局（NOAA）2018年1月至2023年12月的72个月度样本，整合四类部门用电量与温度、湿度、风速、降水等气象变量；通过月度聚合、缺失值插补、基于sin/cos的月份周期编码及Z-score标准化完成预处理；采用网格搜索进行超参数调优，并使用前向滚动验证控制时间泄漏和过拟合；在LSTM、BLSTM、Seq2Seq、CNN-LSTM、Deep LSTM及统计基线SARIMA、ETS之间开展比较；最后利用满足w_i ≥ 0且Σw_i = 1的约束最小二乘法求解最优集成权重。

3.1 Overall Performance Evaluation
在整体性能评估部分，研究人员比较了所有模型在总体数据上的预测表现。结果显示，深度学习模型整体优于经典统计模型SARIMA与指数平滑模型（ETS）。在单模型中，Deep LSTM取得最佳综合性能，RMSE为3.80E+08，优于LSTM、BLSTM、Seq2Seq及CNN-LSTM，说明增加网络深度有助于捕捉更长程、更复杂的时间依赖关系。更关键的是，与“简单平均”集成相比，所提出的约束优化集成模型表现进一步提升，RMSE由3.85E+08降至3.43E+08，R²升至0.94593，说明数学优化赋权比朴素平均更能抑制弱模型带来的误差扩散。文中明确指出，Seq2Seq由于性能较弱，在优化中被赋予0权重，而CNN-LSTM与Deep LSTM则获得较高权重，从而实现约11%的误差改进。

3.2 Sector-Specific Performance Analysis
在分部门性能分析部分，研究人员给出了CNN-LSTM、Deep LSTM和集成模型在农业、工业、商业与居民部门上的RMSE对比。结果表明，集成模型在全部部门均稳定优于最佳单模型，农业部门提升9.2%，工业部门提升10.1%，商业部门提升6.6%，居民部门提升7.5%。其中工业部门的提升最为显著，表明工业负荷中存在更强的不规则波动和更复杂的驱动机制，单一模型难以充分刻画，而多模型集成更适合处理此类高异质性需求序列。这一结果直接支撑了论文的“行业感知”研究主张，即不同部门必须采用差异化建模视角，而非以统一模型覆盖全部场景。

3.3 Ensemble Prediction (Weighted Average)
在加权集成预测部分，研究人员详细说明了集成模型的形成方式。该方法以各子模型预测值构成矩阵，通过求解约束最小二乘问题最小化预测误差，并要求所有权重非负且和为1，以保证结果是有效凸组合。最终得到的权重分别为LSTM 0.05、BLSTM 0.15、Seq2Seq 0.00、CNN-LSTM 0.35、Deep LSTM 0.45。该结果说明优化过程能够自动强调高性能模型并抑制低性能模型，避免简单平均无差别融合带来的性能拖累。通过这一方式，最终集成预测在接近真实负荷轨迹方面优于所有单一模型，验证了优化加权策略在提高稳健性和降低方差方面的作用。

3.4 Discussion
讨论部分指出，Deep LSTM持续优于标准LSTM，反映出更深层的时序结构在捕捉长期依赖方面具有优势；而约束优化集成模型优于单模型和简单平均，则验证了不同架构能够从数据中提取不同层面的信息，最优融合可以获得互补增益。与此同时，论文对局限性进行了谨慎说明。首先，训练数据仅包含72个月度样本，数据规模偏小，因此高性能指标更应被理解为对样本内复杂非线性的有效拟合，以及对战略规划趋势的支持，而非对未来10年高波动环境下运行级预测准确性的绝对保证。其次，长期能源系统还会受到突发事件、政策调整和经济变化等历史样本之外因素影响，因此模型输出更适合作为方向性指标而非绝对调度目标。再次，维持五个深度学习模型并进行集成需要较高计算资源和技术维护成本，在实时应用场景下可能需要在精度与复杂度之间折中。

3.5 Result Analysis
结果分析部分进一步强调，加权平均法在预测精度上优于所有竞争模型。其本质在于通过模型融合降低单一模型误差，提高总体预测稳定性。作为单模型中表现最佳的方法，Deep LSTM在集成中获得较高权重，对最终性能提升贡献显著。论文同时指出，本研究中CNN-LSTM达到约0.93的R²，较其他近期研究中约0.88的水平更高，表明该框架在相近任务中的预测能力具有一定优势。

3.6 Validation Plots
在验证图结果部分，研究人员利用MAE、RMSE、R²和MAPE等指标对各模型性能进行了图形化比较。相关验证结果总体支持表格中的定量结论，即集成模型在多个评价维度上表现更为均衡，说明其不仅降低了绝对误差，也增强了解释度与稳定性。

3.7 Practical Limitations and Challenges
在实际部署挑战部分，论文指出，CNN-LSTM和Deep LSTM等架构对高性能计算基础设施存在依赖，训练、维护与周期性更新成本较高；同时，长期稳定运行还依赖持续、高质量且及时更新的数据输入。此外，深度学习模型具有典型“黑箱”属性，限制了电网运营场景中的可解释性与信任建立。因此，研究建议未来引入可解释人工智能（XAI）工具，如SHAP与LIME，以提升模型预测结果的透明度。

3.8 Feature Sensitivity Analysis
在特征敏感性分析部分，研究人员采用置换重要性（permutation importance）评估输入变量贡献。结果表明，温度是最关键变量，对预测精度的贡献约为41%；湿度次之，贡献约28%。论文同时指出，这些气象变量对不同部门的重要性并不一致：居民部门更直接受到制热和制冷需求驱动，因此对温湿度更敏感；工业和商业部门则更多受生产排程与营业活动影响，可能对时间模式更敏感。这一发现进一步支持按部门开展独立建模的必要性。

对论文讨论部分进行总结，可见该研究的核心认识在于：电力负荷并非单一均质时间序列，不同行业具有不同的非线性结构、气象敏感性与波动特征，因此单一架构难以在所有部门中同时保持最优；多架构基准比较结合约束优化集成，不仅能够提升整体误差指标，还能增强模型对部门异质性的适应能力。与此同时，研究人员并未夸大结果，而是明确承认样本规模有限、长期预测存在外生冲击不确定性、模型可解释性不足和计算成本较高等问题。因此，该文更适合作为战略层面能源规划和容量趋势研判的技术支撑，而不是直接替代运行层面的精细调度工具。

研究结论部分可译为：
本文提出了一种面向行业特异性负荷预测的系统化框架，对多种深度学习架构及约束优化集成方法的性能进行了关键性评估。实证结果表明，与单一模型和基础平均集成基线相比，所提出的集成方法在农业、工业、商业和居民部门均能显著降低预测误差。研究的一项关键发现是，不同部门具有独特的时间动态特征，这凸显了采用多架构方法以获得最优预测精度的必要性。
尽管如此，仍必须承认本研究存在固有限制。相对较小的数据集规模（72个数据点）限制了对普遍泛化能力的主张程度。因此，文中报告的高性能指标更适宜被解释为模型捕捉样本内复杂非线性的能力证据，而非对未来高波动市场条件下预测表现的确定性保证。未来研究应优先考虑引入迁移学习（transfer learning）技术以缓解数据稀缺问题，并整合可解释人工智能（XAI）工具，以弥合高预测精度与实际部署所需运行信任之间的差距。本文结果构成了迈向更稳健、更加行业感知的能源规划系统的重要基础性一步。