基于梯度剪枝的Transformer-GNN融合模型在电价预测中的应用

《Scientific Reports》：Transformer-GNN fusion with gradient surgery for electricity price forecasting

　　

摘要

准确的短期电力价格预测对于高效的市场运作和可靠的电网管理至关重要。然而，现有的方法往往难以同时处理长期的时间依赖性以及由网络结构带来的空间相关性问题。为了解决这一难题，我们提出了一种混合预测框架，该框架结合了用于长期时间表征的Transformer编码器、用于基于拓扑结构的空间建模的图神经网络（GNN），以及用于缓解不同组件之间训练冲突的PCGrad梯度调整机制。我们的架构通过同步窗口对齐和基于注意力的融合模块，将PJM每小时数据中的市场级信号与IEEE 39节点相量测量法模拟得到的电网级物理测量数据相结合。该方法并未将IEEE 39节点系统视为PJM的简单拓扑替代物，而是将模拟得到的相量测量数据作为具有物理意义的辅助信息，用于验证跨领域时空融合方法的有效性。在这两个数据集上的测试表明，所提出的模型在融合数据场景下的性能优于传统的及混合基准模型。在五次独立测试中，该模型的平均误差最低，且其不确定性区间也小于最强的多模态基准模型。这些结果证明了，在这种概念验证环境中，将市场信号与辅助物理特征进行时间对齐后的融合可以提高预测精度，但这并不意味着能够重建PJM特有的物理拓扑结构。