混合图神经网络–Transformer架构用于核电站可靠剩余使用寿命预测的Hybrid GNN–Transformer Architectures for Reliable Remaining Useful Life (RUL) Prediction in Nuclear Power Plants
《Energies》:Hybrid GNN–Transformer Architectures for Reliable Remaining Useful Life Prediction in Nuclear Power Plants
编辑推荐:
准确预测核电站系统的剩余使用寿命(Remaining Useful Life, RUL)能够支持更明智的维护策略并有助于减少非计划停机,这推动了针对可靠且基于物理原理的预测模型的研究。本研究评估了基于机器学习的预测模型,重点关注其直接从运行数据中学习退化模式的
准确预测核电站系统的剩余使用寿命(Remaining Useful Life, RUL)能够支持更明智的维护策略并有助于减少非计划停机,这推动了针对可靠且基于物理原理的预测模型的研究。本研究评估了基于机器学习的预测模型,重点关注其直接从运行数据中学习退化模式的能力。使用由ASHERAH动态压水堆(Pressurized Water Reactor, PWR)模拟器生成的数据对基线前馈神经网络(Feedforward Neural Networks, FNNs)、长短期记忆(Long Short-Term Memory, LSTM)网络、图神经网络(Graph Neural Networks, GNNs)以及一种混合GNN–Transformer架构进行了评估,该模拟器包含了真实的退化机制,包括冷凝器结垢和泵扬程损失。所提出的混合模型集成了组件交互的图基表示与基于Transformer的时间注意力机制,以同时捕获系统级依赖关系和长期退化动态。模型性能使用基于误差和基于容限的指标进行评估,包括在界精度(Prediction Within Bounds Accuracy, PWBA),同时通过预测区间覆盖概率(Prediction Interval Coverage Probability, PICP)进行不确定性校准,其中不确定性通过深度集成(deep ensembles)进行量化。结果表明,基线神经网络表现出有限的预测精度和较差的不确定性校准,而结合时间建模和系统拓扑的模型实现了显著改进。GNN–Transformer取得了最强的性能,获得了最高的PWBA(87.3%)和显著改善的不确定性校准,平均PICP为90.0%。这些发现证明了拓扑感知、基于注意力的架构在复杂核系统稳健可靠的RUL预测中的有效性。
该研究处于智能制造即工业4.0时代, prognostics与健康管理(Prognostics and Health Management, PHM)旨在将原始传感器数据转化为可操作的维护决策,其核心任务剩余使用寿命(Remaining Useful Life, RUL)预测是现代预测性维护(Predictive Maintenance, PM)的基石。RUL预测方法通常包括基于物理的模型、数据驱动方法及两者混合。基于物理的方法依赖物理定律和状态空间公式,虽具可解释性但需详细系统知识且难捕捉复杂行为。机器学习(Machine Learning, ML)在核工程应用广泛,传统支持向量机(Support Vector Machines, SVM)及近期长短期记忆(Long Short-Term Memory, LSTM)网络等深度学习模型在RUL估计中表现良好。图神经网络(Graph Neural Networks, GNNs)因能建模复杂关系结构受关注,适用于互连工业系统建模组件交互与退化传播。Transformer模型解决了循环网络捕捉长期时间依赖的局限,但常忽视组件间物理相互依赖。本研究新颖性在于开发统一时空预测框架预测交互组件系统的RUL而非单个资产,将冷凝器、冷凝冷却泵和凝结水泵作为耦合退化系统,结合GNN组件交互图建模与Transformer长距离时间依赖学习,嵌入深度集成不确定性量化方案以支持风险知情决策。研究使用国际原子能机构(International Atomic Energy Agency, IAEA)协调研究计划下圣保罗大学开发的ASHERAH集成核电站模型数据。该研究发表于《Energies》。
研究人员使用的主要关键技术方法如下。数据来源于ASHERAH模拟器生成的10条独立退化轨迹集合数据集,按轨迹划分训练、验证与测试集以防信息泄漏,定义冷凝器压力达8000 Pa为寿命终止准则。对比模型包括基线前馈神经网络(FNN)、长短期记忆(LSTM)网络、图神经网络(GNN)及混合GNN–Transformer,所有模型输入特征一致并经标准化。GNN将电厂建模为有向图,节点对应子系统,边编码热工水力质能流,使用固定邻接矩阵。GNN–Transformer先用图卷积编码空间依赖,再输入Transformer编码器捕捉时间依赖并加位置编码。优化目标为最小化平均绝对百分比误差(Mean Absolute Percentage Error, MAPE),使用Optuna进行超参数优化,采用深度集成(M=5)量化不确定性,评估指标含PHM得分、PWBA、预测区间覆盖概率(PICP)、平均预测区间宽度(Mean Prediction Interval Width, MPIW)及连续排序概率得分(Continuous Ranked Probability Score, CRPS)。
研究结果部分内容如下。
数据生成:The Asherah模拟器。ASHERAH是基于SIMULINK的低保真环境,模拟压水堆(PWR)行为并包含主动与被动部件的时间相关退化模块,改性为解耦配置以保证数值稳定。本研究退化由冷凝器结垢驱动,伴随循环泵扬程损失,引入起始时间与退化率变异。RUL定义为当前操作时间与冷凝器压力达8000 Pa预测时间之差。数据集含10条轨迹,1–3与6–8用于训练,9–10验证,4–5独立测试,涵盖不同河水温度与功率水平以评估泛化能力。
机器学习方法。所有模型使用相同输入特征。NN为全连接层无时空偏置;LSTM通过门控机制捕捉时间序列退化模式;GNN通过消息传递显式建模组件物理连接拓扑,使用固定邻接矩阵约束信息沿物理路径传播;GNN–Transformer在时间步t用图卷积层进行空间特征传播,公式含归一化邻接矩阵与可训练参数,将节点嵌入展平为图级向量并沿时间窗拼接,加位置编码后输入Transformer编码器,通过多头自注意力捕捉长期依赖,全局平均池化后经前馈神经网络输出RUL。另设独立Transformer基线无GNN阶段。所有模型用PyTorch实现,Optuna优化超参数,序列模型含可调回看窗口。
结果与讨论。指标。采用MAPE衡量平均相对精度;PHM得分作为风险感知指标,含相对误差归一化、时间加权与非对称加权,高估惩罚大于低估以符合核安全保守维护哲学;PWBA为±20%容限内预测占比衡量实用可靠性;不确定性量化用深度集成算PICP、MPIW与CRPS。
模型性能比较。在测试集上GNN–Transformer综合最优,MAPE为13.94%,PHM得分1.21,PWBA为87.29%;LSTM次之;GNN在PHM得分上优于LSTM但MAPE较高;NN最差。GNN–Transformer优化时间4215.9秒,推理延迟4.1毫秒,仍适实时监测。预测vs实际图中NN离散大,LSTM振荡,GNN平滑,GNN–Transformer最接近理想对角线。独立Transformer的PWBA为84.71%、PHM得分1.86,低于GNN–Transformer,证明显式图拓扑增益。GNN–Transformer优势源于GNN依物理拓扑约束信息传递,Transformer建模长期耦合响应演化。
指标不确定性量化。深度集成(M=5)捕捉认知不确定性。NN平均MAPE 19.39%,平均PICP仅40.50%,平均CRPS 446.08,区间过窄严重过置信;GNN–Transformer平均MAPE降至10.92%,平均PICP升至89.99%,平均CRPS降至222.63,平均MPIW为1289.24比NN的1089.01略宽但校准更优。图显NN均值偏离且区间漏覆盖,GNN–Transformer均值沿理想线且区间包裹真值轨迹,证明联合拓扑与时间依赖建模提升点预测与认知不确定性校准。
总结讨论部分与研究结论翻译。本研究提出统一时空机器学习框架预测核电站高度互联系统RUL,识别退化沿物理路径传播,用ASHERAH模拟器退化数据评估标准NN、LSTM、GNN及新型混合GNN–Transformer。结果表明同时建模组件物理关系与时间退化行为有益于准确RUL预测,GNN–Transformer结合图拓扑与Transformer时间注意力在各指标最佳,证明拓扑感知时空机器学习在电厂辅机与冷凝器区域互联子系统RUL预测潜力。本研究为基于模拟的方法论演示,需更高保真模型与实际电厂数据验证方可用于维护决策或安全分析。除点估计精度外,深度集成显示GNN–Transformer较基线NN具更优认知不确定性校准,NN平均PICP仅40.50%预测过置信,GNN–Transformer平均PICP达89.99%且平均MAPE降至10.92%,确保全退化轨迹可靠置信界。未来研究聚焦缩小模拟与现实部署差距,评估更复杂故障机制如多组件同时退化与瞬态异常,探索混合专家(Mixture-of-Experts, MoE)或门控集成实现动态路由,将物理信息约束直接融入损失函数以遵守热工水力守恒律,优化序列架构计算并转向运行核设施历史传感器数据实证验证拓扑表示可迁移性。