核能应用能量系统监测深度神经网络观测器

《Energy》：Deep Neural Network Observer for Energy System Monitoring with Nuclear Application

　　

摘要：为了提高包含可再生能源、化石燃料、核能、储能及负荷的复杂能源混合系统运行的安全性、稳定性、灵活性和效率，迫切需要开发用于异常检测的高级监测方法。系统监测中的一个关键挑战是对指示系统健康状况的不可测量内部状态进行观测，而这一过程因高度非线性和不确定性而变得复杂。鉴于神经网络（NN）强大的逼近能力，将数据驱动的神经网络与基于模型的状态观测器相结合以增强状态观测是很有前景的。为此，本文提出了一种深度神经网络观测器（DNNO），在确定性框架内将深度神经网络（DNN）嵌入Luenberger观测器中。DNNO本质上是一种循环神经网络（RNN），提供了全局有界的状态观测，并具有无参数、在线学习和全局有界收敛的特性。仅由输出观测误差驱动，在线学习律保证状态观测误差全局渐近收敛到一个有界集，且独立于系统物理参数的任何先验知识。通过对模块化高温气冷堆（mHTGR）——一种代表性的小型模块化反应堆（SMR）——的应用验证了DNNO的有效性。多场景仿真结果验证了理论发现，确认了DNNO令人满意的性能，并突出了其深度结构的优势。

引言：有效的系统监测对于确保工业能源复合体的安全性、稳定性和可靠性至关重要，这些复合体包括核反应堆、电网、区域供热网络、锂离子电池、化学过程、风力涡轮机、光伏（PV）和光热发电单元。系统监测中的一个基本问题是对反映系统健康状况的不可测量内部状态进行观测。状态观测器作为系统监测和异常检测的解析冗余[1]，通过整合物理模型和测量数据来重构不可测量的内部状态变量，可以被视为系统动力学的简化数字孪生[2]。由于其固有的模型-数据融合特性，各种状态观测器已在确定性框架下开发用于监测复杂能源系统，例如基于先进压水堆（PWR）的核电站[3]和核-化石混合动力系统[4]。例如，一种Luenberger状态观测器被用于生成光伏Buck变换器的故障检测与隔离的残差向量[5]。通过建立等效电路模型，将电池电压特性和电流积分表示为一组微分方程，设计了一种比例-积分状态观测器（PIO）用于估计锂离子电池（LIB）的荷电状态（SoC）[6]。将未知输入视为高速工业机器人的健康指标，开发了一种未知输入观测器（UIO）用于估计剩余使用寿命（RUL）作为内部状态变量[7]。一种多环观测器被提出用于同时估计锂离子电池的SoC和健康状态（SoH），利用来自输出观测误差的比例、积分和有符号反馈[8]。一种非线性状态观测器被设计用于潜热蓄热（LHTES）单元的SoC估计，基于蓄热介质和传热流体的集总参数热物性动力学模型，并应用SoC查找表以避免数值积分和减少计算负载[9]。为检测威胁系统安全的中断故障，一种Luenberger型自适应观测器被提出，将故障视为内部状态变量[10]。一种鲁棒Luenberger观测器与UIO结合，用于自动车辆的内部状态和执行器故障的同时观测[11]。然而，上述状态观测器在能源系统监测中的部署通常需要精确的物理参数知识。由于工业能源复合体动力学中的显著不确定性和强非线性，仅使用基于模型的状态观测方法来实现有效监测几乎是不可能的[3]、[4]、[5]、[6]、[7]、[8]、[9]、[10]、[11]。这一局限性凸显了通过整合过程机制和运行数据来增强内部状态观测的必要性。

神经网络（NN），例如多层感知器和径向基函数（RBF）网络，具有从训练样本中学习的强大能力，使其非常适合增强复杂能源系统的监测。神经网络观测器（NNO），通过将被数据驱动的神经网络嵌入物理驱动的状态观测器来构建，在重构内部状态变量以监测能源系统方面展现出巨大前景。这些NNO可以被视为物理引导神经网络的一种特殊情况[12]，具有输出观测误差反馈的附加特性。根据嵌入神经网络的学习方式，NNO可分为两类：离线学习NNO和在线学习NNO。在前者中，嵌入的神经网络使用历史或仿真数据进行离线训练；而在后者中，嵌入的神经网络使用过程变量的实时测量数据进行在线训练。

自2000年代以来，在离线训练的NNO方面已取得了一系列有意义的成果。在[13]中，提出了一种自适应循环高阶神经网络（RHONN）观测器，其中模型不确定性由离线训练的RHONN进行补偿。在[14]中，设计了一种NNO用于估计单关节机械臂的角度位置和角速度，嵌入的神经网络使用趋化算法进行输入-输出动力学模型识别的离线训练。在[15]中，为柔性关节机械臂开发了一种非线性参数化的NNO，并通过一组预先收集的数据进行离线训练。在[16]中，提出了一种滑模NNO，网络权重通过最小二乘估计器进行离线训练。在[17]中，采用William Zipser循环神经网络提供了一种神经网络扩展卡尔曼滤波器（NNEKF），包含离线训练的近似动力学模型和用于参数优化的在线循环学习律。在[18]中，提出了一种渐近估计器，网络权重通过惩罚函数诱导的非线性规划优化器离线确定。在[19]中，开发了一种微分NNO用于观测核反应堆的归一化先导浓度和总反应性，需要仿真器生成的样本进行离线训练。在[20]中，为监测电化学电池提供了一种NNO，采用多个单隐藏层前馈神经网络来识别各种工作点下的电池动力学。在[21]中，为具有可测状态向量的严格反馈形式非线性系统提出了一种动态输出反馈有限时间控制，采用NNO进行状态观测，其网络通过离线训练获得。

显然，离线训练NNO的性能在很大程度上受训练样本质量和覆盖范围的影响，如果样本未能覆盖全范围的运行场景，观测器收敛可能会恶化。为克服这一局限，开发了在线训练NNO，可进一步分为模型依赖型和模型无关型。模型依赖型在线NNO依赖于系统动力学模型，而模型无关型则规避了对系统动力学先验知识的需要，尽管通常以牺牲稳定性保证为代价。在[22]中，为有界非线性过程开发了一种自适应观测器，将单隐藏层前馈NN嵌入Luenberger观测器中，需要严格正实（SPR）条件来启用嵌入NN的在线训练。在[23]中，使用自循环小波神经网络构建动态输出反馈控制，为柔性关节机器人提出了一种自适应观测器，并设计了在线权重更新律以确保闭环稳定性。在[24]中，基于线性参数化NN为机械系统给出了一种两阶段NNO，NN权重仅在输出观测误差超过规定阈值时进行在线更新。在[25]中，开发了一种基于小波微分神经网络的NNO用于系统监测，其在线训练律由离线识别的初始权重和状态观测驱动。在[26]中，引入了一种线性参数化NNO作为卫星动力学的解析冗余，采用阻尼梯度下降律进行在线学习。在[27]中，将径向基函数网络（RBFN）嵌入Luenberger观测器以在线观测不确定性。在[28]中，基于线性参数化NN提出了一种微分神经观测器，其在线训练律由输出观测误差和更新权重与其优化值的偏差共同驱动。在[29]中，为Brunovsky形式的非线性系统提出了一种基于RBFN的高增益观测器，通过足够高的观测器增益确保收敛。在[30]中，通过用RHONN逼近整个系统动力学并通过扩展卡尔曼滤波器（EKF）进行在线训练，开发了一种离散时间NNO，实现了状态观测误差的半全局一致最终有界（UUB）收敛。在[31]中，引入自适应动态规划的概念用于最优观测器设计，其中性能指标由线性参数化NN近似，观测器增益通过最小化相应的Hamilton-Jacobi-Bellman误差给出。在[32]中，利用单隐藏层前馈NN设计了Brunovsky形式非线性系统的NNO，在系统输出及其高阶时间导数均可测的假设下实现了全局渐近有界观测。在[33]中，为严格反馈形式的参数切换非线性系统设计了一种NNO，在所有状态变量可测的条件下提供了全局渐近有界观测。在[34]中，为具有采样输出的非线性不确定系统设计了一种基于RBFN的NNO，实现了对不确定性的均匀最终有界（UUB）收敛。在[35]中，为具有可测状态向量的严格反馈形式非线性系统开发了一种神经网络扩展状态观测器（NN-ESO），能够全局有界观测状态向量、总扰动及其时间导数，网络权重通过在线学习律更新。

最近，深度神经网络（DNN）逐渐被引入观测器设计，因其捕捉复杂动力学特性的优越能力。然而，仍有若干关键问题有待解决，如训练复杂性和对离线训练的严重依赖。在[36]中，为Brunovsky形式的N阶非线性动力系统给出了一种基于DNN的观测器，配备基于Lyapunov的在线学习律，在系统输出及其直到N-2阶时间导数均可测的条件下实现了渐近收敛。鉴于长短期记忆（LSTM）网络在捕捉短期和长期依赖性方面的强大能力，为具有基于Lyapunov的在线学习律的2阶非线性系统开发了一种全局渐近LSTM型自适应观测器[37]，随后被应用于设计具有预设性能的航天器动态输出反馈飞越控制器[38]。受主动扰动抑制控制（ADRC）原则启发[39]，在[40]中为不确定非线性系统提出了一种NNO，其中内部权重离线训练而残差连接权重在线更新以确保渐近收敛。在[41]中，将[40]中的NNO应用于连续搅拌釜反应器（CSTR）的状态观测，在深度结构下表现出强动力学非线性条件下的收敛观测。在[42]中，提出了一种物理信息神经网络（PINN）观测器，其中嵌入的前馈NN同时给出状态估计和观测器增益，网络权重离线训练以最小化由数据损失、物理损失和输出匹配损失组成的复合损失函数。为确定该PINN观测器的物理损失，必须提供准确的动力学模型，并且需要自动微分。在[43]中，为锂离子电池的鲁棒荷电状态估计提出了一种PINN驱动的自适应扩展卡尔曼滤波器（EKF），其中PINN离线训练以替换EKF中的系统矩阵和输出矩阵。从[36]、[37]、[38]、[39]、[40]、[41]、[42]、[43]中的结果可以看出，当前基于DNN或PINN的状态观测方法仍有相当大的改进空间，特别是在实现在线学习、实现模型无关特性、最小化所需测量数量以及扩展至任意高阶非线性系统适用性方面。

鉴于DNN在捕捉复杂能源系统非线性动力学方面的巨大潜力，本文为任意阶的一般单输出非线性系统提出了一种具有在线学习机制的深度神经网络观测器（DNNO）。通过将DNN嵌入Luenberger观测器，DNNO在不需精确模型或内部状态测量的条件下实现了全局渐近有界收敛。状态变量的观测值与系统输出的时间导数直接相关，可作为系统监测的健康指标。

所提出的DNNO具有三大关键优势：（1）它是模型无关的，训练时既不需要动态模型也不需要自动微分器，不同于[42]、[43]中的PINN观测器；（2）它不依赖于内部状态，却保留了在线训练的深层结构，不同于[21]、[22]、[23]、[24]、[25]、[26]、[27]、[28]、[29]、[30]、[31]、[32]、[33]、[34]、[38]中现有的浅层和深层NNO；（3）它可以自然地扩展到任意阶的非线性系统，不同于[37]、[38]、[39]中基于LSTM的状态观测器仅适用于二阶非线性系统。最后，该DNNO被应用于模块化高温气冷堆（mHTGR）的监测，这是一种固有安全的小型模块化反应堆（SMR）。典型场景下的仿真结果，包括与Luenberger观测器和滑模观测器的比较，证实了理论结果，并进一步揭示了更深的架构和更高的训练增益可以带来更快的稳定和峰值响应。

片段问题描述
考虑由单输出n阶SISO非线性不确定系统描述的能源系统动力学：

其中x=[x1, ?, xn]^T ∈ R^n是状态向量，y ∈ R是系统输出，f_i: R^n → R是未知有界且连续可微的函数，i=1, ?, n。可以看出系统（1）可以重写为：

其中基于（2）中的输出方程，可以获得精确测量值，即不考虑dropout、零粘滞、饱和或时延等因素。此外，它可以被...

深层神经网络观测器的设计
在给出主要结果之前，引入以下两个定义。

定义1
对于任意给定的实矩阵，矩阵V的向量化为：

此外，向量vec(V)的逆向量化为：

注1
通过定义：

DNN（8）可以进一步参数化为：

定义2
对于给定的矩阵A ∈ R^{p×q}和C ∈ R^{r×s}，矩阵A和C的Kronecker积满足：

基于定义1和定义2，以下引理给出了矩阵乘积向量化方面的结果。

引理[44]。对于给定的矩阵A ∈ R^...

应用与仿真
在本节中，采用带阻尼在线学习策略（50）的DNNO（13）应用于模块化高温气冷堆（mHTGR）的状态观测，这是一种具有固有安全性的典型小型模块化反应堆（SMR）。不同场景下的仿真结果用于验证DNNO的全局有界收敛性，同时通过与Luenberger观测器和SMO的对比展示其性能。

结论
由于融合了可再生能源、核能、化石燃料和其他能源的能源组合日益复杂，安全、稳定、灵活和高效的运行严重依赖于有效的系统监测技术。状态观测器在此背景下起着至关重要的作用，因为它们能够提供内部不可测量状态变量的观测值，从而指示系统的健康状况。此外，状态观测器通常被视为软传感器，用于重构内部...

CRediT作者贡献声明
吴子健：可视化、验证。石宇杰：撰写——审阅与编辑、验证、调查。董哲：撰写——原稿、调查、经费获取、概念化。

提交声明
本文稿此前未曾发表，也未投稿至其他期刊以供发表考虑。本文的发表已获所有作者批准。若被接受，未经版权持有人的书面同意，本文将不会以相同形式在其他地方以英文或任何其他语言（包括电子形式）发表。

利益冲突声明
作者声明不存在已知的竞争性经济利益或个人关系，这些利益或关系可能被认为会影响本文所报告的工作。

生成式AI及AI辅助技术在稿件准备中的声明
在本文准备过程中，作者未使用任何生成式AI和AI辅助工具。作者对发表文章的内容承担全部责任。

利益冲突声明
? 作者声明不存在已知的竞争性经济利益或个人关系，这些利益或关系可能被认为会影响本文所报告的工作。

致谢
本工作由中国国家自然科学基金委员会（NSFC）（批准号62173202）和中国国家科技重大专项（批准号ZX069）共同资助。

董哲 | 石宇杰 | 吴子健
清华大学核与新能技术研究院（INET），中国先进核能技术创新中心，教育部先进反应堆工程与安全重点实验室，北京，100084，中国