基于移动地平线期望最大化的非线性网络分布式贝叶斯参数辨识

《Automatica》：Distributed Bayesian parameter identification of nonlinear networks via moving-horizon expectation–maximization

　　摘要本文针对具有部分状态测量的同质非线性网络，开发了一种分布式在线联合稀疏贝叶斯参数识别框架。每个智能体在有限的内存和通信条件下，利用局部输出和邻居协作重构共享的未知非线性状态空间模型。未知动力学由过完备字典的线性组合近似，从而实现可解释的稀疏性。提出了一种移动视界期望最大化（MH-EM）方案，其中智能体利用短视界数据执行局部条件粒子平滑以估计潜在状态，并通过Robbins–Monro（RM）随机逼近递归更新期望对数似然。为了在网络范围内诱导参数稀疏性和一致性，引入了一种联合稀疏先验，该先验将分层高斯先验与嵌入在基于扩散的优化器中的动态一致性先验相结合。所得的全局后验目标通过一种“先适应后结合并带有近端收缩”（APC）算法求解，该算法自适应地协调邻居的瞬时估计误差，并采用近端算子进一步增强稀疏性而无需中心协调。理论分析建立了收敛性保证和高概率误差界。在合成和物理系统上的仿真表明，与经典EM和稀疏估计器相比，该方法具有更高的精度、更快的收敛速度和更强的可解释性。引言大规模智能体网络通常表现出同质或结构相似但未知的非线性动力学，同时面临三个基本约束：（i）每个智能体的内存和计算有限，（ii）在无中心协调的情况下进行协作学习，以及（iii）网络中连接智能体之间的非线性动态相互作用（Aguzzi等，2023；Bariya等，2021；Wang等，2024）。在环境传感器网络中，相同的传感器监测表现出复杂非线性行为且智能体间存在显著相互作用的污染源，污染物在传感位置间传播和反应（Berrisford等，2025；Li等，2023）。在合成基因调控回路中，工程细胞共享相同的基因设计并表现出非线性反馈相互作用（Osorio等，2024）。在智能电网中，相同类型的分布式发电机形成具有潜在状态依赖性和通过潮流及电网约束产生非线性相互作用的网络，要求在通信约束下进行实时估计（Cheng等，2025）。这些跨领域发现共同凸显了对一种统一的分布式在线识别框架的需求，该框架需明确纳入网络内的非线性相互作用，同时尊重分布式计算约束和部分状态测量。现有解决方案要么假设集中处理（Svensson & Sch?n，2017），要么忽略智能体间的非线性相互作用（Kotary & Nanda，2020），要么未能利用网络在提高稀疏性方面的优势（Li等，2022），这为满足这些竞争性需求的分布式方法留下了关键空白。当前网络化系统参数识别的方法大致可分为两类。一些研究专注于同质环境下的共享模型识别，要么通过整个网络的完全协作更新（Li & Yu，2026a），要么通过分布式同质集群和局部同质LTI网络的子空间识别（Yu和Verhaegen，2017；Yu等，2018）。其他工作考虑多任务设置，其中每个智能体维护自己的参数，同时与邻居共享信息（Hu等，2024；Leshem等，2024）。这两条研究路线分别利用了完全参数共享或任务特定适应。利用智能体间的同质性或一致行为在实际应用中的价值已在多个领域得到证明。例如，Bisagno等（2021）通过利用由社会互动产生的一致运动模式，展示了改进的轨迹预测精度。Li等（2017）解决了认知无线电网络中的协作频谱感知，强调了频谱使用协作估计对高效资源分配的必要性。稀疏贝叶斯学习（SBL）方法通过稀疏基实现紧凑表示，显著推进了未知非线性系统识别的发展，如稀疏非线性动力学识别（SINDy）框架所示（Brunton等，2016）。这些方法通常采用诱导稀疏性的先验，例如?1-范数惩罚（Gao & Yan，2022）或基于核的正则化（Pillonetto等，2014），并通常在完全可观测性的假设下实施（Gan & Liu，2023）。然而，现实应用很少涉及孤立系统；相反，它们具有共享相同动力学但在局部噪声和部分状态测量下运行的智能体网络。实际证据来自分布式频谱感知，其中相同的传感器阵列（Berger等，2010）和无线认知无线电网络（Bajwa等，2010）尽管存在智能体间的噪声变化，但共享动力学仍表现出共同的稀疏支撑。虽然Jin等（2020）提出了一种通过?∞,1正则化促进多任务网络联合稀疏性的在线近端算法，但能够在同质性、部分状态测量和全局稀疏性下自适应处理分布式稀疏优化的方法仍基本未被探索。当状态部分可观测时，参数-状态耦合使联合估计任务复杂化。期望最大化（EM）算法是此类场景的标准解决方案，用于解决潜变量模型中的最大似然估计问题（Sch?n等，2011）。传统离线EM方法需要多次数据迭代，限制了其在实时在线和分布式环境中的适用性。为克服实时处理挑战，提出了在线EM算法（Cappé & Moulines，2009），随着新数据到达逐步更新参数，但这些方法通常表现出收敛慢、方差大，并需要大量数据才能获得可靠估计（Nguyen等，2022）。基于粒子的增量平滑方法（如PaRIS，Mastrototaro等，2024）已改善收敛性，但非忽略的识别误差可能持续存在，通常需要重复重采样以实现高精度。这种重复重采样增加了计算开销，特别是在大规模网络中。因此，开发一种同时实现实时操作、快速收敛和同质网络环境中共享模型精确参数识别的在线EM算法，仍是一个紧迫的研究挑战。受这些挑战的驱动，本文开发了一种“先适应后结合并带有近端收缩”（APC）算法，以实现由联合稀疏先验和移动视界期望最大化（MH-EM）方案组成的全局后验目标的分布式优化。主要贡献总结如下：（1）MH-EM方案结合了MH粒子平滑和Robbins–Monro（RM）随机逼近，以利用短视界数据实时更新同质网络中的全局似然函数，实现了比单步在线EM（Cappé & Moulines，2009）更快的收敛和更低的方差，同时接近离线EM的精度（Li & Yu，2026a）。（2）联合分层一致性先验动态增强网络全局参数的稀疏性和每次优化步骤中支撑的一致性，与多任务稀疏方法中刚性静态组约束相比，提高了参数学习的效率和可解释性（Li等，2018；Yue等，2021）。通过经验活动字典的Gram矩阵刻画了受限强凸性条件，并获得了其最小特征值的高概率下界。（3）APC算法协调邻居稀疏参数估计的瞬时差异，并根据稀疏性进行局部加权融合，形成自适应分布式支撑感知扩散机制。嵌入的近端算子（Parikh & Boyd，2014）将不相关基抑制为零，进一步增强参数稀疏性。与采用集中统一收缩或缺乏支撑感知的近端方法（Jin等，2020）以及仅处理平滑目标的传统ATC方法（Di Lorenzo & Sayed，2013）相比，APC有效处理非平滑先验并确保快速稳定的收敛。在整篇论文中，除非另有明确说明，向量和矩阵范数遵循标准定义。欧几里得范数记为‖?‖2，‖?‖隐式指?2范数，而‖?‖F为Frobenius范数。符号A?0表示矩阵A是正定的。对于任何A?0，相关的马哈拉诺比斯范数定义为‖x‖A2 = x?Ax。转置算子用?表示，而|A|表示集合A的基数，|a|表示元素a的绝对值。对于可测空间（Ω,F）上的概率测度P和Q，总变差距离定义为‖P?Q‖TV = sup_{A∈F}|P(A)?Q(A)|。狄拉克δ函数为δ(?)。章节片段预备知识与问题表述考虑一个通过无向连通图G=(V,E)互连的非线性多智能体系统，其中V={1,2,…,V}表示智能体集合，|V|=V，E?V×V表示通信链路。设A=[a_{ij}]∈R^{V×V}为G的非负加权邻接矩阵，若(i,j)∈E则a_{ij}>0，否则a_{ij}=0。矩阵A是固定且已知的。对于每个智能体i，定义邻居集G_i={j|(i,j)∈E}和自包含邻域W_i=G_i∪{i}。所有智能体共享相同函数形式的随机局部MH-EM方案用于Q?(Θ|Θ?)近似从(6)–(7)，Q?(Θ|Θ?)通过邻域状态轨迹{X_j(T)}_{j∈G_i}允许局部分解。由于这些潜在轨迹在分布式实现中不可直接获得，每个智能体用通过一跳通信接收到的邻居状态估计{X?_j(T)}_{j∈G_i}替换{X_j(T)}_{j∈G_i}，并构造局部辅助代理Q?(Θ|Θ?)≈∑_{i∈V}Q?(Θ_i)，其中Q?(Θ_i)=E_{X_i(T)|Y_i(T),{X?_j(T)}_{j∈G_i},Θ?_i}[∑_{t=1}^{T}log p(y_i(t)|x_i(t),Θ_i)+∑_{t=1}^{T?1}log p(x_i(t+1)|x_i(t),{x?_j(t)}_{j∈G_i},Θ_i)]，分布式MAP估计在联合稀疏先验p(Θ)下基于第3节导出的局部MH RM-EM代理Q?_t(Θ_i)，引入联合稀疏先验p(Θ)将M步重构为(5)中定义的MAP估计问题的近似，重写为Q?_t(Θ)=∑_i Q?_t(Θ_i)+log p(Θ)。先验项log p(Θ)作用于所有网络参数，导致Q?_t(Θ)不可分离。由于参数估计通过(9)–(11)随流数据动态更新，先验需要根据参数动态调整仿真为评估所提出的算法1在同质网络下的性能，在V=16个智能体连接在嵌入[0,1]2中的无向随机几何图G上，连接半径r=0.3，进行了数值仿真。所有基在相关紧致状态域上都是Lipschitz连续的，真实基保证是Φ和Υ的子集。本节使用的字典定义为（i）自动力学（d_s=50）：Φ_s(x_i)=[1, x_i^p, sin(mx_i), exp(?nx_i), exp(?lx_i2), 1]，结论这项工作提出了一种完全分布式的在线算法，用于在部分状态测量下识别由过完备字典线性组合近似的未知同质NSSM中的共享稀疏参数。该框架集成了MH粒子平滑和基于RM的EM更新，使每个智能体能够从有限数据和邻居交换中识别局部动力学。通过结合分层高斯先验和基于扩散的软一致性先验，智能体作者简介李春晖于2019年在中国哈尔滨工程大学获得自动化专业学士学位。她于2022年和2026年分别在中国北京理工大学获得控制科学与工程硕士和博士学位。她目前是中国哈尔滨工程大学智能科学与工程学院的助理教授。她的研究兴趣包括事件触发控制、网络系统识别、李春晖|余成朴|李树凯|贡萨洛·费雷尔