稀疏与约束状态估计的统一正则化框架:贝叶斯递推、变量分裂方法及五类结构松弛综述

《Applied Sciences》:Sparse and Constrained State Estimation: A Review of Bayesian Recursion, and Variable-Splitting-Type Methods

【字体: 大 中 小 】 时间:2026年10月23日 来源:Applied Sciences 2.5

编辑推荐:

  本综述考察当高斯-线性-最小二乘(Gaussian-linear-least-squares)范式失效时,随机动力系统状态估计的数学理论与方法,重点讨论促进稀疏性(sparsity-promoting)和编码约束(constraint-encoding)的正则

  
本综述考察当高斯-线性-最小二乘(Gaussian-linear-least-squares)范式失效时,随机动力系统状态估计的数学理论与方法,重点讨论促进稀疏性(sparsity-promoting)和编码约束(constraint-encoding)的正则化(regularization)的作用。全文围绕一个单一的正则化估计泛函(regularized estimation functional)组织,其中经典滤波与平滑的加权最小二乘(weighted least-squares, WLS)项由非光滑惩罚函数(nonsmooth penalty functions)和约束集的指示函数(indicator functions of constraint sets)增广。贝叶斯递推(Bayesian recursion)、高斯近似(Gaussian approximation)、序贯蒙特卡洛(sequential Monte Carlo, SMC)和移动时域优化(moving-horizon optimization, MHO)在该共同目标函数上表现为不同的结构假设。近期工作通过经典假设的五类松弛进行综述:重尾与非高斯噪声(heavy-tailed and non-Gaussian noise)、未知或设定错误的模型(unknown or misspecified models)、分布式与网络化架构(distributed and networked architectures)、未使用的结构先验信息(unused structural prior information)如稀疏性与安全约束(sparsity and safety constraints),以及切换或未知外部输入(switching or unknown external inputs)。重点放在将高斯递推(Gaussian recursions)与非光滑优化(nonsmooth optimization)衔接的变量分裂(variable-splitting)与增广拉格朗日(augmented-Lagrangian)技术、收敛性与稳定性保证(convergence and stability guarantees),以及仍然开放的数学挑战,包括交替最小化(alternating minimization)的收敛速率、相对于最小二乘基线(least-squares baselines)的统计效率(statistical efficiency),以及学习增强滤波器(learning-enhanced filters)的可证明保证(provable guarantees)。
1. Introduction
1.1. Background and Application Drivers:状态估计旨在由含噪、间接且可能不完整的观测重构随机动力系统的隐状态轨迹;Kalman滤波(Kalman filter)在高斯线性条件下最优,并已扩展至导航、机器人、目标跟踪、电力系统与信号处理等。自主系统与网络化基础设施使估计与感知、决策和控制闭环耦合;水面无人系统、相量测量单元(phasor measurement unit, PMU)动态估计、攻击韧性、深度学习辅助惯性姿态估计、相机–雷达融合与多目标跟踪等均体现经典假设被结构性违反。
1.2. Scope, Positioning, and Delimitation:本综述位于估计理论与优化的接口,范围约为2018—2026年、重点为2023—2026年的状态估计建模、算法推导与理论分析,不覆盖硬件实现、通信物理和低层传感器电子学;其组织不采用方法分类,而围绕统一正则化估计泛函展开。文献检索采用主题化关键词组合而非PRISMA式系统综述,定位为批判性、叙述性综述。
1.3. Relationship to Existing Surveys and Contribution:现有综述大致包括贝叶斯滤波与平滑、以交替方向乘子法(alternating direction method of multipliers, ADMM)和近端算法为代表的优化信号重建、以及2023年以来的学习增强与数据驱动估计。本文贡献在于:给出贯穿全文的统一正则化估计泛函;以稀疏性和约束为组织棱镜;集中覆盖近期文献并保留经典基础;明确列出可形式化的开放数学问题。
1.4. Organization of the Paper:第2节建立数学问题与统一泛函;第3节将经典估计理论表述为对贝叶斯递推的逐级近似,并指出平滑可视为优化;第4节按五类结构松弛综述近期进展;第5节给出结论与开放挑战。

2. Mathematical Formulation of the State Estimation Problem
2.1. State-Space Models and Noise Assumptions:论文考虑离散时间随机动力系统的状态空间模型,状态、已知输入、量测及相互独立噪声序列由动力学映射和量测映射联系;高斯线性情形因后验保持高斯且递推有限维而被单列。连续时间形式仅作对照;Lie群不变形式与半线性连续时间观测器设计也被提及。噪声假设谱包括高斯、重尾(Student-t、稳定分布、Laplace)、有界(unknown-but-bounded、set-membership)、相关或有色,以及未知或设定错误;每一级均使经典保证失效并导向不同松弛。
2.2. Bayesian Recursive Formulation:贝叶斯递推通过预测与更新传播条件密度;该递推精确但一般无限维,仅共轭情形有限维闭合。边际似然连接模型比较与参数推断,变分近似则为状态与模型参数后验提供可计算替代。
2.3. Optimality Criteria and the Optimization Viewpoint:二次损失下条件均值最优;最大后验(maximum a posteriori, MAP)估计将负对数后验化为加权最小二乘项加惩罚函数和约束指示函数的统一泛函。前两项编码高斯噪声下的模型,惩罚与指示函数编码先验结构知识;全信息平滑与结构化最小二乘等价,变量分裂将迭代扩展Kalman平滑器(iterated extended Kalman smoother, IEKS)视为Gauss–Newton求解器。凸惩罚对应Laplace先验并诱导稀疏性,非光滑项需近端与分裂算法。
2.4. Risk Criteria Beyond Mean-Square Error:均方误差(mean-square error, MSE)与最小均方误差(minimum mean-square error, MMSE)仅在二阶矩存在时有意义;重尾条件下需影响函数与崩溃点等稳健准则。最小熵、minimax、分布稳健及有界误差/集合隶属准则共同存在;同一问题可依运行假设采用不同风险解。精确贝叶斯推断仅在高斯线性情形可计算,因而引出经典近似理论。

3. Classical Estimation Methods and Their Theoretical Evolution
3.1. The Kalman Filter: Optimality and Stability:Kalman滤波由高斯条件化或正交投影导出,在线性高斯条件下由Riccati递推精确传播矩;在可控可观条件下Riccati收敛且估计误差均方指数有界。该理论尖锐但假设脆弱,截断/Tobit型量测及最大相关熵递推稳定性说明经典范式受扰动时仍是活跃问题。
3.2. Approximate Gaussian Methods:扩展Kalman滤波(extended Kalman filter, EKF)通过线性化映射并可在可观测与小误差条件下获得局部收敛和随机稳定性;迭代EKF以额外计算改善精度。无迹Kalman滤波(unscented Kalman filter, UKF)以sigma点匹配均值协方差,容积Kalman滤波(cubature Kalman filter, CKF)以球面–径向容积规则解释积分,高斯和滤波以高斯混合近似非高斯密度。其共同局限是仅传播一、二阶矩,对多峰或强偏斜后验表示不足。
3.3. Particle Filters and Sequential Monte Carlo:序贯蒙特卡洛以加权粒子系统表示后验,经重要性采样与重采样传播;bootstrap滤波引入重采样以避免权重退化,最优重要性函数与Rao–Blackwell化系统化框架,教程文献整合算法谱。收敛理论有大数定律与中心极限定理支撑,但高维有效样本退化及模型设定错误导致错误目标仍是缺口;梯度信息提议设计是近期应对之一。
3.4. Smoothing as Optimization: The Overlooked Bridge:固定区间平滑计算全轨迹后验,经典Rauch–Tung–Striebel递推反向校正滤波轨迹;优化视角表明全信息平滑是轨迹上的结构化非线性最小二乘,迭代线性化即Gauss–Newton迭代。IEKS可作为变量分裂外环中的线性求解器;移动时域估计(moving-horizon estimation, MHE)求解滑动窗口截断问题,其约束非线性系统稳定性理论使其成为约束估计的自然起点。该桥接表明约束与非光滑惩罚可附着于平滑问题而不离开最小二乘框架。
3.5. From Classical Guarantees to Structural Relaxations:经典理论仅在假设内最优或渐近一致。通过统一泛函可识别五类结构失败:F1噪声假设失败;F2模型知识失败;F3架构失败;F4先验结构信息未用;F5动态 regime 失败。每类对应第4节的一种松弛,并追溯至统一泛函中被修改的项。

4. Recent Advances Under Relaxed Structural Assumptions
4.1. Robust State Estimation Under Heavy-Tailed and Non-Gaussian Noise:F1下二次项过度加权大量新息,条件均值可能不存在或不稳定;稳健损失等价于更重尾的噪声先验。近期方法包括变分贝叶斯(variational Bayesian, VB)滤波器、最大相关熵Kalman滤波(maximum-correntropy Kalman filter, MCC-KF)及其变体、显式污染模型(期望最大化、Normal–Bernoulli混合、Gaussian–multivariate-Laplace稳健容积滤波)以及将噪声分布本身作为推断对象的优化型与MHE稳健滤波。理论方面,VB迭代单调收敛,影响函数与崩溃点被重访;稳定噪声下粒子滤波收敛率仍稀缺。稳健化通常以高斯效率换取有界影响,调参缺乏自动规则。
4.2. Learning-Enhanced and Data-Driven Estimation:F2下学习测量模型、动力学或后验递推本身。高斯过程状态空间模型(Gaussian-process state-space models, GP-SSMs)为未知转移或观测函数提供先验;变分系统辨识给出联合状态–模型推断界。KalmanNet保留增益结构并由学习特征计算增益;可微粒子滤波、注意力机制及Transformer融合将学习模块嵌入估计回路。理论明显滞后:近似误差界限于受限后验类,分布偏移泛化与反馈递归网络稳定性证明多为个案;结构感知混合因将学习限制于不确定组件而更具可辩护性。
4.3. Distributed and Networked Estimation:F3放松集中融合假设,以局部状态副本和共识惩罚增广统一泛函。研究包括可匹配集中Kalman滤波的分布式滤波、基于共识优化的原始–对偶迭代、事件触发通信及攻击下的安全分布式估计。均方共识与事件触发下有界性多由Lyapunov论证给出;通信率–精度权衡主要在高斯线性问题中理解,分布式非高斯后验采样与Byzantine稳健共识仍开放。
4.4. Constrained, Sparsity-Promoting, and Safety-Aware Estimation:F4通过惩罚函数与指示函数引入硬约束和稀疏先验。三条路线为:约束MAP/MHE与投影基线;变量分裂与增广拉格朗日;贝叶斯稀疏先验与集合隶属。MHE的稳健全局渐近稳定性(robust global asymptotic stability, RGAS)、次优性指数及非精确优化分析构成约束估计理论核心;投影Kalman估计至约束子空间可结合最大相关熵与分布式实现。变量分裂引入辅助轨迹,ADMM交替执行高斯平滑x-更新(由IEKS求解)与近端/投影z-更新;该模板已扩展至非线性sigma点内层、增广拉格朗日参数学习及group-lasso跟踪,并应用于盲波束形成、波达方向估计、光伏动态跟踪与配电网状态估计。集合隶属以zonotope提供保证包围。理论上凸ADMM全局收敛,非线性下退化为局部或单调收敛;约束稳定性不要求精确优化;惩罚收缩偏差与调参风险理论仍不完整。
4.5. Switching, Hybrid, and Unknown-Input Estimation:F5处理动态切换或未知外部输入。交互多模型(interacting multiple model, IMM)以模式匹配滤波器组和混合近似Markov jump系统后验;近期扩展至非线性Markov jump、异步、分布稳健及有界噪声集合IMM。未知输入方面,无偏最小方差(unbiased minimum-variance, UMV)估计通过投影标称Kalman增益使输入与innovation解耦,并已推广至直接馈通、非线性复合扰动、约束非线性及事件触发分布式情形;最小传感器布置与状态–输入联合可观测性给出系统论条件。稀疏未知输入可与group-lasso接口。IMM在持续模型失配下的指数稳定性仅部分刻画,UMV的非线性扩展多依赖近似。
4.6. Comparative Discussion and Method Selection:五类方法并非竞争者,而是统一泛函在不同结构松弛下的答案;实际问题常同时违反多个假设,故出现优化嵌入滤波、学习嵌入滤波、共识层叠加等组合模式。跨家族比较须明确成本单位与保证强度;复杂度沿算术成本、通信成本及粒子/迭代次数三轴报告,稳定性须附假设类。方法选择应先识别被违反的结构假设,保留最可信组件为骨干,将最不确定组件作为外层以 containment 失效。总体结论是:可证明保证与建模 generality 系统权衡;Kalman型骨干加外层分裂、学习或共识目前较有利;最不理解为交叉区域。

5. Conclusions and Challenges
5.1. Mathematical Challenges:论文列出C1–C7:稳定噪声下粒子滤波收敛率;分裂平滑的全局收敛与统计效率;学习增强滤波的可证明保证;网络估计的通信–精度极限;集合隶属估计的可扩展性;状态与稀疏未知输入的联合恢复及对抗安全;稳健损失与有效后验的对应。每项均被表述为可转化为定理的精确数学问题,并指出当前缺口与可能工具;该列表保守,且部分方向正快速发展。
5.2. Conclusions:综述支持三点结论:经典数学核心在高斯-线性-最小二乘假设成立处稳定且构成近期构造的脚手架;近期文献应理解为对统一泛函的受控松弛,最有效设计保留可证明稳定骨干并将不确定组件外置;真正开放问题集中于五类失败模式交叉处。理论成熟度不均:线性高斯理论基本完整,稳健、分布式与约束侧有日益尖锐但假设较窄的结果,学习增强与非光滑动态估计的统计效率大多开放。作者亦承认覆盖窗口偏新及正则化棱镜的选择偏差;展望认为估计、优化与学习正走向同一数学语言的融合。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号