基于贝叶斯熵的序贯蒙特卡洛状态估计方法

《Digital Signal Processing》：Bayesian Correntropy-Based State Estimation through Sequential Monte Carlo Method

　　纳尔盖斯·萨德格扎德-诺赫德贝里兹（Nargess Sadeghzadeh-Nokhodberiz）、哈迪·扎亚尼（Hadi Zayyani）、莫斯塔法·拉什丹（Mostafa Rashdan）、穆罕默德·萨尔曼（Mohammad Salman）
伊朗库姆科技大学电气与计算机工程系，库姆，3718146645

**摘要**
在非高斯噪声环境下，相关熵（Correntropy）作为一种强大的相似性度量方法，已被广泛应用于鲁棒信号处理领域。现有的基于相关熵的滤波器通常将相关熵融入到最小均方误差（MMSE）估计器中以提升鲁棒性。然而，本研究重新审视了贝叶斯估计目标，并首次提出了一个直接基于后验分布的贝叶斯相关熵估计准则。这一改写从根本上改变了估计器的结构：该方法不是修改MMSE解决方案，而是推导出一个新的估计器，其最优性通过相关熵本身来确定。因此，所得到的估计器本质上不属于MMSE类型，不能被视为经过鲁棒性增强的MMSE解决方案。基于该准则，我们推导出了一个新型的贝叶斯相关熵估计器，并将其实现为固定点形式。为了在非线性和非高斯状态空间模型中应用该估计器，我们提出了一种迭代最大相关熵序贯蒙特卡洛滤波（IMCSMCF）算法，该算法结合了基于粒子的后验近似和迭代固定点优化技术。所提出的算法为贝叶斯相关熵估计器提供了一种原理性的实现方式，能够在不依赖高斯后验近似或局部线性化的情况下实现鲁棒的非线性滤波。我们还对这种迭代估计器的收敛性进行了严格分析，具体推导出了固定点映射具有收缩性的充分条件，从而保证了估计器的存在性、唯一性和收敛性。我们为收缩常数建立了保守和更精确的界限，并基于粒子扩散给出了几何解释。在具有高斯混合过程和测量噪声的非线性系统上的蒙特卡洛仿真验证了该框架的有效性。在中等重尾噪声条件下，IMCSMCF的估计误差显著低于标准粒子滤波器，且平均只需要较少的固定点迭代次数；在严重脉冲噪声条件下，该方法也优于其他典型的鲁棒滤波器。综上所述，所提出的贝叶斯相关熵框架结合IMCSMCF算法及其收敛性保证，为传统的基于MMSE的非线性滤波方法提供了一个原理性更强、更鲁棒的替代方案。

**引言**
现实世界中的动态系统，如雷达/声纳跟踪、自主导航、电力系统和无线通信等，往往是非线性的，并且容易受到非高斯噪声的影响。实际中，由于传感器故障、多路径衰落或环境干扰，噪声常常表现出重尾或脉冲特性，这些特性违背了卡尔曼滤波器（KF）等经典滤波器所依赖的高斯假设，从而导致性能下降甚至发散。为了提高对非高斯噪声的鲁棒性，学生t分布扩展卡尔曼滤波器（EKF）使用重尾学生t分布对创新项进行建模，从而有效抑制异常值的影响，提高了在脉冲噪声条件下的稳定性[1]。不过，由于EKF仍然基于高斯假设和局部线性化，其准确性在强非线性和非高斯系统中可能会受到限制。

序贯蒙特卡洛（SMC）方法，通常称为粒子滤波器（PF），提供了一种数值方法来近似非线性和非高斯状态空间模型的后验分布。在PF中，后验分布通过SMC技术（尤其是序贯重要性采样和重采样（SIR）方法）进行递归逼近。与其他基于贝叶斯最小均方误差（MMSE）的估计器（包括KF及其变体如EKF和无迹KF UKF [2]、[3]、[4]）相比，这种基于采样的策略是PF的主要优势。

最近，相关熵作为信息论学习（ITL）框架内的强大相似性度量方法得到了广泛关注。在传统方法（如MMSE）失效的情况下，相关熵具有较高的鲁棒性。与仅考虑二阶统计量且对异常值和非高斯噪声高度敏感的MMSE不同，相关熵通过核函数（通常是高斯核）融合了更高阶的统计信息，能够有效抑制大偏差的影响[5]、[6]。因此，相关熵在重尾或脉冲噪声下的鲁棒估计、自适应滤波和模式识别任务中表现出色[7]。本文从重新审视贝叶斯估计目标出发，而不是对现有基于MMSE的滤波器进行修改。

刘等人[5]将相关熵形式化为一种通过核函数捕获高阶统计量的局部相似性度量，普???（Principe）的专著则全面介绍了ITL和相关熵方法[6]。早期对最大相关熵准则（MCC）的应用集中在自适应滤波和核方法上，一系列研究确立了其均方行为、固定点更新和鲁棒性特性[8]。陈等人将相关熵扩展到自适应滤波中的广义MCC（GMCC）[8]、[9]，这为后续的非线性估计方法提供了启发[8]。秦等人提出了比例递归MCC（PRMCC）自适应滤波算法，展示了改进的收敛性和对异常值的鲁棒性[10]。相关熵还用于平滑图信号恢复[11]。此外，[12]提出了一种计算复杂度低的相关熵比例扩散算法。另一项研究[13]提出了一种利用MCC的重加权零吸引自适应指数函数链接网络，用于在脉冲噪声环境中实现稀疏非线性系统的鲁棒识别。

除了自适应滤波之外，研究人员还将MCC应用于经典的贝叶斯递归估计器：提出了几种卡尔曼型滤波器的MCC变体，包括最大相关熵KF（MCKF）、最大相关熵UKF（MCUF/MCUKF）及其他MCC-KF混合算法[14]、[15]。值得注意的贡献包括如何在卡尔曼递归中使用MCC改进MMSE准则，通常可得到后验均值和（修改后的）协方差传播的固定点更新，从而在脉冲噪声环境中提高鲁棒性[16]。另一种代表性的鲁棒EKF变体是最大相关熵EKF（MCC-EKF）[17]，它通过基于Cholesky的白化处理后进行固定点迭代更新后验估计。通过利用高阶误差统计量，MCC-EKF在抑制脉冲噪声方面表现出色，并且当核带宽增大时可以退化为标准EKF[17]。尽管如此，其性能仍受限于EKF的线性化和高斯后验假设，尤其是在高度非线性系统中。还开发了针对非线性滤波的扩展方法，例如最大相关熵UKF [18]，尽管它仍然依赖于高斯假设[18]。此外，[19]将最大相关熵UKF的思想扩展到了非高斯情况。Fan等人[20]开发了一种最大相关熵无迹PF（MCUPF），通过应用MCC改进了粒子权重计算和重采样，即使在中等额外成本下也能提高鲁棒性。最近，相关熵还被成功整合到PF中，以增强对重尾和脉冲噪声的鲁棒性。例如，在[21]中提出了一种基于最大相关熵的扩展PF，其中相关熵被用来构建扩展卡尔曼粒子滤波器框架内的鲁棒成本函数。虽然这种方法在非线性和非高斯环境中提高了滤波性能，但类似其他修改后的方法，它本质上仍然是将相关熵嵌入到传统的基于MMSE的估计框架中，而没有重新定义贝叶斯估计准则本身。

为了反映最近的进展，我们还注意到，在过去几年中，正则化和自适应MCC类型的KF变体以及贝叶斯方法得到了积极研究，例如正则化MCKF [22]、自适应立方体MCC滤波[15]和用于跟踪的可变贝叶斯MCC立方体滤波[23]。这些方法进一步展示了相关熵作为贝叶斯估计框架中增强鲁棒性的灵活性。然而，它们仍然通过将MCC嵌入到现有的基于MMSE的递归或高斯近似方案中来发挥作用，而不是重新定义贝叶斯估计目标本身。

除了上述关于相关熵和鲁棒贝叶斯滤波的研究进展外，最近在能量存储系统方面的研究强调了在强非线性、多参数变异性和非高斯噪声条件下需要数学原理性的滤波算法[24]、[25]、[26]。例如，已经为不同温度条件下的电池能量状态估计开发了改进的PF框架[25]，同时提出了先进的平方根KF策略和全参数在线识别方法用于锂离子电池评估[24]。此外，关于电池健康状态估计方法的全面回顾强调了鲁棒状态估计工具的重要性，这些工具能够应对数据驱动的不确定性[26]。尽管这些研究的应用重点不同，但它们共同表明了对能够在复杂、非线性和非高斯条件下保持鲁棒性的估计技术的需求日益增长——这正是本文所开发的贝叶斯相关熵框架的动机所在。

尽管基于MCC的KF和PF应用广泛，但方法论上的空白仍然存在。现有的所有方法都试图通过将MCC纳入更新方程来修改经典的贝叶斯MMSE滤波器（如KF、UKF、EKF或PF）。因此，潜在的估计目标仍然是基于MMSE的，由此产生的估计器继承了MMSE在异常值和重尾噪声存在时的根本局限性。据我们所知，尚未有文献研究完全基于贝叶斯的 nuevos框架：即（i）通过后验分布的相关熵函数定义估计器本身，（ii）为非线性和非高斯状态空间模型提供基于粒子的实现方式，（iii）对结果固定点操作器进行严格的收敛性分析。需要强调的是，所提出方法与现有基于MCC的滤波器之间的区别不仅仅是算法上的，更是概念上的。在所有先前报道的相关熵基KF和PF中，相关熵都是用来增强基于MMSE的贝叶斯递归的鲁棒性。因此，尽管鲁棒性有所提高，但得到的估计器本质上仍是MMSE估计器。相比之下，本研究直接基于后验分布重新定义了贝叶斯估计目标，从而得到了一种完全不同的估计器，其解是通过后验粒子表示诱导的非线性固定点。为了将所提出的估计器转化为可实现的算法，我们进一步发展了粒子（SMC）设置中迭代MCC更新的理论表征，包括固定点收敛性和保证收缩性的条件。因此，本文通过直接基于后验分布定义贝叶斯相关熵目标，推导出基于粒子的固定点迭代，并提供了收敛性和几乎必然收敛性的充分条件。该算法被称为迭代最大相关熵序贯蒙特卡洛滤波（IMCSMCF）。为进一步阐明本文的改进之处，有必要将其与现有的基于MCC的滤波器区分开来。在之前的方法中，相关熵作为一种鲁棒性机制被嵌入到最初基于MMSE原理的估计器中，这意味着得到的算法本质上仍然是MMSE估计器。相比之下，本研究通过直接基于后验分布定义贝叶斯估计目标，从而得到了一种全新的估计器，其解不再受二阶最优性的约束，而是由后验粒子表示诱导的非线性固定点方程。

随后，为了将所提出的估计器转化为可实现的算法，我们发展了粒子（SMC）设置中迭代MCC更新的理论表征，包括固定点收敛性和保证收缩性的条件。本文通过直接基于后验分布定义贝叶斯相关熵目标，推导出基于粒子的固定点迭代，并提供了收敛性和几乎必然收敛性的充分条件。该算法称为迭代最大相关熵序贯蒙特卡洛滤波（IMCSMCF）。为了进一步说明本文的改进之处，需要将其与现有的基于MCC的滤波器区分开来。在之前的方法中，相关熵作为一种鲁棒性机制被嵌入到最初基于MMSE原理的估计器中，这意味着得到的算法仍然是基于MMSE的估计器。相比之下，本研究通过直接基于后验分布定义贝叶斯估计目标，从而得到了一个本质不同的估计器，其解不再受二阶最优性的约束，具有由非线性固定点方程决定的全新结构。这种概念性的重新定义使得基于粒子的滤波算法能够充分利用相关熵的鲁棒性，同时适用于非线性和非高斯状态空间模型。

从方法论角度来看，本文的创新之处有三点：首先，通过直接将相关熵定义后验分布的函数，引入了一种新的贝叶斯相关熵估计准则；这种重新定义与现有基于MCC的滤波器不同，后者只是将相关熵嵌入到最初基于MMSE原理的估计器中。因此，本文得到的估计器本质上不是MMSE类型的，而是由非线性固定点方程所表征的。其次，基于这种估计器，开发了一种新的基于粒子的滤波算法，称为迭代最大相关熵序贯蒙特卡洛滤波器（IMCSMCF）。该算法将固定点相关熵更新与SMC后验近似相结合，实现了不依赖高斯后验假设或EKF类型线性化的鲁棒非线性滤波。第三，对所得到的迭代估计器提供了严格的收敛性分析，特别是推导出了固定点映射具有收缩性的充分条件，确保了估计器的存在性、唯一性和收敛性。本文获得了关于收缩常数的保守估计和更精确的估计，并通过粒子集的扩散从几何角度对它们进行了解释，这些结果为基于粒子的实现中选择相关熵核的带宽提供了实用指导。本文的主要贡献总结如下：

- 首次在文献中提出了基于贝叶斯相关熵的估计准则，并直接基于后验分布进行了推导。与现有基于MCC的滤波器不同，这些滤波器修改了MMSE递归过程，而本文提出的估计器本质上不属于MMSE类型，并且具有固定点特性。
- 为了在非线性和非高斯系统中实现该估计器，开发了一种迭代最大相关熵顺序蒙特卡洛滤波算法（IMCSMCF），该算法结合了固定点更新和重采样粒子。
- 提供了严格的收敛性分析，建立了固定点映射具有收缩性的充分条件。证明了随着粒子数量增加，估计器的存在性、唯一性和几乎必然收敛性。
- 推导出了关于收缩常数（L < 1）的保守和更精确的充分条件，并基于粒子扩散（直径和最小包球半径）提供了几何解释。这些结果为选择内核大小以确保收敛性提供了实用指导。

总之，所提出的框架如下进行：首先，直接基于后验分布制定了基于贝叶斯相关熵的估计准则，得到了描述贝叶斯相关熵估计器的非线性固定点方程；其次，通过迭代最大相关熵顺序蒙特卡洛滤波器（IMCSMCF）将该估计器应用于非线性和非高斯状态空间模型，该算法结合了基于粒子的后验近似和迭代相关熵细化；第三，进行了严格的收敛性分析，推导出了固定点映射具有收缩性的保守和更精确的充分条件，并提供了指导内核带宽选择的粒子扩散的几何解释；最后，在具有重尾和脉冲噪声的非线性系统上的数值模拟表明，IMCSMCF在保持中等计算成本的同时，能够显著降低均方误差，比传统的PF、Student’s t EKF、MCC-EKF和MCEPF表现得更好。

本文的结构如下：第2节介绍了预备知识；第3节提供了论文的主要贡献；第4节展示了仿真结果；第5节包含结论。

**系统描述**
本文考虑了受非高斯噪声影响的离散时间动态系统的非线性状态估计问题。在实际应用中，这种系统很常见，因为测量值或过程动态会被脉冲噪声或重尾噪声破坏，使得经典的高斯滤波方法不可靠。在这种情况下，系统动态和测量过程使用一般的非线性状态空间表示进行建模，如下所示：
$$
x_{k+1} = f(x_k, u_k) + \xi_k, \quad y_k = g(x_k) + \nu_k,
$$
其中 $ x_k \in \mathbb{R}^n $。

**提出的估计器**
尽管在二次误差准则下MMSE估计器是最优的，但它仅依赖于二阶统计信息，因此对异常值和脉冲噪声非常敏感。这一局限性促使我们开发了能够更好地捕捉非高斯误差统计结构的替代估计准则。为此，我们引入了一种基于贝叶斯相关熵的估计准则，在该准则中，相关熵的定义中的期望是基于后验分布计算的。

**仿真结果**
我们在一个二维非线性状态空间模型上评估了所提出的IMCSMCF的性能。仿真旨在评估所提出的基于贝叶斯相关熵的滤波框架在非高斯噪声下的鲁棒性。特别是考虑了两种代表性的噪声环境：一种中等重尾噪声场景和一种严重的脉冲噪声场景。非线性状态转移定义为：
$$
f(x_k) = \left[ x_{1,k} + T x_{2,k} + 0.5 \sin(x_{1,k}) - 0.01 x_{1,k}^2 \right],
$$
其中 $ T = 0.1 $ 是一个常数。

**结论**
在本文中，我们提出了一种新的基于贝叶斯相关熵的框架，用于在非高斯噪声下进行鲁棒的非线性状态估计。与现有的基于MCC的滤波器不同，这些滤波器将相关熵纳入到基于MMSE的贝叶斯递归中，而我们提出的方法通过直接在后验分布上定义相关熵泛函来重新构建贝叶斯估计目标。这导致了一个根本不同的估计器，它不是一个MMSE估计器，并且具有非线性特性。

**作者声明**
Nargess Sadeghzadeh-Nokhodberiz负责概念化、方法开发、软件实现、正式分析和研究，数据整理以及手稿的初稿撰写。Hadi Zayyani、Mostafa Rashdan和Mohammad Salamn在整个研究过程中提供了监督，帮助改进了方法论，验证了结果，并对手稿进行了严格的审阅和编辑。Hadi Zayyani还参与了想法的贡献。

**利益冲突声明**
作者声明他们没有已知的利益冲突或个人关系可能会影响本文中报告的工作。