一种用于概率反问题的具有各向异性扩散核的增强扩散流形方法

《RELIABILITY ENGINEERING & SYSTEM SAFETY》：An enhanced Diffusion Manifold Method with anisotropic diffusion kernel for probabilistic inverse problems

　　

• 提出了一种采用各向异性扩散核的增强扩散流形方法。
• 该各向异性扩散收敛于内在流形扩散。
• 增强方法确保了对噪声和参数变化的强鲁棒性。

**引言**

在现代工程系统中，由于各种不确定性，存在固有的随机性。在物理随机系统的理论框架中，随机性通过有限维随机向量建模，称为随机源。概率密度演化理论被建立以分析随机系统响应和可靠性[1],[2]。响应的概率密度函数（PDF）完全由对随机源的PDF施加确定性变换决定，其中该变换仅依赖于系统的物理定律，且与随机性解耦[2]。这种随机性建模在数学上十分优雅。由此数学基础推导出的广义密度演化方程（GDEE）描述了随机性从随机源传播到随机响应的规律。

同时，它需要仔细确定随机源的完整概率结构，包括边缘分布和相关结构。对于可观测的随机源，例如混凝土的抗压强度或测量的随机载荷信号，其概率结构可以直接从测量数据中获得。相比之下，对于不可观测的随机源，如多自由度系统中的阻尼矩阵或大气边界层模型中的表面粗糙度，其概率结构必须通过统计分析系统的可观测响应来推断或识别。这引出了概率逆问题：一个从已知激励下测量的随机响应中提取不可观测随机源概率结构的框架。该问题也被称为随机模型更新。

求解概率逆问题的方法主要分为两个范式：贝叶斯推断和优化理论[3]。

贝叶斯方法引入主观先验概率，将参数估计转化为后验分布的计算[4]。这一路径经历了重大演变：从最初局限于共轭先验和简单模型的经典推断[5],[6],[7]，到蒙特卡洛方法的出现[8],[9]，特别是马尔可夫链蒙特卡洛，极大地增强了处理高维和复杂模型的能力[10],[11],[12],[13],[14],[15]。同时，变分推断将后验计算重新表述为参数优化问题，旨在从一个可处理的分布族中找到最佳近似真实后验的成员[16],[17],[18]。与此同时，分层贝叶斯模型在处理多层结构和有限数据方面的鲁棒性有所提高[19],[20]。与有限维参数空间中的推断不同，无限维函数空间中的贝叶斯推断通过狄利克雷过程和 gaussian 过程等随机过程先验取得了很大进展[21],[22],[23]。此外，贝叶斯方法还深入集成了先进的计算技术，包括代理模型和深度学习[18],[24],[25]。

优化方法绕开主观概率，将问题重新表述为最小化模型预测分布与观测经验分布之间的差异[26],[27]。在有限维参数设定下，该任务遵循两条主要路径：最小化统计距离（例如矩匹配）或进行最大似然估计。这些方法的核心在于差异度的选择，如信息论中的f-散度和Bregman散度[28],[29]，或最优传输理论中的Wasserstein距离[30],[31],[32],[33]。在无限维非参数设定中，研究重点从参数估计转向如何使用有限维对象表示概率测度本身。主要技术路径包括通过多项式混沌展开的连续近似[34]和基于经验测度的离散近似[35],[36],[37]，后者通常产生具有有限支撑的理论稀疏解。

最终，贝叶斯和优化框架都必须应对逆问题的固有不适定性。不适定性的根本原因在于正向映射不是单射，即无法从观测数据唯一确定随机源的分布。为此，采用了各种正则化策略，如贝叶斯推断中引入稀疏先验[35]和多链算法[38],[39]，优化方法中添加正则化项[33],[40],[41],[42]，或显式约束解流形的几何结构。为了直接克服非单射映射带来的局限性，提出了一种将输入概率空间划分为子域的方法[43]，其中正向映射在限制于每个子域时变为单射。另一种关于这种不适定性的几何视角聚焦于概率测度在水平集上的分布[44],[45]。这一观点最初在基于轮廓的方法研究中正式化，此后通过参数空间划分[46]和贝叶斯公式化[47],[48],[49]等技术得到扩展。另一方面，提出了一种直接从部分观测数据推断未观测输出分布的方法[50]。在该方法中，随机源的分布仅作为数学公式化中的隐式中介使用，无需对其进行显式计算或识别。

已观察到，高维系统响应往往位于低维黎曼子流形上，其维度不大于随机源的维度[51]。在此类流形上，可以通过相对于黎曼体积元的Radon-Nikodym导数定义概率密度[52]。受此内在结构和基于优化的逆方法最新进展的启发，扩散流形方法（DMM）在我们的先前工作中得以建立[53]。该方法构建虚拟各向同性扩散过程以桥接响应流形与含噪观测数据。一个关键组件是引入虚拟时间参数以表征扩散强度，有效量化测量噪声和模型误差的量级。该参数显式出现在用于建模虚拟扩散过程转移概率密度的高斯核中。然而，本工作解决了两个固有局限性，讨论如下。

首先，虽然构建了虚拟扩散过程，但其物理解释并不完全一致。当测量噪声理论上趋于零时，该方法[53]中的虚拟时间参数也应趋于零，以便虚拟过程收敛到真实流形分布。然而在实际中，需要一个有限且为正的虚拟时间参数，仍能产生令人满意的结果。这是因为高斯核有效收敛到流形上的标量场而非环境空间，这一点在原始工作中未明确阐明。其次，各向同性扩散核无法处理强畸变的流形几何。当正向映射引起高度各向异性畸变，即在某一流形方向上的特征尺度远小于另一方向时，对随机源不敏感分量的边缘分布识别精度可能变得不可接受。这是因为各向同性核在所有方向上施加相等的扩散强度，无法区分缩短的流形方向内的变化。仅调整虚拟时间参数无法克服这一局限性。

为解决这些问题，本研究提出了一种增强的DMM框架，纳入了带有各向异性扩散核的条件扩散过程。理论上证明了该核在噪声减小时收敛于嵌入的响应时间序列黎曼流形上内在扩散过程的瞬态流形概率密度，对应于流形上扩散方程的基本解。在算法上，对分区加权和优化进行了改进。数值实验证实，所提方法具有卓越的精度和鲁棒性，特别是对于涉及几何复杂流形的问题。

**章节摘要**

**基础理论框架与数据处理**

假设存在一个物理随机系统，由以下方程描述：$\mathcal{L}(U,\boldsymbol{\Theta},t)=0$，其中$\mathcal{L}$可以是任意微分、积分或代数算子；$t$是时间变量；$U=U(t)\in\mathbb{R}^{N_{\text{DOF}}}$和$\boldsymbol{\Theta}\in\Omega_{\boldsymbol{\Theta}}\subseteq\mathbb{R}^{d}$分别是系统的向量值输出过程和随机源。随机源$\boldsymbol{\Theta}$包含系统内所有固有的随机性。$\boldsymbol{\Theta}$取值的区域$\Omega_{\boldsymbol{\Theta}}$称为随机源空间，通常设为超矩形$[0,1]^{d}$。

**适定问题**

本节展示了两个适定概率逆问题的例子。采用DMM算法1来识别随机源，并将识别出的分布与真实分布进行比较。此外，在第二个例子中，展示了DMM对确定性逆问题的适用性。还将进行算法在不同噪声水平和算法参数下的鲁棒性简要测试。

**结论**

本文提出了一种增强的扩散流形方法（DMM），以解决原始DMM在概率逆问题中的局限性。核心改进在于将带有各向异性核的条件扩散过程整合到DMM框架中。理论分析严格证明了所构建的条件扩散过程收敛于响应时间序列嵌入黎曼流形上的内在扩散过程。这种收敛使得能够

**作者贡献声明**
Yuhan Zhu：原稿撰写、可视化、验证、软件、方法论、调查研究。Jie Li：审阅与编辑、监督、项目管理、方法论、资金获取、概念化。

**利益冲突声明**
作者声明他们没有已知的竞争性经济利益或个人关系，这些利益或关系可能被认为会影响本文报道的工作。

**致谢**
本工作得到国家自然科学基金的资助（基金号：51538010）。

Yuhan Zhu | Jie Li