基于集成的概率代理模型不确定性量化与分解——使用贝叶斯神经网络

《Structural Safety》：Ensemble-based uncertainty quantification and decomposition of probabilistic surrogate models using Bayesian neural networks

　　

本研究提出了一个用于分解概率代理模型（probabilistic surrogate models）集成的预测不确定性的新框架，特别关注贝叶斯神经网络（Bayesian neural networks, BNNs）。当现有不确定性量化（uncertainty quantification, UQ）方法区分偶然不确定性（aleatoric uncertainty）和认知不确定性（epistemic uncertainty）时，它们通常难以严格分离模型形式误差（model-form errors）和数据引起的随机性（data-induced randomness），尤其在复杂工程应用中。为解决这一局限，研究人员引入了一种基于集成的分解方法，通过利用独立训练且具有不同架构的BNNs集成，系统地将不可约随机性（irreducible randomness）与可约不确定性（reducible uncertainties）分离开来。在包括从一维合成示例到随机地震动下滞回力的时程预测在内的全面数值实验中，与传统方法相比，该方法展示了为固有变异性（inherent variability）提供更紧界限的能力，并提供了一种更具信息量的认知不确定性度量——特别突出了可通过额外数据或改进建模加以缓解的可约成分。这种对不确定性的细化解释使得在涉及建模局限和固有数据噪声的工程应用中能够进行更稳健的可靠性评估，并支持不确定性知情决策（uncertainty-informed decision-making）。

在工程应用中，构建计算成本低的代理模型至关重要，而量化预测不确定性以降低决策风险是核心挑战。现有不确定性量化（UQ）方法虽区分偶然不确定性（aleatoric uncertainty，固有不可约随机性）和认知不确定性（epistemic uncertainty，因数据与模型限制可减少的成分），但在复杂工程中常难以严格分离模型形式误差（model-form errors，模型结构不完善导致的偏差）与数据引起的随机性（data-induced randomness）。尤其当使用异方差贝叶斯神经网络（BNN）时，传统分解中的偶然性成分仍包含可约部分。为突破这一局限，研究人员Jaehwan Jeon、Junho Song和Oh-Sung Kwon提出基于集成概率代理模型的不确定性分解新框架：通过独立训练不同架构的BNN构建集成，系统分离不可约随机性与各种可约不确定性。该论文发表于《Structural Safety》。数值实验表明，该方法能为固有变异性提供更紧的界限，并生成更具信息量的认知不确定性度量，突出可通过增加数据或改进模型减少的部分，从而支持更稳健的可靠性评估与不确定性知情决策。

为实现所提出的分解，研究人员采用的主要关键技术方法包括：（1）构建由不同架构（隐藏层数与神经元数不同）的异方差BNN组成的集成，各模型独立训练于同一数据集并经历验证准则（比较训练与验证似然）。（2）基于方差分解与信息理论，推导新分解标准，将模型特定偶然不确定性拆解为固有随机性Var[?(x)]、模型形式误差(μ(x)?μ?(x;θ_D))²与方差差异Var_Θ|d[??(x;Θ)]?Var_Θ|D[??(x;Θ)]。（3）定义集成偶然不确定性AU(x)=min S(x)（S(x)为各模型特定偶然不确定性）作为不可约随机性上界；集成认知不确定性EU_i(x)=Var[μ?_i(x)]+Var_Θi|d[??(x;Θ)]?AU(x)。（4）一维示例使用哈密顿蒙特卡洛（HMC）与No-U-Turn采样器（NUTS）训练；滞回力预测采用物理信息长短期记忆（LSTM）框架，通过Concrete Dropout实现贝叶斯推断，并用截断时间反向传播（TBPTT）训练。样本来源：Bouc-Wen滞回模型（参数按均值与变异系数随机采样）与NGA-West2数据库中80条地震动（缩放至相似峰值加速度）。

以下总结论文主体部分的研究结果，保留原文主要小标题并说明各节结论。

3. 新的不确定性分解框架（A new decomposition framework for UQ）：通过理论推导，将模型特定偶然不确定性分解为固有随机性、模型形式误差与方差差异，揭示传统方法中的偶然性成分包含可约的认知部分，从而为新分解奠定基础。

4. 提出的随机集成中的不确定性分解（Proposed uncertainty decomposition in stochastic ensembles）：基于新分解提出集成UQ方法：AU(x)=min S(x)作为对真实固有随机性的上界逼近；EU_i(x)整合模型方差、偶然性与AU的差值，从而量化数据不足与模型形式双重认知不确定性。

5. 数值实验（Numerical experiments）：通过两个案例验证方法有效性。

5.1 一维合成示例（One-dimensional illustrative example）：使用三个不同容量BNN，对比模型特定与集成偶然不确定性，结果显示AU(x)始终更紧地逼近真实方差Var[?(x)]，且EU(x)在预测偏差大时显著增大，而传统认知不确定性未能反映模型形式误差。

5.2 滞回力时程预测的不确定性量化（UQ of BNN-predicted hysteretic force time histories）包括：

5.2.1 实验设置（Experimental setup）：采用Bouc-Wen模型生成滞回力数据，使用物理信息LSTM与Concrete Dropout构建异方差BNN，三个模型均通过验证准则。

5.2.2 基于集成的UQ（Ensemble-based UQ）：集成AU(x)紧密跟随实际随机性，减少单个模型的高估；集成EU(x)在预测偏差显著时增加，有效捕获模型形式误差，而模型特定EU(x)主要反映数据不足。

5.2.3 参数敏感性分析（Parameter sensitivity analysis）：增加集成模型至五个，发现使用三至四个模型时AU(x)最接近真实随机性；若包含未严格验证的过拟合模型，更多模型可能导致AU低估，故需严格验证。

总结讨论：论文指出两个主要局限。第一，集成偶然不确定性依赖最小值算子，若集成包含未严格验证的过拟合模型，增加模型数量可能使AU低于真实固有随机性，未来需发展鲁棒验证方案或替代聚合策略。第二，当前框架未捕捉输出间的相关性（如滞回力时程中的时序关联），未来可扩展至协方差感知的集成技术或序列级概率度量，从而增强UQ结果的可靠性与可解释性。

翻译研究结论部分：研究人员在本文中提出了一种利用概率代理模型集成的不确定性分解新框架，特别关注贝叶斯神经网络（BNN）。通过系统区分偶然不确定性和认知不确定性，研究人员建立了对总预测不确定性的更细致解释。与传统常混淆这些来源的模型特定方法不同，该基于集成的方法通过利用集成中模型特定偶然不确定性的最小值来识别不可约不确定性，从而近似了真正的固有变异性。通过一系列数值实验，包括一维合成示例和涉及滞回力时程预测的复杂应用，研究人员展示了所提出方法的实际有效性。基于集成的偶然不确定性一致地提供了比单个模型特定估计更紧的固有随机性界限，而所提出的认知量化成功捕捉了数据引起的和模型形式的不确定性。