基于证据的贝叶斯神经网络用于工业机器人的不确定性量化

《ADVANCED ENGINEERING INFORMATICS》：Evidence-based Bayesian neural network for uncertainty quantification of industrial robots

　　•本文提出了一种基于CLBO的贝叶斯神经网络框架，用于对机器人系统响应进行不确定性感知建模。•通过整合CLBO，开发出一种原则性的模型选择策略，以平衡预测性能与模型复杂度。•为高斯预测分布推导出了CRPS的解析形式，以便对BNNs进行概率评估。•在机器人动力学和运动学方面的全面实验验证了所提方法的有效性。

引言
随着智能制造和精密工程的快速发展，工业机器人已被广泛应用于精密装配、制造以及医疗仪器等需要高精度和高可靠性的任务中[1]、[2]。在这些应用中，机器人系统不仅需要具备高定位精度和轨迹跟踪性能，还必须在复杂多变的工作条件下保持稳定可靠的运行。然而，在实际运行中，工业机器人系统的响应会受到多种不确定因素的影响，包括几何误差、关节摩擦、环境温度变化、振动、传感器测量噪声以及控制系统中的参数识别误差[3]。这些因素之间存在着紧密的联系，导致工业机器人的实际动力学和运动学行为与其理论模型存在较大偏差，从而严重限制了它们在高精度任务中的可靠性和有效性[4]、[5]。

从工程角度来看，工业机器人的性能和可靠性最终体现在一系列可观测的输出变量上。这些输出包括关节级的动态响应，如驱动扭矩和内部力，它们直接影响控制补偿性能、能耗以及机械部件的安全性；此外，还包括任务空间的运动学响应，如末端执行器的姿态，它们决定了定位精度和任务执行质量。在本文中，这些输出变量被统称为工业机器人系统响应。尽管这些响应源自不同的物理层面，但在建模和预测方面面临着共同的挑战，包括强非线性、多自由度耦合以及对多种不确定因素的高敏感性。

在工业机器人系统响应预测方面，过去几十年来人们已经广泛研究了基于物理的建模方法[6]。这类方法通常基于刚体动力学和运动学构建解析模型。在动态建模中，利用牛顿-欧拉法则或拉格朗日法则建立关节扭矩与系统状态之间的解析关系。最小二乘法（LS）及其衍生技术被用来识别未知的动态参数[7]、[8]、[9]。在LS框架下，还提出了多种扩展方法，包括加权最小二乘法（WLS）[10]、迭代加权LS[11]以及正则化非线性LS方法[12]。由此得到的动态模型被广泛应用于关节扭矩预测、动态补偿以及系统安全监测等领域[13]、[14]。例如，Dong等人[15]提出了一种基于LS和共生有机体搜索算法的St?ubli TX - 90机器人动态参数识别方法。Han等人[16]将WLS与在线性矩阵不等式约束下的迭代加权LS相结合，提出了一种有效的动态识别方法。

在运动学建模方面，人们采用Denavit - Hartenberg公式和指数积公式来描述工业机器人中关节空间与任务空间之间的映射关系。基于LS的几何标定方法被广泛用于补偿由制造和装配误差引起的运动学不确定性。Luo等人[17]提出了一种基于Levenberg - Marquardt算法和差分进化的运动学参数标定方法，以提高绝对定位精度。Gao等人[18]提出了一种利用运动捕捉系统针对串联机器人进行运动学识别的新方法，该方法有效解决了逆运动学中多解模糊问题以及计算效率低的问题。虽然基于物理的动态模型和运动学模型具有物理上的可解释性，但它们的实际性能在很大程度上取决于模型的精确结构以及参数识别的准确性。对于那些结构复杂且存在摩擦、间隙、柔性和磨损等未建模效应的工业机器人来说，构建高精度的解析模型仍然是一项艰巨的任务[19]、[20]。模型简化以及参数不确定性往往会不断积累并传播，从而导致预测精度下降，并可能带来安全隐患。

近年来，数据驱动方法，尤其是深度神经网络，在对复杂机器人系统进行建模方面展现出了良好的性能[21]。这类方法避免了显式物理建模所带来的困难[22]、[23]，它们可以直接从历史数据中学习系统输入与输出之间的复杂映射关系[24]，从而实现强大的非线性建模能力。例如，Ren等人[25]提出了一种基于改进的生成对抗网络的基于学习的框架，用于近似机器人操作臂的逆运动学和逆动力学，使得在训练数据有限的高维环境下也能实现精确建模。Baressi等人[26]研究了一种基于机器学习的动态建模方法，该方法利用从解析模型和多层感知器网络生成的合成数据集，证明了通过减少数据收集工作量也能获得令人满意的建模精度。Zhuang等人[27]开发了一种基于卷积神经网络的半参数动态模型，该模型将具有物理意义的参数与数据驱动的补偿机制相结合，仅利用本体感测量数据就能提高精度并提升计算效率。Ghasemi等人[28]展示了在简单的3自由度RRL机器人操作臂上使用人工神经网络进行逆运动学学习的方法。?egota等人[29]则使用前馈多层感知器来计算机器人臂的逆运动学。在一定程度上，数据驱动方法缓解了传统基于物理的方法在处理复杂系统时所面临的建模瓶颈。然而，大多数现有的数据驱动模型都是以确定性方式构建的，只能提供点预测结果。在实际工程应用中，单个预测值无法体现预测的可靠性，因此不足以用于在工况变化情况下进行基于不确定性的风险评估、故障诊断和决策制定。所以，这类方法在那些对可靠性要求较高的工业机器人应用中仍然存在明显的局限性[30]。因此，迫切需要对预测不确定性进行可靠的表征。

贝叶斯推断为系统不确定性建模提供了理论基础，它将模型参数和预测结果视为随机变量，并根据观测数据更新它们的概率分布[31]、[32]、[33]。在这种背景下，贝叶斯神经网络（BNNs）作为一种将贝叶斯推断与神经网络模型相结合的强大框架应运而生[34]。BNNs在保留神经网络处理复杂非线性系统强大表达能力的同时，又融入了概率建模机制，从而能够对预测均值和不确定性进行统一的表征[35]。近年来，BNNs在科学和工程应用领域受到了广泛关注。例如，He等人[36]首次将BNNs用于多轴疲劳寿命预测，以量化复杂载荷条件下的预测不确定性；Xie等人[37]将BNNs与PINNs相结合，提出了贝叶斯物理信息神经网络（B - PINN），用于剩余使用寿命预测；Lei等人[38]开发了一种基于两阶段BNN的框架，用于桥梁梁体的累积位移预测和异常检测。这些研究共同证明了BNNs在各种工程问题的不确定性量化方面具有强大的能力，为解决工业机器人系统中复杂且不可避免的不确定性问题提供了坚实的理论工具。

不过需要指出的是，基于神经网络的建模效果在很大程度上取决于模型架构的选择[39]、[40]。不合适的网络结构可能会导致对系统响应特征的表征不足，或者产生过于自信的预测分布，而这在那些对安全性要求极高的工业机器人应用中是不可接受的。现有的BNN模型选择方法通常以证据下界（ELBO）作为近似标准[41]。然而，对于复杂的系统响应建模任务，有限的后验近似精度可能会导致证据下界较为宽松，从而无法可靠地反映不同模型结构的真实预测性能。

为了解决上述局限性，本文提出了一种基于数据的、具有不确定性感知能力的工业机器人系统响应预测建模框架，该框架采用了基于证据的BNNs。在变分贝叶斯推断框架下，提出了一种基于证据的BNN模型选择技术，用于同时考虑预测精度和不确定性表征。随后，还建立了相应的模型评估指标，用于评估点预测性能和概率校准情况。该框架在动态关节扭矩预测和运动学末端执行器姿态预测任务上进行了系统验证，证明了其在不同类型机器人系统响应方面的有效性和通用性。

本文的其余部分结构如下。第2节简要回顾了工业机器人系统响应，并分析了相关的不确定性因素。第3节介绍了用于系统响应建模的BNN框架，提出了基于证据的BNN模型选择标准，以及相应的模型评估指标和方法。第4节通过工业机器人的动态预测和运动学预测，验证了所提方法的有效性和优势。第5节对本文进行总结。

章节片段
工业机器人的动态和运动学响应不确定性
工业机器人系统响应是指在给定的关节状态和工作条件下的可观测输出。典型的系统响应包括受机器人动力学控制的关节扭矩，以及由机器人运动学决定的末端执行器的位置和姿态。这些响应对于工业应用中的机器人控制、监控和性能评估至关重要。实际上，系统响应不可避免地会受到各种不确定性因素的影响，如建模……

面向工业机器人的基于证据的贝叶斯神经网络
如第2节所述，工业机器人系统响应具有复杂的非线性耦合特性，同时还受到多种不确定因素的影响，这些都限制了纯基于物理的建模方法和确定性学习方法的应用效果。为了解决这些难题，本节提出了一种基于BNN的框架，用于对工业机器人系统响应进行具有不确定性感知能力的建模。该框架融合了概率建模、基于证据的模型选择以及……

案例研究1：动态扭矩预测
为了验证所提方法的有效性，本节针对六自由度工业机器人HSR - JR612[45]进行了关节扭矩预测的实验研究。首先运用CLBO从候选模型中选出最优的BNN架构。基于选定的模型，对认知不确定性和随机不确定性进行量化，进而得到关节扭矩的预测区间。此外，还使用了独立的验证轨迹以及另外10组测量数据……

结论
本文提出了一种基于证据的BNN框架，用于对工业机器人响应进行具有不确定性感知能力的预测。该框架将网络参数视为随机变量，从而能够同时量化认知不确定性和随机不确定性。采用饱和GLBO作为训练目标，通过隐式的样本重加权来提升模型的泛化能力，而CLBO则作为模型选择标准，用于在预测精度和模型复杂度之间取得平衡。同时引入了CRPS来……

CRediT作者贡献声明
贾欣宇：撰写——初稿、方法论、资金获取、概念构思。高璐倩：撰写——初稿、方法论、研究调查、数据整理。李兴傲：撰写——初稿、研究调查、数据整理。沈硕硕：撰写——初稿、研究调查。宁国松：数据整理。张德权：撰写——审阅与编辑、监督、项目管理、资金获取。

利益冲突声明
作者声明不存在任何已知的可能会影响本文所汇报工作的财务利益或个人关系。

致谢
作者衷心感谢国家自然科学基金（项目编号52305255）、国家优秀青年科学基金（项目编号52422507）以及河北燕赵金平台人才集聚项目（项目编号A2024007）对这项工作的大力支持。

贾欣宇|高璐倩|李兴傲|沈硕硕|宁国松|张德权