编辑推荐：
为解决 BRB 模型可解释性量化及与准确性平衡问题，研究人员结合 ante-hoc 与 post-hoc 可解释性，提出 5 项维护准则，量化系统级度量指标并引入 SHAP 分析验证，设计新优化方法。结果平衡了可解释性与准确性，在航天继电器等案例中有效，具重要实践意义。
在人工智能与复杂系统建模领域，可解释性始终是制约模型落地应用的关键瓶颈。尤其对于依赖专家知识的决策支持系统而言，如何让模型的推理过程清晰可辨、参数含义符合人类认知，成为学术界和工业界共同关注的焦点。传统黑箱模型（如深度学习）虽在复杂数据处理中表现优异，但其内部机制晦涩难懂，难以获得用户信任与监管认可；而白箱模型（如线性回归）虽透明易懂，却在处理高维动态复杂系统时力不从心。信念规则库（Belief Rule Base, BRB）作为融合模糊逻辑与证据推理的灰箱模型，虽兼具一定可解释性与处理不确定性的能力，但可解释性的主观特性使其缺乏统一量化标准，且在优化过程中常面临可解释性与准确性的冲突 —— 过度追求精度可能导致参数偏离专家知识，破坏模型的可理解性。
为突破上述困境，国内研究团队针对 BRB 模型的可解释性展开深入研究。该团队的研究成果发表在《Expert Systems with Applications》，旨在构建一套系统级的可解释性度量框架，并开发能平衡可解释性与准确性的优化方法，为 BRB 在关键领域的可靠应用奠定基础。
研究团队主要采用了以下技术方法：首先，结合先验可解释性（ante-hoc interpretability，模型自身内置的可解释机制）与后验可解释性（post-hoc interpretability，优化参数的实际意义），提出五项维护 BRB 可解释性的准则；其次，量化了一个系统级可解释性度量指标，并引入 SHAP（SHapley Additive exPlanations）分析从博弈论角度验证该指标的有效性；最后，基于该度量设计新型优化算法，通过多目标优化实现模型可解释性与准确性的平衡。研究选取航天继电器健康状态评估和石油管道泄漏预测两个工程案例，验证方法的实用性与普适性。
BRB 规则描述与可解释性分类
BRB 通过置信规则集实现知识表示与推理，单条规则形如 “IF 前提属性组合 THEN 结论信度分布”，其中包含属性权重 δi、规则权重 θk等参数，这些参数通常需结合专家知识设定。研究将 BRB 的可解释性分为两类：
- 先验可解释性：体现在模型结构的认知契合度（如自然语言标签的规则形式符合人类逻辑）与复杂度（规则数量、属性维度等）。
- 后验可解释性：聚焦优化后的参数是否保留专家知识的语义，避免因随机优化导致参数偏离领域经验。
可解释性度量与优化方法
研究提出的系统级度量指标综合了先验与后验维度，通过计算参数与专家知识的距离、规则一致性等量化可解释性。引入 SHAP 分析，将每个属性对输出的贡献度可视化，进一步验证度量指标的合理性。在优化层面，设计新目标函数同时考量可解释性指标与预测精度，采用改进算法求解帕累托最优解，确保优化过程中参数不违背专家知识，从而维持模型的可理解性。
案例验证与分析
在航天继电器案例中，通过健康状态评估验证了可解释性度量能有效识别参数偏离问题，优化后的模型在保持高精度的同时，规则参数更符合航天领域专家的经验判断。石油管道泄漏预测案例则展示了方法在处理高维动态数据时的鲁棒性，优化后的 BRB 不仅提升了泄漏检测的准确率，其规则结构还能清晰揭示压力、流量等关键属性对泄漏状态的影响路径，为管道维护提供可操作的决策依据。
结论与意义
本研究首次构建了 BRB 系统级可解释性分析框架，通过量化指标与 SHAP 验证，将主观的可解释性转化为可计算、可比较的客观度量。提出的优化方法打破了传统模型在可解释性与准确性间的 “权衡困境”，为复杂系统建模提供了兼具可靠性与透明性的新范式。其成果在航天、能源等对模型可解释性要求严苛的领域具有重要应用价值，有望推动 BRB 模型从实验室走向工业实际场景，为专家系统的可信决策提供关键技术支撑。未来研究可进一步探索跨领域可解释性标准的统一化，以及如何将用户反馈动态融入 BRB 的可解释性维护中，提升模型的泛化能力与用户适应性。
