结构性误设下用于认证人工智能赋能安全关键系统的鲁棒贝叶斯与博弈论框架

《Scientific Reports》：A robust Bayesian and game-theoretic framework for certifying AI-enabled safety-critical systems under structural misspecification

　　

摘要

人工智能正进入安全关键系统，这些系统在部署前必须经过监管机构的认证。稀有模式可能保持休眠状态，导致部分故障未知。我们确定了多少测试足够，以及何时认证是合理的。我们开发了一种鲁棒贝叶斯决策框架，其推理机制的模糊集涵盖多达五十四种先验分布、似然学习率和三种可靠性增长模型类别，嵌入在监管者与开发者之间的斯塔克尔伯格博弈中。在真实的 NTDS 故障数据上，在十八个成员的先验集下，鲁棒规则建议在 250 天的测试周期之外额外增加 1,600 天后发布，而标准贝叶斯规则为 905 天，最小极大遗憾原则为 1,065 天；将该层扩展至五十四成员则给出 1,910 天。我们区分了两个以前都称为覆盖率的量：保守率 CR 和可信区间覆盖率 CIC。在具有休眠模式的蒙特卡洛模拟中，标准方法低估剩余故障 8.5 倍，CIC 为 1.0%（标准误 0.7%）。先验鲁棒性使 CR 保持在 0.5%（标准误 0.5%）。一个整体更乐观的模型成员不会改变结果；一个结构更丰富的变点成员将 CR 提高到 70%（标准误 4.6%）。在 0.2 的学习率下限下，似然调温将 CR 提高到 86%（标准误 2.5%），但随着下限降至 0.1，CR 单调上升至 100%：起作用的是下限，而不是方法。在六十次测试周期中，强制执行的鲁棒规则在阈值网格上限为 0.97 时将中位数社会损失减少了 94%，扩展后减少了 76%。监管机构获得了三个杠杆：学习率下限、认证阈值和审计强度。