MARIS-TRA:面向智能体AI系统的分层时序运行时安全保障扩展与定量鲁棒性验证

《Machine Learning and Knowledge Extraction》:Hierarchical Temporal Runtime Assurance for Controlled Agentic AI Systems: Safety Shielding, Auditable Action Repair, and Bounded Recovery

【字体: 大 中 小 】 时间:2026年09月22日 来源:Machine Learning and Knowledge Extraction 8.4

编辑推荐:

   摘要

  

摘要

智能体人工智能需要在全轨迹范围内持续有效的保障措施,而非仅在单个决策点有效。本研究提出了MARIS-TRA,一种受控智能体AI系统的分层时序运行时保障扩展。一种紧凑且可审计的信号时序逻辑(STL)片段为速度、竞技区域、成对分离、限制区域和受限恢复需求提供了定量鲁棒性。最终架构使用不变硬安全公式来定义可行性,同时恢复/活性由独立模块监控,并可触发升级机制。在包含5750个回合的主实验中,MARIS-TRA实现了100.00%的实际硬安全窗口满足率、100.00%的硬安全回合满足率(450/450;Wilson 95%置信区间 99.15–100.00%)、零碰撞回合,以及核心对比中2.55毫秒的平均延迟。在主要的严格数值语义下,独立的CBF-QP基线方法实现了88.89%的硬安全回合满足率;全部50个严格失败均为边界压力场景中极小的竞技场边界超调,无碰撞或分离失败,且事后容差敏感性分析在epsilon = 10?4归一化模拟器单位时达到100%。另一项包含8640个回合的定向验证考察了恢复滞后、模型失配、AHO控制流以及安全-恢复冲突。在确认性高密度测试中,仅安全屏蔽在810/810个回合中保持了硬安全,而联合硬执行产生了28/810个分离安全失败(3.46%;Wilson 95%置信区间 2.40–4.95%),无碰撞发生。执行噪声与延迟实验进一步表明,该形式化结果为条件性预测轨迹认证,而非对未来滚动时域执行的干扰鲁棒保证。因此,经验性结论仅限于所评估的连续动作多智能体场景,同时该架构仍保持策略可分离性与可审计性。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号