MARIS-TRA:面向智能体AI系统的分层时序运行时安全保障扩展与定量鲁棒性验证
《Machine Learning and Knowledge Extraction》:Hierarchical Temporal Runtime Assurance for Controlled Agentic AI Systems: Safety Shielding, Auditable Action Repair, and Bounded Recovery
【字体:
大
中
小
】
时间:2026年09月22日
来源:Machine Learning and Knowledge Extraction 8.4
摘要
智能体人工智能需要在全轨迹范围内持续有效的保障措施,而非仅在单个决策点有效。本研究提出了MARIS-TRA,一种受控智能体AI系统的分层时序运行时保障扩展。一种紧凑且可审计的信号时序逻辑(STL)片段为速度、竞技区域、成对分离、限制区域和受限恢复需求提供了定量鲁棒性。最终架构使用不变硬安全公式来定义可行性,同时恢复/活性由独立模块监控,并可触发升级机制。在包含5750个回合的主实验中,MARIS-TRA实现了100.00%的实际硬安全窗口满足率、100.00%的硬安全回合满足率(450/450;Wilson 95%置信区间 99.15–100.00%)、零碰撞回合,以及核心对比中2.55毫秒的平均延迟。在主要的严格数值语义下,独立的CBF-QP基线方法实现了88.89%的硬安全回合满足率;全部50个严格失败均为边界压力场景中极小的竞技场边界超调,无碰撞或分离失败,且事后容差敏感性分析在epsilon = 10?4归一化模拟器单位时达到100%。另一项包含8640个回合的定向验证考察了恢复滞后、模型失配、AHO控制流以及安全-恢复冲突。在确认性高密度测试中,仅安全屏蔽在810/810个回合中保持了硬安全,而联合硬执行产生了28/810个分离安全失败(3.46%;Wilson 95%置信区间 2.40–4.95%),无碰撞发生。执行噪声与延迟实验进一步表明,该形式化结果为条件性预测轨迹认证,而非对未来滚动时域执行的干扰鲁棒保证。因此,经验性结论仅限于所评估的连续动作多智能体场景,同时该架构仍保持策略可分离性与可审计性。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号