TRACE：面向自主AI代理的可审查运行时治理框架——基于AEGIS的预注册评估及其局限性分析

《IEEE Access》：TRACE: Runtime Governance, Containment, and Evidence for Autonomous AI Agent Operations

　　

摘要：

自主人工智能（AI）代理调用工具并影响工程系统的速度，快于操作员重建其动作的速度。TRACE 将代理视为不可信实体，并通过签名策略包、网关调解、独立遥测、确定性触发线、分级遏制以及防篡改证据链来获取运行时保证。其参考实现——自主工程治理与智能系统（AEGIS）——是在预注册协议下进行评估的，该协议在结果检查前已存档，涵盖三个领域和三个隔离层级的 180 个主要操作、360 个良性压力源操作、780 个对抗操作以及 235 个留出操作。经霍尔姆 - 邦弗罗尼（Holm-Bonferroni）校正后，七个假设有四个得到支持：所有 1,440 条被篡改的链均被拒绝；在 2,100 个被接受的良性操作 - 条件单元中，未发生良性误停；所有 200 个证据包均被确定性重构。一项仪器审计发现，已存档的对抗检测与副作用测量仪器并未测量到其预期结果。一个单独注册的边界观察者记录了 3,703 个已执行副本中零个禁止的副作用，但硬件截断导致无法做出确认性声明。在单站基底上未确立延迟非劣效性；一项单独的裸金属基准测试测得每个操作的中位治理路径成本为 16.1 毫秒。穷举枚举在 458,752 个遏制有限状态机用例中未发现违规。在加固的对抗语料库上，检测率从部署阈值处的 0.35 提升至 0.78 阈值倍数处的 1.00，且无良性误停。TRACE 提供了一种可审查的有限代理自主性模式，但仪器有效性、阈值校准及跨平台延迟仍存局限。