企业工作流中代理式AI的治理框架:基于有界自主性、委托授权与受控执行的概念设计
《Information》:Governing Agentic AI in Enterprise Workflows: A Bounded-Autonomy Framework for Delegated Authority and Controlled Execution
【字体:
大
中
小
】
时间:2026年09月21日
来源:Information 4.3
编辑推荐:
摘要代理式AI能够解读信息、制定计划、做出工作流决策并使用企业工具。然而,技术能力并不能确立权威性含义、合法流程状态、组织权限或可追责的执行。挑战在于在确保后果性行动始终受治理的前提下保持适应性。本文基于有界自主性、委托授权和受控执行,开发了一套与领域无关的概念框架,用于治理
摘要
代理式AI能够解读信息、制定计划、做出工作流决策并使用企业工具。然而,技术能力并不能确立权威性含义、合法流程状态、组织权限或可追责的执行。挑战在于在确保后果性行动始终受治理的前提下保持适应性。本文基于有界自主性、委托授权和受控执行,开发了一套与领域无关的概念框架,用于治理企业工作流中的代理式AI。由代理选择的后果性行动或工作流决策被视为一项提议行动。只有在独立控制确认其语义有效性、程序许可性、政策合规性和委托授权后,才可能改变企业状态。通过上述控制且保持在任务范围内内的行动,可通过受控企业工具自动执行。那些超出后果、不可逆性、不确定性、数据敏感性、价值或组织政策阈值的行动将被升级至可追责的人员。因此,人工监督是风险按比例分配的,而非每项行动都需要。该框架整合了企业本体、治理型知识图谱、业务流程建模与标注(BPMN)编排、政策和决策服务、受控工具执行以及溯源机制,全部纳入明确的责任与权限边界之内。一个经评审驱动的设计科学流程将证据综合为五个相互关联的控制缺口,并推导出十项设计要求,通过任务范围、能力与权限关系、生命周期状态、例外路径和合规标准加以实现。一个在线购物订单例外的示例演示了控制逻辑,同时通过一个控制循环演练和十种失败与对抗性条件,追溯了需求到控制的映射关系、职责分离和既定恢复路径。该框架为治理代理式AI作为适应性企业参与者提供了系统基础。它支持风险按比例分配的自主性、可审计性、可追责性和监管证据。该分析性演练支持了概念一致性和设计合理性,但并未证明部署有效性或法律合规性。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号