可问责自主性：电信网络中智能体人工智能的治理框架

《AI》：Accountable Autonomy: A Governance Framework for Agentic AI in Telecommunication Networks

　　

智能体人工智能（Agentic AI）系统正越来越多地部署在分布式云-边缘-无线基础设施中，其中自主智能体做出的决策具有直接的运营和经济影响。智能合约（SCs）强制执行业务规则和政策，根据预定义的操作意图约束自主行为。随着智能体自主性在异构网络中扩展，确保可问责性需要透明度、可验证性以及对SC定义要求的合规性。为应对这些挑战，本文提出了智能体治理框架（AGF），该框架将基于SC的治理集成到智能体AI系统中，通过可追溯的自主决策实现可验证的可问责性。AGF建立在欧洲电信标准化协会（ETSI）和TM Forum原则之上，包含六个组件：（i）与TM Forum对齐的业务支撑系统（BSS）；（ii）智能体AI增强的运营支撑系统（OSS）；（iii）网络资源运营子系统；（iv）身份与访问角色管理器；（v）分布式市场；以及（vi）可追溯性与可审计性注册表。这些组件共同提供了一个端到端（E2E）可追溯架构，将每个行动链接到负责的智能体和SC。在本地测试网络上进行的原型评估以及两个互补的网络测试用例展示了该框架的可行性，确认了其完全可追溯性和不可篡改性，并凸显了AGF作为电信网络中可靠的大规模智能体系统基础的潜力。结果表明，在E2E治理环路中实现了100%的可追溯性，并且由于可追溯性与可审计性注册表，延迟开销仅为2–4%。

论文解读：《可问责自主性：电信网络中智能体人工智能的治理框架》

一、研究背景、问题与研究意义

随着大型语言模型（LLMs）的快速发展，人工智能正从执行狭义任务的系统演变为能够解释目标、自适应推理并在动态环境中行动的智能体人工智能（Agentic AI）。在电信网络中，传统的基于规则的集中式管理与编排系统难以应对现代网络日益增长的规模、异构性和动态性。因此，网络运营正逐步引入由LLM驱动的智能体AI，以实现自主、上下文感知的决策，从而支持实时优化、弹性和运营效率。然而，在关键环境中部署自主智能体带来了信任、可解释性和可问责性方面的挑战。AI系统（尤其是LLMs）固有的不透明性使得理解和验证特定决策背后的推理过程变得困难，缺乏记录、追踪和审计智能体决策的机制引发了运营和伦理层面的担忧，例如不可复现的配置、无法验证的行动以及潜在的监管或治理违规。

为解决上述问题，本研究旨在设计一种结合自主性、透明度和可追溯性的架构，在不牺牲控制或可审计性的前提下实现智能网络管理。研究人员提出了智能体治理框架（AGF），该框架将分布式账本技术（DLT）和智能合约（SCs）作为动态、实时的治理层来约束自主AI智能体。AGF通过不可篡改地记录每个决策及其推理过程和运营上下文，确保了可审计性和不可否认性。该研究的重大意义在于为电信网络中大规模、可靠的智能体系统奠定了基础，提供了可验证的可问责性。该论文发表在《AI》期刊。

二、关键技术方法概述

研究人员采用了多项关键技术来构建和验证AGF。首先，利用Hyperledger Fabric和Hyperledger Indy作为底层DLT技术，分别用于实现分布式市场和可追溯性与可审计性注册表，以及身份与访问角色管理器。其次，采用Model Context Protocol (MCP) 作为标准化的上下文暴露机制，使AI智能体能够查询和获取网络状态信息。实验使用了两种不同的LLM——Qwen和Mistral，并均设置为温度参数为0以确保确定性解码。此外，还使用了TM Forum API（如TMF620和TMF622）进行产品目录管理和订单管理。整个AGF模块被容器化并通过Helm Charts部署在Kubernetes (K8s) 集群上。实验在基于OpenStack的两台Ubuntu虚拟机上完成，其中一台配备NVIDIA L4 GPU用于运行LLM。

三、研究结果

3.1. 智能体决策可靠性与执行正确性

该部分通过两个测试用例（TC#1：边缘服务场景；TC#2：5G数据平面场景）评估了不同LLM的表现。结果显示，AGF成功集成了两种不同的LLM，证明了其LLM模型无关性和灵活性（R4）。在执行正确性方面，TC#1中两种模型的正确率均为50%；而在TC#2中，Qwen的正确率提升至75%，而Mistral则下降至40%。在确定性方面，TC#1中Qwen达到80%，Mistral为70%；TC#2中Qwen稳定在90%，而Mistral降至40%。这表明AGF架构独立于底层LLM提供商，实现了长期架构韧性。此外，审计重建时间的结果表明，所有行动均可从可追溯性与可审计性注册表中完整重建，满足了可追溯性与可审计性（R2） 的要求，并回答了研究问题RQ1。通过混淆矩阵分析，无论LLM的决策正确与否，AGF都能将所有执行记录不可篡改地存储在DLT中，确保了100%的可追溯性。

3.2. 性能开销

该部分评估了AGF引入的延迟开销。结果表明，可追溯性与可审计性注册表的引入仅带来了2%至4%的有限延迟开销。延迟分解显示，自主智能体推理占据了端到端执行时间的85%至97%，这是LLM推理的计算瓶颈，而非AGF框架本身的开销。去中心化标识符（DIDs）的集成引入了约0.7%至1.7%的额外延迟。这些结果验证了在获得可观察性、透明度和安全访问管理改进的同时，仅付出了极小的性能代价，满足了身份管理与访问控制（R1） 和可追溯性与可审计性（R2） 的要求。在可问责吞吐量（AT）方面，启用完整可追溯性后，系统每小时处理的决策数量略有下降，但与基线相比基本等效，证明DLT并未成为运营效率的瓶颈。

四、讨论与结论

讨论部分总结： 尽管实证评估证实了AGF的可行性，但仍存在若干局限性。当前的测试床基于单智能体架构，因此未能对多智能体协调与可扩展性（R5）进行实验验证。大部分端到端延迟消耗在智能体推理上，这是由于使用了通用型LLM而非专门针对电信领域微调的模型。此外，该框架目前仍处于研究目的阶段，尚未准备好用于生产级电信网络，缺乏处理高频遥测流的实时上下文管理管道。未来工作将集中在扩展至协作式多智能体生态系统、开发统一上下文与记忆优化框架，以及构建故障注入与对抗性测试环境。

研究结论部分翻译： 本文提出了AGF，这是一种旨在为电信网络中AI智能体的决策过程提供可追溯性和可审计性能力的架构。该框架能够不可篡改且结构化地记录智能体执行过程中产生的相关行动、推理和事件，便于监督、事后执行分析以及满足透明度和可问责性要求。实验结果表明，该框架成功实现了其核心设计要求。可追溯性与可审计性注册表的引入带来的延迟开销极小，与其在决策重建和端到端可观察性方面提供的价值相比几乎可以忽略不计。此外，通过在边缘和5G数据平面场景中使用两种不同的LLM进行评估，结果实证验证了该架构的LLM无关性及其在真实电信网络场景中的适用性。这些发现表明，AGF对于AI智能体的信任、可解释性和运营控制至关重要的环境来说是一种可行的解决方案。维护完整且可验证的决策历史的能力有助于改进监督机制，促进诊断任务，并加强自主系统的治理流程。