摘要
城市物联网（IoT）基础设施越来越多地在异构的边缘环境中托管分布式人工智能工作负载，支持诸如城市监控、资源优化和大规模传感分析等应用。尽管边缘AI得到了迅速推广，但当前的系统缺乏一个统一的架构层来协调动态城市基础设施中的分布式智能。现有的协调机制通常基于规则，并依赖于低级别的遥测信号，如延迟、节点可用性或网络状况，这限制了它们对系统行为和环境事件上下文含义的解读能力。本文介绍了Urban AI OS，这是一个基于大型语言模型（LLM）的可信赖的语义控制层，用于分布式城市边缘智能。所提出的架构通过大型语言模型推理，将异构的遥测和环境信号转换为高级语义事件，从而实现上下文感知的协调决策，包括自适应拓扑管理、工作负载协调和节点角色分配。为了解决与LLM辅助控制相关的可靠性风险，Urban AI OS采用了基于置信度的执行机制、确定性回退策略、事后监控、回滚和可审计的决策日志记录，以限制不确定或错误LLM建议对运营的影响。通过将语义推理与AI工作负载的数据平面执行解耦，Urban AI OS提供了一个与模型无关的框架，用于管理大规模城市边缘智能基础设施。在包含50多个边缘设备的真实世界城市IoT部署中的实验评估表明，所提出的语义操作层将系统响应速度提高了35%，减少了42%不必要的拓扑变更，并提升了通信效率，同时通过正式的回退机制保持了置信度校准。
