《Future Internet》:AI Agents and the Progressive Intermediation Between Users and Online Services: A Critical Analysis
编辑推荐:
AI智能体(AI Agents)的颠覆性潜力日益明显,正在影响用户与在线服务及内容之间交互的本质。这些智能体代表了一种新的中介(intermediation)形式,正在改变用户访问和与在线资源交互的方式,同时也重塑了数字生态系统中信息权力(informatio
AI智能体(AI Agents)的颠覆性潜力日益明显,正在影响用户与在线服务及内容之间交互的本质。这些智能体代表了一种新的中介(intermediation)形式,正在改变用户访问和与在线资源交互的方式,同时也重塑了数字生态系统中信息权力(informational power)、经济价值(economic value)和访问权限(access)的分配。本文通过由批判性系统启发法(Critical Systems Heuristics, CSH)引导的批判性、非系统性综述,分析了互联网上中介机制的演变。研究人员追溯了从技术基础设施到在线内容/服务的渐进式中介机制分层,并认为AI智能体构成了一个结构上独特的中介层,为数字生态系统引入了权力、不透明性(opacity)、价值分配和访问权限的新动态,对用户、在线服务以及更广泛的社会具有重大影响。研究人员目前正在经历互联网中一个潜在的重大进化转变,其中AI智能体中介可能逐渐对信息交换方式产生实质性影响。本文提供了一个框架,用以讨论这一潜在进化的影响,并指导该领域的未来研究、公众讨论和政策干预。
**1. Introduction**
本文指出,AI智能体(AI Agents)的颠覆性潜力日益彰显,正在改变用户与在线服务及内容交互的本质。基于大型语言模型(Large Language Models, LLMs)的进化,智能体AI(agentic AI)能够执行需要第三方交互的任务,代表一种新的中介(intermediation)形式。研究提出两个问题:(i)AI智能体中介如何与先前的中介层(如DNS、搜索引擎、社交媒体平台、超级应用)在结构上不同;(ii)这种转变对数字生态系统中信息权力、经济价值和访问权限分配的影响。本文采用批判性非系统性综述,以批判性系统启发法(Critical Systems Heuristics, CSH)为分析透镜。
**2. Background**
该部分定义了中介(intermediation)作为连接用户与在线服务/内容的过程,并引用了Hutchinson对数字中介的定义。智能体(agent)被定义为具有感知环境并采取行动能力的实体,但本文强调避免将心理状态归因于AI系统。研究者区分了三个累积级别的智能体:对话式LLM接口(chatbots)、答案引擎(answer engines)和任务执行代理(task-executing agents),其中只有第三级完全符合Wooldridge的经典智能体模型(反应性、主动性、社会性)。论文还介绍了支持智能体交互的协议,即模型上下文协议(Model Context Protocol, MCP)和智能体间协议(Agent2Agent, A2A),两者均基于HTTP+JSON/REST架构。
**3. Methodological Stance**
该部分阐述了论文的批判性非系统性综述方法,故意聚焦于风险和分配性危害,以平衡技术乐观叙事。来源选择采用关键案例抽样,优先考虑具有诊断性的案例。分析了六个结构维度:用户导航代理(user navigational agency)、来源归属(source attribution)、交互模式(interaction modality)、输出认知状态(epistemic status of the output)、价值提取逻辑(value extraction logic)和治理模型(governance model)。对于RQ2,采用CSH的四个边界问题(谁受益、谁控制成功条件、谁的知识被嵌入、谁代表受影响者)来组织影响分析,涵盖六个维度:流量重定向、经济价值、地缘政治权力、社会影响、文化后果和电信基础设施。
**4. RQ1: The Progressive Intermediation Between Users and Online Services**
**4.1 Basic Technical Intermediation: The Domain Name System**
DNS是第一个技术中介层,将人类可读域名转换为IP地址,但本身不解决信息发现问题。其管理权集中于ICANN和少数根服务器运营商,成为审查和控制的焦点。
**4.2 Search Engines Intermediation**
搜索引擎(如Google)通过PageRank算法引入信息发现中介,改变了用户与内容的交互方式。它们产生了“Google效应”(认知影响),并通过广告模型(如搜索广告竞价)重塑了网络经济,同时引发了隐私和算法透明度问题。
**4.3 Platform Intermediation, Social Media, and Super Apps**
平台中介(如社交媒体和超级应用)进一步扩展了控制。社交媒体平台(如Meta)成为用户访问新闻和内容的主要入口,但导致了新闻业广告收入流失和错误信息传播。超级应用(如微信)创建了封闭的生态系统,集成了支付、电商、政府服务等功能,集中了用户数据和数字生活控制权,并依赖“监控资本主义”(surveillance capitalism)模型。
**4.4 AI Agents Intermediation**
AI智能体中介代表了一种质的不同的层。与先前层不同,AI智能体不返回现有文档的链接或显示署名内容,而是通过概率生成合成响应,消除了来源归属和用户导航步骤。这种转变在两个结构性新颖性上体现:输出的认知状态(生成而非检索)和交互执行的转移(用户委托目标而非选择)。来源归属、价值提取、交互模式、用户导航代理均出现新配置,只有治理模型是程度的增强。
**5. RQ2: Implications of AI Agent Intermediation**
**5.1 The Systematic Redirection of Internet Traffic**
AI智能体导致流量从原始内容来源(如Stack Overflow、Wikipedia)转移至模型提供商。这威胁开放知识共享(knowledge commons)的可持续性,特别是对于小语言维基百科,可能导致“厄运螺旋”(doom spiral)。零点击搜索(zero-click searches)增加,预计出版商流量将减半。
**5.2 The Economic Consequences**
流量重定向破坏了基于广告的盈利模式,造成内容创作与补偿之间的脱节。知识产权问题突出,AI模型在训练和生成中利用受版权保护的作品,但法律地位模糊。数据标注(data labeling)劳动集中在下层地区,存在剥削性工作条件。
**5.3 Geopolitical Power Concentration**
AI模型开发的高成本导致市场集中于少数美中科技巨头(如Google、Meta、OpenAI、Anthropic)。这种寡头结构控制着数据流、用户交互和基础设施依赖(如专用硬件、能源、水)。出口管制(如美国对Fable 5和Mythos 5的限制)加剧了权力集中,且AI武器的军事化进程正在加速。
**5.4 Social Implications**
AI智能体可能加剧数字鸿沟(AI divide),使能支付最佳模型者获得更大优势。它们影响收入差距,并在政治领域构成操纵风险,如AI宣传(AI propaganda)和内容审查(content moderation)的不透明性。个性化输出可能强化意识形态极化,形成比传统平台更难察觉的过滤气泡(filter bubbles)。
**5.5 Cultural Consequences**
AI智能体导致合成内容(synthetic content)泛滥,可能引发模型崩溃(model collapse)和输出质量退化。它们消除了来源归属,使错误信息难以识别。同时,训练数据主要来自英语和西方文化,造成文化同质化(cultural homogenization)风险,并可能抑制认知技能(如问题解决和创造性思维),特别是对年轻用户。
**5.6 The Impacts on the Future of the Telecommunication Sector**
任务执行代理带来的低延迟和大带宽需求,以及多智能体系统(multi-agent systems)的持续通信,将改变网络流量模式。6G技术与AI深度集成,可能使网络成为分布式感知系统,但同时也带来超个性化(hyper-personalization)下的监控担忧和网络安全风险,如对抗性攻击(adversarial attacks)导致的递归依赖。
**6. Limitations and Countervailing Perspectives**
论文承认来源选择是目的性的而非系统的,且聚焦于风险,未权衡收益。存在一些抵消性发展,如检索增强生成(retrieval-augmented generation)和开放权重模型,但这些并未改变中介位置。因果关系的经验验证需要未来研究。
**7. Conclusions**
本文通过比较分析,论证了AI智能体中介在结构上不同于先前层,源于两个新颖性:概率生成和委托执行。这种转变侵蚀了来源透明度,削弱了开放知识共享,集中了信息权力,并产生经济、文化和社会影响。研究揭示了分配性不对称,即企业控制中介层获取价值,而用户、内容创作者和开放社区承担成本。未来研究应关注治理问题,如智能体所有权、归属机制和补偿模型。