消费者AI代理的使用权:监管安全光环与代理型消费者市场的加速

《European Journal of Risk Regulation》:A Right to Delegate to AI: The Regulatory Safety Halo and the Acceleration of Agentic Consumer Markets

【字体: 大 中 小 】 时间:2026年10月23日 来源:European Journal of Risk Regulation 2.6

编辑推荐:

  欧洲法律研究所《数字助手消费者合同指导原则与示范规则》(DACC)提出,消费者在企业对消费者关系中应享有使用数字助手的权利。DACC的定义涵盖消费者AI代理(CAIA),即利用AI生成的输出来决定消费者未明确事项中与交易相关的内容,并据此发起或执行交易行为。本

  
欧洲法律研究所《数字助手消费者合同指导原则与示范规则》(DACC)提出,消费者在企业对消费者关系中应享有使用数字助手的权利。DACC的定义涵盖消费者AI代理(CAIA),即利用AI生成的输出来决定消费者未明确事项中与交易相关的内容,并据此发起或执行交易行为。本文考察两个关切。第一,承认与保障措施可能产生监管安全光环,导致消费者高估CAIA的技术可靠性以及针对非预期结果的救济有效性。第二,承认可能加速代理型市场的发展,使相邻数字市场中的现有企业获得不成比例的收益,并促进市场集中,而《数字市场法》(DMA)与欧盟竞争法对此仅能提供部分回应。因此,立法应首先确立规范委托、责任与市场可竞争性的基本规则。技术实施可委托欧洲标准化组织,但欧盟委员会的请求应明确界定任务,并最大化透明度与利益相关者参与的平衡性,以缓解合法性关切。只有CAIA足够可靠且法律框架更为成熟之后,才应承认使用CAIA的权利。
随着人工智能(AI)技术的快速发展,消费者与经营者之间的合同缔结方式正经历深刻变革。欧洲法律研究所(European Law Institute)提出的《数字助手消费者合同指导原则与示范规则》(Guiding Principles and Model Rules on Digital Assistants for Consumer Contracts, DACC)建议赋予消费者在企业对消费者(business-to-consumer, B2C)关系中使用数字助手的权利。该定义涵盖消费者AI代理(consumer AI agent, CAIA),即利用人工智能生成输出决定消费者未决交易事项并据此发起或执行交易行为的系统。尽管DACC旨在提高法律确定性并提供高水平消费者保护,但研究人员认为,在当前CAIA技术尚不成熟、法律框架尚未完善的背景下,承认这一积极权利可能引发两大风险:一是产生监管安全光环(regulatory safety halo),导致消费者高估CAIA的技术可靠性及法律救济的有效性;二是加速代理型消费者市场的形成,使相邻数字市场的现有企业获得不成比例的竞争优势,加剧市场集中。考虑到欧盟《数字公平法案》(Digital Fairness Act)即将出台,且2024年联合国《自动订立合同示范法》(Model Law on Automated Contracting, MLAC)已提出相关框架,研究这一问题的时机迫在眉睫。

研究人员首先审视了DACC的赋能与保护架构,指出其将积极权利与设计要求、合同保护和事后责任规则相结合。随后分析了积极权利的表达意义,提出法律承认不仅消除准入障碍,更传达合法化信号,可能被理解为对CAIA技术可靠性的制度性认可。研究人员通过援引多项计算机科学基准研究(如ShoppingBench、ShopperBench、WebMall、WASP、EComAgentBench)证明,当前CAIA在端到端任务完成、偏好解释、产品适用性验证和对抗性攻击防御方面存在显著局限。在此基础上,研究人员系统分析了法律承认对市场结构的影响,评估了《数字市场法》(Digital Markets Act, DMA)、《欧盟运行条约》(Treaty on the Functioning of the European Union, TFEU)第101条和第102条以及欧盟并购控制的应对能力,最终提出分阶段干预的建议。

在研究方法上,研究人员采用法律教义学分析与实证研究相结合的方式。法律分析以DACC文本、欧盟立法(包括DMA、《人工智能法》(AI Act)、《消费者权利指令》等)和欧洲法院判例(如Google Shopping案、Android Auto案)为对象,系统梳理了现行法律规则的适用边界。技术可靠性证据来自计算机科学领域公开的基准研究数据,样本来源包括受控实验环境中基于GPT-4.1、Claude Haiku 4.5等模型的代理任务完成率测试,以及针对提示注入、位置效应和数据最小化问题的专项研究。研究人员通过对比基准研究的任务完成率与法律制度的保护承诺,识别出消费者可能产生过度信任的制度根源,并结合市场结构理论分析法律承认的竞争效应。

研究结果部分,围绕积极权利与安全光环的关系展开。在“积极权利的表达效应”方面,研究人员指出,承认使用CAIA的权利将代理中介化的合同缔结呈现为合法的市场参与形式,法定承认会强化消费者对代理可靠性的信任,从而促进采纳。在“安全光环”方面,研究人员结合计算机科学研究成果证明,当前CAIA在预算管理、优惠券使用、模糊产品搜索等任务上的成功率普遍低于65%,且存在对产品描述呈现顺序的敏感性以及对抗性提示注入的脆弱性,而法律承认可能使消费者将制度框架的存在误认为技术能力的官方认证。在“正式保护与救济的实际限制”方面,研究人员分析了DACC中参数设置、确认与反对机制、归责规则和供应商责任等条款,指出消费者在遇到非预期结果时仍需自行发现问题、识别责任方、收集证据并启动救济程序,撤回权无法逆转数据披露、错失机会或声誉损害等后果,而集体诉讼和公共执行虽能改善威慑和赔偿,但无法保证所有委托任务的正确执行。

在市场结构影响方面,研究人员从六个维度展开分析。在“法律承认作为市场构成力量”方面,法律承认不仅影响消费者,也向CAIA提供商、交易者和标准制定者发出市场信号,加速市场形成。在“相邻数字市场现有企业的不成比例收益”方面,大型科技企业因已活跃于云、数据、基础模型、操作系统和分发渠道等互补层,能够比独立提供商更快部署CAIA,并通过用户积累、网络效应和切换成本形成持久的市场壁垒。在“中小企业不可见性与市场平台依赖”方面,中小企业因缺乏机器可读的数据基础设施,可能虽在形式上可及却对CAIA不可读,转而依赖市场平台的结构化翻译,形成新的依赖关系。在“私人技术治理、标准化与合法性”方面,技术标准与协议若由私人主体决定,将发挥规则制定功能,引发民主合法性缺陷;欧洲标准化机制虽可提供合规推定,但其透明度和参与失衡问题需通过明确的任务界定和利益相关者参与来缓解。在“非代理参与的恶化”方面,交易者可能将资源转向CAIA接口,使不使用代理的消费者面临价格、可用性和服务质量方面的实质劣势。在“DMA与欧盟竞争法的部分回应”方面,DMA的守门人义务和TFEU第101、102条可规制部分排他行为,但存在证明难度高、时间滞后、不覆盖非指定企业以及无法确保中小企业可读性等局限。

在讨论部分,研究人员总结认为,这些风险并不构成立法不作为的理由。相反,立法者应在市场固化前进行分阶段干预:首先制定保护消费者和保障市场可竞争性的基本规则,包括反操纵、决策记录、数据流信息、个体与集体救济、非代理通道的实质等价,以及互操作性、可携带性、默认设置等竞争保障。技术标准化可在现有框架内由欧洲标准化组织实施,但需以精确的任务界定、透明度和平衡的利益相关者参与为前提。只有在CAIA达到足够可靠性且法律框架可强制执行后,才应承认积极的使用权利。研究结论强调,DACC在合同有效性和消费者保护延续性方面的规则具有启发价值,但将数字助手的使用权广泛定义为涵盖CAIA,将同时引发监管安全光环和市场加速的双重风险。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号