超越DPO模式?欧盟《人工智能法》无强制指定AI官员的问责框架

《European Journal of Risk Regulation》:Beyond the DPO Model? The EU AI Act’s Accountability Framework Without a Mandated AI Officer

【字体: 大 中 小 】 时间:2026年10月24日 来源:European Journal of Risk Regulation 2.6

编辑推荐:

  摘要:《欧盟人工智能法》(EU AI Act)呈现出一个制度难题。尽管它对高风险AI系统的提供者施加了广泛义务,并要求此类系统接受人类监督,但它并未设立一个可与《通用数据保护条例》(GDPR)在特定情形下强制要求的“数据保护官”(DPO)相媲美的指定治理职能。

  
摘要:《欧盟人工智能法》(EU AI Act)呈现出一个制度难题。尽管它对高风险AI系统的提供者施加了广泛义务,并要求此类系统接受人类监督,但它并未设立一个可与《通用数据保护条例》(GDPR)在特定情形下强制要求的“数据保护官”(DPO)相媲美的指定治理职能。本文从组织视角审视这一差异,认为两种制度均将实体层面的问责制与内部合规要求相结合;其核心制度差异在于法律是否也强制规定了一项指定的跨领域治理职能。GDPR通过DPO实现了这一点,而《人工智能法》第17条要求提供者的质量管理体系包含一个界定管理层及其他工作人员职责的问责框架,但允许提供者自行决定如何在内部协调这些职责。基于比较法分析(包括对《人工智能数字综合法案》(Digital Omnibus on AI)的考量),本文识别出比例性、组织灵活性以及对现有部门治理安排的依赖,作为解释这一差异的可能理由。对公司实践的示例性考察进一步表明,即使在法律未强制要求此类协调职能的情况下,一些组织如何通过设立AI官员、伦理委员会和嵌入式的审查流程来协调分散的合规职责。
一、研究背景与问题提出
随着欧盟《人工智能法》(EU AI Act)的正式通过,其独特的制度设计引发了学术界的高度关注。该法规与《通用数据保护条例》(GDPR)同为欧盟数字治理领域的标志性立法,二者均强调实体层面的法律责任与内部合规机制的结合。然而,一个显著的制度差异随之浮现:GDPR在特定条件下强制要求数据控制者或处理者指定一名数据保护官(DPO),为其提供法定的任务、独立性保障和直接的汇报路径,从而形成一个可识别的、受保护的内部治理节点。相比之下,《人工智能法》虽对高风险AI系统的提供者规定了详尽的义务(如建立质量管理体系、实施人类监督等),却并未强制要求设立一个类似于DPO的、具有法定独立性的跨领域治理职位。这一缺失构成了一个“制度谜题”:为何在同样追求严格问责的背景下,两部法律的制度选择会截然不同?这种差异背后的逻辑是什么?它又将如何影响组织内部的AI治理实践?
现有研究多聚焦于《人工智能法》的风险分级结构、基本权利影响以及具体合规要求(如人类监督),但对支撑这些要求得以有效运行的内部组织架构关注不足。实践中,AI系统的开发与部署涉及法律、技术、运营等多重专业知识,若缺乏有效的内部协调机制,可能导致责任碎片化、监管沟通不畅以及合规流于形式。因此,本研究旨在解答两个核心问题:第一,为什么《人工智能法》要求提供者建立问责框架,却拒绝强制设立一个类似于GDPR之DPO的指定治理职能?第二,在没有法律强制要求的情况下,组织在实践中发展出了哪些自愿性的AI治理结构作为回应?
二、研究方法与技术路径
本研究采用比较法学分析方法,系统对比GDPR与《人工智能法》在内部治理架构上的制度设计差异。研究人员重点剖析了两部法律的核心条款——GDPR第37至39条关于DPO的规定,以及《人工智能法》第17条关于质量管理体系与问责框架的要求——并结合《人工智能法》的立法提案文件(2021年欧盟委员会提案)、影响评估报告以及后续修订案(即2026年生效的《人工智能数字综合法案》,Regulation (EU) 2026/1744),追溯了立法者在灵活性与未来适应性方面的政策考量。此外,研究还引入对公司公开披露的AI治理实践的示例性分析,选取了包括大型科技企业(如Google、SAP)在内的案例,考察其在无法律强制要求下自愿设立的AI官员、伦理委员会及嵌入式审查流程等组织安排。该方法并非代表性调查,而是旨在揭示组织应对的制度空间。
三、研究结果
1. 制度差异的根源:DPO作为GDPR中的指定治理职能
研究发现,GDPR中的DPO不仅是一个角色,更是一套由法定任务(咨询、监控、合作)、独立性保障(不得因履职被解雇或处罚)、冲突避免规则以及直接向最高管理层汇报的权利所构成的制度机制。DPO并不承担控制者或处理者的法律责任,而是作为一个稳定的内部协调节点和外部监管接口,为复杂组织中的数据保护合规提供了“人的面孔”。这种设计根植于GDPR以基本权利为导向的治理哲学。
2.《人工智能法》的组织问责架构:第17条与人类监督
《人工智能法》第17条要求高风险AI系统的提供者建立质量管理体系,其中必须包含一个界定管理层及其他员工责任的“问责框架”。该框架覆盖风险管理、上市后监测、文档记录、与主管当局沟通等一系列合规活动。然而,与GDPR不同,该条款并未强制规定应由某一指定官员或职能来协调整个框架的运行。同时,第14条和第26条规定的人类监督要求虽然指定了自然人负责特定系统的运行监督,但这些人员的职权仅限于其负责的系统,不具备组织范围内跨领域协调的法定义务。因此,《人工智能法》将内部协调的具体形式完全交由提供者自主决定。
3. 公司实践中的组织响应
在缺乏强制指定官员的情况下,部分组织自愿探索了多种治理模式:
  • •
    个体化治理(AI官员):如设立首席AI官(CAIO)或AI风险官,作为连接技术、法律与管理层的协调节点。美国联邦政府亦要求相关机构指定首席AI官,显示该模式正在公共部门制度化。
  • •
    集体治理(伦理委员会):如SAP设立了内部全球AI伦理指导委员会与外部全球AI伦理咨询小组,通过跨职能论坛实现审议与升级。
  • •
    嵌入式治理(全栈模型):如Google的“全栈”AI治理框架,将原则、政策、结构化审查程序及文档记录嵌入产品开发生命周期,使治理任务分布于工程、产品、法律等多个团队。
四、讨论与结论
讨论部分指出,《人工智能法》不强制指定AI官员的设计并非监管疏忽,而是基于多重考量:首先,为适应快速演变的AI技术与组织应用场景,保持制度灵活性;其次,避免形成“打勾式”的形式主义合规,鼓励将责任真正嵌入业务流程;再次,考虑到《人工智能法》规制对象的异质性(从医疗设备到信用评分),一刀切的官员模式可能不合比例。值得注意的是,GDPR的DPO在许多场景下已实际参与AI治理(如通过数据保护影响评估DPIA),这在一定程度上弥补了《人工智能法》的空白,但DPO的法定职权并不自动延伸至AI法的所有要求。
结论部分总结道:GDPR与《人工智能法》均结合了实体问责与内部合规要求,其核心差异在于前者强制设立了受保护的跨领域治理职能(DPO),而后者则未作此要求。《人工智能法》第17条的问责框架虽要求分配责任,却将协调形式留给提供者。实践中,一些组织自愿设立了AI官员、委员会或其他可识别的治理锚点。研究表明,有效的AI问责可能需要实体责任、分布式合规要求与可识别的治理焦点三者互补。未来的监管指引(如通用目的AI行为准则)可通过软法方式认可这些协调功能,而不必强制规定统一的头衔或组织模式。进一步的实证研究应比较不同行业、规模和组织类型下的治理安排效果,重点关注治理焦点的授权、资源、信息获取、升级权限及其与高管层的关系。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号