采用基于伤害的方法理解人工智能时代的数字脆弱性:欧盟视角

《Computer Law & Security Review》:Developing a harm-based approach to understand digital vulnerability in the era of AI: a perspective of the European Union

【字体: 大 中 小 】 时间:2026年02月09日 来源:Computer Law & Security Review 4.7

编辑推荐:

  数字脆弱性的全貌包括事前(ex ante)和事后(ex post)两个维度。从事前(ex ante)角度看,风险必须被恰当识别、评估和监管。欧盟(EU)引入了《人工智能法案》(AI Act),旨在建立一个根据人工智能系统所构成的风险水平对其进行监管的全面框架。

  
数字脆弱性的全貌包括事前(ex ante)和事后(ex post)两个维度。从事前(ex ante)角度看,风险必须被恰当识别、评估和监管。欧盟(EU)引入了《人工智能法案》(AI Act),旨在建立一个根据人工智能系统所构成的风险水平对其进行监管的全面框架。相比之下,数字脆弱性的事后(ex post)维度在理论上仍未得到充分探索,在实践中也支离破碎。本文聚焦于数字脆弱性的事后(ex post)维度,识别出阻碍个人通过侵权责任寻求救济的四个障碍:识别伤害的困难、纯粹经济损失的存在、非物质损害的量化以及联邦制问题。认识到这四个要素为根据人工智能系统可能造成的伤害性质对其重新分类提供了基础。这种方法不仅增强了利益相关者对在不同情境下基于侵权的救济措施对人工智能相关伤害的局限性的理解,也为政策制定者提供了在侵权损害赔偿之外发展补充机制的基础,以更有效地应对各种人工智能系统带来的挑战。
**论文解读:基于伤害的数字脆弱性理解——欧盟视角**

**研究背景与问题**
在人工智能(AI)技术快速发展的背景下,数字脆弱性(digital vulnerability)成为关键议题。现有研究多聚焦于事前(ex ante)维度,即通过风险识别、评估和监管来预防伤害,欧盟《人工智能法案》(AI Act)即典型代表。然而,事后(ex post)维度——即伤害发生后的补救机制——在理论和实践中均未得到充分关注。受害者通过侵权责任寻求救济时面临多重障碍,导致数字脆弱性无法被全面理解。为填补这一空白,研究人员提出应基于伤害(harm)而非仅基于风险对AI系统进行重新分类,以揭示侵权补救的局限性,并为政策制定者提供补充机制的基础。该论文发表在《Computer Law》期刊。

**主要技术方法**
本文采用法律理论分析与比较法研究相结合的方法。首先,通过文献综述梳理数字脆弱性概念及事前、事后维度的区分。其次,基于欧盟AI Act、GDPR(通用数据保护条例)、产品责任指令(PLD)等法规,分析风险导向方法的不足。再次,通过场景化分析(如操纵性AI、数据控制、机会丧失等)识别四个障碍。最后,运用比较法视角考察成员国在侵权法、纯粹经济损失补偿、非物质损害量化及联邦制问题上的差异,并据此提出基于伤害的AI系统重新分类框架。

**研究结果**

**1. Digital vulnerability: why the ex post perspective matters**
研究人员指出,数字脆弱性包含事前和事后两个维度,事前机制(如AI Act)通过风险分类实施比例监管,但无法消除伤害发生。事后维度涉及受害者能否有效获得侵权赔偿,现有研究对此探讨不足。

**2. Harm as an inevitable consequence under the risk-based approach**
通过分析AI Act中对禁止类、高风险类、透明度义务类及最小风险类AI系统的规定,研究人员论证了无论风险水平如何,伤害均不可避免。例如,高风险AI系统即使合规仍可能产生缺陷;禁止类AI系统可能被域外滥用;透明度义务不足以防止伤害;最小风险系统可能随技术进步显现新风险。

**3. Overcoming the ex post digital vulnerability: the difficulty in demonstrating harm as the first obstacle**
第一个障碍是伤害难以证明。研究人员通过三种场景阐述:
- 场景A(个人自主权丧失):操纵性AI导致自主权受损,但纯粹的自主权丧失不构成可证伤害,需证明后续损害(如财务损失)。
- 场景B(个人数据控制权丧失):违法数据处理本身不构成伤害,受害者需证明具体损害(如精神痛苦或财务损失),举证责任较高。
- 场景C(机会丧失):如AI影响就业或教育机会,机会丧失的补偿面临因果不确定性,通常需证明本可获得机会,否则仅为非财产损害。

**4. Overcoming the ex post digital vulnerability: the difficulty in demonstrating tort damage as the second obstacle**
第二个障碍是伤害不一定被认定为侵权损害。研究人员指出,侵权法保护的利益存在等级,生命健康受最高保护,而纯粹经济损失(pure economic loss)通常被排除。通过分析AI在任务分配、信用评估、基础设施管理中的应用,证明纯粹经济损失广泛存在,但多数成员国(如德国)采用排除规则,仅少数国家(如法国)有条件承认,且需满足严格因果关系、故意行为等条件。

**5. Overcoming the ex post digital vulnerability: the challenges of non-material damage as the third obstacle**
第三个障碍是非物质损害(non-material damage)的量化困难。研究人员区分了物质损害(material damage)与非物质损害,并指出AI相关伤害(如歧视、尊严损失、精神痛苦)多属非物质损害。成员国在补偿条件上差异显著:多数对人身伤害的非物质损害较宽松,对财产损失或第三方损害则严格;量化方法依赖法官自由裁量,缺乏统一标准,导致赔偿金额差异大。

**6. Overcoming the ex post digital vulnerability: the challenges from federalism as the fourth obstacle**
第四个障碍是欧盟联邦制带来的法律碎片化。研究人员通过三个例子说明:
- 完全统一化(如GDPR):虽规定数据违反可获赔,但未明确赔偿范围与标准,各成员国依本国法认定,导致差异。
- 最大统一化(如产品责任指令PLD):仅保护人身伤害、财产损失及数据损毁,排除纯粹经济损失,且非物质损害由成员国决定,发展风险(unknown risks)的补偿亦不统一。
- 最低统一化(如反歧视法):仅规定有效补偿原则,具体程序依赖国内法,AI复杂性加剧举证困难。

**7. Discussion: evaluating digital vulnerability through the lens of tort damage**
讨论部分基于四个障碍对AI系统进行重新分类,提出四类及应用:
- 7.1 伤害难以证明的AI应用(如操纵性AI、社会评分、教育/就业评估、移民等),此类处于“风险伤害”中间状态,需加强事前权利(如GDPR数据主体权利)和降低举证责任。
- 7.2 导致纯粹经济损失的AI应用(如基础设施管理、任务分配、信用评估),因侵权法保护不足,可考虑第一方保险或集体风险分担机制。
- 7.3 导致非财产损害的AI应用(如招生、绩效考核、预测性警务),因量化困难,可探索标准化赔偿或集体诉讼。
- 7.4 联邦制作为额外障碍,需通过欧盟法院判例逐步协调,短期难以统一。

**结论翻译**
总之,本文推进了理解数字脆弱性的范式转变,从基于风险的事前(ex ante)方法转向基于伤害的事后(ex post)方法。这一转变通过考虑不同人工智能系统的伤害特征及其在寻求赔偿过程中造成的具体障碍,重新平衡了研究人员对多样人工智能系统的理解——迄今为止这种理解主要由风险分类所塑造。在这个新框架内,人工智能系统根据它们通过侵权损害赔偿进行救济时提出的具体挑战被重新分类。因此,所提出的事后(ex post)数字脆弱性概念化为发展补充性救济机制提供了基础,以解决寻求人工智能相关伤害侵权赔偿的索赔人所面临的结构性和证据性障碍。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号