法院中可信赖人工智能的合法性:基于委托形式的正当性分析

《Cambridge Forum on AI: Law and Governance》:Trustworthy AI in courts: A legitimacy analysis

【字体: 大 中 小 】 时间:2026年09月23日 来源:Cambridge Forum on AI: Law and Governance

编辑推荐:

  人工智能(AI)在法院中的使用备受争议,立场从彻底反对到毫无保留的推崇不一而足。然而,对其部署的规范性评估往往依赖于在来源、连贯性和适用范围上并不清晰的标准或类比。本文探讨合法权威(legitimate authority)理论如何提供指导。合法性理论用于评估

  
人工智能(AI)在法院中的使用备受争议,立场从彻底反对到毫无保留的推崇不一而足。然而,对其部署的规范性评估往往依赖于在来源、连贯性和适用范围上并不清晰的标准或类比。本文探讨合法权威(legitimate authority)理论如何提供指导。合法性理论用于评估机构及其使用权威的方式。该框架使研究人员能够识别核心问题和困境,对不同规范性标准进行排序,并识别跨时间和跨管辖区的相关异同。为了对法院中的人工智能进行此类合法性分析,研究人员识别了法院向人工智能进行委托的六种形式——仆人(servant)、对话者(interlocutor)、顾问(advisor)、伙伴(partner)、代理人(agent)和受托人(trustee)——并分析了这些形式对裁判的六个方面——法律程序(legal process)、事项盘点(inventorising)、问题解决(problem-solving)、裁判理由(reasoned judgment)、正当化(legitimation)和裁量(discretion)——的合法性影响。在某些领域,人工智能可能提升司法过程的效率和品质,但研究人员认为,在需要广泛人类裁量权和人类在场的方面,将司法权力委托给人工智能难以被证明为正当。
本文解读《法院中可信赖人工智能的合法性:基于委托形式的正当性分析》一文。

人工智能(AI)在法院中的应用长期存在激烈争议,支持者认为AI能减少任意性、降低诉讼成本并缓解司法拖延,反对者则担忧其削弱裁判质量、透明度和司法权威。然而,现有规范性评估往往依赖来源不明、连贯性不足的标准或类比,例如“可信赖AI”(Trustworthy AI)、“负责任AI”等宽泛概念,这些概念虽简洁却牺牲了精确性与结构,导致多种标准相互冲突且难以在实践中权衡。许多研究聚焦于单一规范原则或宏观价值,却未将其锚定在更广泛的规范性理论上。为应对这一挑战,研究人员引入合法性理论(legitimacy theory),特别是Raz的合法权威(legitimate authority)理论,试图为评估AI在法院中的使用提供一个整合框架。

研究人员通过区分法院向AI的六种委托形式——仆人(servant)、对话者(interlocutor)、顾问(advisor)、伙伴(partner)、代理人(agent)和受托人(trustee),以及裁判的六个方面——法律程序(legal process)、事项盘点(inventorising)、问题解决(problem-solving)、裁判理由(reasoned judgment)、正当化(legitimation)和裁量(discretion)——展开合法性分析。他们将合法性划分为输入合法性、过程合法性、输出合法性和社会保证四个维度,并探讨这些维度之间的冲突与权衡。研究得出关键结论:在某些领域,AI能够提升司法过程的效率和品质;但在需要广泛人类裁量权和人类在场的方面,将司法权力委托给AI难以被证明为正当。这一框架不仅有助于整合不同的规范性标准,还为制定伦理和法律规范提供了理论基础,尤其对依赖国家同意和自愿遵守的国际法院具有特殊意义。

在研究方法上,研究人员主要采用规范性理论分析。首先,运用Raz的“服务观”(service conception)合法权威理论,确定法院的正当性来源于其帮助主体更好地遵循法律理由的能力。其次,构建六种委托形式的类型学,作为分析不同人机关系的工具。第三,将合法性分解为输入、过程、输出和社会保证四个可评估的集群,并讨论它们之间的冲突与不可通约性。第四,将该框架应用于裁判过程的六个认知与程序阶段。研究还援引了实证证据,如法律AI工具幻觉率的测试(LexisNexis和Thomson Reuters分别为17%-33%)、COMPAS算法偏见争议以及公众对“人在环路”偏好的调查,以支撑其规范性主张。样本方面,研究基于比较法视角涵盖国内法院和国际法院,但无特定队列数据。

研究结果部分按裁判过程的六个方面分别呈现。

在法律程序(legal process)方面,通过分析AI在案件管理、转录、翻译等行政性任务中的应用,发现这些用法通常争议较小,并可能显著提升过程合法性和输出合法性。但LLMs在低资源语言上训练不足,小错误可能具有决定性,
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号