法庭上的特洛伊木马:有缺陷的人工智能建议对法律自由裁量决策的影响

《Legal and Criminological Psychology》:The Trojan horse in the courtroom: The impact of flawed AI advice on legal discretionary decision-making

【字体: 大 中 小 】 时间:2026年10月24日 来源:Legal and Criminological Psychology 2.0

编辑推荐:

   摘要 目的 AI辅助裁决日益嵌入司法决策过程,但法律专业人士和普通民众能否独立防

  

摘要

目的

AI辅助裁决日益嵌入司法决策过程,但法律专业人士和普通民众能否独立防止过度依赖AI仍存争议。本研究考察了不同法律专业水平的人员如何应对明显存在缺陷的AI建议,以及依赖程度是否因法律错误类型而异。

方法

法律专业人士、法学学生和普通民众各自对一个刑事案件和一个民事案件进行裁决,此前被随机分配到正确或错误的AI生成建议组。错误建议涉及两种错误类型:法条适用错误和司法先例引用错误。采用两个独立的采纳指标对回应进行编码。显性采纳指直接采纳AI提供的法律依据;隐性采纳指最终决定与AI建议在实质上保持一致,但不要求明确引用该依据。

结果

显性采纳呈现出地板效应:无论建议准确与否或参与者法律专业水平如何,参与者极少复述、引用或认可AI提供的法律依据。对于错误建议,隐性采纳显著少于正确建议。法律专业水平既不显示显著的主效应,也不与建议条件产生交互作用,两种采纳结果中均未发现可检测的专业水平差异。主观信任在AI出现错误时同样显著下降,未发现法律专业水平的显著主效应或与建议条件的交互作用。

结论

研究结果与所测条件下选择性采纳的假设一致:在不同专业水平下,参与者对错误AI建议的认同频率均低于正确建议。尽管如此,AI系统如何在实践中影响法律推理仍需要进一步审查。

利益冲突声明

作者没有利益冲突需要申报。

数据可用性声明

汇总结果、R分析脚本、经过清洗的实验代码和LLM编码流程、提示词、编码手册、实验材料及会话信息将在 https://osf.io/2ctm4/overview?view_only=bb544fda0379483dabd1d2a73f23637f 上提供。去标识化的参与者层面分析数据集及人机配对验证标签将在研究知情同意和伦理批准允许的范围内共享;若不允许公开发布,可向通讯作者申请获取,并须遵守适用的伦理和数据保护要求。原始开放式回答和详细的LLM输出结果将不公开发布,因为自由文本材料可能包含潜在的可识别信息。

相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号