应对人工智能过度依赖的风险:利用多智能体辩论机制促进法律背景下的人机协同决策
《ACM Transactions on Intelligent Systems and Technology》:Countering the Risks of AI Overreliance: Leveraging Multi-Agent Debate for Complementary Human–AI Decision-Making in Legal Contexts
【字体:
大
中
小
】
时间:2026年09月21日
来源:ACM Transactions on Intelligent Systems and Technology 10.7
摘要 AI摘要 要查看此由AI生成的摘要,您必须具有高级访问权限。
摘要 摘要 尽管人机合作团队很有前景,但它们往往无法超越单独的人类或AI的表现,部分原因在于过度依赖——用户即使在AI的建议不正确时也会依赖它们。之前的缓解策略,如可解释的AI和信任校准,效果有限,因为它们基本上保留了单一推荐的范式,从而影响了用户的判断。我们推出了ARMADA(论证和解决多智能体辩论架构),这是一种以人为中心的方法,将AI辅助重构为多智能体辩论。ARMADA不是给出单一建议,而是多个AI智能体提出竞争性观点,由人类做出最终决策。我们在一个受控的用户研究中(N = 186)使用民事法律推理任务对ARMADA进行了评估。结果表明,在AI表现不可靠的高难度条件下,ARMADA显著将团队准确性提高了12%。这些发现表明,在特定条件下,基于辩论的互动可以减少过度依赖并实现人机性能的互补,尽管在不同环境中的效果并不统一。重要的是,ARMADA并不提高AI输出的准确性,而是改变了用户与这些输出交互的方式。我们讨论了互补性出现的条件,以及这对设计以人为中心的AI辅助决策系统的影响。
AI生成的摘要(实验性) 此摘要是使用自动化工具生成的,并非由文章作者撰写或审核。它旨在帮助发现内容、辅助读者评估相关性,并帮助来自相关研究领域的读者理解本文。它旨在补充作者提供的摘要,后者仍是论文的主要概述。完整文章是权威版本。点击此处了解更多 。
点击此处 对摘要的准确性、清晰度和实用性进行评论。您的反馈将有助于改进未来的版本。
要查看此由AI生成的简体语言摘要,您必须具有高级访问权限。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号