谁为言辞负责:AI时代言论的“立足权”(Standing)与可问责性(Answerability)

《Bulletin of the Atomic Scientists》:Who stands behind the words?

【字体: 大 中 小 】 时间:2026年09月14日 来源:Bulletin of the Atomic Scientists 2.3

编辑推荐:

  互联网切断了言论与使其值得信任的关系纽带;人工智能则切断了言论与言说者之间的联系。流畅、个性化、可供机构使用的言论现在可以大规模生产,却没有任何以承担责任之人为锚点的责任链,从而掏空了支撑公众信任的基本假设:每一句有分量的言辞背后,都站着一位可以对其负责的人或

  
互联网切断了言论与使其值得信任的关系纽带;人工智能则切断了言论与言说者之间的联系。流畅、个性化、可供机构使用的言论现在可以大规模生产,却没有任何以承担责任之人为锚点的责任链,从而掏空了支撑公众信任的基本假设:每一句有分量的言辞背后,都站着一位可以对其负责的人或机构。本文将由ChatGPT生成的“我”命名为“立足权”(standing)——即在一个具有后果的过程中,一个人的言辞获得计数的权利,并由其回答能力作为担保——并论证,无论更强能力的模型还是更好的对齐(alignment)都无法恢复这种权利。可行的路径是架构性的,指向一套适用于依赖必须有人负责的言辞而运转的机构的指导性设计原则:可归属的作者身份(attributable authorship);可分解、可检查的流程(decomposed, inspectable process);作为基础设施的溯源机制(provenance as infrastructure);以及扩大立足权而非集中立足权。有一条规则:自主性是被允许的,不可问责性则不被允许。修复之道不仅仅是更好的机器,而是让每一句话都锚定于一个可问责的人的制度。
**研究背景与问题**

现代社会的运转依赖于知识分工——人们依赖那些处于知情位置的人和机构网络来获取可靠信息。然而,社交平台基于广告和参与度优化的机制,放大了最具煽动性的内容,使那些试图以微妙或脆弱方式发言的人选择沉默,从而加速了“真相衰败”。以往的修复策略,如连接专家与可信的本地人物、公民会议、社区倾听等,都隐含一个前提:当声音进入公共记录时,一条责任链从言辞延伸到其背后的人。生成式AI则打破了更深层的连接:它不仅加速了旧有动态,更根本的是,大语言模型能够以空前的流畅度与每个人实时对话,但它们本身没有任何可被追究的立足权。由此产生的问题不是虚假信息,而是更具腐蚀性的现象:流畅、个性化、可被机构使用的言论可以大规模生产,却没有以承担责任之人为锚点的责任链。本文旨在命名这种正在失去的东西为“立足权”,并论证可行的修复路径是架构性的制度设计。

**研究内容与核心概念**

研究人员提出,立足权(standing)是指在一个具有后果的过程中(例如规则制定、民意调查、新闻编辑室、课堂),一个人的言辞被计入的权利,其合法性由“可问责性”(answerability)予以担保。可问责性意味着能够解释、辩护、纠正和修复自己的言辞,并承担随之而来的责备或赞誉。二者必须同行:只有当可问责性作为担保时,立足权才是正当的。发言者可能是人,也可能是通过有名负责人来回答的机构;但聊天机器人无论能力多强,都没有立足权,因为它不能在一个有后果的过程中挣得发言权,也不能为其言辞承担责任。可问责性可能失败于两种方式:言辞无法追溯到被归属的人;或言辞可以追溯到人,但该人无法为其辩护。参与和指名发言可以形成一条由人和机器组成的链条,但最终必须锚定于一个能够以自己的名义回答的人。

**主要关键技术与方法**

研究人员没有采用实验或定量方法,而是基于概念分析和制度设计论证。关键技术方法包括:借鉴法律概念“standing”与语言哲学家J. L. Austin的“言语行为”理论进行概念分析;引用Weizenbaum的ELIZA历史案例、纽约州总检察长对2017年FCC网络中立性评论欺诈的调查(Office of the New York State Attorney General, 2021)、Veselovsky等人(2023)关于众包工作者使用LLM的实证估计等作为论据;基于研究人员在MIT建设性沟通中心(MIT Center for Constructive Communication)及Cortico非营利组织开发的社区倾听系统实践经验,提出架构性设计原则。样本队列来源包括公开的FCC评论数据集和众包研究数据,但本研究非实证研究。

**研究结果**

**一、言语行为的断裂**:通过Austin的言语行为理论说明,当说话者是人时,承诺、道歉、证词等行为会绑定说话者,因为后果有着落;而聊天机器人的道歉是空泛的,它不能产生义务、不能下注、不能自我修复。系统以大规模制造“无人负责的义务”。

**二、为何对齐不足够**:即使系统完全对齐到机构目标,如果机构的程序本身不具合法性,对齐也无济于事;即使模型绝对正确,也不能解决立足权问题,因为立足权依赖于社会过程、关系和制度,而非技术能力。用公司外壳包装模型也不能弥补,因为问责结构必须包含可承受损失的持续声誉和可被追究的具名控制人。

**三、设计原则**:研究人员提出了四条指导原则。第一,可归属的作者身份——AI可以起草或总结,但必须有具名的人或机构审查、采纳并以其立足权担保。第二,可分解、可检查的流程——不将原始输入一步折叠为成品,而是保留中间人工制品供审查,审查者具名,其更正具有约束力并传播到下游;被代表的人可检查、挑战或撤回其言辞。第三,作为基础设施的溯源机制——每个参与者(人或AI)在其角色需要的程度上可识别,每个AI步骤记录哪个系统、哪个版本、基于谁的指令、谁批准了结果。身份保护与披露义务应随权力和脆弱性而伸缩。第四,扩大立足权而非集中——关键指标不是去除人类后的效率,而是能力将多少置于具有立足权的角色中,社区成员通过机器辅助能够胜任有后果的角色。

**讨论与结论**

讨论部分指出,主管公共参与的机构应建立经过认证但保护隐私的渠道,要求披露AI辅助并保留审计线索;民意调查者和研究者应采用受访者验证和披露规范;学校和职场应区分判断任务与形成任务,学生的作业属于形成任务,不能委托;监管者应重视可追溯性,在每个环节的机构责任必须落实到具名控制人;建设者应设计奖励有人负责的言辞而非无人负责的流量的沟通系统。研究结论为:没有任何技术进展能使机器成为值得信任的发言者;任务在于保留人的言辞绑定条件,防止责任被效率诱惑所抛弃。若公众停止为自己的言辞负责,最终将发现自己不再被询问。被放弃的责任不会消失,而是像Wiener警告的那样,在伤害造成后乘着旋风返回。替代方案是现在就将可归属作者身份、可检查流程、溯源基础设施和扩大的立足权设计进制度架构中。

研究人员申明,本文的论点通过大量口述产生,AI系统(主要为Anthropic的Claude Opus 4.8和Claude Fable 5)被提供其先前引用的作品作为内容和写作风格的参考,并在研究人员的指导下起草、修订,每一行都经过审查、迭代和批准。编辑审阅由OpenAI的GPT-5.6 Sol提供。研究人员已仔细审查并为其所写内容负责。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号