《Episteme》:Assertion without a Speaker: Testimony, Tracking, and Large Language Models
编辑推荐:
大型语言模型(large language models, LLMs)产生断言形态的输出,这些输出常使其使用者形成真信念。研究人员论证两个强度不同的结论:根据当前最佳证据,这些系统不传递证言知识(testimonial knowledge);且听者目前并不处于
大型语言模型(large language models, LLMs)产生断言形态的输出,这些输出常使其使用者形成真信念。研究人员论证两个强度不同的结论:根据当前最佳证据,这些系统不传递证言知识(testimonial knowledge);且听者目前并不处于对其输出给予证言性接纳(testimonial uptake)的位置,而这一结论并不依赖前一结论。研究人员从 Burge、Williamson、Goldberg、Faulkner 和 Lackey 中导出“追踪最低条件”(Tracking Minimum, TM):一个来源传递“p”的证言知识,仅当 p 的真或对 p 的证据支持出现在其产生该断言的解释中,并且是凭借该来源自身的产生过程而非凭借该过程所依赖的代理(proxy)而如此。正是这一内生性要求(endogeneity requirement),而非任何模态轮廓(modal profile),为五种理论所共享,而当前系统未能满足。该论证涉及 Burge 将其框架扩展至计算来源、可解释性文献(interpretability literature),以及已发表的 AI 证言主张;后者与本文的分歧取决于一个可由经验判定的问题,并为此指定了一项实验。正面提议将 LLM 输出置于扩展的仪器认识论(extended epistemology of instruments)中,并得出一个尚未被注意的结果:一个正常工作的气压计满足这些系统未能满足的条件。
研究背景与问题:论文以患者向聊天机器人询问十岁儿童对乙酰氨基酚安全剂量且获正确回答的案例切入,追问她是否像从儿科医生处那样获得证言知识(testimonial knowledge,指听者经由说话者断言而获得知识)。论文指出,LLM 在很多领域高度可靠且 successive systems 更可靠,但其可靠性并非证言所需的真理连接。现有主导理论——Burge 的资格观、Williamson 的知识规范观、Goldberg 的反个体主义/扩展过程观、Faulkner 的保证观、Lackey 的陈述观——表面分歧,却共享一个说话者侧最小约束:所断言内容的真或证据支持须解释该断言的产生,并须通过来源自身运作而非代理。研究问题因此是:当前 LLM 是否传递证言知识,听者能否给予证言性接纳(testimonial uptake,指以证言方式接受输出)。研究开展与结论意义:研究人员提出追踪最低条件(Tracking Minimum, TM,指断言来源与真理之间的内生解释性约束),论证五种理论均蕴含 TM;将其应用于 Burge 对计算来源的讨论、Williamson、Goldberg、Faulkner、Lackey 的 Stella 案例,并评估当前系统证据。结论是:当前 LLM 既不派生地也不原初地满足 TM,故不传递证言知识;且独立于该经验问题,听者目前不宜给予证言性接纳。正面提议是“无透明校准的仪器阅读”(instrument reading,指用户以使用仪器的方式生成保证);正常工作的气压计满足 TM,而当前系统不满足。意义在于区分构成性结论与实践结论,把争论转为可检验实验,并说明 LLM 链条不保留保证。
技术方法概括(不超过250字):论文主要采用哲学概念分析、规范性论证与文献综合,比较 Burge、Williamson、Goldberg、Faulkner、Lackey 等证言理论,提炼并检验 TM;采用干预主义测试区分“追踪证据”与“追随代理”;综合可解释性、探针研究、知识冲突与训练/偏好优化文献评估当前系统;并提出一项匹配表面特征而改变证据质量的实验设计。论文不涉及样本队列、试剂、培养或质粒构建操作。
研究结果:2. 追踪最低条件:通过比较五种证言理论,提出 TM,区分统计读法、内在主义读法与解释性读法,主张 TM 必要而非充分。2.1. 五种理论:分析 Burge、Williamson、Goldberg、Faulkner、Lackey,指出各理论均保留生产与真理之间的实质约束。2.2. 确定强度:以坏温度计案例排除仅统计可靠,保留非内在主义的解释性读法。2.2.1. 五点评论:说明代理条款即内生性要求、TM 对反运气条件中立、测试为干预主义、气压计满足 TM、派生条款用于链条。2.3. 蕴含与可靠主义反驳:论证五理论蕴含 TM;回应 Goldberg 过程可靠主义,强调类型可靠须内生。2.4. 可分离性反驳:回应条件可分离质疑,称 TM 是各理论及弱化版本共有的存在性约束。3. 应用:Burge、Williamson、Goldberg、Faulkner:3.1. Burge:分析 Burge 1998 计算机证明,指出 LLM 缺乏特定上游保证、机械化理性认证与可整合推理,剩下记录归纳即仪器立场。3.2. Williamson:区分理解外部主义与知识规范;LLM 生产由条件似然与偏好优化调节,可验证奖励为局部原初满足;功能优先规范仍回指 TM。3.3. Goldberg:LLM 生产类型与真值的连接为外生,基准可靠不能转化为主题导向的构成性保证。3.4. Faulkner:机器可作预测信任或功能信任对象,但不提供保证及对真理的问责。4. Lackey 与两种可靠性:4.1. Stella 与三种竞争性解读:接受 Stella 案例,排除竞争解读,说明信念非必要而真理连接保留。4.2. 非内在主义的证据回应性:以干预测试说明 Stella 原初满足 TM,因生产随证据而非代理变化。4.3. 当前系统做什么:综合训练、偏好优化、可验证奖励、检索增强生成(retrieval-augmented generation, RAG)、探针研究与知识冲突证据;结论是有真相关结构证据,但未证明无扰动生产中真值治理输出;行为证据显示复制误解、受用户压力影响;改进率不改变治理描述。4.4. 论证陈述:P1 TM;P2 Stella 满足 TM;P3 LLM 既不派生也不原初满足;C1 不传递证言知识;C2 听者不能证言性接纳。5. 无透明校准的仪器阅读:提出仪器阅读论题,用户保证由可靠使用生成而非系统传递;LLM 是普通意义不透明且退化仪器,因特定内容未校准到任何东西;与计算可靠主义相容。6. AI 证言的主张:分析 Freiman 与 Faria,承认反人类中心主义批评,但指出其条件未替代内生真理连接;责任、信任、断言功能论证均回指 TM 或只说明仪器使用。7. 对链条的后果:LLM 链不保留保证,只保留文本;下游人若做仪器阅读可生成自身保证,否则链在其环节失败。8. 反对意见:8.1. 代理证言反驳:生成不保留特定断言及来源,语料聚合不构成 TM 来源,部署者非作者。8.2. 坍缩反驳:Stella 与模型都能局部覆盖,但关键在覆盖对证据质量还是表面特征敏感;提出匹配表面特征而变证据质量的实验。8.3. 足够好反驳:分布拟合与证据支持重合时才有表面 parity,且不提示;追问不独立于原过程。9. 结论:总结 TM 与仪器阅读,指出当前 LLM 不满足 TM,听者不能如证言般对待;错误在于把未校准仪器当说话者。
讨论部分总结:论文回应代理证言、坍缩与足够好三类反对意见,强调其主张是结构性而非社会学频率;与 Fricker、Butlin 和 Viebahn 的路径不同但结论接近;其论证不依赖人类心智、意图或责任能力。结论部分翻译:任何传递证言知识的来源都必须满足追踪最低条件,且每一种主要理论都蕴含它。TM 在正确强度上读是解释性的:所断言内容的真,或对其证据支持,必须原初地或派生地出现在断言的产生中,并且是凭借来源自身运作而非凭借屏蔽真理的代理。各理论共享的是内生性,而非任何模态轮廓;因此过程可靠主义者与 token 追踪理论者都可被要求遵守。当前 LLM,就关于其开放域生产受何治理的最佳证据而言,两种方式都不满足;听者没有立场像它们满足那样行事。正面提议——无透明校准的仪器阅读——并非贬低,尽管它不如重新分类听起来舒服。计算器不会因不是数学家而被贬低;它们被正确描述。但气压计满足这些系统未满足的条件,所以麻烦不仅是用户看不到仪器如何校准;而是他们阅读的东西就其输出的特定内容而言没有校准到任何东西。把这种仪器误当说话者的实践,会随仪器使用越重而越陷麻烦;准确描述本身具有纠正作用。