有界评估权威：责任NLP中谁能定义质量？

《Natural Language Processing》：When AI judges AI: Who defines quality in responsible NLP?

　　

是什么赋予了自动化评判界定"好答案"的权威？大语言模型日益用于评估其他模型的输出，帮助研究人员比较系统、筛选训练数据并为部署提供依据。然而，与人类判断的一致性并不能解决应当以谁对质量的理解来指导这些决策的问题。自动化评估能够影响质量本身被定义的方式。当评分标准（rubric）成为基准、选择规则或训练信号时，其假设可能成为他者所继承的标准。本文提出有界评估权威（bounded evaluative authority）：对自动化判断的依赖应仅限于在明确范围内有证据和可问责理由所支持的解读与决策。文章综合测量理论、评估器研究以及关于认知不公正（epistemic injustice）的哲学工作，区分了应用某项标准的能力与选择该标准的权威。可靠性（reliability）、有效性（validity）与合法性（legitimacy）分别回应关于一致性、意义与有正当理由之依赖的相关问题。讨论考察了谁的知识被承认、谁可以裁决相互冲突的价值观，以及合理分歧何时应保持可见而非消融于单一分数之中。评估权威包络（Evaluative Authority Envelope）使委托判断的依据接受审视。本论证延续了责任NLP（Responsible NLP）此前关于性能局限与责任制度性分配的文章。其核心主张是：负责任的评估需要的不仅是准确的评分，还需要说明为何特定判断应当算数、对谁算数以及在何种可质疑性之下算数。分数可以为决策提供信息，但不能为自身提供治理该决策的授权依据。

研究背景方面，语言任务的评估长期面临困难：译文可能准确却在文化上显得别扭，摘要可能保留所有可验证陈述却遗漏对特定读者最重要的要点，对话回复可能礼貌却回避问题；许多任务允许若干可辩护的输出，其质量无法仅靠字符串比较穷尽。基于大语言模型（LLM）的评估以可适应指令和可扩展评估回应这一困难，G-Eval利用提示式评估步骤与结构化评分（Liu et al., 2023），Prometheus 2训练开放评估器模型以支持在用户指定标准下的直接评估与成对排序（Kim et al., 2024），这些方法改善了引出判断的手段并研究了与参考评估器的一致性，但其本身并不能证成其分数后续可能附着的每一项决策。已有综述（Li et al., 2025; Gu et al., 2026）组织了评估器方法、应用、基准、可靠性关切与偏差缓解策略；实证工作亦确立了有条件的效用，Zheng et al.（2023）报告在所考察的设置中与人类偏好存在实质性一致，同时存在位置、冗长与自我增强偏差；Bavaresco et al.（2025）在二十个数据集与十一个LLM上表明一致性随任务、标注者专业程度以及被评估文本是人类生成还是模型生成而变化。因此，评判良好的声誉不能替代针对特定用途的证据。文章强调的证成单元是评估器配置与其所服务决策之间的关系：公共排行榜分配可见性、合成数据筛选改变训练分布、部署门控控制用户对系统的暴露，这些用途可共享评分流水线却要求不同证据。评估由此可能成为基础设施：其标准嵌入他人所继承的常规之中，Bowker与Star（2000）关于分类的分析表明类别与标准如何组织社会生活却常从视野中退隐；在NLP中，关于评分标准的看似温和的选择可获得类似的持久性，对特定语域、答案长度或对话风格的偏好可成为研究共同体所奖励之物。哲学关切在于将情境化判断转化为看似非人格化的事实：数字比附着其上的限定条件传播得更远，一旦结果出现在比较表中，撰写评分标准的人以及用于核验的群体可能从读者注意中消失。负责任的评估应使这些条件附着于主张之上。

研究人员开展了概念性论证并提出有界评估权威原则，得出以下结论：对自动化判断的依赖只有在明确范围内有证据与可问责理由支持时才具有正当性；评分能力不能决定谁应定义质量，评估者之间的一致也不能消除倾听被标准忽视者之知识的需要；当分数进入新的语言、群体或机构时，其证成必须随之迁移或被重建；自动化判断的权威不应超出研究人员为依赖它所能够给出的理由。其重要意义在于将可靠性、有效性与合法性围绕有界评估权威整合起来，并提出评估权威包络与评估权威声明等使依赖依据可见且可争议的实践方案，从而把责任NLP的论证从性能局限与责任制度分配推进到证据所获权威的层面。

关键技术方法方面，本文为概念性论证文章，未报告新的实证研究或人类参与者数据，伦理批准不需要。其方法为综合测量理论、评估器研究以及关于认知不公正的哲学工作，并引用与整合已有实证与综述文献，包括G-Eval的提示式评估步骤与结构化评分、Prometheus 2的开放评估器训练、MT-Bench案例研究中用贝叶斯广义线性模型联合建模评分者、位置与长度效应（Dubois et al., 2026），以及关于奖励模型优化的合成实验（Gao et al., 2023）等；文章未涉及试剂、培养或质粒构建等操作，亦无特定样本队列来源。

研究结果方面，第1节"谁有资格评判"通过一个假设的社区项目示例说明：摘要A保留两项资格条件，摘要B更流畅且令人安心地宣布所有居民均可参加第一轮；奖励可读性与欢迎语调的评分标准可能偏好B，而先对照来源核查资格条件的程序会拒绝B；同一组回答因程序所问问题不同而获得不同裁决。流畅性关乎信息阅读的难易，事实准确性关乎其主张是否被支持，关键信息的保留关乎读者是否掌握行动所需内容；对该用途而言，资格条件应作为不可协商的约束，更高的风格分数不应补偿对谁认为自己可参与的改变，该选择需要基于项目目的与读者需求之理由，并应在分数聚合之前明确。由此得出，同一评估器可提供有用的实验比较，却缺乏批准面向公众服务所需的支持；其判断所服务的决策不同，附着于其使用的责任亦随之改变。"评判"一词指计算角色，界定其职权范围并对其输出采取行动的责任仍归于人与机构。第2节"当评估成为基础设施"通过梳理LLM评估方法与实证一致性研究得出：这些方法改善了引出判断的手段，但不能证成其分数后续附着的每项决策；一致性随任务、标注者专业程度与文本来源而变化；评判良好的声誉不能替代针对特定用途的证据；评估器配置与所服务决策的关系才是证成单元；评估标准嵌入常规后可成为他人继承的基础设施，负责任的评估应使撰写评分标准者与核验群体等条件附着于主张。第3节"可靠性、有效性与合法性"通过概念分析得出：可靠性关涉在明确声明条件下分数的一致性，有效性关涉按预期解读与使用分数的证据与理论证成并遵循测量理论对分数意义与后果的关注（Messick, 1995）以及算法公平中构念—操作化错配的分析（Jacobs and Wallach, 2021），稳定的测量可能持续测量错误之物；合法性关涉标准选择、决策权威分配与质疑程序能否向受影响者证成，借鉴负责任AI对组织问责与有意义参与的关切（Raji et al., 2020; Sloane et al., 2022），不能由又一个准确率百分比确立。认知意义上的权威关涉在特定问题上有理由遵从某一来源，制度权威关涉谁有权采纳标准并据其结果行动，二者相连但应用标准的能力不赋予选择标准的权利。通过奖励标准书面语域并与其训练编辑高度一致之评估器的示例得出：其可能可靠且对检查明确选定的内部风格有用，但若公共服务用其分数拒绝用当地方言表达的准确易懂信息，测量便不再支持更广泛的传播质量主张，标准还需向语言被贬低的社区证成，更一致的分数无法解决任一问题；反之，参与式评分标准设计也不能确立评估器准确应用该标准。失败模式应相对构念诊断：顺序不变任务下的位置效应表明呈现不稳定，对长度或与评判者自身生成相似输出的可重复偏好可能反映构念无关影响（Zheng et al., 2023）；评分标准敏感性需进一步区分，评判者应抵抗保义改写而在标准本身改变时适当响应，Chen et al.（2026）考察稳定性与对改变构念之编辑的敏感性，Weng et al.（2026）在等价与实质改变的政策下测试安全判断，其有界实验有助于解释为何仅稳定性不足；对抗性操纵构成相关问题，Raina et al.（2024）证明在其测试的零样本评估设置中附加攻击短语可抬高分数；版本漂移增加时间边界，新模型、提示、评分标准或检索来源改变被评估配置并要求有记录的再评估，早期样本上的高平均一致率可掩盖罕见后果性错误、子群差异或实际决策阈值附近的错误。由此提出有界评估权威原则：依赖自动化判断仅在明确范围内有证据与可问责证成支持时具有正当性，该范围明确构念、任务、语言、群体、情境与预期决策以及评估器配置与审查条件；权威是由人与机构确立的有正当理由之依赖关系，界定边界既需信任评估的理由也需采纳其所应用标准的理由；图1的评估权威包络表征该范围，验证证据约束测量主张，可问责审议处理谁的标准值得依赖，语言、群体、工作流或评估器版本变化可能要求重划边界，无支持的使用要求补充证据、由能够重新考虑决策者审查或弃权；包络是概念辅助工具，非统计置信区域或认证方案。第4节"谁的人类判断"通过概念分析得出："人类判断"可指称不同知识来源，领域专家可评估专门事实约束、众包标注者可应用约定指令、用户可判断输出是否支持其任务、受影响社区可识别委托机构忽视的排除，这些角色可能重叠但无一自动代表其他；专家核查事实主张的能力不授予决定公共机构应优先哪些传播价值的排他权威。当这些群体有充分理由分歧时，质量不总是等待更好工具的客观属性，它也可表达关于传播目的、谁的需求重要以及何种权衡可接受的选择，选择如何组合这些价值有助于定义所测量的质量。Plank（2022）主张人类标签变异可传达有意义的解释差异，Xu et al.（2026）进一步为在后训练中保留人类标签变异辩护；分歧可能揭示错误、模糊任务或合理判断的多元性，区分这些可能性是负责任评估的一部分。这并不使真理成为偏好问题：摘要是否颠倒日期或虚构来源通常可通过核查证据解决，而其是否足够直接、尊重或有用可能取决于受众与目的；可验证约束应保持明确，传播价值之间的冲突需要参与者可审视的理由；多数标签记录的是聚合规则，并不确立少数群体的关切已获回应。Fricker（2007）的认知不公正论述使谁的理由获得倾听的问题更尖锐：证言不公正发生于偏见不公正地贬低言说者可信度，诠释不公正关涉因不平等参与塑造共享解释资源而产生的理解或表达社会经验的劣势；应用于此，这些区分促使审视因方言而贬低居民陈述或依赖复制其经验排除之评估类别的机构，不完整的评分标准本身不确立诠释不公正，与结构性边缘化的关联才重要；关切在于知识被贬低或难以通过评估表达的人，系统可准确应用评分标准而机构对该标准的依赖维持这些排除。关于谁可裁决冲突，责任应归于任务覆盖该决策、理由可受审视且判断可被质疑的具名个人或机构，基准组织者与公共服务治理机构职权不同，技术专长或组织所有权均不能单独确立其标准的合法性；受影响者需在塑造评估条款中发挥有意义作用，相关专家帮助确立证据支持什么；对参与作为表面设计补救的批评切中要害，若咨询不能改变标准或其使用则效力甚微（Sloane et al., 2022）。即使有正当理由的决策也不必解决所有分歧：机构可能须选择一份摘要而不声称所有合理读者都应将其列为首选，分开评估、受众特定排序与记录异议可保留单一分数会抹去之物；在共同排序缺乏可辩护基础时，拒绝产生排序可能是更具信息量的结果，这不是优柔寡断，而是区分针对特定行动的闭合与关于价值的一致；有界权威为可问责决策与持续异议同时留出空间。多语言评估使这些问题集中显现：Fu与Liu（2025）考察五个任务与二十五种语言上的逐点判断并报告一致性问题，尤其在低资源设置中，其证据关涉所测试模型与平行数据，文化适当性尚需进一步探究；翻译评分标准可保留其句子却未审视关于礼貌、直接性或可接受分歧的假设，国家语言标签也可能掩盖方言变异与代表性不足的社区；本地参考群体与示例可揭示这些差异，双语专家可考察语义等价，本地用户与受影响社区可评估标准是否符合目的，语言文档与偏差工作为明确此类选择提供基础（Bender and Friedman, 2018; Blodgett et al., 2020）；合法性要求的不只是将这些声音加入数据集，而要求其知识能够改变评估所问之物，并使未解决分歧限制其结果所能授权之事。第5节"当判断作为训练信号返回"通过概念分析与引用实证得出：评估输出帮助产生将被评估之物时评估性质改变，提示式LLM评判者通常依据指令与上下文返回分数、偏好或批评，学习式奖励模型经训练预测偏好相关信号并可能在策略训练中被优化，二者接口与训练程序不同，均可成为选择机制，但关于其一之证据不应自动迁移至另一。Gao et al.（2023）为奖励模型优化中的相关机制提供实证：在其合成设置中，固定金标准奖励模型为学习式代理提供标签，对代理足够强的优化可降低由金标准模型测量的性能，他们考察强化学习与best-of-n选择；金标准模型替代人类判断，故该研究不直接证明每个提示式评判流水线中的相同效应，但确实表明为何针对代理的改进需要独立审视。作为一个单独假设，若提示式评判者偏好与事实准确性无关的风格特征，反复保留其偏好示例可能增加该特征在训练数据中的普遍性，随后用同一偏好评估可记录进展而事实质量未改善；这是否发生、强度如何、对哪些群体发生取决于数据、优化过程与评估器，属受控纵向实验的问题，而非合成反馈的普遍后果。多重评判者只有在错误与参考来源提供有用独立性时才提供更强证据；当评估器共享训练影响、评分标准或盲点时，一致仍可能误导；仅看到AI生成理由的人类审查者也可能错过来源证据；因此评估应保留留出且独立评估的案例、基于来源的事实核查与下游任务结果，并考察改进是否在这些替代评估下存活；在开篇示例中，项目实际资格规则仍是流畅摘要与流畅批评的必要检查。这也表明评判评判者的递归存在限度：另一评估器可帮助检测错误，但评估链不会仅因变长而证成自身；过程必须在某处声明所检查之物、何种证据可否定其结论以及谁负责回应，可问责性为该过程提供停止之处与重新开启的理由。第6节"可问责评估的五项承诺"通过表1将五项承诺——明确对象、识别视角、测试失败、限定使用与启用纠正——转化为使依赖理由附着于判断的实践，并给出各项的示例证据、测试与应可获取的记录；测试追问标准是否回应要紧之物，在开篇示例中移除资格条件而保留流畅措辞可探查后果性区分，仅比较总体偏好分数可能使该失败不可见，问题在于证据是否支持评估被使用之理由。统计分析可澄清这些依据：Dubois et al.（2026）在MT-Bench案例研究中用贝叶斯广义线性模型联合建模评分者、位置与长度效应，其第4节报告GPT-4比人类评分者更强的长度偏差、模型输出间评分者特定偏好以及人类评分者轻微位置偏差并附不确定性估计；这些发现关涉已发布的成对偏好数据与拟合模型，解释观察到的偏好有助于评估其相关性，但不决定该偏好是否值得制度性权重。表2使评估与决策的联系显式化：原型比较有助于筛选进一步研究候选，发布项目信息则要求确信读者保留后果性条件；相关问题是判断在每种设置中能合理支持什么。评估权威声明为读者与决策者明确该联系，框1追问谁将依赖该判断、为何目的、依据何证据以及有何质疑可能性，缺失证据与未解决反对意见应写入声明，因为它们有助于界定依赖限度。模型卡记录预期用途与局限（Mitchell et al., 2019），评判者卡可描述评估器特定行为（Weng et al., 2026），声明借鉴这些记录解释特定权威委托；对社区项目而言，它可能将评判者限于标记摘要供编辑审查，保留资格与可读性的分开检查，这一有限职权将居民资格决策留给负责机构。纠正的可能性赋予这些承诺实践意义：审查者需要时间、相关专长、证据获取渠道与改变结果的权威；较小研究组也需要可实行的方式满足这些要求，报告验证与审查所需资源有助于暴露有前景的问责与使之可行之间的距离。第7节"有界评估权威的研究议程"通过提出五个研究问题得出：RQ1考察评判有效性在语言、群体、领域与评分标准间转移的条件，RQ2考察高人类—评判者一致性何时导致不良的模型选择或部署决策，RQ3考察评分标准设计如何赋权特定视角与质量标准，RQ4考察自动化评估反馈回路何时放大无关或有害偏好，RQ5考察哪些审查与可争议程序纠正后果性错误；这些问题也适用于本文所提方案，其成功应以什么变得可被质疑和改变来评判。第8节结论通过概念总结得出：评判语言就是决定什么值得注意、什么可省略、什么应被信任以及什么需要再看一眼，自动化部分工作可扩展检查语言技术的能力，但也使评估设计在塑造未来语言被评价的标准中发挥作用；分数通过关于其测量什么、表达谁的优先事项以及为何他人应接受其影响的论证成为行动理由，有界评估权威使该论证保持开放；评分能力不能解决谁应定义质量，评估者之间的一致不能消除倾听标准所忽视者之知识与利益的必要；有些分歧可通过更好证据解决，另一些应继续限定在其在场时所作的决策；因此责任NLP对评估的要求不止于日益令人信服的裁决，还追问谁可通过该裁决发言、谁可质疑它以及谁必须为其后果负责；当分数进入新的语言、群体或机构时，其证成必须随行或被重建；自动化判断的权威不应超出研究人员为依赖它所能够给出的理由。

讨论部分总结如下：文章综合测量理论、评估器研究与认知不公正哲学，提出有界评估权威原则与评估权威包络、评估权威声明及五项承诺等概念工具，强调可靠性、有效性与合法性分别关涉一致性、意义与有正当理由之依赖，区分应用标准的能力与选择标准的权威；指出一致性不能解决谁的质量理解应指导决策的问题，参与只有在能够改变标准或其使用时才有实质效力，未解决分歧应保持可见并限定结果所能授权之事；提出关于有效性转移、一致性掩盖不良决策、评分标准赋权、反馈回路放大偏好以及审查与可争议程序的五个研究问题，并指出这些方案本身应以什么变得可被质疑和改变来评判。研究结论部分翻译为：评判语言就是决定什么值得注意、什么可省略、什么应被信任以及什么需要再看一眼。自动化部分工作可扩展研究人员检查语言技术的能力，但也使评估设计在塑造未来语言被评价的标准中发挥作用。分数通过关于其测量什么、表达谁的优先事项以及为何他人应接受其影响的论证成为行动理由。有界评估权威使该论证保持开放。评分能力不能解决谁应定义质量，评估者之间的一致不能消除倾听那些其知识或利益被标准忽视者的必要。有些分歧可通过更好证据解决；另一些应继续限定在其在场时所作的决策。因此，责任NLP对评估的要求不止于日益令人信服的裁决。它追问谁可通过该裁决发言、谁可质疑它以及谁必须为其后果负责。当分数进入新的语言、群体或机构时，其证成必须随行——或被重建。自动化判断的权威不应超出研究人员为依赖它所能够给出的理由。