面向编辑级引导的不当论证修订统一评估框架

《Frontiers in Artificial Intelligence》：A unified evaluation framework for revising inappropriate arguments with edit-level guidance

摘要专业翻译 在措辞恰当的论证中，语言在支持可信度与情感参与的同时，应与所讨论议题保持适度比例。未能满足这些属性的论证会损害公共讨论与民主话语的质量，从而推动了对论证自动修订的研究。由于事后审核成本高昂且耗时，在创作时提供修订建议是一种有前景的替代方案。研究人员将先前两种不当论证修订方法统一到一个共同的编辑操作框架之下：一种基于PPO的方法，通过对齐大语言模型（LLM）生成完整重写文本，并事后利用差异工具从中提取编辑建议；另一种基于GRPO的方法，使LLM直接生成自包含的跨度级编辑建议。该框架定义了任务的目标属性，并引入了两个额外的质量准则：论证层面的模式一致性（pattern conformity）与编辑层面的适当性（appropriateness）。将两种范式置于共同基础之上，为评估编辑建议提供了与具体方法无关的统一基础，无论这些建议是直接生成还是从完整重写中导出。一项主持人风格的用户研究结果——人类主持人在该研究中迭代选择并应用来自各方法的编辑建议——表明整体修订质量较高（79.2%的论证被修订至完全适当），同时也揭示了重写派生的编辑建议在跨度层面存在的不足，这些不足促成了本文所引入的质量准则。对八种论证修订方法的综合评估表明，直接生成编辑建议并在多个质量准则上联合优化的方法，其人类相似性可与大型提示模型相媲美；而仅优化适当性的方法则系统性地产生违反结构质量要求的编辑建议。在两项研究中，两种生成范式以不同方式暴露其不足：从完整重写中提取的编辑建议常常相互依赖，且在选择性地应用时会丧失流畅性；而直接生成的编辑建议虽自包含，但单独效果较弱，因此需要迭代应用。综合而言，这些贡献将经由跨度级编辑建议的论证修订确立为一个统一且可解释的任务，对人工参与式审核与AI辅助审议具有直接意义。

论文解读文章

一、研究背景与问题

在线平台以前所未有的规模促进公共讨论，使个体能够参与政治、社会与伦理等争议性议题的交流。论证是此类讨论的核心机制——参与者交换理由、挑战立场并回应反驳。在论证质量评估的诸多维度中，论证以适当方式措辞是富有成效讨论的基本前提：违反这一要求的论证若带有敌意、缺乏连贯性或脱离话语语境，将阻碍真正的交流并损害论证的认识论功能。与二元毒性分类器或冒犯性语言检测器不同，Ziegenbein等人（2023）提出的不适当性分类法是多标签且论证特有的：该分类法涵盖14个维度，组织在四个核心维度之下——毒性情绪（Toxic Emotions）、缺失承诺（Missing Commitment）、缺失可理解性（Missing Intelligibility）及其他原因（Other Reasons），不仅覆盖有毒语言，还涵盖话语层面的违规，如可理解性问题或对议题缺乏承诺。

当前平台主要依赖大量人工事后审核来处理不当内容，即在发布后检测并移除。现有事前方法同样侧重于阻止提交而非引导用户进行适当的重新表述。近期工作已开始解决这一局限：平台部署的提示（nudges）在发布前提醒作者重新考虑措辞；其他方法解释违反的社区规则；还有方法更进一步，直接建议或生成有毒文本的修订版本。然而，这些方法缺乏针对性：提示和规则解释只识别问题而不建议如何解决，而完整重写则未明确哪些具体跨度被更改及原因。更具信息量的事前替代方案是在创作时提供有针对性的修订指导，解释需要改变什么，而非发出简单警告或生成完整重写。基于编辑的方法对此尤为有前景：与完全重新生成长文本段落的自动重写器不同，编辑方法操作于特定跨度以产生局部化、可解释的变更。此外，生成式辅助未必总是有益的：在受控社交媒体实验中，M?ller等人（2026）观察到AI干预（如草稿反馈和回复建议）可能提高参与度，同时降低讨论的感知质量和真实性，这促使保持人类对采纳哪些建议的控制权。

二、研究内容与结论

针对上述问题，研究人员在两项先前工作的基础上，将不当论证的编辑修订推广为一个统一的、与具体方法无关的框架。两项先前方法在粒度上有所不同：一项在论证层面操作，另一项在跨度层面操作。研究人员将其统一在跨度级编辑操作的共享词汇之下，其中重写派生的编辑建议通过差异工具事后提取，从而实现跨范式的联合分析。在该框架内，研究人员收集了先前工作中用于模型训练和评估的质量准则，并新增两个准则：在论证层面引入模式一致性准则，衡量修订是否遵循可识别的人类编辑模式；在编辑层面引入适当性准则，将每个跨度级变更与其所解决的不适当性维度联系起来。这一统一使得任何产生编辑建议的方法——无论其底层范式如何——都能在修订优势与劣势方面进行比较，并分析不同方法如何优先处理不适当性的各个维度。

该框架定义了四个论证层面质量准则：相似性（Sim_a）衡量修订保留原始论证语义内容的程度；流畅性（Flu_a）衡量修订后论证的流畅程度；一致性（Con_a）衡量编辑建议集反映典型人类修订策略的程度；适当性（App_a）衡量修订后论证的适当程度——这是主要修订目标。相应地，四个编辑层面准则——Sim_e、Flu_e、Con_e和App_e——在局部评估单个编辑建议。其中前三项由Ziegenbein等人（2026）引入，在编辑层面局部评估；App_e则评估给定编辑建议是否提高论证的适当性。人类相似性HL(e, a)被定义为Sim_e、Flu_e和Con_e的函数。

研究人员的用户研究招募了五名英语母语者，通过Upwork.com招募并按每小时15美元补偿。每位参与者被呈现适当性语料库中全部200个不当论证，连同讨论主题和论证被标记为不当的原因。参与者与自定义基于网络的标注工具交互：界面左侧显示原始论证，右侧显示分组的编辑建议；影响相同源跨度的编辑操作被跨五种方法分组，以便并排比较。编辑跨度按操作类型进行颜色编码：蓝色为替换、红色为删除、绿色为添加。参与者可为每个组选择一个编辑建议应用或完全驳回该组，并为每个选定的编辑建议分配一个或多个编辑意图（毒性情绪、缺失承诺、缺失可理解性或其他）。一旦所有组被处理，参与者判断所得论证是否完全适当。

研究结果显示，在990个案例中有784个（79.2%，95%置信区间[66.6, 91.2]），每位标注者个人选择的编辑建议足以产生完全适当的论证，证明多种编辑策略是通向同一目标的有效路径。标注者平均每个论证应用3.67个编辑建议，平均编辑跨度长度为16.7个词，表明缓解审议性论证中的不适当性通常需要多次有针对性的局部修改而非单一全局修正。在编辑建议结构方面，更注重适当性的方法（+PPO_app、+PPO_app>sim）产生明显更长且添加更多的编辑建议，而更重视语义相似性的方法（+PPO_{app< />}、Alpaca）倾向于更短、更保守的变更。Alpaca在绝对数量上被选择最多（1,032次），但按每个方法提供的候选编辑数归一化后，+PPO_app显示最高选择率（29.7%）。然而，这些选择模式与适当性存在张力：Alpaca在绝对数量上被选择最多，但在使论证适当方面的成功率却低得多（70.6%）；相反，+PPO_app>sim被选择较少但产生最高成功率（81.1%）。这表明标注者所选择的与实际解决不适当性的内容并不完全一致。

逻辑回归分析进一步揭示了编辑建议结构属性与选择和适当性之间的关系：替换（Rep）与选择和适当性均正相关；跨度内保留（KiE）与选择正相关但与适当性无显著关联；添加（Add）与选择负相关但与适当性正相关——添加较多的编辑建议在选择时无优势，而包含较大添加比例的修订更可能获得成功的最终适当性判断。在编辑意图方面，针对毒性情绪（平均34.3个词）和缺失承诺（28.6个词）的编辑建议显著长于针对缺失可理解性的（13.0个词），且前者包含更多添加操作。替换是三个主要意图中占主导的主动操作。毒性情绪与缺失承诺的编辑建议涉及更多删除和更少的跨度内保留，反映需要切除情绪化语言而非增强承诺。针对缺失可理解性的编辑建议在结构上保守，与有针对性的表面澄清而非结构性重写一致。

三、关键技术方法

研究人员使用了以下主要技术方法：一是强化学习范式，包括基于PPO（近端策略优化，Proximal Policy Optimization）的完整重写方法，使用奖励函数R(a, a′) = α·App_a(a′) + (1?α)·Sim_a(a, a′)，其中App_a由Ziegenbein等人（2023）的适当性分类器实现，Sim_a由BERTScore实现；以及基于GRPO（组相对策略优化，Group Relative Policy Optimization）的直接编辑方法，奖励结合论证层面与编辑层面目标，使用编辑层面分类器（EmbeddingGemma-300M、ModernBERT和decoder LM）实现人类相似性判断。二是提示基线方法，包括Alpaca、Llama 3.1、Gemini 2.5和GPT-5。三是监督学习方法，包括DeLIteraTeR（检测-生成两阶段文本编辑系统）和CoEdIT（指令驱动的序列到序列文本编辑模型）。四是差异提取工具latexdiff，用于从完整重写中事后提取编辑建议。五是逻辑回归模型，用于分析编辑建议结构属性与选择和适当性之间的关系。数据来源包括适当性语料库（Appropriateness Corpus，2,191个论证，来自辩论门户、问答论坛和评论三种体裁）、扩展适当性语料库（49,417个软标记论证，来自Internet Argument Corpus v2和GAQCorpus）以及IteraTeR语料库（172,692个人类编辑，来自维基百科、ArXiv和Wikinews）。

四、研究结果

编辑建议的结构与选择：用户研究表明，更注重适当性的方法产生更长且添加更多的编辑建议，而更重视语义相似性的方法倾向于更短、更保守的变更。+PPO_app在归一化后显示最高选择率（29.7%），但Alpaca在绝对数量上被选择最多。选择模式与适当性之间存在张力：Alpaca成功率最低（70.6%），而+PPO_app>sim成功率最高（81.1%）。

编辑建议类别与意图：针对毒性情绪和缺失承诺的编辑建议显著长于针对缺失可理解性的，且前者包含更多添加操作。替换是三个主要意图中占主导的主动操作。毒性情绪与缺失承诺的编辑建议涉及更多删除和更少的跨度内保留。77.7%的编辑建议携带单一意图，22.3%携带两个或三个意图。毒性情绪与缺失承诺呈轻微正共现（τ = 0.125），而缺失可理解性与两者均负相关。

八种方法的综合评估：直接生成编辑建议并在多个质量准则上联合优化的方法（如GRPO_HL），其人类相似性可与大型提示模型（如Gemini 2.5、GPT-5）相媲美；而仅优化适当性的方法（如PPO_app、GRPO_app）系统性地产生违反结构质量要求的编辑建议。两种生成范式以不同方式失败：从完整重写中提取的编辑建议频繁相互依赖，且在选择性地应用时丧失流畅性；而直接生成的编辑建议自包含但单独效果较弱，因此需要迭代应用。

五、讨论与结论

讨论部分指出，编辑任务的固有主观性通过Krippendorff's α得以表征：宏观层面（编辑与否）α = 0.426，细粒度层面（选择的具体表述）α降至0.296，反映标注者在不适当跨度上趋于一致，但在编辑建议选择上更为主观。这些值处于计算论证学中主观标注任务通常观察到的范围内。重要的是，较低的细粒度一致性并不意味着个体标注选择是任意的：79.2%的情况下每位标注者的个人选择足以产生完全适当的论证，证明多种编辑策略是通向同一目标的有效路径。

研究结论部分表明，该统一框架将论证修订确立为一个统一且可解释的任务，具有对人工参与式审核与AI辅助审议的直接意义。框架的与具体方法无关的特性使得任何产生编辑建议的方法都能在共同基础上进行评估，无论其建议如何生成。新增的模式一致性和编辑层面适当性准则实现了对论证修订的细粒度评估和归因。对八种方法的分析揭示了两种生成范式各自的失败模式：重写派生的编辑建议在选择性应用时存在相互依赖和流畅性丧失问题，而直接生成的编辑建议虽自包含但单独效果较弱。这些发现共同强调了在优化适当性的同时兼顾编辑建议结构质量的重要性，以及保持人类对采纳哪些建议的控制权的必要性。