通过控制混杂因素实现多路径因果优化以验证索赔

《Engineering Applications of Artificial Intelligence》：Multi-Path Causal Optimization for claim verification through controlling confounding

　　摘要

作为信息质量控制系统中的一项重要任务，声明验证旨在通过基于多种证据的评估来抑制错误信息。然而，传统方法往往忽略了证据来源之间的复杂相互作用，导致验证结果不可靠。一个直接的解决方案是将声明和证据表示为一个完全连接的图。尽管如此，基于图的声明验证方法通常面临两个主要的干扰挑战：数据噪声和数据偏见。为了解决这些问题，我们提出了一种名为多路径因果优化（MuPlon）的新方法。MuPlon结合了反向路径和正向路径的双重因果干预策略。在反向路径中，MuPlon通过优化节点概率权重来抑制噪声节点的干扰，同时加强相关证据节点之间的连接。在正向路径中，MuPlon提取高度相关的子图，构建推理路径，并应用反事实推理来减轻这些路径中的数据偏见。实验结果表明，与现有的声明验证方法相比，MuPlon在性能上具有竞争力和鲁棒性，同时在本地部署环境下仍然实用。这些发现突显了因果图推理在现实世界数据控制系统和工程信息验证应用中的潜力。

引言

如今，互联网上充斥着大量未经验证的声明，包括假新闻、恶意谣言和误导性广告，这些都对政治、经济、法律等领域产生了重要影响，甚至可能对公共安全构成严重威胁（Allcott和Gentzkow，2017年；Guo等人，2025c年；Zhu等人，2025年）。因此，应对这些挑战需要有效的方法来评估和确保信息的准确性。一种有效的方法是声明验证，该方法的目的是通过过滤掉虚假信息来提高互联网内容的质量，从而有效减少错误信息的传播（Guo等人，2025b年）。因此，越来越多的研究人员专注于对声明验证任务进行建模，特别是通过分析声明本身及其相关证据来评估声明的真实性（Wadden等人，2020年；West和Bergstrom，2021年）。大多数现有方法依赖于单一证据进行独立验证。例如，ESIM模型（Chen等人，2016年）利用序列推理和注意力机制来捕获声明与单一给定证据之间的关系，并通过计算分数来验证它。同样，KIM模型（Chen等人，2017年）从单一证据中识别出核心术语，并从数据库中检索相应的同义词、反义词和上义词，然后通过软对齐和语义融合将信息中的核心术语与原始证据结合起来，以理解逻辑关系。然而，这种对单一证据的依赖存在显著的限制，因为它容易受到单一来源的影响，从而导致验证过程的综合性和多样性不足，最终得出的结论缺乏足够的可信度和可靠性（Everitt等人，2021年）。相比之下，整合多个证据可以提供更全面的视角，从而提高验证的可信度。例如，Athene模型（Hanselowski等人，2018年）升级了ESIM模型，它从Wikipedia中检索相关文章以提取证据，使用ESIM计算声明-证据对的分数进行排名，并选择前五名作为验证的潜在证据集。基于Athene模型，NSMN模型（Nie等人，2019年）通过WordNet中的词汇项进一步定义了10个独立通道。每个通道负责处理不同的语义特征。当证据中的词与WordNet中的词汇项（如同义词集）相关时，相关的通道被激活，该通道的特征信息与证据一起集成到模型的输入中。然而，传统的多证据验证框架仅仅增加了证据量或额外的语义特征，而没有有效地捕捉证据之间的复杂相互作用。忽略证据之间的关系可能会降低验证过程的准确性和推理结果的有效性。

为了解决传统方法的局限性，一种直接的方法是构建一个完全连接的图，简称为声明-证据图（C-E图，如图1所示）。C-E图中的节点代表声明或每个单独的证据，边捕获声明与证据之间的相互作用。构建C-E图有效地减少了证据之间关系的忽视。然而，C-E图往往会受到数据偏见和数据噪声等干扰的影响。首先，在C-E图中，声明和证据节点（每个节点代表声明和证据内容）通常是通过基于关键词的手动检索收集的，这不可避免地引入了大量主观的数据偏见。主观偏见对参数规模相对较小的模型（例如，≤10B）有显著影响，使得这些模型在训练期间更容易受到数据偏见的影响，从而影响模型性能。先前的研究（Schuster等人，2019年；Zhang等人，2024年；Li等人，2026年）揭示，由于手动收集过程，“REFUTE”标签与否定词或特定陈述高度相关，这可能并不总是成立。例如，“not”、“nothing”、“nowhere”等词的出现与“REFUTE”高度相关。此外，在Politihop数据集中，“The post was flagged as part”与“REFUTE”标签成对出现多次。因此，模型倾向于过度依赖表面特征，并采取“捷径”推理路径（Li等人，2020年）。当这些关键词缺失时，模型的推理能力急剧下降，导致Xu等人（2021年）研究中的所谓“停电推理”现象。当前的方法（如数据增强Wei和Zou，2019年；Wang等人，2023年；权重规范化Schuster等人，2019年；Meng等人，2025年）在复杂推理场景中往往无法有效消除主观偏见。因此，一个主要的研究挑战是如何识别并减少证据图中证据节点引入的数据偏见的负面影响。

其次，未经精炼的完全连接C-E图通常会引入大量不相关的证据（即冗余的证据节点）和无关的证据相关信息（即冗余的证据边），从而导致数据噪声问题。数据噪声通常因其显著的表面特征（例如，看起来更科学或似乎与声明更直接相关的术语）而突出（Li等人，2021年；Huang等人，2026年），从而将模型的注意力从真正与声明相关的证据上转移开，扭曲其判断。虽然模型可能会选择有效证据，但这些证据的重要性被噪声数据掩盖，导致模型主要关注噪声数据的一侧表示。这种对噪声数据的过度强调，同时忽略有效证据，导致在声明验证过程中形成“信息孤岛”，正如Shahrokni和S?derberg（2015年）所讨论的。例如，噪声证据和有效证据经常在C-E图中交织在一起，扰乱了验证过程。如图1详细所示，虽然证据1中的“recognized as safe”与声明直接相关，但证据4和6中的“trace chemical releases”或“minor pH fluctuations”等术语并不相关。大量不相关的边放大了这种噪声，掩盖了有意义的关系，使模型的注意力偏离了关键证据。总之，许多证据节点复杂地交织在一起，严重增加了验证声明的难度。因此，另一个挑战是从C-E图中识别最相关的证据以提高验证能力。

为了解决完全连接C-E图在声明验证中遇到的数据偏见和数据噪声挑战，我们在本文中提出了一种新颖的方法，名为多路径因果优化（MuPlon）。更具体地说，我们利用反向路径来稀释C-E图中噪声节点的影响，同时采用局部图增强技术与图神经网络来加强相关证据节点之间的连接。使用正向路径，我们从C-E图中提取证据子图来构建推理路径，并应用反事实推理来减轻这些路径中的偏见。通过结合正向路径和反向路径的因果干预，我们的方法显著提高了验证的准确性和鲁棒性，为声明验证提供了一种新的解决方案。我们的工作的主要贡献如下：
- 我们提出了一种名为多路径因果优化（MuPlon）的新方法，有效结合了正向路径和反向路径的因果干预策略。该方法减轻了与数据噪声和偏见相关的干扰问题，显著提高了声明验证的准确性和鲁棒性。据我们所知，我们是第一个提出双重因果干预策略用于声明验证的。
- 在反向路径中，我们结合了贝叶斯网络和逆概率加权，以有效稀释C-E图中噪声节点的影响，同时采用局部图增强策略来缓解GNN训练中的过度平滑问题，从而加强证据节点之间的连接。
- 在正向路径中，我们设计了一种权重优化的马尔可夫链方法，从C-E图中提取具有强关联的子图来构建高质量推理路径，并应用反事实推理来消除这些路径中的偏见，实现更高效和准确的声明验证。
- 我们进行了广泛的实验，将MuPlon与多个数据集进行了比较。我们的实验表明，MuPlon优于各种之前的声明验证方法，在准确性方面达到了最先进（SOTA）的性能，并超越了几个大型语言模型，进一步展示了其在工程应用中的优势。

本文的其余部分结构如下：第2节探讨了与本文相关的工作领域以及一些因果理论基础。第3节定义了研究目标，第4节详细阐述了MuPlon方法。第5节提供了实验设计的全面概述，最后，第6节讨论了我们方法的局限性和改进方向。

相关工作与初步研究

传统方法通常将声明验证任务视为一个自然语言推理问题（Sinha等人，2020年；Shah等人，2025年），其中模型根据词汇重叠或句法特征将证据分类为支持或反对声明（Rudinger等人，2020年）。早期的声明验证方法严重依赖此类表面特征，导致了较差的性能（Venktesh等人，2024年）。随后，引入了基于图的模型来更好地捕捉...

任务形式化

在本文中，我们将声明验证定义为图分类任务，其中结果标签被分类为“SUPPORTS”、“REFUTES”或“NOT ENOUGH INFO”。我们将图定义为声明-证据图（C-E图）。

为了提高声明验证的效果，我们将专注于实现两个关键研究目标：

数据噪声识别：我们如何识别C-E图中的数据噪声以减少其对模型的干扰？
数据偏见消除：我们如何解决数据偏见？

提出的方法：MuPlon

MuPlon的架构在图3中以图形方式呈现。MuPlon结合了基于增强特征的多图学习的反向路径调整和基于反事实推理的证据链优化正向路径调整，旨在通过???(??|do?(??))来增强模型在声明验证中的能力。

实验

在本节中，我们介绍了我们的实验设置，并展示了MuPlon在声明验证中的强大能力。

讨论

MuPlon通过其双重因果干预策略展示了在需要高可靠性信息验证的场景中的强大潜力。通过结合反向路径和正向路径调整，MuPlon有效缓解了现实世界信息系统中常见的数据噪声和偏见问题。因此，该框架适用于各种工程场景，包括机器学习中的数据质量控制。

结论与未来工作

在这项工作中，我们探索了当前声明验证方法的局限性，特别是它们在处理干扰因素（特别是数据偏见和数据噪声）方面的困难。我们提出了MuPlon（多路径因果优化），一种结合多图学习的反向路径来增强特征和反事实推理的正向路径来优化证据链的新方法。这一双路径框架不仅克服了现有方法的局限性，还……
（此处关键词“CRediT”可能为特定领域术语，未在标准中文资源中找到准确译法，保留原样）

**作者贡献声明**
郭杭辉：撰写 – 审稿与编辑；撰写 – 原始稿件；可视化；资源整理；方法论；实验设计；数据分析；概念化。
迪世民：撰写 – 审稿与编辑；项目指导；方法论；数据分析；概念化。
德梅奥·帕斯夸莱：撰写 – 审稿与编辑；项目指导；方法论；数据分析。
陈张泽：可视化；项目指导。
朱佳：撰写 – 审稿与编辑；项目指导；资金筹措；数据分析；利益冲突声明。
作者声明：他们没有已知的可能会影响本文研究结果的财务冲突或个人关系。

**致谢**
我们感谢浙江省“先锋”和“领头羊”研发计划（项目编号2026C02A1236）以及国家自然科学基金（项目编号62577050）的支持。

**作者名单**
郭杭辉 | 迪世民 | 德梅奥·帕斯夸莱 | 陈张泽 | 朱佳
浙江省智能教育技术与应用重点实验室，浙江师范大学，金华市，321004，中国