ViLID: 基于互补输入级与理由级不一致信号的多模态虚假信息检测

《Pattern Recognition》：ViLID: Multimodal misinformation detection with complementary input- and rationale-level inconsistency signals

　　

• •
  ViLID 通过利用跨模态不一致性来检测多模态虚假信息。
• •
  该模型将原始多模态表示与嵌入层和推理依据层级的不一致性线索相结合。
• •
  由大型语言模型生成的文本和图像推理依据提供了互补信号，改善了错误平衡和真实样本的保留。
• •
  真值对齐正则化减少了对真实内容的过度标记。
• •
  ViLID 通过精确率 - 召回率 - 工作量的权衡支持内容审核。

引言

在线平台越来越多地通过结合短文与图片、截图、梗图或新闻照片的多模态帖子来交流和争议现实 [1]。这种转变对虚假信息具有重要意义，因为视觉元素可以增强感知到的合理性和参与度，即使伴随的声明不准确，也会影响人们对真相的判断 [2]。心理学和传播学研究表明，视觉元素会影响感知到的真相，这被称为“真实性”或“视觉真实性效应”，并且对虚假声明的信念可能会被伴随图像的特征（如真实性及其与标题的证据契合度）所放大 [2], [3], [4]。然而，社交媒体上的虚假信息具有高度异质性，从 AI 生成的图像到被重新利用于不同语境的合法图像，这使得简单的仅基于文本或仅基于图像的防御在实际中是不够的。

很大一部分有害的多模态虚假信息不仅仅依赖于明显的视觉篡改或公然虚假的文本 [5]。相反，它通常利用跨模态不一致性 [6]：文本可能断言一种情况，而图像描绘另一种情况，或者图像可能是真实的，但被重新利用以支持误导性叙事，例如不正确的地点、时间、演员或属性。这些不一致性可能是微妙的：例如，可能存在高度的主题重叠（例如，“抗议照片”配以“抗议声明”），而具体细节却相互矛盾（例如，城市地标、制服、天气条件或标志）。旨在用于一般图像 - 文本相似度或粗糙多模态融合的方法可能会忽略使这些帖子具有欺骗性的不匹配之处，并且通常向审核人员提供的解释有限 [5]。

对于平台和事实核查者来说，关键挑战不仅在于分类内容，还在于在受限的人工审核下大规模分诊 [7]。学术界和工业界都强调虚假信息、事实核查和在线内容的可信度是重要话题，强调了需要将模型输出与现实世界决策和社会影响联系起来的方法的需求 [8], [9]。在审核环境中，误报可能会压制合法言论，而漏报则允许虚假信息传播；这两种情况都伴随着社会成本 [10]。随着多模态虚假信息（包括通过逼真的合成图像）变得越来越容易生成和分发，对准确、操作可解释系统的需求日益增长。

因此，我们的目标是构建一个检测器，它 (i) 将文本和图像之间的语义不一致作为主要信号，(ii) 暴露可由审核人员审计的基于推理依据的中间信号，而不将它们视为分类器的完整解释，并且 (iii) 支持以决策为中心的部署，通过基于阈值的操作点（精确率/召回率/工作量权衡）。 specifically, we introduce ViLID, a rationale-augmented vision-language inconsistency detector that combines an embedding-level inconsistency score with a rationale-level score derived from structured, large- language-model (LLM)-generated descriptions of the text claim and image evidence. 具体来说，我们引入了 ViLID，一种基于推理增强的视觉 - 语言不一致检测器，它将嵌入层级的不一致性得分与源自文本声明和图像证据的结构化大型语言模型 (LLM) 生成描述的推理层级得分相结合。这些基于推理的信号补充了原始多模态路径，并作为完全监督检测器的一部分进行评估。我们在大规模社交媒体数据和混合源设置上评估 ViLID，以识别不一致性信号何时最具信息量以及如何利用它们进行审核分诊。

• •
  互补不一致性检测框架 (ViLID)。 我们提出了 ViLID，一种旨在通过建模跨模态不一致性来打击多模态虚假信息的检测器，它通过原始多模态表示、嵌入层级的不一致性得分以及源自文本和图像的 LLM 生成推理依据的推理层级得分来实现。这些基于推理的信号补充了原始多模态路径和监督分类器。
• •
  真值对齐正则化以减少良性不匹配的过度标记。 我们引入了一个对齐正则化项，它惩罚真实配对之间的高度不一致，同时忽略虚假配对，这反映了真实帖子应跨模态保持语义一致的假设。
• •
  面向决策的审核评估与诊断。 我们使用来自 Fakeddit 的大规模社交媒体数据和混合源基准 (MMFakeBench) 评估 ViLID。除了报告完整模型整体表现最佳外，我们还分析了消融实验，显示推理依据最能改善类别平衡和真实样本的保留。我们不仅报告聚合准确率和 F1 分数，还报告异质性诊断和基于阈值的操作点，这有助于将模型分数转化为审核工作量权衡。

章节摘要

相关工作

虚假信息检测领域随着在线欺骗变得越来越复杂而迅速演变 [5]。早期方法主要依赖语言线索，如情感、风格复杂度和词汇多样性，来识别假新闻 [11], [12], [13]。虽然这些方法对仅基于文本的谣言或标题党文章有效，但在今天图像泛滥的社交媒体环境中已变得不足。研究表明，图像可以显著提升

方法：ViLID 框架

ViLID 模型旨在通过联合分析文本 $T$、相关图像 $I$、原始多模态表示和互补的基于推理的特征来检测虚假信息。本节概述了问题公式化，介绍了衡量跨模态不一致性的新指标，描述了生成推理的模型架构及其组件，并详细说明了优化目标。该方法论结合了基于特征的分类、融合和对齐

数据集

我们在两个主要基准数据集上评估了 ViLID，每个数据集在我们的评估策略中起着独特的作用。

Fakeddit（社交媒体标准） [38]： Fakeddit 是一个源自 Reddit 的大规模多模态虚假信息数据集，包含超过一百万个帖子样本。为了可行性，我们使用了保留原始标签分布（2 类标签）的 25% 分层子集。该数据集包括带有文本（如标题或说明）和相关图像的用户帖子，收集自

结果与分析

ViLID 显示出相比当前基线和最先进方法（SOTAs）的性能显著改进。本节提供了这些结果的全面分析，检查了跨不同数据集的性能，评估了基于推理的信号的行为和可靠性，并讨论了实际的审核操作点。

社会技术影响

首先，ViLID 最适合作为分诊工具，通过突出可能的跨模态不一致性及其相关推理依据来优先考虑待审核项目。在实践中，误报的成本可能很高，无论是社会性还是机构性的，特别是对于边缘化社区和有争议的话题。我们的分析强调了可配置阈值和审核工作量的重要性，而不是依赖单一的优化截断值。因此，我们建议将 ViLID 与

结论

ViLID 框架通过结合原始多模态表示与输入级和推理级不一致性信号来解决多模态虚假信息问题。我们的评估表明，完整模型 consistently 优于现有基线，而消融实验表明基于推理的信号最好被理解为改善操作平衡和保留真实样本的互补信号。重要的是，高度不一致可能与良性不匹配重叠，强调了需求

CRediT 作者贡献声明

潘天雨 (Bell)： 写作 - 审查与编辑，写作 - 原稿，验证，软件，方法论，形式分析，概念化。阿万提·班达卡： 写作 - 审查与编辑，软件，调查，数据管理，概念化。亚历克莎·乔丹·科尔： 写作 - 审查与编辑，写作 - 原稿，可视化，软件，数据管理。罗纳德·威尔逊： 写作 - 审查与编辑，监督，资源，项目管理。达蒙·L·伍德： 写作 - 审查与编辑，

生成式 AI 披露

在手稿准备期间，作者使用了 Grammarly 来检查语法和拼写。使用此工具后，作者根据需要审查和编辑了内容，并对已发表的文章承担全部责任。

资助

无。

竞争利益声明

作者声明他们没有任何已知的竞争经济利益或个人关系，这些利益或关系可能会影响本文报告的工作。

潘天雨 (Bell)|阿万提·班达卡 | 亚历克莎·乔丹·科尔 | 罗纳德·威尔逊 | 达蒙·L·伍德