通过潜在状态响应动力学实现错误信息级联的可解释早期预警

《Information Processing & Management》:Interpretable early warning of misinformation cascades via latent-state response dynamics

【字体: 大 中 小 】 时间:2026年09月23日 来源:Information Processing & Management 8.1

编辑推荐:

   •将虚假信息监控重新定义为状态进入的早期预警。•通过三个可解释的窗口级代理指标衡量级联传播的不稳定性。•恢复了一个具有反复出现的临界风险状态的共享潜在状态结构。•筛选样本:与虚假信息相关的级联传播更早进入该状态(4.15小时 vs 5.37小时)。•透明模型预测状态进入(AU

  
  • •
    将虚假信息监控重新定义为状态进入的早期预警。
  • •
    通过三个可解释的窗口级代理指标衡量级联传播的不稳定性。
  • •
    恢复了一个具有反复出现的临界风险状态的共享潜在状态结构。
  • •
    筛选样本:与虚假信息相关的级联传播更早进入该状态(4.15小时 vs 5.37小时)。
  • •
    透明模型预测状态进入(AUC 0.735,参考划分;重复均值0.665)。

引言

在线社交媒体平台很少能在虚假信息得到明确事实核查后再从容应对。实际操作层面的内容审核需要在级联传播仍在展开的过程中进行分级处理(Gorwa et al., 2020; Pierri et al., 2023)。然而,大多数计算虚假信息研究仍然将成功定义为对最终真实性标签的早期预测(例如,真实 vs 虚假;Castillo et al., 2011; Shu et al., 2017; Liu & Wu, 2020)。这造成了一种重要的任务错配。现有的分类模型估计的是一件事件最终会是什么,而平台治理所需的监控系统则需要在验证完成之前评估事件正在如何演变。
在早期检测、扩散建模和基于图的预测方面已取得显著进展(Liu & Wu, 2020; Silva et al., 2021; Han et al., 2024; Zhang & Gao, 2024)。然而,这些时间动态通常仍被建模为最终标签的推断,使得级联层面的状态进入作为一个独立的监控目标仍然缺乏充分的形式化界定。随着生成式人工智能(GenAI)的出现,这一差距进一步凸显。由于误导性内容现在可以被改写、淡化或进行风格重构,同时保持其方向性意图,文本表面信号变得越来越可操纵(Goldstein et al., 2023; Huang et al., 2024; Yan et al., 2025)。这种语义可塑性促使我们关注一个互补的分析目标:监控集体响应过程本身的结构稳定性。
为弥补这一差距,我们将分析焦点从事后真实性分类转向验证前的风险预测。使用包含2057个事件级联和超过305万次用户交互的CHECKED微博数据集(Yang et al., 2021),我们将级联传播重新概念化为演变的社交响应过程。通过滑动时间窗口,我们提取了三个可解释且具有行为基础的代理指标:响应不确定性、屏障薄弱性和扩散复杂性。随后,我们应用池化高斯隐马尔可夫模型(HMM)(Rabiner, 1989)来恢复一个共享的潜在状态结构,并为未来进入最脆弱状态的事前早期预警任务制定框架。作为附录中报告的补充边界检验,我们额外探查了在受限的大语言模型语义中和条件下,文本表面线索是否仍然保持稳定;这一探查为研究提供了动机,但不属于核心响应动态框架的一部分。图1展示了所提方法的总体框架。
为评估这一验证前监控框架,本研究提出了三个研究目标(RO):
RO1:通过定义和提取可解释的动态代理指标——响应不确定性、屏障薄弱性和扩散复杂性——来将级联不稳定性操作化,这些指标源自集体用户交互。
RO2:考察展开中的级联传播是否会过渡到一个共享的、可实证识别的临界风险状态,以及虚假信息相关的级联是否倾向于比已验证事件更早进入该状态。
RO3:评估早期窗口信号(例如,活动的前4小时)能否利用透明且可审计的机器学习模型预测未来进入该临界状态。
本研究通过引入一个将早期预警与可解释的级联动态相联系的框架,为社交媒体上的虚假信息分析和验证前监控文献做出了贡献。主要贡献如下:
概念转向状态监控:我们将虚假信息监控从最终标签推断重新定义为易转换的脆弱性检测,提供了一个更契合验证前决策场景的监控目标。
可解释的操作化:我们开发了三个连续窗口级代理指标,这些指标在捕获局部时间脆弱性的同时不依赖黑箱表征,从而为追踪级联演变建立了透明的分析基础。
实证验证与早期预警:使用真实的事件级数据集,我们恢复了一个共享的潜在风险结构。我们进一步表明,可以利用透明正则化模型从活动的前4小时预测未来的状态进入(参考划分AUC = 0.735;重复划分的平均AUC ≈ 0.665)。
本文其余部分组织如下。第2节综述相关工作。第3节介绍数据集、窗口构建和潜在状态早期预警方法。第4节呈现研究结果。第5节讨论研究的理论和实践意义及其局限性。第6节总结全文。

章节摘要

相关工作

本节将论文定位在三条研究脉络的交叉点:虚假信息分析、过渡敏感的早期预警,以及语义重构(作为补充的边界关切)。

数据集描述

为实证评估所提出的潜在状态早期预警框架,我们使用CHECKED语料库(Yang et al., 2021),这是一个围绕COVID-19虚假信息展开的已验证中文微博数据集。与一般的帖子级数据集不同,CHECKED将事件级真实性标签与完整的、带有时间戳的转发和评论轨迹关联起来,使得每个事件都可以被重构为一个演变的交互过程。
本研究中使用的完整事件重构语料库包含2057个结构完整的级联

实验设置与样本筛选

表1报告了完整语料库以供描述性参考。HMM估计和早期预警任务在特定、目的驱动的子集上进行,以确保数值稳定性和任务相关性。
基于分布的代理指标仅在窗口包含足够交互时才具有可估计性:响应不确定性和屏障薄弱性代理指标每个窗口至少需要5个评论情感得分,扩散复杂性代理指标至少需要3次转发(第3.3节)。我们称之为一个

主要发现讨论

实证结果回应了三个研究目标,并将本方法与既往研究区分开来。首先(RO1),我们不依赖于早期检测研究中常用的不透明语言特征或静态网络拓扑(例如,Silva et al., 2021),而是通过三个可解释的代理指标来操作化级联不稳定性:响应不确定性、屏障薄弱性和扩散复杂性。这一发现为局部响应场提供了具有行为基础的表征,同时保持

结论

本研究解决了一个当前虚假信息分析中的重要局限。在线风险通常主要以最终真实性标签来定义,尽管实际操作决策必须更早做出。为弥合这一差距,本文将分析目标从事后的标签分类转向潜在状态级脆弱性的事前预测。通过将在线级联视为演变的响应过程而非静态的语义对象,我们构建了三个

资助

本研究得到浙江省自然科学基金委员会(项目编号:LZ22G010001)和国家社会科学基金(项目编号:21BTQ047)的支持。

CRediT作者贡献声明

罗建红:写作——审稿与编辑,写作——原稿,项目管理,方法论,资金获取,形式化分析,概念设计。洪陈:写作——审稿与编辑,可视化,数据整理。
Jianhong Luo|Chen Hong
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号