引言
在线社交媒体平台很少能在虚假信息得到明确事实核查后再从容应对。实际操作层面的内容审核需要在级联传播仍在展开的过程中进行分级处理(Gorwa et al., 2020; Pierri et al., 2023)。然而,大多数计算虚假信息研究仍然将成功定义为对最终真实性标签的早期预测(例如,真实 vs 虚假;Castillo et al., 2011; Shu et al., 2017; Liu & Wu, 2020)。这造成了一种重要的任务错配。现有的分类模型估计的是一件事件最终会是什么,而平台治理所需的监控系统则需要在验证完成之前评估事件正在如何演变。
在早期检测、扩散建模和基于图的预测方面已取得显著进展(Liu & Wu, 2020; Silva et al., 2021; Han et al., 2024; Zhang & Gao, 2024)。然而,这些时间动态通常仍被建模为最终标签的推断,使得级联层面的状态进入作为一个独立的监控目标仍然缺乏充分的形式化界定。随着生成式人工智能(GenAI)的出现,这一差距进一步凸显。由于误导性内容现在可以被改写、淡化或进行风格重构,同时保持其方向性意图,文本表面信号变得越来越可操纵(Goldstein et al., 2023; Huang et al., 2024; Yan et al., 2025)。这种语义可塑性促使我们关注一个互补的分析目标:监控集体响应过程本身的结构稳定性。
为弥补这一差距,我们将分析焦点从事后真实性分类转向验证前的风险预测。使用包含2057个事件级联和超过305万次用户交互的CHECKED微博数据集(Yang et al., 2021),我们将级联传播重新概念化为演变的社交响应过程。通过滑动时间窗口,我们提取了三个可解释且具有行为基础的代理指标:响应不确定性、屏障薄弱性和扩散复杂性。随后,我们应用池化高斯隐马尔可夫模型(HMM)(Rabiner, 1989)来恢复一个共享的潜在状态结构,并为未来进入最脆弱状态的事前早期预警任务制定框架。作为附录中报告的补充边界检验,我们额外探查了在受限的大语言模型语义中和条件下,文本表面线索是否仍然保持稳定;这一探查为研究提供了动机,但不属于核心响应动态框架的一部分。图1展示了所提方法的总体框架。
为评估这一验证前监控框架,本研究提出了三个研究目标(RO):
RO1:通过定义和提取可解释的动态代理指标——响应不确定性、屏障薄弱性和扩散复杂性——来将级联不稳定性操作化,这些指标源自集体用户交互。
RO2:考察展开中的级联传播是否会过渡到一个共享的、可实证识别的临界风险状态,以及虚假信息相关的级联是否倾向于比已验证事件更早进入该状态。
RO3:评估早期窗口信号(例如,活动的前4小时)能否利用透明且可审计的机器学习模型预测未来进入该临界状态。
本研究通过引入一个将早期预警与可解释的级联动态相联系的框架,为社交媒体上的虚假信息分析和验证前监控文献做出了贡献。主要贡献如下:
概念转向状态监控:我们将虚假信息监控从最终标签推断重新定义为易转换的脆弱性检测,提供了一个更契合验证前决策场景的监控目标。
可解释的操作化:我们开发了三个连续窗口级代理指标,这些指标在捕获局部时间脆弱性的同时不依赖黑箱表征,从而为追踪级联演变建立了透明的分析基础。
实证验证与早期预警:使用真实的事件级数据集,我们恢复了一个共享的潜在风险结构。我们进一步表明,可以利用透明正则化模型从活动的前4小时预测未来的状态进入(参考划分AUC = 0.735;重复划分的平均AUC ≈ 0.665)。
本文其余部分组织如下。第2节综述相关工作。第3节介绍数据集、窗口构建和潜在状态早期预警方法。第4节呈现研究结果。第5节讨论研究的理论和实践意义及其局限性。第6节总结全文。