综述:社交媒体谣言检测的推进:从卷积神经网络到大语言模型-图神经网络混合架构的质量分层系统综述

《Array》:Advancing rumor detection in social media: A quality-stratified systematic review from CNNs to LLM-GNN hybrids

【字体: 大 中 小 】 时间:2026年04月22日 来源:Array 4.5

编辑推荐:

  社交媒体中的谣言检测对于遏制后疫情时代多模态内容激增背景下的错误信息传播具有重要意义。然而,既有综述(2021–2023)未能充分覆盖大语言模型(Large Language Model, LLM)的整合应用、会夸大性能声明的方法学不一致性,以及传播感知混合模

  
社交媒体中的谣言检测对于遏制后疫情时代多模态内容激增背景下的错误信息传播具有重要意义。然而,既有综述(2021–2023)未能充分覆盖大语言模型(Large Language Model, LLM)的整合应用、会夸大性能声明的方法学不一致性,以及传播感知混合模型在部署中的挑战,因此亟需一项纳入2024–2025年最新进展、基于证据分层的更新型综合分析。本系统综述依据一套新提出的S1–S8质量评价量表,对2021年至2025年间77项基于深度学习的研究进行评估,该量表重点强调可复现性与可泛化性;同时将特征划分为文本类(词汇/句法/语义嵌入)、视觉类(篡改/多模态融合)、用户中心类(画像/行为)以及传播类(图结构/时序)四个领域,并综合分析用于谣言检测的深度学习技术,包括用于局部模式建模的卷积神经网络(Convolutional Neural Network, CNN)、用于序列建模的循环神经网络(Recurrent Neural Network, RNN)、用于关系建模的图神经网络(Graph Neural Network, GNN),以及用于语义建模的大语言模型(Large Language Model, LLM)。分层元分析(meta-analysis)依据帖子级与事件级分析单元、全上下文与早期上下文检测模式进行划分,结果表明,在PHEME、Twitter15/16和Weibo等基准数据集上,混合式图神经网络-大语言模型架构相较于独立模型可获得5%–15%的F1分数提升(详见第3.6节及补充材料C表2中的聚合结果),并揭示了零样本迁移、立场-情绪联合学习以及可解释机制等发展趋势。持续存在的挑战包括机器人账户造成的失真、早期检测脆弱性、对抗性攻击风险、跨语言迁移偏移、数据不平衡、伦理偏差以及多模态可扩展性问题,而这些问题可通过时序图神经网络和对比式对齐得到一定缓解。未来研究重点包括标准化多语言数据集、人在回路的可解释性、实时联邦学习(Federated Learning, FL)以及伦理审计,从而为研究人员在异构数字生态系统中构建稳健且合乎伦理的谣言检测方法提供加权证据支持。
1. Introduction

论文首先指出,Twitter(现X)、Facebook、Weibo等社交媒体平台显著提升了全球信息传播效率,但去中心化接入、算法放大与用户生成内容也共同促成了谣言与错误信息的快速扩散,并可能引发社会恐慌、政治极化和经济不稳定等现实后果。作者据此强调,谣言检测并非单一文本分类问题,而是涉及文本语义、用户交互上下文、信息传播时序动态以及扩散网络结构等多维信息的复杂识别任务。相较依赖手工特征的传统机器学习(Machine Learning, ML)方法,深度学习(Deep Learning, DL)在高维、噪声化社交媒体环境中显示出更强适应性。文章进一步概述了卷积神经网络(Convolutional Neural Network, CNN)、循环神经网络(Recurrent Neural Network, RNN)、图神经网络(Graph Neural Network, GNN)与预训练大语言模型(Large Language Model, LLM)在谣言检测中的代表性作用,并指出CNN–RNN、GNN–LLM及多模态融合架构已成为当前主流高性能方案。作者同时批评既有综述在LLM覆盖、质量评价量表、分层定量比较和2024–2025年新进展纳入方面存在明显不足,因此提出通过质量分层系统综述弥补这些空白。文中明确列出四项贡献:提出S1–S8方法学质量量表、开展混合架构与独立模型的元分析、按分析单元与检测模式分层比较经验结果,并系统归纳机器人放大、对抗脆弱性、多语言低资源、伦理公平及多模态扩展等开放问题。

1.1. Related surveys

该节回顾2021–2025年间有关社交媒体谣言与错误信息检测的既有综述,指出以往研究大多停留在机器学习、深度学习或少量图神经网络层面,对LLM框架缺少系统整合,也普遍缺乏正式质量评价量表和分层元分析。作者通过与既有综述在模型覆盖范围、是否显式纳入LLM、是否采用质量评价标准、是否进行分层性能分析等方面对比,凸显本文在综述对象的时效性、证据组织方式与方法学严格性上的增量价值。该节的核心结论是:本文不仅覆盖DL、GNN、LLM及LLM–GNN混合方法,还通过结构化质量分层实现了对架构演化、研究趋势与关键挑战的更为严谨和最新的综合判断。

2. Methodology

该部分说明论文遵循系统评价与元分析优先报告条目(Preferred Reporting Items for Systematic Reviews and Meta-Analyses, PRISMA)2020指南开展系统综述,以提高透明性、可复现性并降低选择偏倚。作者将整个研究流程概括为文献检索、初筛、全文资格评估、数据提取以及基于质量量表的加权综合,并通过PRISMA流程图展示筛选路径。方法部分的整体目标是确保最终结论建立在系统、透明且可追溯的证据基础之上,而非叙述性归纳。

2.1. Scope and task definitions

作者首先界定“谣言”为在发布时真实性尚未得到验证、并在社交媒体上传播的信息或主张,其后可能被证实、被证伪或持续未决。基于此,论文将谣言与错误信息、虚假新闻等相邻概念区分开来,并规定仅当研究在数据标注中明确使用“rumor”概念,或显式处理具有传播/时间动态的未证实主张时,才被纳入谣言研究范畴。此外,文章还将谣言检测与立场检测、源可信度估计、谣言追踪等辅助任务区分开,只有当这些任务直接服务于谣言核验时才予以纳入。该界定有助于防止任务混淆,增强综述对象的一致性。

2.2. Review protocol

在筛选流程上,标题与摘要初筛以及全文评估均由两位研究者独立完成,并采用Cohen’s Kappa系数衡量一致性,筛选阶段κ=0.85,显示较高一致水平。若存在分歧,则通过讨论解决,必要时由第三位资深研究者裁决。文献检索初始获得537条记录,去除114条重复后剩余423篇,经过标题摘要筛查排除291篇,再对132篇进行全文审查,最终依据时间与语言范围、经验研究严谨性、任务匹配度等标准剔除55篇,保留77项研究进入主分析语料库。该流程显示作者在样本构建上采取了较为严格的多阶段控制。

2.3. Search strategy

该节说明检索于2025年11月30日进行,时间范围为2021年1月1日至检索日。作者给出这一时间窗的理由:2021年后Transformer和GNN在谣言检测中广泛普及,后疫情时期错误信息研究显著增长,而2024–2025年则见证LLM集成与视频多模态检测快速成熟。检索覆盖Scopus、Web of Science、IEEE Xplore、ACM Digital Library、SpringerLink、ScienceDirect、PubMed、Google Scholar及主要会议论文集等九类来源,并设计了融合谣言相关术语、检测任务术语与深度学习架构术语的布尔查询式。该节反映出本文力图在时间覆盖、数据库多样性和主题召回率之间取得平衡。

2.4. De-duplication and selection criteria

作者采用双阶段去重方案:先基于Mendeley按DOI与标准化标题进行算法匹配,再通过人工审查识别近似重复文献,如预印本与期刊正式版的重合情况,并优先保留同行评审版本。纳入标准包括:2021–2025年英文经验研究、使用DL方法(含GNN、Transformer与LLM)、并基于基准或自建社交媒体谣言数据集以标准评价指标进行验证。排除标准则包括缺乏实验验证的理论研究、未使用谣言专属数据集的工作以及非同行评审观点性文章。通过这些标准,综述尽量保证研究对象的任务针对性与实验可比性。

2.5. Data extraction and quality-weighted synthesis

该节说明数据由两名独立评审者依据标准化模板提取,以保证77篇研究在变量层面的记录一致性。更重要的是,作者并未平权对待所有证据,而是依据S1–S8质量量表进行分层加权综合。也就是说,在最终结论中,采用事件感知划分、多随机种子报告和跨数据集验证的高质量研究被赋予更高权重,而低层级研究的结果则附带泛化性限制说明。这一证据分级设计构成全文方法学上的核心特色。

3. Analysis of reviewed studies

分析部分首先从时间和地域两个维度描述研究版图:2021年至2025年相关研究数量呈显著增长趋势,2024年达到峰值;地域上,中国占据主导,美国和印度紧随其后,其他国家和地区也有参与。作者随后围绕数据制度、特征表示、模型架构、评估实践、跨问题维度综合、证据强度以及持续挑战等方面展开系统分析,并辅以补充材料中的研究属性表、性能指标表和质量评分表,形成较完整的证据谱系。

3.1. Data regimes: Benchmarks, units of analysis, and methodological rigor

本节强调,当前谣言检测研究高度依赖少数经典基准数据集,并在分析单元与检测模式上存在明显异质性。作者试图通过数据制度分析揭示模型性能主张背后的经验基础及其可泛化边界。

3.1.1. Datasets and domain coverage

研究主要集中于Weibo、PHEME和Twitter15/16等经典数据集,这些数据集已成为模型复现与比较的标准试验场。同时,领域内也出现了面向短视频、图像多模态、金融谣言、健康谣言和选举场景的专门语料,如Douyin、FakeSV、Fakeddit、FinFact和Net-CR等。作者据此指出,两点尤其关键:其一,许多性能提升仅在特定基准条件下成立,若缺乏跨数据集验证,则难以说明其在域外情境中的有效性;其二,多模态与视频导向数据集的增多表明研究对象正在向更贴近现实的异构数字内容环境扩展。

3.1.2. Unit of analysis and detection mode

作者将研究范式划分为事件级与帖子级两大类。事件级研究以某一谣言事件的传播级联作为分类单位,通常依赖传播拓扑和扩散动态,因此更适配GNN、树结构注意力和递归网络等传播感知模型。帖子级研究则以单条消息作为分类对象,更常见于文本或图像导向任务以及许多LLM方法。与此同时,大部分研究在完整上下文条件下评估模型,而早期检测作为独立方向虽数量较少,但正在增加,其目标是在部分传播信息可用时实现及时预测。作者强调,若分析单元和检测模式不一致,不同研究间的性能比较往往并不成立。

3.2. Study quality assessment

该节提出本文自定义的S1–S8质量评价量表,用以评估纳入研究的方法学严谨性与可复现性。八项指标涵盖数据划分与泄漏控制、多随机种子方差报告、跨数据集评估、消融实验、数据/代码开放性、基线比较、评价指标清晰度和复现实验细节等。每项采用0–2分制,总分范围为0–16,并据此划分高质量(13–16)、中等质量(9–12)和低质量(≤8)三个层级。作者借助该量表实现对后续综合分析的证据加权,而非简单汇总文献结论。

3.2.1. Study quality: Recurrent strengths and limitations

将量表应用于77项研究后,作者发现高质量研究通常在数据划分、方差报告、跨数据集测试、消融实验和开放复现材料方面表现较好;而中低质量研究则常缺乏多次运行结果、代码开放、显式泄漏控制和跨数据集验证。论文进一步归纳出四类反复出现的局限:随机划分带来的事件级或用户级泄漏风险、域外验证稀缺、多模态缺失与噪声条件下鲁棒性测试不足,以及可解释性评估方法较为单一。该节为后文所有结论设置了证据强度边界。

3.3. Input features and representations

作者将输入特征归纳为文本、视觉、用户和传播四类,并指出文本特征仍是最核心的信息来源,传播结构特征随GNN发展而持续上升,用户特征和视觉特征虽占比较低,但在增强鲁棒性和早期检测上具有特殊价值。该部分的中心观点是,谣言检测模型的性能高度依赖其对语义、结构、行为与多模态一致性的联合表征能力。

3.3.1. Text-based features

文本表示是大多数系统的基础。文章梳理了词汇统计特征、句法结构建模以及上下文化嵌入三条演化路径。TF-IDF与主题建模等传统统计信号在短文本稀疏场景下仍有作用,而BiLSTM和注意力增强序列模型可更好捕获句间关系与篇章结构。近年来,BERT、RoBERTa、GPT-2等上下文化语义嵌入成为主流,并常与LSTM、GCN或事件级聚合机制结合,以增强节点表示和传播树语义表达。作者据此认为,高质量的语义编码几乎是所有架构家族的共同基础。

3.3.2. Visual-based features

视觉信息主要通过跨模态一致性分析增强谣言检测。文中提到,多模态框架借助层级注意力、CLIP式对齐、对比学习和域适应机制,识别图文之间的语义矛盾或篡改痕迹。融合策略包括早期融合、后期融合、仿射融合和基于Transformer的跨模态对齐。虽然纯文本往往已具备较强基线性能,但在视觉操纵、情绪渲染等场景下,多模态对齐能够稳定提升F1并增强鲁棒性。对于短视频谣言,时间同步评论、帧级表示以及音视频文本的因果图建模被视为关键扩展方向。

3.3.3. User-based features

用户特征为内容分析补充了可信度与行为上下文。静态画像特征如认证状态、关注者数量,在传播信息有限的早期检测中尤具价值;动态行为特征则通过用户–帖子关系图、交互模式、情感动态和博弈关系来刻画用户作用。论文指出,用户特征通常并非独立发挥作用,而是在与结构或时序建模结合时最能体现增益,尤其有助于提升早期阶段的谣言识别能力。

3.3.4. Propagation-based features

传播建模是事件级谣言检测的关键优势来源。作者从早期的树结构递归神经网络和双向图卷积网络延展到近年的EBGCN、双GCN、HAGNN、动态传播图和概率树变分自编码器等模型,说明研究重点已从简单建模传播层次转向引入不确定性、高阶结构线索和时序演化模式。进一步地,LLM与图结构的结合标志着新趋势:通过让语言模型提供语义推理能力、图模型提供传播关系建模能力,混合系统在准确率和早期检测方面表现出更强潜力。作者最后归纳三点:上下文化文本嵌入不可或缺;传播建模显著提升事件级和早期检测性能;多模态对齐有助于提升对操纵和域偏移的鲁棒性。

3.4. Deep learning techniques and modeling approaches

该节按照CNN/RNN、GNN/树模型、Transformer/LLM和混合架构四类总结技术路线,并指出当前最值得关注的前沿并非单一模型优势,而是语义建模、传播结构与多模态融合之间的协同设计。

3.4.1. CNN / RNN

CNN、Bi-LSTM、GRU及其组合仍是帖子级分类和图像参与的多模态任务中的强基线。它们擅长抽取局部词汇模式和短程时序依赖,在部分早期检测场景中具有较高计算效率。然而,作者提醒,这类模型在一些研究中的优越性可能受到数据划分方式影响,尤其在缺乏跨数据集验证时,其所谓高性能未必具备广泛可推广性。因此,CNN/RNN更适宜被视为高效而稳健的基线,而非普遍最优解。

3.4.2. GNN and propagation-aware models

当传播级联信息可用时,GNN和树结构模型是事件级任务中的主导架构。高质量研究表明,在采用事件划分或时间划分并辅以消融分析时,传播建模通常优于纯文本基线,原因在于其能够显式捕获级联拓扑、关系依赖和扩散动态。不过,作者也指出,若研究采用随机划分,则传播模型的增益可能被高估。因此,此类模型的应用前提是存在可信的结构信息和严格的评估协议。

3.4.3. Transformer / LLM approaches

预训练Transformer和LLM已成为深层语义推理、少样本迁移和可解释输出的重要工具。它们能够提升对隐含立场、讽刺和复杂上下文的理解,并支持基于提示(prompt)的分类与解释生成。然而在依赖传播与用户信号的事件级基准上,单独依靠LLM并不总能优于显式利用结构信息的方法,而且其计算代价更高,提示设计与评估流程也更容易引入偏差。因此,作者对LLM能力持审慎肯定态度。

3.4.4. Hybrids (LLM–GNN and multimodal fusion)

最有说服力的性能提升来自将语义编码、传播建模和多模态融合有机结合的混合架构。高质量研究通过消融实验、多随机种子统计和跨数据集测试显示,LLM–GNN、知识图谱增强GNN以及视频/图像多模态融合方法,能够比简单模型堆叠更稳定地提高准确率与鲁棒性。与此同时,这些架构也伴随更高复杂度、计算成本及更严格的复现要求。作者因此认为,混合模型是当前最具潜力但也最需方法学自律的研究方向。

3.4.5. Evidence strength and practical guidance

基于质量分层结果,作者提出若干实践建议:当任务是事件级检测且存在可靠传播图时,应优先使用GNN/树模型并采用防泄漏划分;当任务以文本为中心或强调少样本和可解释性时,可优先采用Transformer/LLM编码器,并在必要时接入结构模块;CNN/RNN适合作为帖子级或图像密集任务中的高效基线;若语义推理与扩散结构均重要,则应采用LLM–GNN或多模态混合架构,并配套严格的消融、多次运行与跨数据集评估。该节实质上将技术比较转化为面向任务条件的架构选择框架。

3.5. Evaluation practices and metrics

本节聚焦评价指标、数据划分协议、透明性与鲁棒性测试。作者指出,准确率与F1值是最常见指标,而高质量研究通常还报告宏平均F1、Precision、Recall和曲线下面积,以应对类别不平衡。仅少数研究稳定报告多随机种子均值±标准差,这使得边际性能提升的可靠性常无法判断。更突出的问题是随机划分仍然普遍,容易产生事件泄漏并夸大传播模型效果;相比之下,事件级、时间级和跨数据集评估能提供更可信的泛化证据。论文还发现,公开代码、可解释性分析和对抗/缺失模态鲁棒性评估在多数研究中仍不充分。

3.6. Cross-cutting synthesis by problem dimension

该节按问题维度进行跨研究综合,并以高、中、低质量分层作为证据强度背景。作者借由高质量研究中的聚合结果,系统概括传播建模、多模态融合、早期检测、跨域泛化、可解释性与鲁棒性的主要发现。

3.6.1. Propagation modeling

在62%的研究中,传播建模被证实能增强事件级检测,特别是在传播级联较深、结构信号清晰时更为明显。高质量研究显示,相比纯文本基线,GNN和树注意力架构在事件级且全上下文条件下通常带来约5%–10%的F1提升。不过,这种增益在浅级联、随机划分或跨数据集条件下会减弱,说明其效果依赖于传播信息的充分性及评价协议的严格性。

3.6.2. Multimodal fusion and missing modality

多模态融合在约32%的研究中出现,尤其适用于识别视觉篡改和图文不一致。高质量多模态研究在帖子级和全上下文任务中报告了5%–15%的准确率或F1提升。然而,明确测试缺失模态鲁棒性的研究极少,这意味着当前多模态性能优势可能仍高度依赖理想化基准条件,而对真实部署中视觉或交互信号缺失的适应性尚不充分。

3.6.3. Early detection

早期检测约占38%的研究,核心在于利用部分级联和时间演化特征做出及时判断。高质量时间模型,如时序GNN和阶段采样策略,在保持与全上下文方法相近性能的同时,可将检测延迟降低20%–50%。但由于不同研究对时间截止点、滑动窗口和数据划分方式定义不一,跨研究比较仍较困难,也使早期检测优势带有较强情境依赖性。

3.6.4. Cross-domain generalization

仅约19%的研究开展跨数据集评估,用于考察域外稳健性。高质量工作表明,对比学习、迁移对齐和传播感知混合模型可在未知数据集上保留约5%–10%的F1性能,但多数研究仍停留在单一数据集优化阶段。因此,作者认为当前文献中的大量高分结果更可能是基准适配,而非真正学习到了不变的谣言判别规律。

3.6.5. Explainability and robustness

可解释性在不少研究中有所涉及,但多数仍依赖注意力可视化或定性案例,形式较为初级。更系统的解释方法,如SHAP、流形可视化或LLM生成解释,出现频率相对较低。鲁棒性测试更为薄弱,只有少数研究考察对抗攻击、噪声或缺失模态条件。特别是LLM幻觉、偏差与图结构扰动问题,尚未得到充分系统评估。

3.7. Summary of evidence strength and limitations

该节总结指出,最可信的结论主要来源于总分≥13的高质量研究,这些研究在划分协议、方差报告、跨数据集验证、消融实验和复现材料方面更为完善。整体来看,传播感知混合架构在事件级、早期和跨域场景中最具优势;但随机划分普遍、跨域验证稀缺、缺失模态和鲁棒性测试不足以及数据/代码开放不均衡,仍显著限制了结论的外部效度。作者强调,今后研究需强化标准化时间基准、鲁棒性测试和多语言跨平台评估。

3.8. Challenges and limitations

本节对领域瓶颈进行集中提炼。首先,自动化账户和AI生成内容正在改变传播动力学,使传统依赖扩散模式的判别依据受到干扰。其次,早期检测因级联稀疏、噪声大和结构不稳定而尤为脆弱,现有结果仍受定义和协议差异影响。再次,对抗攻击和分布偏移评估覆盖不足,现有防御方法多只针对局部扰动类型。文章还指出,研究过度集中于少数英文或中文基准,跨语言、跨平台和跨主题泛化能力不足;数据不平衡、数据集老化以及稀疏标注问题持续存在;伦理、公平、隐私和人在回路验证尚未成为主流设计要素;多模态模型在缺失模态和大规模图计算场景下也面临现实部署障碍。作者据此认为,当前很多性能增益仍应被理解为受数据组成、划分方案和评估设计约束的“条件性收益”。

4. Conclusion

结论部分指出,本文填补了2021–2025年谣言检测研究中缺乏质量校准型最新综述的空白。通过对77项研究应用S1–S8量表并实施分层综合,论文得出若干证据支持的判断:其一,研究仍高度依赖Weibo、Twitter15/16和PHEME,很多性能改进具有基准条件性;其二,在严格事件/时间划分下,传播感知模型相较文本基线能稳定提升宏平均F1;其三,多模态融合在若干高质量研究中展现出鲁棒性优势,但缺失模态与对抗条件下的实际韧性尚未充分建立;其四,LLM增强了语义推理与解释生成能力,但在传播敏感任务中,LLM单体并不稳定优于结构感知混合模型;其五,早期检测虽显示出降低延迟的潜力,但评价协议异质性严重。最终,作者强调未来进展更依赖方法学整合而非单纯架构新颖性,包括标准化事件/时间划分、常规多随机种子报告、系统化鲁棒性评测、扩展多语言时间标注基准,以及加强公平性审计和可解释性验证。整体而言,这篇综述通过将经验结果与研究质量挂钩,为今后社交媒体谣言检测的模型设计与基准规范提供了较为审慎且具有操作性的参考框架。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号