面向社交媒体谣言检测的基于多特征图(Multi-feature Graph)与对比学习(Contrastive Learning)的方法

《Machine Learning with Applications》:Multi-feature graphs and contrastive learning for rumor detection on social media

【字体: 大 中 小 】 时间:2026年03月24日 来源:Machine Learning with Applications 6.1

编辑推荐:

  摘要:社交媒体平台上充斥着谣言文本,若未得到及时遏制,可能导致虚假信息的广泛传播。传统谣言检测方法通常依赖文本图(Text Graph),但无法捕捉一词多义现象,且难以应对社交媒体内容非正式、富含俚语的特点。为解决上述挑战,研究人员提出一种新颖的基于多特征图(

  
摘要:社交媒体平台上充斥着谣言文本,若未得到及时遏制,可能导致虚假信息的广泛传播。传统谣言检测方法通常依赖文本图(Text Graph),但无法捕捉一词多义现象,且难以应对社交媒体内容非正式、富含俚语的特点。为解决上述挑战,研究人员提出一种新颖的基于多特征图(Multi-feature Graph)的社交媒体谣言检测模型。具体而言,研究人员构建了四种互补的图结构:原始文本共现(Co-occurrence, CO)图、词性标注(Part-of-Speech, POS)图、命名实体(Named Entity, NE)图和语义依存(Semantic Dependency, SD)图。为有效融合这些异构图,研究人员设计了一种基于门控多层感知机(Gated Multi-Layer Perceptron, GMLP)的融合机制,可自适应地聚合各图中显著特征。此外,为增强模型的判别能力,研究人员引入聚类驱动对比学习(Cluster-driven Contrastive Learning)策略,促使相似谣言的特征在表示空间中更接近,不相似的谣言特征相互远离,实现语义相似谣言的自动聚类。在三个广泛使用的谣言检测数据集上的大量实验表明,该模型取得了优越性能,即便仅使用1%的数据进行训练,其准确率(Accuracy)也显著优于现有基线方法。
《Multi-feature graphs and contrastive learning for rumor detection on social media》论文解读
该研究发表于《Machine Learning with Applications》。随着社交媒体平台的快速发展,信息传播的便捷性也导致了谣言与虚假信息的泛滥,对公共安全与社会稳定造成威胁,因此社交媒体谣言检测成为自然语言处理与社会计算的重要课题。现有谣言检测方法主要分为三类:基于启发式规则的传统机器学习方法(如SVM)、基于序列的深度神经网络方法(如Bidirectional Encoder Representations from Transformers, BERT)以及基于图的模型(如Text Graph Convolutional Network, TextGCN;Heterogeneous Graph Attention Network, HGAN)。传统方法泛化能力差,深度序列模型忽略词句间的结构依赖关系,而现有图模型通常仅构建单一文本图(基于共现或依存关系),假设每个词具有固定含义,难以处理社交媒体文本中常见的一词多义及非正式表达(俚语、缩写、拼写错误),且多采用简单特征融合策略,易引入噪声。为此,研究人员提出MG-CL(Multi-feature Graphs and Contrastive Learning)模型,通过构建多视角异构图全面捕获文本语言学特征,采用门控融合机制自适应整合异构视图,并结合聚类引导对比学习增强低资源下的表示判别力。实验证明该方法在极低标注数据下仍优于现有基线,具有重要的理论与应用价值。
研究人员采用的关键技术方法如下:使用哈工大LTP(Language Technology Platform)工具包对中文微博文本进行词性标注(POS)、命名实体识别(NE)及语义依存分析(SD);为每个文档构建四类异构图——原始文本共现(CO)图(词节点+文档节点,词-词边由滑动窗口内点互信息Pointwise Mutual Information, PMI>0保留,文档-词边权重为TF-IDF)、POS图(节点为(词,词性标签)二元组)、NE图(节点为(词,实体类型)二元组)、SD图(节点为(词,依存标签)二元组);分别使用独立参数的两层Graph Convolution Layer(GCL, 基于GCN架构,激活函数为Mish)编码四图,文档节点初始化为RoBERTaChinese-base的[CLS]向量,词节点初始化为对应视图词汇One-hot编码;以POS视图嵌入为基础表示,通过Gated MLP(GMLP)顺序融合并行编码的CO、NE、SD视图嵌入(门控值由Sigmoid激活的轻量MLP产生);采用RoBERTa初步分类生成高置信度伪标签进行聚类引导对比学习(Cluster-Guided Contrastive Learning, CGCL),对比损失与有监督交叉熵损失联合优化(平衡系数α=0.9);最终将图路径解码GCL层输出与RoBERTa直接分类输出按权重m=0.6加权融合预测。实验在三个中文微博谣言数据集Weibo21、Weibo20、CHECKED上进行,低资源设定为训练集仅取1%(CHECKED取5%),对比SVM、KNN、TextCNN、BiLSTM、TextGCN、RoBERTa、RoBERTaGCN、GMVCN、SMGaDTP、ACLR等基线。
研究结果
4.1 Datasets
研究人员选用Weibo21(6362条,均衡)、Weibo20(6068条,均衡)、CHECKED(2104条,COVID-19相关,不均衡)三个中文微博谣言数据集。为验证低资源鲁棒性,Weibo20与Weibo21仅随机抽取1%训练验证样本(各约38–43条),CHECKED抽取5%(85条),全量测试集保持不变。统计显示各视图术语节点数差异明显,NE图节点最少,SD图节点最多。
4.2 Baselines
对比基线涵盖传统机器学习(SVM、KNN)、深度学习序列模型(TextCNN、BiLSTM)、单图模型(TextGCN)、预训练语言模型(RoBERTa、RoBERTaGCN)及近期多视图或对比学习模型(GMVCN、SMGaDTP、ACLR),以全面评估MG-CL优势。
4.3 Implementation details
RoBERTa隐藏层维度dh=1024,GCL隐藏层200、两层、Mish激活,对比损失温度τ=0.5,α=0.9,联合预测权重m=0.6,伪标签置信度阈值γ=0.9,PMISliding Window w=20,AdamW优化器(RoBERTa参数学习率1×10?5,其余1×10?3),Batch Size 32,早停Patience=10。
4.4 Overall performance
MG-CL在三个数据集上Accuracy与F1均最优且具统计显著性(p<0.05)。Weibo21上较最强基线ACLR提升约+1.7% Acc.,较RoBERTaGCN提升+2.7% Acc.;CHECKED上Accuracy达93.45%。证明多特征图结构、门控融合与聚类引导对比学习的协同作用使模型在低资源及噪声环境下具强判别力,双通路(图+RoBERTa)联合预测进一步互补增强。
4.5 Ablation study
  • •
    4.5.1 Effectiveness of multi-feature graphs:去除任一图视图均导致性能下降,(w/ CO only)弱于完整模型但优于无图RoBERTa基线,证实四图提供互补信息且POS为最关键基础视图(去除POS降幅最大)。
  • •
    4.5.2 Effectiveness of the gated MLP fusion:简单拼接(Concatenation)、平均(Averaging)、相加(Addition)或自注意力(Attention)融合均不及GMLP,表明门控机制能自适应抑制噪声视图信号、强化关键信息。
  • •
    4.5.3 Effectiveness of cluster-guided contrastive learning:去除对比学习(w/o CL)性能降低;KMeans或高斯混合模型(Gaussian Mixture Model, GMM)生成伪标签效果次于研究人员提出的基于RoBERTa高置信度伪标签的聚类引导策略,说明动态伪标签细化有助于类内紧凑与类间分离。
4.6 Hyperparameter analysis
  • •
    4.6.1 Impact of joint prediction factor m:m∈[0.1,1.0],当m=0.6时Accuracy与F1最高,说明图路径与RoBERTa路径均衡贡献最优。
  • •
    4.6.2 Impact of contrastive learning weight α:α∈[0.1,1.0],α=0.9时性能最佳,过小对比正则不足,过大干扰主分类任务。
4.7 Training time analysis
MG-CL每Epoch训练时间(CHECKED集,NVIDIA RTX 4090D)为2.89秒,高于单图或仅序列模型,主要来自四异构图并行编码与CGCL计算;去除各模块时间相应减少,计算开销与性能提升匹配。
讨论与结论翻译
研究人员提出了MG-CL模型,通过构建CO、POS、NE、SD四种互补异构图全面表征谣言文本的词汇、句法及语义结构,设计基于门控多层感知机(GMLP)的自适应融合机制选择性整合异构视图特征,并提出聚类引导对比学习策略利用伪标签拉近同类样本、推远异类样本,特别增强低资源场景下的判别力。在三个公开数据集上的大量实验表明MG-CL达到最先进性能,显著优于多种基线方法;消融研究证实多特征图构建、GMLP融合及聚类引导对比学习各模块均不可或缺;超参数分析显示模型具鲁棒性且在均衡组件贡献时表现最优。未来研究方向包括将用户级与传播级特征融入多特征图框架,以及将聚类引导对比学习扩展至无监督或半监督场景以进一步缓解标注数据稀缺问题。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号