《Electronics》:SIFTNet: Structure-Guided Iterative Fusion with a Transformer Network for Fake News Detection
编辑推荐:
假新闻检测(Fake News Detection)对于保护社交媒体用户及维护可靠的新闻生态至关重要。然而,现有方法主要依赖上下文信息与传播结构,未考虑框架理论(Framing Theory)视角下的新闻文本自身写作意图与组织逻辑所隐含的真实性判别线索。鉴于新
假新闻检测(Fake News Detection)对于保护社交媒体用户及维护可靠的新闻生态至关重要。然而,现有方法主要依赖上下文信息与传播结构,未考虑框架理论(Framing Theory)视角下的新闻文本自身写作意图与组织逻辑所隐含的真实性判别线索。鉴于新闻是一种高度结构化的体裁,其语篇框架(Discourse Frame)蕴含写作意图与组织逻辑,可为真实性核验提供重要依据。本文提出基于Transformer网络的结构引导迭代融合假新闻检测模型——SIFTNet(Structure-Guided Iterative Fusion with a Transformer Network for Fake News Detection),包含四个模块:结构标签生成器(Structural Label Generator)、信息架构表征模块(Information Architecture Representation Module)、结构增强表征模块(Structure-Enhanced Representation Module)及结构引导迭代融合模块(Structure-Guided Iterative Fusion Module)。在框架理论指导下,SIFTNet同时捕获局部句级语义与全局结构层级语义。充分实验表明,该模型在中英文数据集上均达到当前最优(State-of-the-Art, SOTA)性能,具备优越的有效性与鲁棒性,验证了应用框架理论提升虚假信息检测的有效性。
论文解读:SIFTNet——基于框架理论引导的Transformer网络结构化迭代融合假新闻检测方法
一、研究背景与立项依据
传统假新闻检测(Fake News Detection)研究多聚焦于文本的词法、语义特征建模及社交网络中的传播结构(Propagation Structure)特征融合,常用预训练语言模型(Pretrained Language Model, PLM)如BERT、DeBERTa-v3等进行单文本语义编码,并引入图神经网络(Graph Neural Network, GNN)建模传播关系。然而,既有方法普遍忽视新闻作为一种高度结构化体裁(Genre)所特有的叙事框架(Narrative Frame)与写作组织逻辑——即框架理论(Framing Theory, Entman, 1993)所指出的媒体选择性呈现与限定叙事的方式。虚假新闻的欺骗性常源于对信息组织、叙事逻辑与结构排布的操纵而非单纯事实捏造,不同新闻结构类型(如倒金字塔Inverted Pyramid、金字塔Pyramid、沙漏Hourglass等)反映特定的信息组织意图与传播动机。将框架结构标签引入检测模型可使编码器感知深层语篇组织策略与文本连贯性,从而弥补纯语义方法的不足并提升可解释性。基于此,研究人员提出SIFTNet模型,在中英文公开数据集Twitter(X)与Weibo21上验证引入新闻框架结构特征对假新闻检测精度与鲁棒性的提升作用。该论文发表于《Electronics》。
二、主要关键技术方法
研究人员选用Twitter(X)(英文,11766条,假7207/真4559)与Weibo21(中文,9128条,假4640/真4488)数据集,按8:2随机划分并采用类别分层划分验证,使用五种随机种子重复实验。(1)提示驱动结构标签生成器(Prompt-Driven Structural Label Generator):以Qwen2.5构建中英文Prompt,零样本自动标注英文10种、中文6种新闻结构类型,低温解码(temperature=0.1, top_p=0.9, max_new_tokens=50),并由新闻传播学研究生三人独立人工校正(Fleiss' κ=0.847/0.863),推理阶段直接使用LLM标注无需人工校正。(2)信息架构表征模块(Information Architecture Representation Module):将文本按3句滑动窗口(步长2)切分为语义单元,提取命名实体与数值表达式作为显著信息片段,计算信息流概率分布、层次复杂度(熵ComplexityH)、冗余度(RedundancyR)、位置新颖性(Positional NoveltyN)与结构完整性(IntegrityI,含核心事实判定),Min-Max归一化后拼接为四维架构特征向量。(3)结构增强表征模块(Structure-Enhanced Representation Module):为结构类别构建可学习嵌入矩阵Es∈?|C|×d(|C|为结构类别数),经线性投影对齐DeBERTa-v3隐层空间,与四维数值特征拼接扩展为结构上下文向量,参与结构感知注意力(Structure-Aware Attention)。(4)结构引导迭代融合模块(Structure-Guided Iterative Fusion Module):以结构上下文为Query引导多头(4头)结构感知注意力与token级语义表示交互,经残差连接、层归一化(Layer Normalization)及两层前馈网络(GELU激活)进行T轮迭代融合,最终取[CLS]向量经全连接层分类。基线包括SVM-TS、GRU、CNN、FCN-LP、MDG、DG及同条件DeBERTa-v3文本仅基线,评估指标为准确率(Accuracy, Acc.)、精确率(Precision, P.)、召回率(Recall, R.)与F1值(F1),配对t检验(p<0.05)验证显著性。
三、研究结果
4.1 实验设计(Experimental Design)
4.1.1 数据集与评估指标(Datasets and Evaluation Metrics)
采用Twitter(X)与Weibo21数据集,随机80%/20%切分及类别分层切分,五随机种子重复实验取均值±标准差,配对t检验验证显著性。半自动标注方法结合LLM Prompt标注与人工校正,具零样本泛化能力。
4.1.2 实验设置(Experimental Settings)
以DeBERTa-v3提取1024维语义特征,4头注意力(隐层1024),层归一化;训练10轮,Batch Size=16,初始学习率3×10?5,Warm-up比例10%,每50步评估,开启FP16混合精度;五随机种子重复。
4.1.3 基线模型(Baselines)
选取SVM-TS、GRU-based、CNN-based、FCN-LP、MDG、DG及DeBERTa-v3文本仅基线(相同编码器、超参、数据切分、种子但不含结构模块)作对照。
4.1.4 实验结果(Experimental Results)
SIFTNet在Twitter(X)上Accuracy达95.87±0.24,较DeBERTa-v3基线(92.67±0.31)提升3.20%;在Weibo21上达94.52±0.22,较基线(92.54±0.28)提升1.98%,所有基线对比差异显著(p<0.05)。证明性能增益来源于所提结构引导迭代融合机制而非仅DeBERTa-v3编码器能力,新闻文本结构模式对检测具有显著贡献。
4.2 消融实验(Ablation Experiment)
依次移除结构标签、赋予随机结构标签、打乱真实结构标签、统一赋予同一结构标签及移除各架构细粒度特征(复杂度、冗余度、新颖性、完整性)。结果表明:(1)结构特征使Weibo21平均Accuracy提升约2.3%,Twitter(X)提升约4.3%;(2)模型对结构标签质量敏感,错误标签尤在英文集致性能下降;(3)缺失结构特征比含噪结构信息损害更大;(4)英文新闻结构更标准化故结构特征贡献更大;(5)性能排序:真实标签>打乱标签≈统一标签>随机标签,随机标签降幅最大,证实模型利用的是真实结构与文本的对应关系而非标签伪相关。
4.3 鲁棒性测试(Robustness Testing)
注入高斯噪声及七种现实扰动:释义改写(Paraphrasing)、句序重排(Sentence Reordering)、首段/首句删除(Lead Removal)、标题–正文不匹配(Title–Body Mismatch,仅Weibo21)、情绪句插入(Emotional Sentence Insertion)、字符级拼写噪声(Typographical Noise)、对抗性框架标签篡改(Adversarial Framing Change)。SIFTNet在大多数扰动下维持稳健表现,释义与拼写噪声致Accuracy降幅<1%;最大降幅来自首段删除(Twitter/X ?3.10%、Weibo21 ?2.22%)与对抗框架篡改(Twitter/X ?2.78%),符合模型对结构线索的依赖预期;句序重排与情绪插入致中度降幅(1.5%–2.0%),说明结构连贯性与情绪中性非唯一决定因素但仍重要。
4.4 定性分析(Qualitative Analysis)
通过英文假推文(金字塔结构)与中文假新闻(故事结构)案例分析,SIFTNet注意力热力图显示结构引导下注意力聚焦至结论暗示处或叙事转折点,而DeBERTa-v3基线注意力分散。误判案例分析显示当结构标签生成器将倒金字塔误标为故事结构时,模型错误寻找不存在的叙事转折导致误判,说明准确结构标注的重要性及当前局限。整体表明结构引导使模型捕捉深层组织逻辑而非仅表层语言特征,不同语言与结构类型影响各异,错误结构信息可通过注意力机制引入系统性偏差。
4.5 跨语言讨论(Cross Language Discussion)
英文结构类型10种、中文6种,源于不同新闻学研究传统;结构嵌入矩阵Es维度随|C|变化,按语言分别训练,模型架构语言无关仅结构标签与嵌入语言相关。结构特征对英文贡献更大(+4.3% vs +2.3% Accuracy),归因于英文新闻写作组织模式更标准化刚性,中文更灵活降低结构特征区分度,但两数据集一致提升验证框架理论的普适性。
四、讨论与结论翻译
研究人员指出当前工作局限包括:结构标签人工校正影响实时扩展性(未校正LLM标签仅致约0.9%精度下降);仅评估两个数据集未来需拓展至多语言多数据集;结构类型学具语言特异性跨语言结构迁移仍待解决;对抗性框架标签篡改致明显性能下降说明对结构标签噪声鲁棒性可进一步提升。
结论翻译如下:
本文提出SIFTNet模型,其核心思想是将结构标签编码为嵌入向量,引导语言模型进行内部结构迭代与融合,最终形成具备组织结构感知能力的语义表示,从而填补现有模型结构感知能力的空白。在附加新闻框架标签的Twitter(X)与Weibo21两个公开数据集上的多项实验表明该模型具有较高有效性。SIFTNet框架可用于假新闻检测并能动态嵌入不同语言的结构信息。在框架理论指导下,SIFTNet同时捕获局部句级与全局结构级语义,展现出优异的准确率与鲁棒性。