结合GUIDE和NOTICE的社交网络中异常文本信息检测方法

《Journal of Cyber Security and Mobility》：Detection Method of Abnormal Text Information in Social Networks Integrating GUIDE and NOTICE

异常文本检测通过GUIDE-NOTICE融合框架实现，GUIDE动态建模捕获传播拓扑异常，NOTICE多语言本体结合深度语义识别文本风险，双注意力机制协同验证。实验在ZN Lab数据集（含Twitter、Weibo等平台）上F1达88.3%-91.2%，较基线提升5.5-17.8个百分点，部署日均处理230亿内容准确率89.4%，减少43%人工审核，资源消耗稳定（645MB内存，76ms响应）。

　　

摘要：

在社交网络中，异常文本信息的传播已成为数字社会治理面临的一个重要挑战。传统的检测方法由于过度依赖一维分析，无法应对日益复杂的语义伪装和传播策略。因此，本研究开发了一种用于检测社交网络中异常文本信息的检测方法，该方法结合了基于图的用户交互与传播评估（GUIDE）模块和自然语言本体驱动的文本异常分类引擎（NOTICE）模块。GUIDE模块通过动态传播跟踪和网络建模来捕捉异常传播模式，而NOTICE模块则利用多语言本体库和深度语义理解来识别语义风险。通过双注意力融合机制结合结构和语义分析，该框架能够同时检测语义异常和传播拓扑异常，从而提高检测的准确性和实用性。实验结果表明，该框架在检测假新闻、垃圾广告和仇恨言论方面的F1分数分别为91.2%、89.7%和88.3%，比最优基线模型高出5.5%至17.8%。这些评估是在ZN Lab提供的包含来自Twitter和Weibo等主要平台真实样本的综合性数据集上进行的。在实际部署中，该系统每天处理2.3亿条内容时仍能保持89.4%的准确率，并将人工审核工作减少了43%。在资源消耗方面，内存使用量稳定在645MB，响应时间为76毫秒，明显优于传统模型。上述结果表明，所提出的模型在检测社交网络中的异常文本信息方面具有出色的准确性和适用性，有效解决了准确性和可靠性不足的问题...

显示更多

1 背景

随着社交媒体的爆炸性增长，社交网络中的异常文本信息已成为数字社会治理面临的主要挑战[1]。据统计，全球社交平台每天新增超过1亿条异常文本，对在线生态系统的安全构成了严重威胁[2]。有效检测此类信息对于维护社交网络的健康和发展至关重要。目前主流的方法主要分为两类：一类是基于深度学习的语义分析，另一类是基于图神经网络的结构分析。然而，这两类方法都存在一维性的局限性：语义模型难以捕捉传播拓扑中的异常，而结构模型无法深入理解文本风险[3]。在社交网络中检测异常文本信息主要围绕两个方面：准确捕捉异常传播的结构特征和有效识别文本内容的潜在风险。通过分析网络模型，基于图的用户交互与传播评估（GUIDE）模块可以有效地识别信息传播中的异常结构模式；而基于多语言本体库和深度语义理解的自然语言本体驱动的文本异常分类引擎（NOTICE）模块可以有效地识别文本内容中的潜在风险[4]、[5]。将GUIDE和NOTICE结合起来的理由在于它们之间的互补性。在社交网络中，异常信息通常表现出双重性：它可能通过语义伪装来规避基于内容的过滤，或者以看似正常的结构异常模式进行传播。GUIDE模块擅长通过建模用户交互网络和传播路径来检测后者，但可能会被伪装得很好的文本所迷惑；相反，NOTICE模块擅长通过深度本体驱动的理解来穿透语义伪装，但可能会错过通过微妙、协调的行为传播的内容，而不是那些明显有害的语言。通过将它们结合起来，该框架实现了跨领域的验证：GUIDE识别的结构异常为NOTICE提出的语义怀疑提供了上下文支持，反之亦然。这种协同作用创造了一个更加强大和全面的检测系统，其效果优于各部分之和。为了解决已识别的研究空白并利用结构和语义分析的互补优势，本研究旨在实现以下目标：(1) 设计并实现一个新颖的、深度集成的GUIDE-NOTICE融合框架，以实现实时、协作的传播拓扑和文本语义分析。(2) 在框架内开发一种双注意力机制，能够动态量化并融合来自结构和语义视角的异常证据。(3) 在多个社交网络平台和异常内容类型（例如假新闻、仇恨言论）上，对所提出的框架进行实证评估，与最先进的基线模型进行对比。(4) 从检测准确性、计算效率和泛化能力等方面验证系统的实际适用性和可扩展性。因此，本研究旨在应对检测社交网络中日益复杂和隐蔽的异常文本信息的挑战。该研究构建了一个集成GUIDE和NOTICE的检测框架。通过结合GUIDE模块的传播结构异常分析能力和NOTICE模块的深度语义理解能力，可以实现更全面的文本分析方法。这种集成方法能够更准确、更可靠地识别异常文本，从而提高检测准确性，减少人工审核负担，并提升系统在实际大规模环境中的可用性。尽管现有的混合模型（如TextGCN-BERT和HAN）已经展示了结合结构和语义信息的价值，但所提出的GUIDE-NOTICE框架引入了几项关键的算法和概念创新：(1) 原生协同设计 vs. 事后融合：与顺序组合预训练的GNN和BERT模型（例如，在GNN中使用BERT嵌入作为节点特征）的方法不同，GUIDE和NOTICE是从底层共同设计的。它们具有双注意力机制，可以实现结构和语义分析之间的实时双向信息交换，而不仅仅是简单连接它们的输出。(2) 动态传播建模：虽然像HAN这样的模型能够捕捉静态图结构，但GUIDE特别实现了动态传播跟踪，能够模拟信息传播的时间演变。这使得能够检测到静态图快照无法发现的传播模式中的异常。(3) 本体驱动的语义理解：NOTICE通过结合多语言本体库和基于规则的深度验证，超越了标准的BERT嵌入。这使得文本能够被细粒度地分类到预定义的异常类别中，并且本体可以动态更新以适应新出现的威胁。(4) 跨模态证据强化：融合机制明确模拟了结构和语义证据之间的相互强化。GUIDE检测到的可疑传播模式可以触发更深层次的语义分析，而NOTICE标记的语义风险内容可以促使重新检查其传播路径，从而产生协同检测效果。

1 背景

随着社交媒体的迅速发展，社交网络中的异常文本信息已成为数字社会治理面临的主要挑战[1]。据统计，全球社交平台每天新增超过1亿条异常文本，对在线生态系统的安全构成了严重威胁[2]。有效检测此类信息对于维护社交网络的健康和发展至关重要。当前主流的方法主要分为两类：一类是基于深度学习的语义分析，另一类是基于图神经网络的结构分析。然而，这两类方法都存在一维性的局限性：语义模型难以捕捉传播拓扑中的异常，结构模型无法深入理解文本风险[3]。在社交网络中检测异常文本信息主要围绕两个方面：准确捕捉异常传播的结构特征和有效识别文本内容的潜在风险。通过分析网络模型，基于图的用户交互与传播评估（GUIDE）模块可以有效地识别信息传播中的异常结构模式；而基于多语言本体库和深度语义理解的自然语言本体驱动的文本异常分类引擎（NOTICE）模块可以有效地识别文本内容中的潜在风险[4]、[5]。将GUIDE和NOTICE结合起来的理由在于它们之间的互补性。在社交网络中，异常信息往往具有双重性：它可能通过语义伪装来规避基于内容的过滤，或者以看似正常的结构异常模式进行传播。GUIDE模块擅长通过建模用户交互网络和传播路径来检测后者，但可能会被伪装得很好的文本所迷惑；相反，NOTICE模块擅长通过深度本体驱动的理解来穿透语义伪装，但可能会错过通过微妙、协调的行为传播的内容，而不是那些明显有害的语言。通过将它们结合起来，该框架实现了跨领域的验证：GUIDE识别的结构异常为NOTICE提出的语义怀疑提供了上下文支持，反之亦然。这种协同作用创造了一个更加强大和全面的检测系统，其效果超过了各部分之和。为了填补已识别的研究空白并利用结构和语义分析的互补优势，本研究旨在实现以下目标：(1) 设计并实现一个新颖的、深度集成的GUIDE-NOTICE融合框架，以实现实时、协作的传播拓扑和文本语义分析。(2) 在框架内开发一种双注意力机制，能够动态量化并融合来自结构和语义视角的异常证据。(3) 在多个社交网络平台和异常内容类型（例如假新闻、仇恨言论）上，对所提出的框架进行实证评估，与最先进的基线模型进行对比。(4) 从检测准确性、计算效率和泛化能力等方面验证系统的实际适用性和可扩展性。因此，本研究旨在应对检测社交网络中日益复杂和隐蔽的异常文本信息的挑战。该研究构建了一个集成GUIDE和NOTICE的检测框架。通过结合GUIDE模块的传播结构异常分析能力和NOTICE模块的深度语义理解能力，可以实现更全面的文本分析方法。这种集成方法能够更准确、更可靠地识别异常文本，从而提高检测准确性，减少人工审核负担，并提升系统在实际大规模环境中的可用性。虽然现有的混合模型（如TextGCN-BERT和HAN）已经展示了结合结构和语义信息的价值，但所提出的GUIDE-NOTICE框架引入了几项关键的算法和概念创新：(1) 原生协同设计 vs. 事后融合：与顺序组合预训练的GNN和BERT模型（例如，在GNN中使用BERT嵌入作为节点特征）的方法不同，GUIDE和NOTICE是从底层共同设计的。它们具有双注意力机制，可以实现结构和语义分析之间的实时双向信息交换，而不仅仅是简单连接它们的输出。(2) 动态传播建模：虽然像HAN这样的模型能够捕捉静态图结构，但GUIDE特别实现了动态传播跟踪，能够模拟信息传播的时间演变。这使得能够检测到静态图快照无法发现的传播模式中的异常。(3) 本体驱动的语义理解：NOTICE通过结合多语言本体库和基于规则的深度验证，超越了标准的BERT嵌入。这使得文本能够被细粒度地分类到预定义的异常类别中，并且本体可以动态更新以适应新出现的威胁。(4) 跨模态证据强化：融合机制明确模拟了结构和语义证据之间的相互强化。GUIDE检测到的可疑传播模式可以触发更深层次的语义分析，而NOTICE标记的语义风险内容可以促使重新检查其传播路径，从而产生协同检测效果。