基于网络-物理-社会-思维空间融合视角的AI赋能网络欺凌检测：理论、技术与挑战

《Information Fusion》：AI-enabled cyberbullying detection from a cyber-physical-social-thinking space integration perspective: Theories, technologies, and challenges

　　

本文系统化地梳理了基于CPST的网络欺凌检测融合机制；将文献映射到CPST的各个空间、模态、模型、平台和指标上；引入了由证据、状态、行为及结果构成的四级分类体系；提出了文献推导的CPST概念性参考架构；识别了跨空间挑战并制定了CPST研究议程。

引言
数字通信平台（包括社交媒体、在线论坛和即时通讯应用）的迅速普及，从根本上改变了人类互动方式。这些平台虽然促进了连接与信息交流，但也为网络欺凌的滋生和升级提供了温床。网络欺凌是一种通过数字手段实施的普遍性在线攻击行为，其特征为骚扰、恐吓及心理伤害[1,2]。与传统欺凌不同，网络欺凌超越了时间和空间界限，使得受害者随时可能遭受持续且广泛的伤害，且受众范围可覆盖全球。

网络欺凌日益普遍，尤其在青少年和年轻成人中尤为突出，引发了严重关切，因为其可能导致焦虑、抑郁等心理、情绪和社会后果，极端情况下甚至引发自残行为[3,4]。在线平台赋予的匿名性，加之有害内容的快速传播，进一步加剧了此类行为的严重程度和影响。此外，数字通信从简单的文本交互演变为复杂的多元模式格式，包括图像、视频和表情包，为网络欺凌引入了新的维度，使得有害行为越来越难以通过传统的内容检测方法进行发现与遏制。

现有的网络欺凌检测系统主要聚焦于文本分析，利用自然语言处理（NLP）技术识别辱骂性语言、仇恨言论和有毒内容[5]。尽管基于文本的方法取得了显著成效，但在捕捉语境细微差别和隐含意义（包括讽刺、反讽和隐晦语言）方面仍面临困难[6]。近期研究还将网络欺凌检测从文本拓展到包含图像、视频和音频的多模态内容，以及涉及用户行为、社交关系和时间动态的上下文信息[7]。这些进展表明，网络欺凌检测涉及异质信息源，超出了单条消息内容的范畴。

这些维度之间的证据基础仍然不均衡。虚拟空间分析，尤其是文本和多模态内容分析，是研究最为深入、实证评估最为充分的领域[7]。社会空间分析日益纳入互动模式、网络关系和参与度行为，但其与内容检测的整合仍然有限。物理空间信号，包括地理位置、设备相关信息和生理感知，相对未被充分探索[8]。思维空间方法考察了情绪、情感、意图及相关心理特征，但其表示方法和学理基础仍然各异[9]。现有文献为各个维度提供了大量证据，但对于将这些维度全面整合到统一网络欺凌检测框架中的证据仍然有限。

上述观察促使本研究采用网络-物理-社会-思维（CPST）范式作为分析视角，以组织并综合这些异质证据。在本综述中，CPST被用于审视不同信息维度和分析方法如何为网络欺凌检测做出贡献，同时承认各维度实证成熟度的不均衡。在此基础上，本研究提出了文献推导的概念性参考架构，涵盖数据获取、特征表示、信息融合与决策制定。该架构尚未经过实证检测系统的验证，旨在组织现有研究并识别未来跨空间信息融合的机会。

本研究通过网络-物理-社会-思维（CPST）视角审视人工智能赋能的网络欺凌检测。该综述分类体系从四个相互关联的维度组织文献：网络空间、物理空间、社会空间和思维空间。网络空间涵盖数字内容、平台和在线互动；物理空间代表现实世界的上下文因素，如地理位置、设备相关信息和时空信号；社会空间捕捉用户关系、网络结构、社区动态和参与度模式；思维空间代表认知、情绪和心理特征，包括情感、情绪、意图及相关行为因素。该分类体系用于刻画这些维度中报告的证据类型和成熟度，以及它们在现有网络欺凌研究中的相互关系。

本综述还考察了与这些CPST维度相关的AI技术、数据模态、数据集、平台和评估实践，包括多模态学习、社会网络分析、情感计算和信息融合技术。该分析为比较单空间、多模态及新兴跨空间方法的能力、局限性和证据成熟度提供了依据。

基于综合证据，本研究构建了一个CPST概念性参考架构，将异质信息源、特征表示、融合策略和决策过程组织成一个潜在的一体化检测流程。该架构与综述分类体系不同：分类体系描述并组织了现有证据，而架构则将综合发现转化为未来研究的概念结构。该架构并非以经验证系统或单空间方法性能优越性的证据呈现。CPST视角总体说明见图1。

日益增长的综述文献从不同角度考察了网络欺凌检测，包括机器学习、深度学习、自然语言处理、多模态分析、大语言模型和低资源语言处理。这些综述在数据集、计算方法、模态和上下文因素的范围和重点上各不相同。

早期综述主要研究文本网络欺凌检测和传统机器学习方法，而近期研究则考虑了更广泛的计算方法。例如，Philipo等人对网络欺凌检测的数据集、模型和评估指标进行了系统综述，突出了类别不平衡、特征表示和上下文理解方面的挑战[10]。Mazhar等人及Fitro等人研究了涉及文本、图像和视频的多模态方法[11,12]。Butt等人考察了大语言模型（LLM）在网络欺凌预测和检测中的应用[13]，而Hoque等人则聚焦于面向低资源语言的Transformer方法[14]。

其他综述还涉及网络欺凌检测的特定方法和上下文方面。Cuzzocrea等人研究了深度学习架构和多语言数据增强[15]，而Mohiuddin等人考虑了网络欺凌检测中的文化和上下文因素[16]。Teng等人及Sultan等人对机器学习流程和分类技术提供了结构化分析[17,18]。Hussein和Aleqabie对现有网络欺凌检测方法提供了简明概述[19]。这些综述为理解数据集、模态、计算方法和网络欺凌检测中的上下文因素奠定了重要基础。它们的范围和侧重点在表1中进行了比较。在这些研究基础上，本综述按照网络-物理-社会-思维（CPST）维度组织文献，并考察其关系、信息融合机制和研究特征。

本研究的主要贡献总结如下：

1. 提供网络、物理、社会、思维维度上AI赋能网络欺凌检测研究的系统化融合机制分类体系，根据信息源、分析角色及跨空间信息融合机制组织所报告的方法。

2. 建立纳入研究的网络欺凌检测研究的定量和描述性全景图，根据CPST空间覆盖度、模态、模型族、发表年份、发表来源、社交媒体平台、数据集特征和评估指标刻划文献情况。

3. 发展一个四级概念分类体系，将网络欺凌相关信息组织为可观察证据、潜在状态、行为和结果，从而为将异质信号与网络欺凌检测相关联及跨CPST维度的推理提供结构化基础。

4. 综合CPST概念性参考架构，组织异质数据源、特征表示、信息融合策略和决策过程，用于多维网络欺凌检测。该架构由文献推导而成，属于概念性架构，旨在组织现有证据并识别未来跨空间信息融合的机会，而非表示经验证的检测系统。

5. 识别跨空间数据集成、信息融合、隐私、可解释性、鲁棒性和评估等方面的关键挑战与研究空白，并建立面向未来研究的CPST研究议程。

本文结构如下：第2节介绍研究方法，包括基于PRISMA指南的系统综述流程。第3节提供与网络欺凌和CPST范式相关的背景和基本概念。第4节呈现网络欺凌在网络、物理、社会、思维空间的解构。第5节综述赋能CPST空间整合的AI技术。第6节呈现网络欺凌检测的CPST概念性参考架构。第7节讨论数据集、评估指标和基准测试视角。第8节考察关键技术挑战，包括技术、伦理和部署问题，并提出建议及未来研究方向。最后，第9节对全文进行总结。

各章节概要
开展系统综述与定性综合的流程
本节概述了按照PRISMA 2020指南[20]进行系统综述的完整流程。该方法学通过为研究选择、数据提取和质量评估制定明确定义的方案，确保透明度、可重复性和最大限度减少偏倚。

背景与基本概念
本节为通过网络-物理-社会-思维（CPST）视角分析网络欺凌奠定概念基础。它定义了CPST的四个空间作为上下文域，并阐明其在组织网络欺凌相关证据中的作用。在这些空间内，综述区分了可观察证据源、推断的潜在状态、有害行为和不良结果。这种区分对于物理空间和思维空间尤为重要，因为在这些空间中...

网络欺凌的解构
本节在四个CPST空间维度下分析所综述的文献，考察网络欺凌的多维表现及与网络、物理、社会、思维维度相关的证据。尽管网络欺凌传统上被视为发生在数字平台上的行为，但仅从网络空间视角分析可能会忽略与其表达和后果相关的上下文、关系和心理因素。CPST视角是...

赋能CPST空间整合用于网络欺凌检测的AI技术
本节综述了赋能CPST空间内部及跨空间分析的关键AI技术，突出了它们的数据来源、角色、能力和局限性。这些技术在表2中进行了总结。此外，图4提供了CPST空间与相应AI技术之间的结构化映射，说明不同技术如何促进跨空间整合。

CPST网络欺凌检测概念性参考架构
本节呈现了一个CPST概念性参考架构用于网络欺凌检测，系统整合了网络、物理、社会、思维空间。所提出的架构是一个通过现有文献系统综合开发的理论推导架构模型。它旨在通过使异质数据源、特征表示和决策机制之间进行交互来捕捉网络欺凌的多维特性...

数据集、指标和基准测试
本节批判性地审视现有数据集，识别其在表征CPST空间方面的局限性，提出CPST基准测试视角，并对单空间模型与集成模型进行比较分析。

挑战、建议与未来研究方向
本节概述了推动下一代网络欺凌检测和干预系统发展的挑战、建议和关键研究方向。

结论
网络欺凌已演变为一种复杂的多维现象，超越了孤立的文本交互，涵盖相互关联的数字、社会和心理维度。传统检测方法主要依赖单空间分析，仍不足以捕捉这些复杂性。本系统综述通过网络-物理-社会-思维（CPST）视角审视AI赋能的网络欺凌检测，解决了这一局限...

CRediT作者贡献声明
Adamu Gaston Philipo：写作—审阅与编辑，写作—初稿撰写，可视化，验证，资源，项目管理，方法论，调查研究，形式分析，数据管理，概念化。Jianguo Ding：写作—审阅与编辑，写作—初稿撰写，可视化，验证，指导，资源，项目管理，方法论，调查研究，形式分析，数据管理，概念化。Doreen Sebastian Sarwatt：写作—审阅与编辑，

Adamu Gaston Philipo | Jianguo Ding | Doreen Sebastian Sarwatt | Huansheng Ning