《Intelligent Systems with Applications》：Early discovery of cyberbullying incidents in multiparty Chinese-English code-mixed colloquial dialogue: A generative AI approach
编辑推荐：
各种机器学习模型已被用于检测社交媒体平台上的攻击性言论和网络霸凌事件。既有研究尚未处理在同一时间应对长篇社交媒体会话的适用性问题，这主要受限于早期自然语言处理（NLP）模型较短的内容窗口与技术限制。此外，部分研究聚焦于内容分类，却未处理相关施害者与受害者的识别
各种机器学习模型已被用于检测社交媒体平台上的攻击性言论和网络霸凌事件。既有研究尚未处理在同一时间应对长篇社交媒体会话的适用性问题，这主要受限于早期自然语言处理（NLP）模型较短的内容窗口与技术限制。此外，部分研究聚焦于内容分类，却未处理相关施害者与受害者的识别，而这些因素是判定网络霸凌严重程度的重要组成部分。本文引入一种受害者—施害者—类别关联建模方法，并考察近年来发展的长上下文长度大语言模型在网络霸凌事件早期检测任务中的实际应用。研究人员设计了带有适当停止短语的定制化提示模板，以显式建模受害者与施害者之间的关联，从而能够更准确地预测网络霸凌事件的发生。研究人员采用低秩适配（LoRA）微调技术，对两个大型预训练模型——Llama 3.1 8B 和 Qwen 2.5 14B——进行微调，所用数据为1685个经人工标注的多方中文—英文混合粤语口语对话会话，共计14,257条推文。结果表明，在受害者识别任务中，整体性地一次处理整个对话会话消息，相较于逐条单独处理消息，具有显著的性能优势。研究进一步通过实证表明，显式的受害者—施害者—类别关联在不同可定制严重程度水平下，均可提升网络霸凌早期检测性能；该严重程度由侮辱频率、施害者人数以及权力失衡的不同阈值进行衡量，性能提升体现于早期风险检测误差（ERDE）与 F-latency 指标。
该文发表于《Intelligent Systems with Applications》，聚焦于多方中文—英文代码混合粤语口语社交媒体对话中的网络霸凌早期发现问题。研究背景在于，网络霸凌通常不仅表现为单条攻击性文本，更涉及重复性攻击、参与角色关系以及受害者与施害者之间的权力失衡，因此，仅依赖单条消息级别的文本分类，难以支撑真正有效的“早期检测”。既有研究虽已将机器学习、深度学习与变换器（Transformer）模型应用于网络霸凌识别，但普遍存在三方面不足：其一，许多方法按单条消息独立判断，难以利用会话上下文完成受害者解析、代词消解与重复攻击累积判定；其二，不少研究只输出是否存在霸凌内容，而未明确识别受害者与施害者，因而难以依据“重复性”和“权力失衡”等定义性标准衡量网络霸凌严重程度；其三，早期模型受上下文窗口限制，处理长会话时需分段截断文本，容易造成信息损失。与此同时，粤语代码混合语料兼具中文、英文与口语化表达，语法规则松散，且包含大量低资源方言特征，通用大语言模型（LLM）往往难以直接准确理解。正是在这一现实与技术双重约束下，研究人员开展了本项研究。
研究人员提出了一种面向早期网络霸凌检测的系统化流程，其核心思想是以受害者—施害者—类别关联作为中间结构化表示，再据此完成会话级霸凌事件判定。该研究并不满足于对“是否霸凌”进行直接分类，而是将每条推文中的攻击类别、施害者身份与受害者身份显式抽取出来，再结合侮辱频率、施害者人数及权力失衡等客观指标，构建可按严重程度阈值灵活调整的检测框架。研究结论表明，基于对话会话整体上下文进行建模，并显式引入受害者—施害者—类别关联，可以在受害者识别和网络霸凌早期检测两方面取得更优表现；相较于逐条推文处理，基于会话的整合式方法在多个严重程度水平上均取得更好的 ERDE、F-latency 与会话级 F1 结果。这一发现的意义在于，它为低资源、代码混合、长上下文社交媒体场景下的网络霸凌监测提供了更符合定义、更具解释性且更可定制的技术路径。
从方法上看，研究人员首先基于 Twitter API 收集香港区域附近、时间跨度为 2021 年 12 月 19 日至 2023 年 6 月 13 日的推文，会话经地理过滤、代码混合筛选、缺失与无关字段清理、繁简转换以及匿名化处理后，形成1685个会话、14,257条推文的数据集。随后由两名粤语母语标注者按会话整体进行人工标注，给出攻击类别、施害者与受害者标签。模型层面采用 Llama 3.1 8B 与 Qwen 2.5 14B 两个长上下文大语言模型，并使用秩稳定低秩适配（rsLoRA，rank-stabilized Low-Rank Adaptation）进行参数高效微调；输入形式包括单推文方式与逐步累积的对话方式；实验通过3折交叉验证评估，并采用精确率、召回率、F1、早期风险检测误差（ERDE）与 F-latency 指标进行比较。
在研究结果部分，论文首先报告“4.1. Dataset”。研究人员构建了一个面向会话的低资源中文—英文代码混合粤语网络霸凌数据集。数据来源于香港附近区域的 Twitter 会话，并对会话长度作出限制：少于5条推文的会话被剔除，多于20条推文的会话被截断至前20条，以保留主要讨论主题。所有用户身份信息均通过哈希与虚拟名替换实现匿名化。标注上，原始攻击类别分为5类，后为适应本研究目标，将类别1至4合并为“攻击”，类别0保留为“非攻击”，形成二分类标签。最终语料中约69.8%为非攻击，30.2%为攻击，且 Cohen’s Kappa 在类别、施害者和受害者标签上均达到很高水平，说明人工标注一致性强。该数据集是本文后续方法验证的重要基础，也回应了粤语代码混合网络霸凌领域缺少公开合适数据的问题。
在“4.2. Experiment 1 - Identification of victims and perpetrators”部分，研究人员比较了基于单推文输入与基于对话输入的受害者、施害者识别性能。实验使用精心设计的提示模板，引导模型输出每条推文的攻击类别、攻击性文本、施害者与受害者。结果显示，施害者识别在两种输入方式下差异不大，因为施害者通常就是发送攻击推文的用户，身份较易提取；但受害者识别明显更困难，原因在于受害者经常不在当前推文中被直接点名，而是通过代词、替代称呼或上下文指代出现。在此情形下，对话式输入具有显著优势。以 Llama 3.1 8B 为例，受害者识别 F1 由单推文方式的0.247提升至对话方式的0.541；Qwen 2.5 14B 也从0.213提升至0.565；BERT 模型同样受益。相较之下，未经微调的 DeepSeek 模型表现较弱，说明在低资源代码混合口语场景中，针对性微调是必要步骤。该部分结果直接证明：长上下文输入能够改善代词消解、上下文对齐与真实受害者定位，从而显著提升网络霸凌角色识别质量。
论文还总结了受害者识别中的典型失败情形，包括遗漏受害者、不可解析代词、代词未消解、错误代词消解以及反讽理解失败。这些案例说明，即使采用对话式输入与微调大模型，复杂口语表达、隐含指代和粤语讽刺仍是困难点。该分析虽然不是新的实验结论，但为后续模型优化提供了明确方向。
在“4.3. Experiment 2 - Early cyberbullying detection”部分，研究人员将实验1中得到的受害者、施害者与攻击预测结果进一步用于会话级网络霸凌早期检测，并与不显式识别受害者和施害者的直接推断方法进行比较。这里比较了三类方法：一是“Individual tweet consolidation”，即单推文识别后再整合；二是“Dialogue-based consolidation”，即利用长上下文并显式建模受害者—施害者—类别关联；三是“Direct LLM inference”，即利用长上下文但不显式识别角色，而直接判断会话中是否存在网络霸凌。研究人员在低、中、高三种严重程度下进行评估，严重程度由施害者人数、侮辱频率与权力失衡阈值共同决定。
结果表明，在 Llama 与 Qwen 两个生成式模型上，“Dialogue-based consolidation”在几乎所有早期检测相关指标上均表现最佳。以 Qwen 为例，其在低、中、高严重程度上的 ERDE 分别为0.258、0.148、0.075，对应的 F-latency 分别为0.620、0.584、0.561，整体优于其他方法。直接推断方法通常位居第二，而单推文整合法最差，且当严重程度阈值提高时性能下降尤为明显。这说明，对于涉及更多参与者、更高侮辱频率以及更大权力失衡的复杂网络霸凌案例，仅凭单条消息几乎无法做出有效的早期判断。研究还指出，从不同方法间差值大小看，长上下文整合的影响通常强于显式角色关联本身，但二者都对性能提升具有正向贡献。换言之，既“看全对话”，又“看清谁攻击谁”，是实现有效早期检测的关键。
进一步看会话级 F1，三种严重程度下仍是对话式显式关联方法最优，且多处达到统计显著。最高结果出现在低严重程度下使用 Qwen 模型时，会话级 F1 达到0.726。这一结果表明，在具备长上下文理解能力的生成式人工智能框架中，若进一步引入受害者—施害者—类别的显式中间表示，则不仅能提升早期性指标，也能提升对霸凌会话整体识别的准确性。
讨论部分主要围绕方法有效性、数据局限与应用前景展开。研究人员指出，本研究证明了会话级输入结构的重要性，也表明受害者—施害者—类别关联并非多余附加信息，而是符合网络霸凌定义本质的关键建模单元。与此同时，论文也明确承认数据集存在类别不平衡问题，可能导致对少数类有害内容的敏感性下降；不过，由于该问题会同时影响不同对比方法，关于会话式方法及角色关联建模更优的核心发现仍具有稳健性。研究还强调，粤语代码混合口语属于大模型预训练中代表性不足的低资源语言现象，因此在其他语言语料上应用时，改进幅度未必完全一致。此外，网络霸凌表达会随时间演化，数据快照无法穷尽全部仇恨表达形式，因此持续更新语料与模型是必要的。论文最后提出，其简洁提示模板和数秒级推理配置，为未来构建在线、实时的长对话监测系统提供了实践基础，但若要进一步走向实时部署，仍需探索更轻量化的本地或边缘设备方案。
研究结论部分可译述为：机器学习与人工智能模型已被用于发现潜在网络霸凌案例，以便政府或社会组织及时提供支持。既有研究由于早期自然语言处理模型的上下文窗口较短及技术限制，未能处理一次性分析长篇社交媒体会话的适用性问题；同时，也有研究仅聚焦内容分类，而未识别相关施害者与受害者，因而难以衡量网络霸凌严重程度。本文提出了受害者—施害者—类别关联建模方法，并结合 rsLoRA 微调技术，考察了新近大语言模型在网络霸凌早期检测任务中的应用。研究构建并标注了一个包含1685个会话、14,257条推文的会话级低资源中文—英文代码混合粤语网络霸凌数据集，并通过精心设计的提示模板及3折交叉验证进行了实证分析。结果表明，对话式方法在受害者和施害者识别上显著优于单推文方法，显示了输入数据结构的重要性；纳入先前消息有助于大语言模型理解对话并生成更准确的预测。所提出的受害者—施害者—类别关联建模表明，即便受害者与施害者通过代词或替代形式出现，大语言模型仍可进行识别。除提升受害者识别外，该关联建模还改进了早期检测性能；在基于侮辱频率、施害者人数与权力失衡设定的三种严重程度下，显式关联识别在 ERDE、F-latency 以及包含网络霸凌事件会话的 F1 指标上均取得最佳结果。
