在社交媒体平台上基于情感增强的网络欺凌检测模型

《ACM Transactions on the Web》：Sentiment-Enhanced Cyberbullying Detection Models on Social Media Platforms

研究比较了ALBERT、DeBERTa等情感增强Transformer模型在社交媒体网络欺凌检测中的性能，发现ELECTRA+SA模型在Twitter、IMDB、Amazon数据集上以91.85%的精度和召回率表现最佳，同时具备高效推理能力（0.069秒/23.92MB/0.000075kWh），为实时部署提供支持。

　　

摘要

社交媒体平台上的网络欺凌仍然对数字健康构成严重威胁，需要能够检测到明显和隐蔽的、带有情感色彩的虐待行为的智能系统。情感分析（SA）通过解读情感基调、极性和上下文，在检测方面发挥着关键作用，相比基于关键词的模型，它能够提供更细致和及时的识别能力。愤怒、讽刺或隐晦的敌意等情绪通常先于网络欺凌行为出现，尤其是在冲动的互动中。情感分析能够捕捉到这些情感线索，从而提高对隐含虐待行为和编码语言的敏感度。本研究首次系统地比较了经过微调用于网络欺凌检测的情感增强Transformer模型，包括ALBERT、DeBERTa、ELECTRA、HateBERT和DeepSeek-coder-1.3b-base，这些模型分别在Twitter（现称为X）、IMDB和Amazon平台上进行了测试。评估指标包括预测性能（准确率、精确度、召回率、F1分数）以及时间和成本效率（推理时间、内存使用、CPU/GPU利用率、能耗）。ELECTRA结合情感分析的表现优于所有模型，准确率为91.85%，精确度和召回率为91.84%，F1分数为91.84%。在效率方面，它也表现出色：推理时间为0.069秒，内存使用量为23.92 MB，CPU/GPU使用率为7.2%，能耗仅为0.000075 kWh，证明了其高度的通用性、对情感的敏感性，以及适合实时、资源受限环境的应用。这些结果强调了情感分析的整合、数据集的多样性以及计算效率在构建可扩展的实际网络欺凌检测系统中的重要性。