基于微调词嵌入与GWO优化随机权重网络的阿拉伯语社交媒体攻击性语言检测及其商业媒体与情报价值

《Computers》:Evolutionary Random Weight Networks for Effective Offensive Language Detection in Arabic Social Media: Insights for Business Media and Intelligence

【字体: 大 中 小 】 时间:2026年10月24日 来源:Computers 5.2

编辑推荐:

  摘要:在线社交网络已成为全球通信的重要媒介,许多用户每天多次访问其账户。这一趋势在Covid-19危机期间尤为明显,因为隔离和长时间居家推动了在线活动的显著增加。然而,使用量的激增也带来了负面社会行为,如攻击性语言、仇恨言论和网络欺凌事件增多。因此,尽管人工检

  
摘要:在线社交网络已成为全球通信的重要媒介,许多用户每天多次访问其账户。这一趋势在Covid-19危机期间尤为明显,因为隔离和长时间居家推动了在线活动的显著增加。然而,使用量的激增也带来了负面社会行为,如攻击性语言、仇恨言论和网络欺凌事件增多。因此,尽管人工检测速度较慢,尤其面对大规模数据时,电子化检测这些滥用行为已成为必要。本文提出一种利用微调词嵌入模型自动识别阿拉伯语推文中攻击性语言的模型。所提出的GWO-RWN模型将随机权重网络(Random Weight Network, RWN)作为分类器,并与灰狼优化器(Grey Wolf Optimizer, GWO)结合以优化RWN配置。实验在包含4505条阿拉伯语推文的ArCybC数据集上进行,采用60%训练、20%验证和20%测试划分。研究人员评估了采用连续词袋(Continuous Bag-of-Words, CBOW)和跳元(Skip-Gram, Skip-G)架构的Word2Vec嵌入以及GloVe嵌入,并在30次独立运行中将所提出的GWO-RWN与遗传算法(Genetic Algorithm, GA)、粒子群优化(Particle Swarm Optimization, PSO)和人工蜂群(Artificial Bee Colony, ABC)优化的RWN模型进行比较。所提方法使用Skip-G嵌入取得90.5%的准确率,精确率、召回率和F1分数(F1-score)分别为0.891、0.888和0.889,较未优化RWN的85.7%准确率提高4.8个百分点。该结果超过同一数据集上先前报道的结果,包括采用GA优化支持向量机(Support Vector Machine, SVM)的88.2%准确率和采用词嵌入的SVM的86.3%准确率。
论文主体解读:随着数字平台成为全球通信的重要依赖,攻击性语言检测成为关键挑战。技术使通信更便捷且具匿名性,个体可自由表达观点,但也常导致有害和不恰当语言使用;其影响已超出个体层面,对社区、组织和社会福祉构成威胁。攻击性语言加剧在线毒性,促成歧视、骚扰和刻薄行为,危害心理健康、情绪稳定和社会凝聚力。有效检测此类语言不仅可减少伤害、使数字空间更安全尊重,也可支持平台治理并推动商业情报策略;平台可借此更好理解用户行为、改进内容审核并强化决策过程。攻击性语言表现形式多样,包括歧视性言论、人身攻击、威胁和损害性刻板印象传播,针对不同背景、信仰和身份个体,后果可延伸至心理伤害、社会排斥和身体暴力。现有攻击性语言检测研究多集中于英语;阿拉伯语是互联网前四大语言之一,也是X应用前六大语言之一,但其结构和语法复杂,文本处理困难,阿拉伯语研究远不如英语广泛,模型性能也落后。因此,需要开发高准确度和稳健的阿拉伯语攻击性语言检测系统。关键挑战在于准确预测阿拉伯语推文中不当语言的存在;该问题被框定为分类任务,改进模型性能主要涉及选择有效文本表示、开发合适分类模型及配置。现有方法探索不同分类器和优化技术,但确定合适模型配置可能涉及复杂微调,尤其当多个参数需同时确定时。随机权重网络(RWN)是轻量学习模型,相较复杂深度学习模型训练计算需求较低、训练快速,适合在优化过程中反复评估配置的分类任务;但其性能依赖配置和参数设置,因而优化RWN配置可提升分类性能。尽管优化技术已用于攻击性语言检测,GWO与RWN结合用于阿拉伯语攻击性语言分类仍未充分研究。因此,研究人员提出基于GWO优化RWN的阿拉伯语攻击性语言检测模型:先在训练数据集上微调多种词嵌入模型以提取有效词特征,再采用RWN分类器与GWO结合的混合方法识别合适模型参数并提升性能;在ArCybC数据集上评估不同词嵌入模型并与其他优化RWN配置比较。主要贡献是将GWO与RWN集成用于阿拉伯语攻击性语言分类,由GWO优化所选RWN参数以改善分类性能。研究结论显示,GWO-RWN在Skip-G嵌入下准确率90.5%,精确率、召回率和F1分数分别为0.891、0.888和0.889,较非优化RWN的85.7%提高4.8个百分点,并超过同数据集先前报道的GA优化SVM 88.2%和采用词嵌入的SVM 86.3%准确率;其意义在于为阿拉伯语攻击性语言检测提供轻量分类器与元启发式优化结合的方案,并为商业媒体与情报场景中的内容治理和决策提供参考。

关键技术方法(不超过250字):样本队列来自公开ArCybC(Arabic Cyberbullying Corpus)数据集,经Twitter流式API获取,含体育、游戏、名人、新闻四领域4505条推文,由4名23—37岁阿拉伯语母语者标注,冲突由裁决者复核,按60%/20%/20%划分训练、验证和测试。技术流程包括阿拉伯字符归一化与预处理;采用AraVec的Word2Vec CBOW、Skip-G及GloVe静态词嵌入,对推文词向量取平均并排除未登录词;以RWN为分类器,Sigmoid隐藏层,Moore–Penrose伪逆解析计算输出权重;以GWO优化输入到隐藏权重、隐藏层偏置和隐藏神经元数,验证集准确率作适应度;与GA、PSO、ABC优化RWN在30次独立运行下比较,并用Wilcoxon符号秩检验(Wilcoxon signed-rank test)和Holm校正分析显著性;另设AraBERT基线比较。

5.1 Experiment I: Performance Results of Classification Algorithms:研究人员在ArCybC数据集上比较RWN、LightGBM、逻辑回归(Logistic Regression, LR)、SVM、K近邻(K-Nearest Neighbors, KNN)、朴素贝叶斯(Naive Bayes, NB)和决策树(Decision Tree, DT)等分类器在Skip-G、CBOW和GloVe表示下的表现。Skip-G特征下,LightGBM取得最高精确率和G-mean,RWN取得最高准确率、召回率和F1分数;CBOW特征下RWN在所有评价指标上最佳;GloVe特征下RWN同样取得最高性能。总体而言,RWN在三种文本表示下表现较强,为后续元启发式优化提供基础。

5.2 Experiment II: Comparative Performance Analysis of the Proposed Model Versus Other Metaheuristic Algorithms:该实验以RWN为基础分类模型,用GA、PSO、ABC和GWO优化其配置,并与未优化RWN及不同元启发式RWN比较。结果显示,GWO-RWN在Skip-G模型上表现最佳,其后为PSO-RWN、ABC-RWN和GA-RWN;CBOW模型下GWO-RWN准确率为0.876;30次运行箱线图显示GWO-RWN在优化RWN网络方面占优;GWO-RWN在三种嵌入配置下均取得最高平均准确率,Skip-G嵌入下总体平均准确率最高。统计显著性方面,CBOW嵌入下GWO-RWN相对GA-RWN、PSO-RWN和ABC-RWN的Holm校正p值均低于0.001;GloVe嵌入下相对GA-RWN和ABC-RWN显著,相对PSO-RWN不显著;Skip-G嵌入下经Holm校正后各比较均未显示显著差异;九项比较中五项显著。类别层面性能另行考察,但原文未在正文列出具体数值。

5.3 Experiment III: Comparison with Previous Studies:研究人员进一步将GWO-RWN与同一ArCybC数据集上先前发表的SVM方法及采用AraVec Skip-G嵌入的SVM模型比较,并以AraBERT作为Transformer基线在同一独立测试集上评估。摘要报告GWO-RWN的90.5%准确率超过GA优化SVM的88.2%和采用词嵌入SVM的86.3%;原文指出AraBERT在三次独立运行中取得平均准确率,GWO-RWN在30次运行中的平均准确率高于AraBERT,但AraBERT运行次数有限,且原文中AraBERT平均准确率的具体数值未完整显示,故不列具体值。该比较为评估GWO-RWN相对传统机器学习、深度学习和Transformer方法提供补充背景。

5.4 Discussion and Future Work:讨论指出,数据集含四个领域4505条推文,规模和单一数据集可能限制研究结果对更广泛阿拉伯语社交媒体情境的泛化;虽使用独立测试子集最终评估,但未在外部数据集验证。未来将在更大、独立、覆盖更多主题、方言和传播情境的阿拉伯语攻击性语言数据集上评估,以检验泛化性和稳健性。预处理流程对所有分类和优化方法一致,常见显式阿拉伯语否定词在停用词过滤中保留,但各预处理步骤贡献未单独检验,未来可开展系统消融研究。实验使用固定嵌入维度:AraVec CBOW和Skip-G为300维,GloVe为256维;嵌入维度影响未独立考察,未来可研究不同维度对分类性能、模型复杂度和计算效率的影响。

6. Conclusions and Future Work(研究结论翻译):本研究提出GWO-RWN,一种将GWO与RWN结合用于阿拉伯语攻击性语言检测的方法;GWO用于优化RWN中输入到隐藏层权重、隐藏层偏置和隐藏神经元数。研究还考察CBOW、Skip-G和GloVe三种词嵌入表示对分类性能的影响。实验结果表明,GWO-RWN相较传统分类算法和采用其他元启发式算法优化的RWN模型表现良好,并显示元启发式优化与RWN结合用于阿拉伯语攻击性语言检测的潜力。尽管取得上述结果,仍需考虑若干局限:第一,评估仅使用单一阿拉伯语数据集ArCybC,含四个领域4505条推文,数据集相对较小可能限制结果对更广泛阿拉伯语社交媒体情境的泛化;虽使用独立测试子集最终评估,但未在外部数据集验证;比较评估仅包括一个基于Transformer的阿拉伯语语言模型AraBERT,限制与近期深度学习方法的比较范围。未来工作将研究深度学习模型与元启发式优化算法的集成,尤其将阿拉伯语Transformer模型作为上下文特征提取器,并将其表示作为GWO-RWN输入;额外实验将用元启发式算法优化深度学习模型配置。未来研究还将在更大、独立、覆盖更多主题、方言和传播情境的阿拉伯语攻击性语言数据集上评估GWO-RWN,以更广泛评估所提方法的泛化性和稳健性。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号