面向中文毒性语言检测的神经元级迭代去偏与语义补偿框架

《Applied Sciences》：Neuron-Level Iterative Debiasing and Semantic Compensation for Chinese Toxic Language Detection

　　

毒性语言检测（Toxic Language Detection）是在线内容审核中的一项重要任务。然而，现有模型常将中性群体相关词（如身份、地域或人口统计表达）与毒性标签关联，产生假阳性偏差（False-Positive Bias），即含此类词的无害文本被误判为有毒。为此，研究人员提出NISC，一种面向中文毒性语言检测的神经元级迭代去偏与语义补偿框架。从已训练检测器出发，NISC首先由高置信度假阳性样本识别偏见源，无需人工预定义词典；继而围绕各偏见源构建含与不含该源的配对样本，比较神经元级毒性贡献差异，据此定位驱动假阳性预测的神经元并通过迭代剪枝（Iterative Pruning）削弱之。为抵消剪枝可能造成的语义退化，研究人员利用大语言模型（Large Language Model, LLM）生成含识别偏见源但不含攻击、侮辱、歧视或仇恨的无害非毒样本，并在剪枝掩码固定下做轻量补偿训练。多个中文毒性语言数据集上的实验表明，NISC在降低群体相关中性文本假阳性率（False-Positive Rate, FPR）的同时，大体保留了常规检测性能。

研究背景方面，随着社交媒体平台广泛使用，毒性语言检测成为在线内容审核重要任务。毒性语言常传达攻击、侮辱、歧视或仇恨，可能针对性别、地域、种族、宗教或性取向等界定的个体或群体。实际应用中，检测模型不仅应识别真正辱骂表达，还应避免将中性身份信息当作毒性证据。然而现有模型在处理群体相关文本时仍表现假阳性偏差：含地域词、身份词或群体名的无攻击义中性评论，因训练数据中偏置共现模式被赋予较高毒性分，推高无毒样本假阳性率，降低群体相关文本检测可靠性。既有身份词偏差研究多聚焦偏差度量、数据平衡与增广，缺乏对模型内部假阳性偏差来源的神经元级解释；近期可解释性与神经元干预研究虽能定位编辑特定神经元，但单纯剪枝可能损伤原语义判断，单纯数据补偿不足以解释内部偏差起源。该研究因此结合内部偏见定位、神经元级干预与语义补偿，在保留原检测能力同时降低假阳性。论文发表于《Applied Sciences》。

主要关键技术方法上，研究人员以微调后的中文BERT与RoBERTa为基座检测器，在COLD、ToxiCN、SWSR三个自然分布中文数据集各自独立训练验证测试，并以模板填充构建的评估专用诊断集TEMPLATE（37359条平衡样本，仅作探针不用于训练）辅助分析。偏见源识别阶段，从高置信度假阳性样本出发，分词去停用词后计算Bias-PMI，再以掩码验证考察删词后毒性分下降与标签翻转比，筛选出模型过度依赖的中性群体相关词集合B。神经元级迭代去偏阶段，对Transformer前馈子层中间隐单元设二元掩码，围绕各偏见源w构建含w样本集D_w与掩码掉w的对照集D_w^M，用一阶泰勒估计神经元对毒性类logit贡献，取差分ΔC_u^(w)聚合得S_u，按降序逐步剪枝并以综合分CPS（加权F1与FPR归一化组合）指导停止。语义补偿阶段，用GPT-3.5 Turbo经两阶段提示生成含偏见源的无害中文文本，经自动校验与三位母语者人工审订后混入原训练子集，在掩码固定下做二值交叉熵轻量训练防止偏置神经元复活。

研究结果部分，第4.1节实验设置中，基座BERT/RoBERTa在LR=2e-5、batch 32、seq 128、5 epoch下微调；OBF与BSADSI作基线；报告ACC、加权F1与FPR，类级补报精确率召回率F1；五随机种子取均值与样本标准差。第4.2节主结果表3显示，BERT-NISC在COLD、ToxiCN、SWSR上均获最低FPR且ACC与加权F1具竞争力；相较BSADSI，其在ToxiCN与SWSR上FPR降幅未伴同等加权F1退化。RoBERTa-NISC同样三数据集降FPR，ACC全升，加权F1在COLD与SWSR升、ToxiCN微降，说明假阳性降低一般不损整体分类，但权衡随数据集变。第4.2节类级表4揭示，COLD上两类性能皆升；ToxiCN与SWSR上Class 0召回与F1升而Class 1降，表明后两集上NISC形成更具选择性正类边界，以漏判部分毒/性别歧视为代价换得少误报，呈现数据集依赖的精度-召回权衡。第4.3节TEMPLATE诊断表5中，基座因模板规整FPR本低于主集；BERT-NISC将FPR从1.5降至0.6且ACC与加权F1升，RoBERTa-NISC从2.7降至2.5并微升另两指标，佐证其对群体词敏感性的诊断改善而非真实泛化证明。第4.4节消融表6表明，换预定义词典（w/o BSI）FPR降幅减弱；去语义补偿（w/o PSC）FPR亦降但分类跌更多；仅朴素提示补偿劣于w/o PSC，证补偿样本须锚定偏见源于无害语境；仅朴素神经元剪枝或仅配对归因单次剪枝均不及完整迭代+补偿，证配对差分归因比直接按毒性贡献排序更具选择性。第4.5节案例图2-3与表7给出BERT下迭代轮次FP减少TN增加、三代表性偏见源（地域/性别身份/群体）相关FP下降而整体ACC稳于80–84%；六例原Class 1概率0.69–0.81的中性句经NISC降至0.18–0.36并翻为Class 0，覆盖地域、种族、性向、性别，证干预减孤立群体词影响、使预测回归整句良性语义。

讨论部分指出，假阳性偏差可溯至少量前馈神经元——其毒性贡献在中性群体词出现时陡升；配对差分定位加迭代剪枝可在不重训下降群相关误报，BERT降幅更大或因其偏置贡献更易局部干预（架构因未证）。RoBERTa类级结果显示数据集依赖：COLD两类皆善，ToxiCN/SWSR的Class 1召回F1降，反映各集基线误差与分布差。语义补偿对保检测质必不可少，单纯剪枝损ACC/F1，定向无害样本恢复大部分能力；完整框架优于朴素提示变体证补偿非自动有益而须显式锚定。局限包括偏见源依赖特定微调检查点且随随机种子漂移；神经元贡献为一阶符号估计、未建模高阶交互；ToxiCN/SWSR正类召回降提示FPR削减含应用依赖错误权衡；TEMPLATE较真实社媒规整不能替代自然数据评测；LLM生成补偿虽经过滤人工审仍可能留风格或生成偏置。未来应扩真实评测、控生成数据、稳神经元归因，并拓至隐式毒性、语境依赖辱骂与多语检测。

结论部分翻译：研究人员提出NISC，一种面向中文毒性语言检测的神经元级迭代去偏与语义补偿框架。不同于主赖预定义词典或数据级增广的方法，NISC从模型自身高置信度假阳性样本起步，借Bias-PMI与掩码验证识偏见源，通过配对样本贡献差分定位偏置神经元并以迭代剪枝抑制，再用定向无害样本做正向语义补偿缓解剪枝语义损失。在COLD、ToxiCN、SWSR自然分布集上，NISC于两种基座一致降FPR且大体保持竞争ACC与加权F1；合成TEMPLATE集提供对中性群体词敏感性降低的受控佐证，但仅作诊断探针。未来工作将探索更稳神经元干预策略，并将NISC扩至隐式毒性、语境依赖滥用及多语毒性语言检测。