使用焦点损失（Focal Loss）和上下文增强（Contextual Augmentation）方法，在不平衡的混合代码文本中实现可解释的讽刺语检测

《ARABIAN JOURNAL FOR SCIENCE AND ENGINEERING》：Explainable Sarcasm Detection in Imbalanced Code-Mixed Text Using Focal Loss and Contextual Augmentation

Hinglish讽刺检测研究提出上下文增强与焦点损失阈值调整方法，实验表明mBERT-BiLSTM在0.55阈值下F1最高，验证混合策略有效性。

　　

摘要

在资源匮乏的语言（如印地语）中检测讽刺言论具有挑战性，因为一个句子中混合了多种语言，并且数据集规模小且极度不平衡。为了解决这些挑战，本文提出了两种处理不平衡混合代码数据集的技术：（i）上下文增强技术；（ii）结合多语言双向编码器表示（来自Transformer的循环神经网络模型mBERT-RNN）的阈值调整焦点损失（Focal Loss）方法。本文对用于处理不平衡混合代码文本的上下文多语言增强技术（BERT和GPT-2）进行了批判性评估，并将阈值调整的焦点损失优化方法作为另一种替代技术进行了研究。实验表明，使用mBERT-GRU训练的BERT多语言增强数据集在印地语讽刺言论检测中获得了最高的F1分数。然而，由于这些技术的复杂性以及文化差异，它们常常会在混合代码文本中引入噪声。阈值调整的焦点损失改进了所有mBERT-RNN模型的性能，其中mBERT-BiLSTM在0.55的阈值下实现了最高的宏观F1分数。我们通过使用TF-IDF、GloVe、FastText和mBERT比较传统机器学习模型和深度学习模型来建立基准，并评估了双语到单语翻译的影响。此外，还对Transformer模型（mBERT、MuRIL）在零样本和微调设置下的性能进行了基准测试，并与现有研究进行了比较，从而提供了更全面的性能洞察。为了提高模型的可解释性，我们应用了SHAP方法来分析单词层面的贡献并理解模型的决策边界。总体而言，我们的研究结果突显了不平衡、资源匮乏的混合代码数据集所带来的挑战，并证明了结合强大的训练策略与可解释性对于准确检测讽刺言论的有效性。