基于混合RoBERTa-CNN模型的隐私保护联邦学习，用于低资源语言中的人工智能生成文本检测

《Scientific Reports》：Privacy-preserving federated learning for detection of AI-generated text using hybrid RoBERTa-CNN models in low-resource languages

　　

摘要

大型语言模型（LLM）的快速应用改变了教育写作方式，同时也给学术诚信和作者身份验证带来了严峻挑战。现有的AI生成文本检测系统大多依赖集中的云基础设施，需要将学生论文上传到外部服务器，这引发了关于隐私、数据所有权以及合规性的担忧。为解决这些问题，我们提出了RoBERTa-CNN+FL这一注重隐私保护的框架，该框架结合了用于上下文语义表示的RoBERTa编码器、用于提取局部风格特征的卷积神经网络（CNN）、用于去中心化协同模型训练的联邦学习（FL），以及用于保护敏感教育数据的差分隐私（DP）。该框架在由人工撰写及多种现代LLM生成的AI生成论文组成的LowResourceQAEssaysText数据集上进行了测试，评估指标包括准确率、精确率、召回率、F1分数、马修斯相关系数、ROC-AUC值、BLEU分数、困惑度，同时还通过独立学术评审员的对模型预测结果与专家判断一致性的评估。实验结果表明，这种混合框架能够在保障数据隐私并支持设备端部署的同时，实现稳定可靠的检测效果。对比实验还显示，其在性能上可与多种常用的商业及研究型AI文本检测系统相媲美，这些系统包括Turnitin、Grammarly AI Detector、QuillBot、GPTZero、Copyleaks、Originality.ai、Sapling AI Detector、Writer.com Detector、DetectGPT、Fast-DetectGPT、Crossplag AI Detector、ZeroGPT、OpenAI AI Classifier、Hugging Face开源检测工具以及其他学术检测框架。该框架为多语言和资源匮乏的教育环境中的AI生成文本检测提供了一种可扩展且注重隐私的解决方案，既能减少对集中式云服务的依赖，又能确保学术诚信评估的可靠性。