仅响应型LLM输出对抗性检测：词汇、对比与上下文表示方法的比较研究

《IEEE Access》：Response-Only Adversarial Detection of LLM Outputs: A Comparative Study of Lexical, Contrastive, and Contextual Representations

　　

摘要：

在原始用户提示无法获取、被屏蔽或不可信的情况下，大型语言模型被越来越多地用于相关场景。这使得仅通过响应进行对抗性检测成为一个重要但具有挑战性的问题，因为检测器只能观察到生成的响应，而标签则由原始提示决定。在本研究中，我们通过对比分析词汇表示、对比学习表示和上下文表示，探讨了仅基于响应的LLM输出对抗性分类方法。具体而言，我们比较了TF-IDF特征、基于三元组损失的度量嵌入、TF-IDF与三元组结合的方法，以及Sentence-BERT上下文嵌入基线，在“提示类型”“对抗类型”和“对抗类别”三项任务中的表现。在对158,592条响应记录进行的实验表明，仅通过响应进行检测是可行的，但难度远高于考虑提示信息的检测方法。在分层10折评估中，最强的TF-IDF+XGBoost基线在“提示类型”任务上的准确率为72.37%，在“对抗类型”任务上为82.06%，在“对抗类别”任务上为56.40%。留一法评估进一步表明，跨模型泛化仍然是一个难题。基于三元组的度量学习在某些“对抗类型”配置下能带来优势，但其表现并未始终优于强大的词汇表示基线。低维嵌入分析显示，插入式样本相对容易区分，而前缀式和后缀式样本则存在大量重叠。总体而言，这些研究结果为仅基于响应的对抗性检测提供了现实的基准，并明确了在缺乏提示信息时对比学习表示的局限性。