“在线产品评论正成为现代AI的战场”。——Annie Probert/ NBC News [1]
在线评论在塑造消费者在电子商务平台上的行为方面继续发挥着关键作用，因为消费者在做出购买决策时会依赖这些评论，这一点在先前的研究[2]、[3]、[4]中得到了证明。值得注意的是，近90%的在线购物者表示，真实的评论会影响他们的购买选择，并且他们比产品的价格本身更信任同行反馈。1然而，某些商家的不道德行为破坏了评论系统的可靠性，这些商家使用工具来抬高产品排名并损害竞争对手的声誉[5]，从而侵蚀了消费者的信任，并损害了评论系统的完整性和效率[6]。
为了解决这一日益严重的问题，平台公司已经部署了决策支持系统来检测和过滤掉欺诈性评论[7]、[8]。这些技术干预不仅旨在遏制虚假内容的传播，还旨在减轻其对平台生态系统的更广泛负面影响[9]、[10]。通过增强用户生成内容的真实性，这些系统在维护数字市场的可信度和功能性方面发挥着关键作用。
近年来，GAI的出现加速了虚假评论在数字平台上的传播，因为商家可以利用GAI快速生成大量虚假评论，而且几乎不费吹灰之力。23与传统的虚假评论不同，由GAI生成的评论往往更具说服力，也更难以检测。这是因为GAI具有生成连贯、与上下文相关且类似人类语言的高级能力，这种语言紧密模仿了真实用户反馈的语气和结构[11]、[12]。因此，这些由GAI制作的评论对消费者信任和平台完整性构成了更大的威胁。GAI提供的高级语言特性吸引了更多恶意行为者利用GAI生成欺骗性内容，从而加剧了电子商务平台上虚假评论的传播。
同时，那些真正希望分享自己的体验并推荐产品或商家的普通消费者也开始使用AI工具来生成他们的评论。虽然这可能简化了评论撰写过程，但它引入了一个关键的限制：AI缺乏完全理解个别消费者微妙现实生活经验的能力。4因此，AI生成的评论可能比人类撰写的评论表现出更高的偏见程度。图1展示了一个在ChatGPT的帮助下生成的评论（注意：产品细节是虚构的）。AI生成内容中的这种固有偏见可能会削弱消费者对产品和相关商家的信任。3鉴于这些挑战，迫切需要提出一种专门设计用于识别AI生成的虚假评论的新检测方法。这样的系统使平台能够迅速标记或过滤掉不真实的内容，从而维护用户反馈的完整性，并保持平台生态系统内的信任。
尽管AI生成的虚假评论可能与人类撰写的评论难以区分，但它们通常表现出微妙但可识别的语言模式，表明它们是人工生成的[13]。值得注意的是，这些评论经常复制企业在传统欺骗性内容中常用的风格标记。例如，伪造的评论往往具有夸张的情感表达，因为它们的主要目的是过度赞扬或不公正地批评产品的声誉[14]。同样，当商家使用AI工具时，评论通常表现出强烈的情感强度。这种模式强调了将传统语言线索纳入检测策略的重要性。通过分析这些文本特征，平台可以更有效地识别和标记AI生成的虚假评论，即使这些评论与真实用户反馈非常相似。
此外，AI生成的评论中的词汇选择通常是通过选择由底层大型语言模型（LLM）计算出的概率最高的单词来确定的。因此，这些评论的文本输出与人类撰写的文本相比，随机性较低。这种语言变异性的减少可以使用两个先进的语言指标来定量评估：困惑度和突发性[15]、[16]。这些指标评估了文本的可预测性和分布不规则性，提供了对LLM生成行为的洞察。鉴于它们的诊断潜力，将这些新颖的语言特征纳入AI生成的虚假评论检测框架中是至关重要的。这样做可以通过识别区分合成内容和真实人类表达的微妙统计模式来提高检测系统的精度。
除了基于语言的方法外，特别是利用深度学习算法的自动化技术在检测AI生成内容方面也取得了进展。一个值得注意的例子是OpenAI，它对LLM进行了微调，开发了一种能够识别高达95%由GPT-2生成的文本的检测器。5尽管这种性能很有前景，但这些模型面临两个关键限制：缺乏可解释性以及在应用于在线评论等短文本时的有效性降低。这些限制阻碍了它们在现实世界中的实际应用。
先前的研究通过将非典型的评论者行为建模为识别伪造评论的手段来探索异常值检测方法[6]、[9]。例如，Kumar等人提出了一种技术，该技术构建了代表各种评论者行为特征的最优子分布，然后将它们汇总成一个复合分布来检测异常评论者[17]。同样，Li等人引入了一种基于累积概率密度的方法，将异常值识别为位于分布尾部的罕见事件[18]。然而，这些方法的一个持续挑战在于确定一个适当的概率阈值来区分异常值和正常行为。如果没有明确的界限，这些模型的准确性仍然受到限制。因此，迫切需要开发一种创新的异常值检测方法，特别是通过改进阈值校准和可解释性，以实现更精确地识别AI生成的虚假评论。
为了解决这些限制，我们提出了一个多方面的方法论框架。首先，我们构建了一组综合变量，整合了传统的语言特征和新型的语言指标。这一丰富的特征集使得对评论真实性的分析更加细致。接下来，我们引入了一种基于累积概率密度（CPD）的创新技术来估计给定评论由AI生成的可能性。这种概率度量作为后续分类阶段的基础输入。最后，我们使用计算出的CPD值来训练一系列已建立的分类模型。然后使用这些模型来开发能够准确识别AI生成的虚假评论的分类器。据我们所知，这项研究是首次尝试开发专门用于检测AI生成的虚假评论的可解释机器学习方法之一。通过提供透明有效的检测机制，我们的方法为平台运营商提供了关键的决策支持，以标记不真实的内容。这一贡献对于电子商务平台的声誉至关重要。
本研究的其余部分组织如下。首先，我们回顾了现有的关于检测AI生成的虚假评论的方法的文献。其次，我们介绍了本研究中构建的两种变量类别——传统语言特征和新型语言特征。第三，我们介绍了基于累积概率密度的异常检测方法。接下来，我们使用三个真实世界数据集评估了所提出方法的性能。最后，我们讨论了研究结果，并总结了启示和未来的研究方向。
