来自科学界的警告：小心基于人工智能的欺骗检测

人工智能可能很快就会帮助识别谎言和欺骗。然而，来自马尔堡大学和维尔茨堡大学的一个研究小组警告说，不要过早使用。

　　

噢，要是跟匹诺曹一样容易就好了。从这里很容易看出他在说谎:毕竟，他的鼻子每次都长一点。在现实中，识别谎言要困难得多，科学家们长期以来一直在努力开发有效的谎言检测方法，这是可以理解的。

现在，人们把很大的希望寄托在人工智能(AI)上，以实现这一目标，例如，在匈牙利、希腊和立陶宛的欧盟边境，试图识别有犯罪意图的旅行者。

基础研究的宝贵工具

马尔堡大学和维尔茨堡大学的研究人员现在警告不要过早使用人工智能来检测谎言。在他们看来，这项技术是一种潜在的有价值的基础研究工具，可以更好地了解隐藏在欺骗背后的心理机制。然而，他们对其在现实生活中的应用持怀疑态度。

Kristina Suchotzki和Matthias Gamer负责这项研究，该研究现已发表在《认知科学趋势》杂志上。Kristina Suchotzki是马尔堡大学的教授;她的研究重点是谎言以及如何识别谎言。Matthias Gamer是德国维尔茨堡大学的教授。他的主要研究领域之一是可信度诊断。

应用的三个核心问题

Suchotzki和Gamer在他们的论文中指出了当前基于人工智能的欺骗检测研究中存在的三个主要问题:所测试算法缺乏可解释性和透明度，结果有偏倚的风险以及理论基础的缺陷。原因很清楚:“不幸的是，目前的方法主要集中在技术方面，而牺牲了坚实的方法和理论基础，”他们写道。

在他们的文章中，他们解释说，许多人工智能算法“缺乏可解释性和透明度”。通常不清楚算法是如何得出结果的。对于一些人工智能应用程序，在某些情况下，即使是开发人员也无法清楚地理解如何做出判断。这使得不可能批判性地评估决策并讨论错误分类的原因。

他们描述的另一个问题是决策过程中出现的“偏见”。最初的希望是，机器能够克服人类的偏见，比如刻板印象或偏见。然而，在现实中，由于人类输入模型的变量选择不正确，以及所使用数据的小尺寸和缺乏代表性，这种假设经常失败。更不用说用于创建此类系统的数据通常已经存在偏见。

第三个问题是一个根本性的问题:“人工智能在测谎中的应用是基于这样一个假设，即有可能识别出一个有效的线索或一个独特的欺骗线索组合，”克里斯蒂娜·苏霍茨基解释说。然而，即使是几十年的研究也无法识别出这种独特的线索。也没有任何理论能够令人信服地预测它们的存在。

大规模筛查中容易出现错误

然而，Suchotzki和Gamer并不想反对基于人工智能的欺骗检测。最终，这是一个经验问题，即这项技术是否有潜力提供足够有效的结果。然而，在他们看来，在考虑在现实生活中使用之前，必须满足几个条件。

他们说:“我们强烈建议决策者仔细检查算法开发是否达到了基本质量标准。”前提条件包括受控的实验室实验，没有系统偏差的大型多样化数据集，以及在大型独立数据集上验证算法及其准确性。

其目的必须是避免不必要的误报，即算法错误地认为它已经检测到谎言。将人工智能用作大规模筛查工具(例如在机场)与将人工智能用于特定事件(例如在刑事案件中审讯嫌疑人)之间存在很大差异。“大规模筛查应用通常涉及非常松散和不受控制的评估。这大大增加了假阳性结果的数量，”Matthias Gamer解释说。

对政治家的警告

最后，两位研究人员建议，基于人工智能的欺骗检测应该只在高度结构化和受控的情况下使用。虽然没有明确的谎言指标，但在这种情况下，可能会尽量减少其他解释的数量。这增加了行为或陈述内容的差异被归因于欺骗企图的可能性。

Kristina Suchotzki和Matthias Gamer补充了他们的建议，并对政治家们提出了警告:“历史告诉我们，如果我们在现实生活中引入检测欺骗的方法之前不遵守严格的研究标准，会发生什么。”测谎仪的例子非常清楚地表明，即使低效度的证据和对无辜嫌疑人的系统性歧视后来积累起来，要摆脱这种方法是多么困难。