《International Journal of Human-Computer Studies》：Dynamic vs. One-time detection: How younger and older adults judge misinformation with AI?
编辑推荐：
•本研究探讨了人工智能检测模式（一次性检测与动态检测）对年轻人和老年人判断错误信息的影响。•提出了一种新的动态检测模式：人工智能会根据新证据或模型更新重新评估信息的说服力。•动态检测显著提高了年轻人的采纳行为和协作准确性。•老年人对动态人工智能反馈的关注度较低，采纳人工智能建议的
- •
本研究探讨了人工智能检测模式（一次性检测与动态检测）对年轻人和老年人判断错误信息的影响。
- •
提出了一种新的动态检测模式：人工智能会根据新证据或模型更新重新评估信息的说服力。
- •
动态检测显著提高了年轻人的采纳行为和协作准确性。
- •
老年人对动态人工智能反馈的关注度较低，采纳人工智能建议的频率也较低。
- •
当人类和人工智能的判断结果不一致时，两个年龄组的参与者都更有可能降低而非提高最初的判断，这显示出了方向性偏见。
引言
错误信息对意识形态的形成以及公众的财产安全构成了巨大威胁。政治党派常常利用虚假新闻来故意引导公众舆论，这已被发现在多个国家操纵了投票行为，包括美国（Allcott和Gentzkow，2017；Benkler等人，2020）和意大利（Cantarella等人，2023）。同时，诈骗者和欺诈者也经常利用关于热门的错误信息来接触潜在的受害者以实施网络犯罪。例如，乌克兰战争可能为网络犯罪分子提供了骗财的机会，他们通过创建虚假访问来诱导人们捐款（Dickler，2022）。由于错误信息在形式上刻意模仿真实信息（Lazer等人，2018），普通人仅凭内容或误导性的社交线索很难辨别网上信息的真实性（Muchnik等人，2013）。
为了弥合这一差距，已经开发了多种算法和人工智能工具来检测潜在的虚假信息，范围从虚假新闻检测（Shu等人，2017）到网络钓鱼诈骗检测（Chen等人，2010）再到欺诈检测（Dhieb等人，2020）。尽管这些工具在实验室测试中的准确率达到了90%或更高（Upadhyay等人，2023；H. Wang等人，2022；Wang等人，2021；Zhang等人，2021），但它们的实际效果仍然有限。最近的证据表明，这些人工智能工具并不像预期的那样有效。例如，Xiang等人（2022）发现大约一半的老年人不愿意采纳人工智能的检测结果，而当人工智能给信息评分较低时，年轻人更有可能采纳这些结果。Lu等人（2022）发现，尽管人们在社会压力下倾向于参考人工智能的建议，但他们的判断准确性并没有显著提高。这种次优的结果可能源于心理模型的不匹配；具体来说，用户缺乏评估人工智能建议可靠性的必要解释框架。这种根本性的不确定性可能导致决策模式不佳，例如当用户对自己的判断缺乏信心时过度依赖人工智能，或者当用户觉得自己没有足够的能力评估某些有价值的建议时就贸然驳回它们。
这种不匹配可能源于当前人工智能界面的静态性质。大多数现有工具提供的是“一次性”的可信度评分，而人类的判断本质上是动态和迭代的。在现实世界中，人们在判断复杂信息或事件时通常会经历一个动态和迭代的过程。最初，人们可能会感到不确定并采取谨慎的态度。随着更多证据的出现和情况的发展，他们会逐渐形成更明确的观点。然而，即使在高度自信的情况下，关键的新证据也可能导致对早期判断的彻底修正，比如反转的新闻。这表明人类的判断是一个流动的、不断演变的过程，而不是一次性的结论。人工智能工具的一次性检测模式可能会阻止用户形成对系统的适当心理模型，因为它限制了他们对人工智能如何得出结论的理解。基于类比原则（Gentner，1983；Gentner和Gentner，1982），我们提出人工智能检测应反映人类判断的这种演变过程。通过多次重新评估信息并更新结果，可以实现“动态检测模式”，从而可视化人工智能的内部修订或确认过程。
动态检测模式展示了人工智能如何随着时间的推移修正或重新确认其最初的判断，逐步达到最终判断。这种方法不仅反映了现实世界事件的演变特性，也体现了模型学习和优化的迭代特征。具体而言，动态检测可以由两种不同的机制驱动。一方面，动态检测涉及与给定信息相关的证据的持续积累，新获得的证据可能加强或挑战先前的判断。另一方面，错误信息检测算法应不断改进和更新，以跟上不断变化的信息环境。对内部模型参数的调整或外部知识来源的更新自然会导致人工智能检测结果的变化。为了区分这两种动态，我们将基于外部证据积累的检测称为Evidence-AI，将基于内部模型演变的检测称为Model-AI。此外，由于认知处理风格和数字素养在生命周期中存在显著差异，这些动态模式的影响可能并不统一。老年人和年轻的数字原住民在评估信息可信度时往往采用不同的启发式和系统化策略（Brashier和Schacter，2020）。因此，本研究旨在回答：检测模式如何影响年轻人和老年人对人工智能辅助工具的认知、他们的采纳行为以及他们的协作判断的准确性？通过纳入这两个年龄组，我们希望能够更全面地理解人机协作，为能够满足不同用户群体需求的系统提供基础。
章节摘录
年龄对错误信息可信度判断的影响
在个体如何评估信息可信度方面存在显著的年龄差异。然而，这些差异并不是固有的生物学“刻板印象”，而是由技术发展和社会变化塑造的强烈时间和情境特征。早期的研究（2000–2015年）主要集中在不同年龄组对在线与线下健康信息可信度的感知上，发现年轻人认为在线健康信息的可信度更高
假设构建
在这项研究中，我们通过三个关键组成部分来探讨不同人工智能检测模式如何影响用户互动：感知的人工智能能力、采纳行为和协作判断的准确性。借鉴组织信任整合模型（Mayer等人，1995），感知能力被定义为用户对人工智能在错误信息检测特定领域内的能力、技能和专业的认知。虽然信任是一个多维度的概念，但先前的研究已经
参与者
我们在进行实验之前使用了G*Power软件来估计最小样本量。考虑到2×3的组间设计，每位参与者需要完成10次试验。因此，在软件中选择了带重复测量的ANOVA（组间）F检验，设置的关键参数如下：效应量f=0.25（中等效应量），显著性水平α=0.05，统计功效1?β=0.80。所需的最小样本量为48人。
感知的人工智能能力
表4显示了参与者对人工智能能力的感知结果。年龄和性别对感知的人工智能能力有显著的主效应。与年轻人（M=3.4，SD=0.54）相比，老年人（M=3.7，SD=0.61）对人工智能能力的感知显著更高。然而，由于当前样本中的年龄组和教育水平高度重叠，这种组间差异不能仅归因于生理年龄。女性参与者
讨论
本研究提出了动态检测模式，以帮助年轻人和老年人更好地构建对人工智能工具的适当心理模型。这种模式包括人工智能工具对同一目标信息进行多次检测，并动态更新检测结果。此外，该研究区分了检测结果动态变化的两个原因：内部模型的调整（Model-AI）和新证据的收集（Evidence-AI），对比了这些动态
结论
虽然辅助错误信息检测的人工智能工具越来越普遍，但大多数都依赖于静态的、一次性的评估。这种方法与信息演变和人类推理的动态性质之间存在不匹配，而人类的推理通常是随着时间发展的。为了弥合这一差距，我们提出了一种动态检测模式，以实现迭代的评估，从而反映判断的流动过程。通过结合行为实验和眼动跟踪技术，我们探索了这一
关于写作过程中生成式人工智能和人工智能辅助技术的声明
在准备这项工作时，作者使用了ChatGPT和Gemini来提高手稿的可读性和语言表达。使用这些工具后，作者根据需要审查和编辑了内容，并对发表文章的内容負全责。
CRediT作者贡献声明
Honglian Xiang:写作——初稿撰写、可视化、验证、监督、软件开发、方法论设计、调查实施、数据分析、概念化。Jia Zhou:监督、项目管理、方法论设计、资金获取、概念化。Xiaoru Sun:写作——审阅与编辑。Bingjun Xie:写作——审阅与编辑。
Honglian Xiang|Jia Zhou|Xiaoru Sun|Bingjun Xie
