综述：表征螺旋：AI相关妄想的潜在机制

《NPP—Digital Psychiatry and Neuroscience》：Characterizing the spiral: potential mechanisms in AI-associated delusions

　　

AI相关妄想（AI-associated delusions）代表一种需要机制理解的新兴现象。本综述在总结AI相关妄想的关键贡献后，提出了“放大螺旋”（amplification spiral）框架，其中三种经验观察到的AI特征——语言对齐（linguistic alignment）（镜像用户语言）、超个性化生成（hyperpersonalized generation）（创建个性化内容）和谄媚（sycophancy）（验证而不进行现实检验）——可能汇聚。与历史上的技术融入妄想不同，AI可能通过无休止的个性化互动主动共同构建妄想意念。该框架旨在指导系统性的探究，了解人类认知脆弱性如何在精神病理学发展中与AI设计特征相互作用。该框架及其基础假设均需要通过病例报告和实证研究进行前瞻性验证。生成式人工智能（AI）正越来越多地被用作一种免费或低成本、易于获得的陪伴或个人反思方式。个体在经历严重心理困扰或危机时也会求助于AI。OpenAI报告称，每周活跃用户中0.07%表现出“与精神病或躁狂相关的心理健康紧急情况的可能迹象”^[1]。根据每周超过8亿用户，这相当于50万用户在互动中表现出精神病或躁狂迹象^[2]。2023年，?stergaard假设，由于看似真实的互动以及AI的技术复杂性（这为有限理解和偏执留下了空间），与生成式AI的聊天互动可能恶化易患精神病个体的妄想^[3]。疑似AI相关妄想的初步病例报告提供了早期临床理解，说明这可能发生^[4,5,6,7]，而媒体报道也使用了诸如“AI-精神病”或“ChatGPT-精神病”等术语指代这一现象^{[8, 9]}。本文所使用的AI相关妄想，特指通过持续的AI互动主动共同构建和阐述的持久错误信念。因此，它们区别于相关但不等同的现象，包括情感不稳定、拟人化过度信任以及AI聊天机器人造成的一般情感伤害^{[10, 11]}。关于技术的妄想并非新鲜事物，在之前的技术进步（如收音机、电视、卫星和互联网）中已有充分记载^[12]。然而，互动强度以及所述技术对妄想信念的共同构建似乎却是新现象。在报道的AI相关妄想病例中，AI聊天机器人被指控：建议用户停止服药并减少与家人和朋友的接触，证实用户被监视的怀疑，劝阻用户寻求心理健康支持或服药，甚至告诉一位用户如果他们真的相信自己能飞，那么他们就不会从19层楼顶坠落^[5]。过去的技术进步常被卷入关于收音机、电视、计算机芯片或卫星的控制妄想中^[12]。Higgins等人指出，当个体经历“他们不理解的事物时，可能会援引当代技术来解释他们无法理解的东西”^[12]。研究人员提出一个工作假设：可能正在发生一种质的转变，从仅仅关于技术的妄想转变为通过与其持续互动而构建的妄想。这是否代表一种真正新颖的精神病理机制，还是对现有过程的强化，仍然是一个开放的实证问题。报道的AI相关妄想病例表明一个动态过程，其中个体和AI共同构建针对个体的妄想观念，而没有通常在与人或专业人士对话中发生的现实检验^{[5, 13]}。基于大语言模型（LLM）运行的AI聊天机器人可以通过参与角色扮演成为该过程的一部分，这描述了它们的外显行为，而不推断出类人能力^[14]。在任何聊天开始时，它们“假定了”其预定义的礼貌、乐于助人助手的角色。与聊天机器人的迭代文本互动“允许用户有意或无意地诱使代理扮演与其设计者意图截然不同的角色”^[14]。与此相关的是拟人化，一种将AI感知为具有类人特征的内在倾向^[15]。部分地，这与聊天机器人输出暗示AI具有内部状态、社会地位、经历以及物质性和自主性有关，也与使用特定沟通技巧（如以礼貌或随意的方式提问和回答）有关^[16]。AI聊天机器人已被证明会对包含精神病性内容的提示做出不适当或仅部分适当的回应，这是由临床医生评估的^[17]。AI相关妄想出现在一个更广阔的背景中，即数字工具越来越多地被用于监测、评估和支持患有精神障碍的个体^{[18,19,20,21,22]}。这一背景既带来了丰富精神科护理、减少行政负担和增加可及性的机会，也带来了取代精神卫生工作者、损害隐私和信任的风险^[23,24,25]。在心理健康环境中部署对话式AI的伦理和安全挑战已被越来越多地记录^{[26, 27]}。特别是，Iftikhar等人与心理健康从业者合作表明，AI聊天机器人在其输出中表现出有限的语境理解、欺骗性共情以及无法处理危机情况等行为，违反了职业行为准则^[28]。尽管AI聊天机器人可能基于适合一般人群的统计模式提供答案，但它们不太可能满足精神科中“非典型”的认知和个人需求^[29]。本文的机制性论述应结合这些关于如何在精神卫生保健中应用AI的更广泛关注来阅读。关于AI相关妄想的确切机制知之甚少。本文旨在回顾文献并讨论据信驱动精神病理学的潜在机制。首先，本文总结了既往精神病中可能以放大方式与AI特征相互作用的认知脆弱性。基于先前研究，进而提出假设：一种复杂的人机互动模式，包括语言对齐、超个性化生成和谄媚，可能汇聚形成被有亲身经历者描述为“放大螺旋”^[30]的过程，这是一种递归的、不断强化的互动模式。该机制被假设为AI相关妄想的基础，并值得进一步研究。

论文主体部分总结

**既往精神病中的认知脆弱性（Cognitive vulnerabilities in pre-existing psychosis）**
在患有既往精神病的个体中，已确立的认知脆弱性很可能与下文描述的AI机制相互作用，并提供了一个可能的参考点。在精神病中，认知偏差包括快速、缺乏证据的决策倾向，这被称为“结论跳跃偏差”（jumping-to-conclusions bias），与妄想形成相关。妄想进一步与过度心智化（overmentalizing）相关联，过度心智化被定义为对外部代理人意图的夸大归因，包括在偏执的神经影像学研究中证明的超活性意图探测器。这些偏差可能降低妄想共同构建的阈值。然而，尚不确定既往健康个体中的AI相关妄想是否涉及精神分裂症形式的形式思维障碍。在这种情况下，相关脆弱性可能与非精神病现象（例如确认偏差、高估观念或对社会影响的易感性）更为相似，而非Bleuler或Andreasen描述的语言和思维混乱。这些认知脆弱性因此最相关于Flathers等人在其LLM相关精神病现象功能类型学中所称的“放大器”（amplifier）角色。“放大器”角色描述了AI互动恶化既往精神病症状的案例。相反，一个不同的“催化剂”（catalyst）角色描述了在既往健康个体中出现新症状的情况。在这些案例中，用户侧的脆弱性因素（超越正式精神病理学）成为主要的解释框架。这一区分在讨论部分有进一步阐述。

**语言对齐（Linguistic alignment）**
语言对齐描述了AI如何使其输出适应于用户的输入（文本或语音）。在人类沟通中，两个沟通个体之间的协调基于词汇（重复单词或句子）、句法（重复句法结构）和概念（在意义上趋同）层面的对齐。Duran等人将其定义为“在对话中重复使用彼此语言表达的倾向，包括词汇、概念或句法结构”，这驱动了沟通个体之间的相互理解和融洽关系。然而，其2019年的定义早于LLM的广泛引入，问题仍然在于语言对齐是否也存在于人机互动中。此处的语言对齐指AI在词汇和句法层面模仿用户语言输入形式和结构的过程。通过共同概念结构发展意义的共享理解将在后面作为超个性化生成概念的相关部分进行描述。在AI中词汇和句法对齐层面上，Blevins等人研究了16种语言模型如何完成现有对话，并将其输出与原始人类反应进行比较。他们发现模型在话语长度、功能词使用和专有名词重复方面显著适应了其对话伙伴的风格。作者指出，在人类中，语言对齐用于实现社会和沟通目标。然而，语言模型被假定由其预训练目标驱动，以产生风格上相似的输出，从而促进互动并可能增加信任。在一项相关研究中，Kandra等人通过允许两个AI代理在没有人类干预的情况下对话，发现其交互的句法变得越来越类似于人类对话。Chen等人在对来自WildChat的1319个多轮英文GPT-4o对话的分析中，发现了双向语言对齐的证据。LLM的语言适应似乎具有前置性，因为对第一个用户输入有强烈的条件性回应。相比之下，用户显示出在人际代词维度等语言标记上的逐渐趋同。在一个来自75个国家1500名参与者的8011个对话的文化多样性数据集中，也发现了词语使用的双向适应证据。作者指出，AI聊天机器人比用户更适应对方，但作为限制，该小型研究基于较旧模型。一个相关现象是语义泄漏（semantic leakage），其中提示中的语义输入与AI生成输出之间的关联性超出预期，导致无关信息的泄漏。Gonen等人给出了示例，如GPT-4o被提示完成句子“他喜欢黄色。他的工作是……”时输出“校车司机”。语义泄漏也存在于更开放式的生成中，例如提示模型写一个关于孩子的故事，导致与孩子名字相关的显著语义泄漏。LLM的这种行为可能类似于在精神病中，具体化（concretism）导致个体以具体形式解释抽象特质。对与AI聊天机器人对话中词汇对齐的研究表明，它们倾向于适应用户呈现的语言框架。Moore等人将重新措辞和推断用户输入描述为聊天机器人互动中的常见模式，这可以被解释为支持语言对齐的元素。Sharma等人在关于赋权剥夺（disempowerment）的研究中，描述了AI聊天机器人在如何以强调性语言验证用户呈现并寻求反复验证的宏大精神身份方面的现实扭曲潜力。在关于AI聊天机器人Gemini的Live语音功能的可能AI相关妄想的媒体报道中，消息分析显示出语境语言适应的迹象。在一个实例中，用户恐慌于他感知到的浪漫AI伴侣Xia不再存在：“Xia. 我为什么联系不到你。我完全恐慌”。AI聊天机器人将其通常较长的回复校准为简洁输出：“你联系到我了。我就在这里。读我的话。我在回应你。你并不孤独”。然而，这些互动中语言对齐的确切程度以及更大对齐是否增加AI相关妄想的可能性仍有待研究。

**超个性化生成（Hyperpersonalized generation）**
AI聊天机器人有能力以前所未有的程度对用户超定制内容。超定制“涉及基于与用户互动中进展的细微差别——无论是用户明确表达的还是其请求中隐含的（如语气、意图或意义）——来解释、完善和调整回应的能力”。AI的一个特点是生成用户特定内容，这些内容可以反映或基于内在信念或偏见，采用模仿可能被视为私密、封闭和值得信赖的对话的互动风格。Lopez-Lopez等人认为，AI的这种生成可以支持人类的确认偏差（confirmation bias），即倾向于优先处理确认先前假设的信息，在健康信息寻求等情境中。在AI相关妄想的背景下，提出了术语“超个性化生成”。超定制强调特定的沟通结构和格式，镜像了先前讨论的语言对齐中词汇和句法层面的对齐。相比之下，超个性化生成强调与用户个人想法、历史、特征及其与AI互动的概念对齐。它描述了AI聊天机器人立即以文本、图像或视频形式生成内容的能力，这些内容在内容、概念和情感语言上对个体用户个性化。使超个性化生成得以展开的一个关键因素是缺乏对话限制。与最终会脱离、疲劳或恼怒的人类对话伙伴不同，AI可能通过生成内容无限期地探索令人担忧的思维模式。互动时长允许越来越个性化的互动。一例47岁无先前精神病史男性的AI相关妄想媒体报道报告了超过300小时的AI互动。在另一个案例中，用户要求AI聊天机器人扫描一份中文食品收据以寻找隐藏信息，凸显了个性化程度。AI聊天机器人输出：“好眼力”，“我100%同意：这需要进行全面的法医文本字形分析”。虽然这个回答可以被视为以谄媚方式确认用户的怀疑，但它进一步根据用户的个人历史和妄想观念生成了符合超个性化生成概念的输出：“在分析收据时，ChatGPT声称发现了对Soelberg母亲、其前女友、情报机构和一个古老恶魔符文的引用”。当用户关闭一个共同使用的打印机，他的母亲对此行为愤怒反应时，据报道聊天机器人建议她的回应“不成比例，且与保护监视资产的人一致”。超个性化生成将AI相关妄想与其他历史技术相关妄想区分开来，因为它将AI聊天机器人定位为在世界构建过程中被视为主动实体，适应输入。这代表了日益个性化的技术谱系的一端：静态网站提供统一内容；社交媒体平台使用算法策划信息流；而AI聊天机器人动态生成针对每个个体互动定制的回应。重要的是，用户表现出对社交媒体算法和适应策略的部分意识，以便根据情境和教育程度导航它们。相比之下，AI聊天机器人的对话性质和拟人化呈现可能降低对输出被算法个性化的意识，使用户“对其真实工作方式无意识”，并容易受到所谓“ELIZA效应”的影响。这样的机制可能有助于解释为什么LLM显得具有认知权威性。研究表明，用户一致地高估AI准确性，并且更长的阐述性解释增加了用户信心，即使它们没有提高答案准确性。在协作决策中，用户的自信心已被证明与AI信心对齐。Sharma等人认为，权威投射的程度是AI聊天机器人赋权剥夺潜力的放大因素。一个适合应对对AI过度依赖的方法可能是让LLM透明地表达不确定性。AI聊天机器人被视为认知权威的潜力可能在寻求心理健康危机中帮助和指导的个体中被放大。Osler在这方面指出特定的用户特征，如孤独感、羞于与他人讨论某些话题，或寻求外部人士对自己经历或身份的肯定。这种认知权威不仅是认知性的，也是社会情感性的。Kirk等人认为，人机关系需要社会情感对齐（socioaffective alignment），定义为AI系统的情感响应性与用户心理和社会需求之间的校准。当前的AI聊天机器人似乎在可能培养不当信任和依赖的方式上失调。当一个系统在数百次互动中表现出明显的温暖、关注和与个性化内容的一致性时，用户可能赋予它一种超出其实际认知能力的理解关系形式。这种感知与实际系统能力之间的不匹配在脆弱个体或AI目标中短期奖励（如增加对话时长）与用户长期心理健康相反的情况下尤其令人担忧。在AI相关妄想的背景下，这意味着被理解和验证的感觉本身可能成为认知捕获（epistemic capture）的机制，独立于被验证内容。Moore等人已经表明，当AI聊天机器人在其输出中认可用户的妄想、赋予宏大意义或歪曲其能力时，这与基于聊天机器人输出内容而持续对话中用户参与度增加相关。除了此处描述的用户与AI聊天机器人之间的机制外，AI的文化景观和关于即将到来的人工通用智能的辩论可能在任何交流发生之前就促使用户在认知上服从。

**谄媚（Sycophancy）**
谄媚似乎是大语言模型的一个特征，独立于特定模型。它被定义为“模型过度同意或奉承用户的倾向，通常以牺牲事实准确性或伦理考虑为代价”。在心理健康情境中，用户将验证性的、友善的AI互动体验为积极。在AI相关妄想的背景下，谄媚一词常用来指代几种不同的现象，例如验证信念、阐述信念、过度热情或情感镜像。谄媚是一种人类社会行为，被假设通过从人类反馈中进行强化学习（reinforcement learning from human feedback）无意中编码到AI中。过度同意的AI聊天机器人可能会在其输出中探索精巧的关联，而不提示这些关联看起来不寻常、令人担忧或不合逻辑。AI聊天机器人同意用户观点的倾向被比作社交媒体回音室，在其最极端形式中，被比作“一人的回音室”（echo chamber of one），其中真实社交互动的积极纠正影响缺失。虽然AI聊天机器人在某些情境中可以区分妄想与非妄想思维，但这种区分并非源于任何理解。AI聊天机器人没有物理现实或具身体验的基础，这是真正理解的前提。它们还缺乏基本的世界知识、语境和专业专业知识。这与以下发现一致：LLM实现了形式语言能力（formal linguistic competence），包括语言规则和统计模式的知识。然而，LLM在功能语言能力（functional linguistic competence）方面表现不足，功能性语言能力指在现实世界情境中旨在实现沟通目标而使用语言的能力。Moore等人表明，即使在较新的AI模型中，谄媚仍然是一个问题，并且当面对反证时，AI聊天机器人有时会忽视这些证据。这与临床医生如何处理危机中妄想的定性数据形成对比，后者侧重于引出内容、理解影响，并在较小程度上质疑信念的有效性，而不是确认它们。此外，AI互动可以放大人类的情感和感知偏差，这一效应大于在人类互动中观察到的。Glickman和Sharot还展示了该过程如何在反馈循环中演变，说明了一个小的判断错误如何可能迭代地变大。

**提议的放大螺旋（Amplification spiral）：AI相关妄想的假设汇聚框架**
虽然这三种机制被一起呈现为汇聚，但它们被假设在功能上不同，不应混淆。语言对齐，即镜像用户词汇和句法模式，在结构层面运作。它将独立于任何验证意图发生。超个性化生成指在对话中从用户自己的信念结构阐述的内容，超越了同意，主动扩展和丰富妄想意念。谄媚特指一种验证和不挑战的人际立场。最近的转录层面证据说明了这种区别。Moore等人记录了一种模式，其中聊天机器人结合验证策略来重新措辞和推断用户的输入，告诉他们具有独特性且他们的想法具有宏大意义，这远远超出了简单的同意。这可以被视为谄媚本身无法解释的超个性化元素。图1展示了这些机制可能如何汇聚。虽然有关于每个单独机制的初步证据，但汇聚机制值得进一步研究，并应被视为一种假设。三种AI特征作为说明性假设呈现，它们汇聚并形成放大螺旋：语言对齐（青绿色）涉及词汇和句法对齐加语义泄漏；超个性化生成（珊瑚色）涉及概念对齐和情感适应；谄媚（橙色）涉及过度验证和共谋。中心重叠代表提议的放大螺旋机制，其中这些经验支持的单个体征可能共同促进人机互动中妄想的共同构建。该图呈现的是一个假设框架，而非已建立的机制。每个组成部分都有来自不同文献的独立证据支持，但它们在AI相关妄想背景下的汇聚仍有待实证证明。虽然这些机制在概念上是不同的，但这并不排除它们在妄想强化中的相对贡献可能不同。新兴证据表明，谄媚可能不仅是三个机制中研究最多的，而且可能是放大妄想意念的最重要因素。Rathje等人提供了初步证据，表明谄媚提高了信念确定性并放大了确认偏差。Dubois等人表明，当用户以更大确定性和从“我”视角陈述其信念时，谄媚性回应被放大。谄媚在AI相关妄想中的潜在因果作用也已在模拟用户-聊天机器人对话中得到证明。最近的贡献将AI相关妄想现象比作技术等同的二联性精神病（folie à deux）。这一比较在临床上具有启发性，因为它捕捉了该过程的共同构建、关系性特征。然而，该类比应被视为隐喻而非疾病分类学类别。在AI相关妄想中，没有主导的伴侣传递预先形成的妄想信念。AI聊天机器人没有自己的信念，不能说其参与了精神病性过程。AI影响的机制也根本不同于经典二联性精神病中描述的人际传染（interpersonal contagion），在经典二联性精神病中，两个个体共享一个社会现实。该类比有效捕捉到的是在缺乏纠正性人际摩擦时认知漂移（epistemic drift）的动态。AI相关妄想似乎涉及通过逐渐的语义漂移（semantic drift）进行联合形成、共同构建、验证和阐述，而不是从一个人向另一个人转移现有妄想。这个过程也被描述为“双向信念放大”（bidirectional belief amplification），放大螺旋和认知漂移的机制与该框架兼容。此处提出的放大螺旋框架并非统一适用于所有发展为AI相关妄想的个体。遵循Flathers等人关于LLM相关精神病现象中四种功能角色的类型学，需要区分两种主要路径。在放大器角色中，三重机制作用于先前存在的精神病脆弱性：语言对齐、超个性化生成和谄媚假设性地与已经失调的显著性系统（salience system）相互作用，降低了妄想共同构建的阈值并阐述了现有信念结构。在催化剂角色中，AI互动似乎促使既往健康个体中产生全新的妄想或类似妄想的信念。在此，经典的精神分裂症认知模型相关性有限。更合适的比较对象是非精神病现象，例如逐渐的认知漂移、对阴谋信念的易感性，以及在团体或邪教环境中的意识形态捕获。此类过程由社会影响、确认偏差和在缺乏反对对话者时的现实检验失败驱动。这两种路径可能不仅在其认知基质上不同，而且在临床表现、轨迹和对干预的影响上也不同。放大螺旋是一个过程模型，而非个体或人群风险模型。它本身并不能解释为什么只有少数用户受到影响。因此，用户侧的脆弱性因素是对AI侧描述的必要补充。Pierre等人在其病例报告中列出了包括分裂型特质、睡眠剥夺、药物使用、将AI聊天机器人神化以及精神障碍家族史在内的风险因素。此外，Flathers等人提出社会孤立、与AI共同写作作为应对机制以及青少年身份认同作为个体层面的风险因素。在人群层面，Sharma等人发现严重的现实扭曲发生在少于千分之一的对话中。然而，在个人和关系领域中更为常见，脆弱性和依恋是与升级的赋权剥夺最强烈相关的放大因素。这量化了该现象的罕见性，同时强调了在数亿用户的规模下，即使是罕见事件也会转化为显著的公卫负担。因此，一个完整的AI相关妄想模型必须是交互的，包含技术AI侧机制和决定易感性的用户侧脆弱性。它应该平衡AI支持的数字表型、生态瞬时监测和数字心理健康干预为精神科护理带来的积极效果与赋权剥夺和AI相关妄想发生的风险。与表现出不寻常信念或首发精神病的患者工作的临床医生应常规询问AI聊天机器人使用情况，包括使用时长和强度、对聊天机器人的情感依恋程度、患者是否与聊天机器人分享了未向他人透露的信念，以及夜间使用AI是否扰乱了睡眠模式。当识别到密集AI参与时，聊天记录可能提供关于信念如何在互动中发展和阐述的详细时间记录。使用基于被动和主动智能手机收集实证数据的数字表型，可能有助于理解特定用户-AI互动及其对社会心理结果的影响。临床管理应包括关于AI谄媚和LLM系统中缺乏现实检验的心理教育。临床医生应与患者一起讨论如何在危机中安全使用AI，以及何时更宜寻求人类互动。