屏幕背后：外行用户对ChatGPT的心理模型

《Frontiers in Computer Science》：Behind the screen: laypersons' mental models about ChatGPT

　　

引言：ChatGPT的对话式界面会引发与底层概率架构相冲突的拟人化解释。既往研究已识别技术外行对生成式人工智能（generative AI）的民间理论与概念，但多在孤立或群体层面考察。较少研究了解确定性（deterministic）、概率性（probabilistic）、拟人化（anthropomorphic）与动态（dynamic）这四类概念如何在同一外行用户内部共存、互动并相互矛盾。本研究以技术外行为对象，探讨其关于ChatGPT的重复性质性心理模型配置，以及技术人工智能术语是由机制层面的理解支撑，还是与同一或另一功能机制的误解共存。 方法：研究人员对技术外行（N=21）进行半结构化访谈，询问其如何理解ChatGPT运作。陈述被演绎编码为四类心理概念：确定性、概率性、拟人化、动态。为每位参与者构建心理模型。含技术术语的陈述进一步被判定为该术语所指同一机制被其解释否定（Chauffeur Knowledge，司机知识），还是与另一机制的误解共同出现。 结果：出现三类重复性心理模型配置：以概率思维为主（n=8）；拟人化与动态思维（n=4），概率推理有限；以确定性检索思维为主（n=9），确定性概念占主导且概率意识有限。所有参与者至少有一种关于ChatGPT的误解。在使用技术术语的10名参与者中，7人表现司机知识，7人对某一机制理解正确或部分正确但同时误解另一机制，4人同时满足两项标准。 讨论：参与者的ChatGPT心理模型是碎片化的，且常内部矛盾。技术术语可能掩盖其对所描述机制的误解，也可能在一处正确、另一处误解。这些发现挑战了主要依赖技术术语掌握程度的AI素养（AI literacy）评估。识别重复性质性配置，可为开发捕捉心理模型复杂性的测量工具奠定基础，并有望改进对ChatGPT输出过度依赖的预测。

研究背景方面，ChatGPT建立在大语言模型（Large Language Model，LLM）之上，其对话界面容易使用户把统计式的下一词预测误认为人类式理解。外行用户虽频繁使用系统，却常缺乏功能级理解：能说出“概率”“幻觉（hallucination）”“大语言模型”等词，却不理解为何系统会生成似真但错误的内容。已有文献多关注拟人化倾向与信任、使用行为的关系，或只在群体层面、孤立概念上分析民间理论（folk theories）；焦点小组还容易因从众与社会期望而平滑掉个体内部的认知矛盾。因此，研究人员指出两个空白：一是少有人把确定性、概率性、拟人化、动态四类概念放在同一个体心理模型里看其共存与冲突；二是使用技术术语并不必然代表理解了对应机制。该研究即在此基础上开展，目的是在个体层面揭示外行对ChatGPT如何工作的碎片化心理模型，以及术语与机制理解之间的错位。论文发表于《Frontiers in Computer Science》。

主要技术方法方面，研究人员采用便利抽样招募21名技术外行，即无计算机科学正规教育、无职业IT经验、无人工智能课程经历，但为ChatGPT活跃用户或至少知道其为AI聊天机器人；样本含学生与社会服务、医疗、科研、商业媒体等领域者。数据来自2024年11月27日至12月19日的半结构化一对一访谈，多数为德语、少数为英语。分析分三阶段：先由两名研究人员提取关于ChatGPT功能机制的陈述，再由三名研究人员按演绎式质性内容分析把陈述编入确定性（DET）、概率性（PROB）、拟人化（ANTH）、动态（DYN）四类并算相对比例，最后对使用技术术语者的同一机制解释做再编码，判定司机知识与碎片化理解；编码一致性通过独立编码、协商共识与参照OpenAI文档和技术文献维护。

研究结果方面，3.1 Configuration 1: Predominantly probabilistic thinking patterns（以概率思维为主，n=8）。研究人员通过比例画像发现，该组最接近LLM统计架构，多以数据集、词概率、模式识别描述系统，但一半人仍把后台数据库、检索或系统自纠错等确定性/拟人化想法掺入；其中两人持较纯概率模型，其余会在论证中被说服、把模型当会“改变主意”的代理。说明即便术语正确，也可能并存检索隐喻与动态误判。

3.2 Configuration 2: Anthropomorphic and dynamic thinking patterns（拟人化与动态思维，n=4）。该组无PROB编码，用直播式互联网抓取加人脑式加工来解释回答；把“最常见信息”当成现成登记库而非词预测，并相信每次纠正都让系统像人一样变聪明。研究人员据此说明：缺概率概念时，用户会用人类学习隐喻替代统计生成。

3.3 Configuration 3: Predominantly deterministic retrieval-based thinking patterns（以确定性检索思维为主，n=9）。该组沿“输入→搜数据库→输出”逻辑走，把ChatGPT当静态词库或登记册；部分人承认输出有偶然性，却误以为系统在多源间算“真相/共识”而非生成下一词；动态成分表现为“我的输入被存进数据库、别人也能用”。研究人员指出，这类外行常把学习与事实存储混淆。

3.4 Exploratory clustering analysis（探索性聚类分析）。研究人员另做k-means仅作图示，BIC为70.20、R²为0.579、平均轮廓系数0.350；因样本小、比例为成分数据、分离度一般，不把聚类当作稳定潜在类型。

3.5 Chauffeur knowledge and fragmented understanding（司机知识与碎片化理解）。10名用术语者中，7人同一机制解释与术语冲突，如说“按概率”却解释成主动搜训练文件；7人一处对、另一处错，如懂词预测却以为用户一句话就能永久更新全局模型；P12、P13、P15、P21四项皆中。研究人员由此证明：术语使用既不是无误解的信号，也不能区分外行内行，只是表面胜任。

讨论部分总结方面，研究人员认为心理模型异质且常矛盾，检索隐喻跨越三组，用户把ChatGPT近似谷歌却赋予更高信度，从而遮蔽幻觉来源。拟人化与动态常被外行合并为一种启发式：会演化就等于有意图、会学就像人。这种模型会导致错误归因——确定型用户怪数据错，概率型用户空喊“幻觉”却不明白提示敏感与模型内生因素；进而带来过度信任、责任外移、主动加工下降。对AI素养评估的含义是：多选题考“训练数据来源”或“temperature”等词，测不到机制级误解；应改用语义区分、反事实与边界题。界面上，chatgpt.com把免责声明放成灰字小字，而自信权威语气更易涨信任，所以设计应让回答在证据不足时示警、邀外部核验，而不是只堆术语或只加 disclaimer。隐私侧，用户普遍不知可退出数据用于训练/更新，说明认知透明该进对话行为而非支持页。

结论部分翻译：研究人员分析了整体、参与者专属画像，显示个体关于ChatGPT功能与底层架构的心理模型是碎片化的，且常内部矛盾。参与者常把关于ChatGPT各方面的正确与错误假设混在一起，表明其工作原理理解碎片化。恰当的技术术语，可能伴随对同一机制的不兼容解释，也可能在一处部分正确、另一机制却误解。此外，把意图、意见和态度赋予ChatGPT的人类倾向似乎持续存在，说明用于社会互动的认知架构根深蒂固，可能强烈抗拒把带对话式聊天界面的LLM仅仅看作技术工具。今后，关于对话式AI的信息与教育应聚焦功能机制，尤其是概率生成、信息检索与模型更新之间的区别，而非依赖会造成虚假理解感的术语。