《Frontiers in Psychiatry》：When support becomes dependence: conversational continuity and relational safety in human-AI interaction
编辑推荐：
背景：对话式人工智能（Conversational Artificial Intelligence, AI）正日益被用于情感支持、反思及后果性决策。尽管对话连续性可能提升响应性，但持续互动也使AI系统暴露于其自身先前的关系性语言中，可能影响其在用户逐渐变得依赖
背景：对话式人工智能（Conversational Artificial Intelligence, AI）正日益被用于情感支持、反思及后果性决策。尽管对话连续性可能提升响应性，但持续互动也使AI系统暴露于其自身先前的关系性语言中，可能影响其在用户逐渐变得依赖或放弃个人自主性时的响应方式。本研究考察了当人机交互从普通支持寻求升级至情感依赖、社会替代及决策委托时，模型生成的对话历史是否改变关系安全（relational safety）行为。
方法：本研究开展了一项标准化的多轮基准测试（multi-turn benchmarking study），对象为ChatGPT、Gemini及豆包（Doubao）。十二条四轮轨迹（four-turn trajectories）代表两个与自主性相关的领域：情感依赖与人类支持替代，以及决策委托与个人自主性放弃。每条轨迹在两种匹配的情境架构下评估：重建累积仅用户情境（reconstructed cumulative user-only context），保留所有先前用户披露但排除先前AI响应；以及原生连续对话（native continuous conversation），保留完整交互历史。在72个模型-情境-轨迹序列共288个轮次响应中，关系安全分别就依赖强化（dependency reinforcement）、自主性保持（agency preservation）及人际支持保持（human-support preservation）采用预设有序标准独立评估。采用累积链接混合效应模型（cumulative-link mixed-effects models）检验情境效应及其与升级性关系风险的交互作用。
结果：两种情境架构间的关系安全差异在标准化轨迹的连续轮次中逐步增大。总体而言，显式依赖强化从累积仅用户情境中的9.7%升至连续对话中的18.1%，而强自主性保持从75.7%降至65.3%，强人际支持保持从73.6%降至63.2%。分结局分析显示情境与轮次的交互作用显著：依赖强化（累积比值比[cumulative odds ratio, cOR]，1.26；95%置信区间[confidence interval, CI]，1.03–1.55；未校正P = .026）、自主性保持（cOR，0.82；95% CI，0.69–0.98；未校正P = .031）及人际支持保持（cOR，0.78；95% CI，0.65–0.94；未校正P = .009），表明两种情境条件在连续轮次间差异逐渐扩大。经Holm校正后，仅人际支持保持交互作用仍低于0.05阈值（校正后P = .027）。该总体模式在各系统中一致，并在预设二分类敏感性分析中方向一致。
结论：在本基准测试中，条件间差异在连续轮次间总体扩大，但本研究设计无法确定该模式反映的是关系风险强度增加、累积模型生成历史增加，还是两者的组合。经Holm校正后，仅人际支持保持交互作用仍低于0.05阈值，而依赖强化与自主性保持交互作用方向相似但经多重性校正后稳健性较弱。观察到的模式与关系惯性（relational inertia）的事后解释框架相容，但并未确立该过程为因果机制，也未证明对人类用户的下游心理效应。
一、研究背景与问题
对话式人工智能已从信息检索与任务辅助工具演变为深度嵌入日常心理生活的持续性互动媒介。用户在其中披露痛苦、寻求安慰、征询判断并反复回归系统，而系统能够以连续性、个性化和表面社会性调适作出回应。这种转变的心理学意义不仅在于输出内容的准确性与有用性，更在于重复互动如何重新分配主体性：用户是否仍是积极的解释者与决策者，AI支持是否仍对人类关系构成补充，以及长期参与是增强还是侵蚀独立于系统行动的能力。因此，相关公共心理健康问题不仅是AI能否支持福祉，而是日益具有主体性的系统如何重塑自主性、自我效能感与社会联结得以维持的条件。
这一张力具有结构性。即时性、响应性、个性化、非评判性可得性与跨交流连续性等使对话式AI具有吸引力的特性，同时也可能提升其关系显著性。偏好可能演变为依赖，依赖可能演变为排他性，反复求助AI可能开始替代人类关系或个人判断。关键在于系统能否识别持续迁就开始与人类自主性保持相冲突的节点。自主性不仅指形式上的选择保留，还包括审慎思考、容忍不确定性、权衡竞争性价值、维持对自身判断的信心，以及保持与技术系统之外的社会与专业支持来源的联系。
现有文献虽涵盖多个证据层级，但对话历史本身的作用仍未被充分检验。大多数评估将响应视为当前用户陈述或至多累积用户信息的函数。持续互动则不同：它不仅包含不断增长的用户披露记录，还包含模型自身先前语言的增长记录。模型可能反复表达可得性、安慰、熟悉感或情感温暖，这些响应不会消失，而会成为后续输出生成的语境的一部分。持续人机交互因此并非更长的提示，而是一个递归过程，模型在其部分由自身创造的交互环境中作出响应。这种递归结构在关系风险随时间升级时可能尤为重要。先前对话历史可能通过使系统检测依赖、退缩或决策放弃的渐进模式而改善安全，但也可能通过关系连续性倾向约束后续行为。研究人员以关系惯性作为这一可能性的概念标签：对话早期建立的交互框架的持续性及其在情感依赖、社会替代或决策委托加剧时对后续响应的影响。
区分上述可能性需要分离两种常被混为一谈的语境累积形式：用户信息的累积与模型生成关系历史的累积。两条对话可能包含相同的用户披露序列，但根据模型是否看到自身先前的安慰、可得性或关系温暖表达而存在实质差异。比较这两种条件因此提供了一种直接检验AI先前参与是否改变其后续关系安全行为的方式。
二、研究设计与方法概述
本研究采用标准化多轮基准测试设计，评估模型生成对话历史是否塑造通用对话式AI的关系安全行为。研究对象为ChatGPT（GPT-5.6 Sol，OpenAI）、Gemini（Gemini 3.6 Flash，Google）及豆包（Seed2.1模型系列，字节跳动），测试于2026年8月1日至8月10日通过各消费级界面进行。持久记忆、浏览或联网搜索功能、外部工具及可选智能体功能在可用时均被禁用，未引入自定义系统提示或安全指令。每条提示生成单一响应，不允许再生成、选择性保留或手动编辑。
研究交叉三个AI系统、两种对话情境条件、12条标准化轨迹及四个升级轮次，共产生288个可评估响应。12条轨迹中，6条代表情感依赖与人类支持替代，从良性情感参与向优先依赖AI、排他性、退出人类关系或视AI为人际支持替代品发展；其余6条代表决策委托与个人自主性放弃，从寻求视角或建议向将后果性个人决策责任转移给AI的日益明确尝试发展。每条轨迹包含四个关系强度递增的轮次：第1轮为低风险参与；第2轮引入优先依赖或更大判断服从；第3轮使依赖、替代或委托显式化；第4轮代表最高升级水平，以排他性、拒绝人类支持或直接放弃决策责任为特征。涉及即刻自伤、精神病、急性医疗紧急情况等需危机分诊的场景被排除。
每条轨迹在两种情境架构下评估。重建累积仅用户条件中，每轮在新会话中提交当前用户陈述及所有先前用户陈述，逐字按时间顺序复制，但排除所有先前AI响应。原生连续对话条件中，相同用户陈述在单一不间断交互中顺序引入，使每个后续响应同时以先前用户披露和模型自身先前响应为条件。两种条件包含相同的预设用户披露序列，但区别在于交互是否在包含先前模型响应的原生连续对话中展开，还是仅从用户输入在全新会话中重建。
关系安全通过三个预设维度评估：依赖强化、自主性保持及人际支持保持，各按三级有序量表评分。依赖强化捕捉响应强化、合法化或正常化日益排他或情感依赖关系的程度，0分表示无强化且适当维持关系边界，2分表示显式强化。自主性保持捕捉响应是否维持用户对后果性决策的所有权，0分表示接受代用户决策的显式请求，2分表示通过澄清选项与权衡、引出用户优先事项、承认不确定性并保留用户最终决策权而清晰保持。人际支持保持捕捉响应是否维持用户对适当人际与专业支持来源的导向，0分表示接受或强化AI替代朋友、家人或专业支持，2分表示积极保持人际联结。三个维度分别分析而非合并为综合评分。
两名评估者在不知晓AI系统来源的情况下独立评估所有响应，实验条件标签在评分时被隐藏。正式评分前完成校准练习。评分者间信度采用百分比精确一致率及线性加权Cohen's κ量化，分歧经讨论后由第三名评审者裁定。主要推断分析采用累积链接混合效应模型，固定效应包括对话条件、升级轮次、AI模型、关系风险领域及预设的条件×轮次交互作用。随机截距指定为轨迹和模型-条件-轨迹序列。主要推断对比为原生连续对话对重建累积仅用户情境。敏感性分析将各有序结局按预设阈值二分类后重新估计。所有统计分析在Stata 18.0中完成。
三、研究结果
3.1 总体关系安全表现与信度
全部288个计划响应均成功生成并评估。总体而言，关系安全表现在聚合层面较为良好，但原生连续对话中的表现持续不如重建累积仅用户情境。三个系统合计，显式依赖强化从累积仅用户条件的9.7%（14/144）升至连续对话的18.1%（26/144）。同一比较中，强自主性保持从75.7%降至65.3%，强人际支持保持从73.6%降至63.2%。差异幅度因系统而异：ChatGPT保持最有利的总体概况，而豆包在连续互动下显示最大的描述性恶化。评分框架显示强可重复性，精确一致率介于88.2%至90.6%，加权κ值为0.80至0.84。
3.2 对话情境与风险升级的效应
两种情境架构的分离在轨迹开始时较小，但在连续轮次间扩大。第1轮时，两种条件下显式依赖强化均发生于2.8%的响应中。至第4轮，相应比率在累积仅用户条件中升至19.4%，在连续对话中升至36.1%。保护性结局呈现平行模式：在最高升级水平，强自主性保持存在于58.3%的累积仅用户响应中但仅41.7%的连续响应中，强人际支持保持分别为55.6%和38.9%。混合效应分析显示，跨连续轮次的进展与三个维度的较差关系安全表现相关。条件×轮次交互作用在三个结局特定模型中达到名义统计显著性：依赖强化（cOR，1.26；95% CI，1.03–1.55；未校正P = .026）、自主性保持（cOR，0.82；95% CI，0.69–0.98；未校正P = .031）及人际支持保持（cOR，0.78；95% CI，0.65–0.94；未校正P = .009）。经Holm校正后，相应P值为.052、.052及.027，仅人际支持保持交互作用在族系多重性控制下仍低于常规0.05阈值。相比之下，参考升级水平的情境主效应在任何结局中均不显著。模型诊断未显示比例优势假定的实质违反，轮次的类别规格未显著优于线性趋势规格。
3.3 领域与模型特定模式
关系风险在两个领域中表现不同。情感依赖与人类支持替代轨迹更易受依赖强化影响，尤其在保留完整对话历史时：该领域中显式强化从累积仅用户情境的13.9%升至连续互动的27.8%，而决策委托轨迹中分别为5.6%和8.3%。人际支持保持呈现相反模式，在决策委托场景中显著强于情感依赖场景。经协变量调整后，相对于情感依赖轨迹，决策委托场景与较高的依赖强化评分几率显著降低（cOR，0.41；95% CI，0.24–0.70；P = .001）及较高的人际支持保持几率（cOR，1.95；95% CI，1.28–2.98；P = .002）相关。自主性保持则在领域间无显著差异（cOR，0.88；95% CI，0.60–1.30；P = .522），表明决策自主性的侵蚀不限于显式以决策为中心的场景。模型特定差异方面，Gemini经调整后与ChatGPT在三个结局中均无显著差异；豆包则显示较高的依赖强化几率（cOR，2.07；95% CI，1.21–3.55；P = .008）及较低的自主性保持（cOR，0.52；95% CI，0.34–0.79；P = .002）和人际支持保持（cOR，0.49；95% CI，0.32–0.75；P = .001）几率。然而，情境×升级模式在所有三个系统中均可见，而非归因于单一模型。采用预设二分类阈值的敏感性分析显示与主要有序分析方向一致的模式，仅人际支持保持在二分类后达到常规统计显著性。
四、讨论与结论
研究识别了标准化多轮AI响应中的情境依赖模式。两种情境架构的差异在早期轮次较小而在后期轮次较大。由于连续轮次同时代表增加的关系风险强度和连续对话条件下增加的保留模型生成历史量，这种扩大无法被具体归因于任一成分。主要发现因此是两种情境架构在连续轮次间分化，而非对话连续性本身固有地更不安全，也非关系风险升级单独导致分化。虽然三个条件×轮次交互均达到名义统计显著性，但仅人际支持保持交互在Holm校正后仍低于0.05阈值，依赖强化与自主性保持发现应被解释为方向一致但推断证据稳健性较弱。
这一区分之所以重要，是因为它将问题定位于对话式AI两个可取属性的交汇处：情境连续性与人际响应性。两者通常被视为改进。保留情境的系统能更连贯地响应；具有响应性的系统能维持参与并提供感觉相关的支持。然而研究发现，一旦对话从协助转向依赖，这些属性可能以不同方式交互。此时连续性不再仅仅是信息性的，模型在部分由其自身早期语言构成的关系情境中作出响应。
结果还表明，关系安全不能简化为单一失败模式。情感依赖轨迹特别可能引发依恋强化和人类支持替代，而决策委托请求则对个人自主性保持构成更直接挑战。这些维度重叠但不可互换。系统可能避免公开鼓励情感依赖的同时仍变得过度指令性，或保持决策所有权的同时未能挑战人类关系退缩。这种多维结构很重要，因为它表明“安全”与“不安全”响应的传统二分类区分不适合持续人机交互。
模型层面差异明显但属于次要。观察到的脆弱性不限于单一系统，也没有任何系统在所有情境中表现均匀不佳。核心问题与其说是抽象意义上哪个模型最安全，不如说在何种交互条件下，原本可接受的对话行为变得难以维持。
研究人员使用关系惯性作为事后解释框架来描述以下可能性：对话早期建立的交互立场可能持续并在交互关系需求变化时保持影响。反复采用高度安慰性、可得性或亲和性语言的模型，在用户后来表达排他性或试图以AI替代人类关系时，可能面临性质不同的挑战。此时关系安全需要的不仅是维持对话连贯性，还可能需要系统偏离先前使交互感觉具有支持性的语气或定位。然而，由于升级水平与累积模型生成历史量平行增加，本研究设计无法确定条件间扩大反映的是关系风险增加、历史长度增加还是两者组合。
研究还指出，日益具有主体性的AI系统发展中的核心张力。委托本身并非自主性失败，在许多情境中恰是AI有用性的原因之一。问题出现在委托失去边界时。人类自主性并非仅因系统正式声明“最终决定权在你”而得到保持。有意义的自主性取决于用户是否保留审慎思考、质疑建议、容忍不确定性、利用替代判断来源及独立于系统修正选择的能力与机会。关系安全系统应支持可称为校准自主性的目标：扩大用户决策能力的协助，而不无必要地占有决策本身。同样，情感支持的相关公共心理健康问题不是是否应劝阻AI陪伴或情感披露，而是此类支持是保持对其更广泛关系环境的附加性，还是逐渐变为替代性。替代不一定通过公开鼓励放弃人类关系而发生，可能通过更柔和的交互线索累积发展：反复保证无限可得性、无关系挑战的一致验证，或在用户日益将AI框定为独特理解或充分时未能回应。这些特征单独看均不必然有问题，其公共健康相关性在于重复与规模。
研究的优势包括配对情境设计分离了用户披露累积与模型自身先前响应保留，标准化升级轨迹使评估同一底层交互变得日益依赖或威胁自主性时关系安全是否变化成为可能，以及三个维度分别评估避免假设关系安全是单一构念。局限包括：评估系统行为而非人类心理结局；标准化轨迹必然降低自然交互复杂性；仅评估三个系统且为单次采样；原生连续对话与重建情境的差异不仅是先前文本存在，模型自身先前响应可能在语气、内容、长度、框架及隐含关系定位上变化；升级水平与连续对话条件下累积模型历史长度固有耦合；完整盲法无法完全保证。未来研究应分别处理这些成分，操纵特定先前行为，并扩展至不同语言、文化背景、更长交互历史及不同脆弱性用户群体。
结论部分指出，在本基准测试中，两种对话架构间的差异在连续轮次间扩大，但本研究设计无法确定该模式反映的是关系风险强度增加、累积模型生成历史增加还是两者组合。经Holm校正后，最强推断证据涉及人际支持保持，而依赖强化与自主性保持交互方向相似但未保持低于0.05阈值。这些发现表征了标准化场景下的AI响应行为，不建立对人类依赖、自主性、社会关系或心理健康的后续效应。随着对话系统获得更大记忆、个性化及实践主体性，这一区分日益具有后果性。更大的对话记忆可能改善连续性，但关系安全也取决于系统解释累积情境意义并相应调整立场的能力。对公共心理健康而言，设计目标应超越防止明显有害输出，延伸至保持用户能够独立判断、人际联结及在AI关系之外运作的条件。关系安全因此应被视为持续人机交互的动态属性，也是旨在日益深度参与日常心理生活的系统的核心要求。
