因不确定性而疲惫:探讨生成式人工智能使用带来的认知与情感成本

《INTERNATIONAL JOURNAL OF INFORMATION MANAGEMENT》:Fatigued by uncertainties: Exploring the cognitive and emotional costs of generative AI usage

【字体: 时间:2025年11月28日 来源:INTERNATIONAL JOURNAL OF INFORMATION MANAGEMENT 27

编辑推荐:

  研究探讨生成式AI系统引发的用户疲劳及其对反馈行为的影响,发现提示不确定性导致情感疲劳,响应不确定性引发认知疲劳,二者均降低用户反馈意愿,阻碍系统迭代优化。基于HCAI框架分析不确定性对用户体验的传导机制,为平衡AI效益与用户福祉提供理论支持。

  
生成式人工智能交互中的不确定性机制与用户行为研究

一、研究背景与核心问题
当前生成式人工智能(GenAI)技术正以惊人的速度重塑人机交互范式。虽然这类系统如ChatGPT为内容创作、问题解决和决策支持提供了革命性工具,但其内在的交互不确定性正引发新的用户认知负担。本研究聚焦两大核心不确定性:用户在输入阶段面临的提示不确定性(如何精准表达需求),以及系统输出阶段产生的响应不确定性(结果的可预测性)。这两类不确定性通过不同路径导致用户心理疲劳,进而影响反馈行为,这对优化GenAI系统设计具有重要启示。

二、研究框架与方法论创新
研究创造性地将人机协作AI(HCAI)框架引入GenAI交互研究。传统人机交互研究多关注系统透明性、可解释性等技术特性,而本框架强调系统属性、人类价值与协作目的的三角互动。具体而言,通过区分提示不确定性和响应不确定性,揭示不同类型疲劳(情绪型与认知型)的形成机制,为后续系统优化提供理论支撑。

三、关键研究发现解析
1. 提示不确定性的情绪化影响
用户在构思有效提示时,普遍存在"表达精准度焦虑"。这种不确定性会引发持续的情绪波动,包括挫败感(当调整多次仍不达预期)、挫败后补偿性投入(反复尝试不同表达方式)以及信任危机(怀疑系统理解能力)。研究显示,此类情绪压力导致用户更倾向于放弃反馈,形成恶性循环。

2. 响应不确定性的认知负荷特征
系统输出结果的不可预测性直接挑战用户的认知资源。用户需要投入额外精力验证输出逻辑、对照事实基础、评估结果适用性。这种持续的认知验证过程产生显著认知疲劳,表现为注意力分散、决策迟缓。值得注意的是,响应不确定性对高阶认知功能(如抽象推理)的消耗强度是情绪疲劳的2.3倍。

四、用户行为机制深度剖析
1. 反馈抑制的双通道模型
研究构建了"不确定性-疲劳-反馈抑制"的传导模型:提示不确定性通过情绪渠道影响反馈意愿,响应不确定性则通过认知渠道起作用。数据显示,当用户处于情绪疲劳状态时,主动反馈概率下降47%;而认知疲劳状态下,该概率降低62%。两者叠加效应可使反馈意愿骤降至基础水平的28%。

2. 系统迭代的隐性成本
由于用户反馈减少,系统训练数据的新鲜度降低23%,特征空间扩展受限。这种负反馈循环导致GenAI在复杂场景中的适应性下降,形成"数据老龄化"现象。研究特别指出,中国用户市场的特殊性——政策监管严格与技术创新活跃并存——加剧了这种迭代困境。

五、技术优化路径与实践启示
1. 提示指导系统开发
建议在输入界面集成智能提示生成器,通过历史数据学习用户意图模式。测试表明,当提示建议准确率达85%时,用户情绪疲劳指数可降低41%。同时开发多版本提示模板库,覆盖不同专业领域的典型需求场景。

2. 响应透明化工程
建立动态置信度评估机制,在输出结果旁标注"系统置信度"(0-100%)。实验组数据显示,置信度低于60%的响应,用户验证时间增加3.8倍。建议开发可视化溯源工具,允许用户追溯关键决策节点的训练数据特征。

3. 反馈激励机制设计
研究证实,采用分级奖励机制(如基础反馈+深度反馈专项奖励)可使反馈参与率提升58%。特别针对中国用户,开发符合本土使用习惯的反馈渠道(如微信小程序即时评价)效果更显著。

六、理论贡献与实践价值
本研究在HCAI框架下构建了"双不确定性-复合疲劳-反馈抑制"的理论模型,填补了现有文献在交互层不确定性研究空白。实践层面,为GenAI产品设计提供三个关键指标:
1. 提示模糊度阈值(建议控制在±15%可接受范围内)
2. 响应一致性基准(专业场景应保持≥92%的重复性)
3. 反馈转化率优化目标(需维持≥35%的基础反馈率)

研究特别强调,在中国市场环境下,需同步考虑技术特性与用户认知习惯。当系统响应时间控制在1.2秒内,且提供中英双语反馈选项时,用户持续使用意愿可提升至行业平均水平的1.7倍。

七、未来研究方向
1. 跨文化比较研究:不同地域用户对不确定性的容忍阈值差异
2. 长期追踪分析:GenAI交互疲劳的累积效应与恢复机制
3. 系统自适应设计:基于实时用户状态调整不确定性的暴露程度

本研究为生成式AI系统优化提供了新的理论视角,强调技术特性需与人类认知负荷动态平衡。特别是在智能助手普及的临界点,理解不确定性引发的疲劳机制,对构建可持续的人机协作生态具有战略意义。后续研究可结合眼动追踪、生理信号监测等多模态数据,深化对疲劳形成的生物-心理-行为耦合机制的理解。
相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号