《International Journal of Human-Computer Studies》：Assessing the applicability of existing design recommendations to AI companion design: A multi-method study
编辑推荐：
•一项多方法研究评估了AI伴侣的设计建议。•确定了九个设计原则领域。•这些原则领域揭示了建议适用性方面存在的张力。•伦理与用户体验考量在AI伴侣中深度交织。•有效的AI伴侣设计需要情境敏感的灵活性。引言大型语言模型（LLM）推动了AI伴侣的兴起，这是一种独特类型的对话系统，旨
- •
一项多方法研究评估了AI伴侣的设计建议。
- •
确定了九个设计原则领域。
- •
这些原则领域揭示了建议适用性方面存在的张力。
- •
伦理与用户体验考量在AI伴侣中深度交织。
- •
有效的AI伴侣设计需要情境敏感的灵活性。
引言
大型语言模型（LLM）推动了AI伴侣的兴起，这是一种独特类型的对话系统，旨在培养情感连接、表达性对话和持续互动。与主要关注任务完成不同，AI伴侣更注重关系性和情感性互动，通常采用类人人格来建立亲密感（De Freitas等，2026；Weitzman，2023）。
近期研究越来越多地考察了用户对AI伴侣的体验。研究探讨了用户如何发展与AI伴侣的关系以及体验这些关系，包括依恋、信任、爱情和人际关系（Ng等，2026；Silayach等，2025；Sharpe和Ciriello，2024；Merrill Jr等，2022；Manoli等，2026）。研究还考察了与AI伴侣使用相关的心理社会结果，包括AI伴侣在情感支持方面的应用、其减少孤独感的潜在作用、对自我反思的促进作用以及对用户福祉的影响（Zhang等，2025b；Ng等，2026；De Freitas等，2026；Kouros和Papa，2024；Ta-Johnson等，2020；Li和Zhang，2024；Maples等，2024；Skjuve等，2022）。同时，围绕AI伴侣的伦理担忧也日益增多，包括情感伤害、情感操纵、有害依赖、人际关系侵蚀、利用孤独感、延续性别和种族刻板印象以及不当的性互动（Boine，2023；Brigham等，2026；Muldoon和Parke，2025；Ho等，2025；Banks，2024；Skjuve等，2022；Verma，2023；Jacobs，2024）。总体而言，这些不断涌现的研究强调了AI伴侣设计的重要性和复杂性。
先前的工作提供了与AI伴侣相关的设计指导，包括更广泛的关于可信AI设计的指导、关于关系性和拟人化系统的研究，以及更直接考察AI伴侣设计的工作。然而，尽管这些研究提供了有价值的设计指导和可能的解决方案，但对于AI伴侣设计为何作为设计问题如此困难的理解却关注较少。
为了系统性地考察AI伴侣设计的挑战，我们评估了相邻领域的设计建议在AI伴侣中的适用性。为此，我们进行了一项涉及四个阶段的多方法调查研究：第一阶段通过全面的文献综述收集设计建议；第二阶段通过与11名从业者的协作分析，评估这些建议在AI伴侣设计场景中的适用性；第三阶段将从业者的输入整合为连贯的设计原则，并通过内部启发式评估对其进行评估；第四阶段通过与14名领域专家进行的修改版启发式评估，对这些原则进行社区检验。
这项多方法问题分析确定了九个与AI伴侣相关的设计原则领域：安全性、透明度、包容性、可预测性与一致性、交互可控性、适应与个性化、参与感、同理心回应和回应长度。在这些领域中，我们发现现有建议在应用于AI伴侣设计时存在张力。我们报告了两项关键发现：（1）伦理导向和用户体验导向的考量在AI伴侣设计中深度交织，许多原则同时影响着体验和风险；（2）原则通常需要情境敏感的应用，而非固定不变、一刀切的指导方针。
在本文中，我们系统地记录了这一多方法问题分析，以原则领域作为分析工具。
章节摘要
设计可信AI
先前的工作已将可信AI从抽象原则推进到基于生命周期的实施。Li等（2023）将稳健性、可解释性、透明度、可复现性、公平性、隐私和问责制等可信度需求，按照AI系统生命周期——从数据和模型开发到部署、监控和治理——进行了组织。Toreini等（2020）同样将AI信任与可信机器学习技术联系起来，确定了公平性和可解释性，
多方法研究概述
为了考察相邻领域的设计建议如何适用于AI伴侣，我们进行了一项四阶段的多方法问题分析。我们没有将各阶段视为独立的研究，而是将它们构建为对建议适用性的递进式评估。这一阶段结构借鉴了先前的启发式评估方法，每个阶段产生一个中间输出，为下一阶段提供依据（图1）。
在（第一阶段）收集阶段，我们建立了现有的初步语料库
方法
第一阶段旨在建立现有的设计建议初始语料库，以便在后续阶段评估其对AI伴侣设计的适用性。由于我们的目标不是进行全面系统的文献综述，因此采用了有目的的、以建议为导向的文献综述方法。我们专注于那些明确阐述了设计原则、指南、建议或与设计相关的发现，能为AI伴侣的高层用户体验设计提供指导的来源。
第二阶段（情境化）：从业者协作分析
我们与11名HCI从业者组成的团队，对所有548条建议进行了协作编码和小组讨论，将其转化为AI伴侣的语境。
方法
在第三阶段，我们对第二阶段的453条适用建议进行了深入的主题综合，并参考该阶段记录的笔记以支持解读。四人团队分为两对，每对处理一半的打印建议，通过迭代拆分和合并将其归类为主题。在第一轮之后，两对之间分享了各自的主题，并将它们组织为松散定义的更广泛类别。我们随后进行划分
第四阶段（社区检验）：专家评审
在最后阶段，我们与14名具有相关专业经验的领域专家进行了修改版启发式评估，以获取他们对不同AI伴侣和通用AI产品中原则应用情况的评估。
跨原则领域交织的伦理与用户体验考量及情境敏感灵活性的综合
通过我们的多方法研究，我们确定了与AI伴侣相关的九个关键设计原则领域：安全性、透明度、包容性、可预测性与一致性、交互可控性、适应与个性化、参与感、同理心回应和回应长度。
更重要的是，我们的分析得出了关于这些原则领域的两项总体见解。首先，伦理导向和用户体验导向的设计考量之间的界限经常被模糊化。
结论
AI伴侣设计具有重要意义，因为AI伴侣旨在支持情感连接、表达性对话和持续互动。尽管先前的工作提供了相关的设计指导和可能的设计解决方案，但关于AI伴侣设计作为设计问题为何困难的了解仍然有限。
为应对这一挑战，本研究通过多方法方法系统地考察了现有的设计建议如何适用于AI伴侣，结合了
CRediT作者贡献声明
Soobin Cho：撰写——审阅与编辑，撰写——初稿，资源，项目管理，方法论，调查，正式分析，构思。Deveshi Modi：调查，正式分析。Divya Mavinkurve：调查，正式分析。Jieqiong Ding：调查，正式分析。Mark Zachry：撰写——审阅与编辑，指导，构思。
生成式AI和AI辅助技术在写作过程中的声明
在本工作准备过程中，作者使用ChatGPT 5.2辅助编辑作者撰写的文本，以提高清晰度和措辞，因为英语不是作者的母语。在使用此工具/服务后，作者对内容进行了审阅和必要的编辑，并对已发表文章的内容承担全部责任。
利益冲突声明
作者声明不存在可能影响本论文所述工作的已知竞争性财务利益或个人关系。
Soobin Cho|Deveshi Modi|Divya Mavinkurve|Jieqiong Ding|Mark Zachry
