人工智能聊天机器人在心理健康护理中的伦理关切与使用条件分析

《BMC Medical Ethics》：Ethics of AI chatbots in mental healthcare: insights from a multi-stakeholder focus group study

　　

摘要

背景

人工智能聊天机器人越来越多地被用作心理健康问题的治疗工具。这项技术的一个潜在优势是，与人类治疗师不同，它们不受等待时间的影响。然而，其使用也引发了伦理挑战，尽管相关的伦理分析正在增加，但相关利益相关者的观点仍然研究不足。这项定性研究探讨了将人工智能聊天机器人作为心理健康问题治疗工具所涉及的伦理问题。

方法

我们在荷兰与心理健康从业者（精神科医生、心理学家、心理治疗师、医生、精神病护理人员）、伦理学家、人工智能专家和法律专业人士进行了90分钟的在线焦点小组讨论。讨论由之前发表的评估性综述中的主题列表引导，并通过一个案例来引发伦理思考。讨论结果采用主题内容分析法进行分析。随着研究的进展，我们改进了方法以提高有效性和可靠性，例如调整了主题列表、案例或小组构成。讨论记录经过审查、修改后使用MAXQDA软件进行了编码。

结果

所有利益相关组的参与者都表达了对在心理健康护理中使用人工智能聊天机器人的谨慎或犹豫态度，这主要是因为存在未解决的伦理和法律问题。主要的担忧包括可能对用户的伤害、对不良后果的责任不确定性和相关风险，如有害的输出或人工智能产生的幻觉、过长的屏幕使用时间以及有限的有效性。虽然大多数参与者更倾向于人与人之间的直接交流，但他们也认识到一些患者可能更喜欢聊天机器人，并强调了知情和自主选择的重要性。法律专业人士比其他群体更强调了隐私和保密性的问题。

结论

我们区分了三种关于人工智能聊天机器人在心理健康护理中的伦理关切：一般的人工智能问题、特定于心理健康领域的人工智能相关问题，以及同样适用于人类治疗师的问题。区分这些类别是有用的，因为潜在的解决方案可能来源于不同的领域。参与者特别关注第二类问题——即特定于心理健康领域的人工智能相关问题。然而，鉴于人们已经开始使用聊天机器人寻求心理健康支持，我们认为问题不在于是否应该使用它们，而在于在什么条件下使用以及在接受多大风险的情况下使用它们才能确保其使用的责任性和安全性。