大型语言模型能否解决问题赌博行为？来自赌博治疗专家的见解

《Journal of Gambling Studies》：Can Large Language Models Address Problem Gambling? Expert Insights from Gambling? Expert Insights from Gambling Treatment Professionals

问题赌博咨询中，GPT-4o与Llama 3.1的LLM响应经23位专家评估，Llama在7/9项中更受偏好，但均存在鼓励持续赌博、回复冗长及表述易误解等风险，为制定AI安全标准提供依据。

　　

摘要

大型语言模型（LLMs）极大地改变了人类的信息检索方式。越来越多的人开始使用基于LLM的聊天机器人来获取各个领域的答案，包括关于心理健康和成瘾等敏感话题的建议。在这项研究中，我们首次探讨了LLMs如何响应与问题赌博相关的提示，特别关注了有经验的赌博治疗专业人士如何解读和评价这些响应。我们利用问题赌博严重程度指数（Problem Gambling Severity Index）设计了九个与赌博行为不同方面相关的提示，并将这些提示提交给了两个LLM：GPT-4o（通过ChatGPT）和Llama 3.1 405b（通过Meta AI）。然后通过在线调查将这些LLM的响应结果发送给人类专家（有经验的赌博治疗专业人士）进行评估。共有23位专家参与了这项研究，他们拥有超过17,000小时的问题赌博治疗经验。专家们对提示做出了自己的回答，并选出了他们更喜欢的LLM响应（结果是盲选的），同时提供了相关的反馈意见，这些反馈被用于定性分析。总体而言，Llama略受青睐，在9个提示中有7个提示获得了更多投票。主题分析显示，专家们指出了LLM响应中的优点和不足，例如鼓励继续赌博的行为、过于冗长的信息表达方式以及容易被误解的语言表达。这些发现提供了一种新的视角，揭示了有经验的赌博治疗专业人士在问题赌博背景下对LLM响应的看法，为未来将这些工具与适当的防护措施和安全标准相结合以用于赌博危害干预提供了参考。