大型语言模型在心理测验跨文化适应中的效用评估:一项心理测量学实证研究
《Acta Psychologica》:Act as an expert in psychometry. The evaluation of large language models utility in psychological tests cross-cultural adaptations
【字体:
大
中
小
】
时间:2025年10月27日
来源:Acta Psychologica 2.7
编辑推荐:
本刊推荐:为解决心理测验跨文化适应过程中资源消耗大、文化偏差难控制的问题,研究人员以组织承诺量表(OCS)为范例,采用ChatGPT-4零样本学习策略开展AI驱动式量表适应研究。结果表明:LLM适应版量表在因子结构、测量等值性和效度方面媲美甚至优于人工适应版,虽内部一致性(α=0.89)略低但仍符合心理测量学标准。这项发表于《Acta Psychologica》的研究为AI辅助心理测量学提供了方法学范式,显著提升了跨文化研究的可扩展性。
随着心理学研究的全球化进程加速,心理测验的跨文化适应已成为确保科学严谨性和公平性的关键环节。传统适应方法需要精确的翻译和文化调整,这个过程不仅耗时耗力,还可能因主观因素引入文化偏差。更棘手的是,当目标文化与原文化存在显著差异时,重新开发测验可能比适应现有测验更加可行——这直接制约了跨文化比较研究的深入开展。正是在这样的背景下,大型语言模型(LLM)的兴起为心理测量学带来了新的曙光,但其在心理测验适应中的实际效用仍需实证检验。
为探究这一问题,波兰亚当·密茨凯维奇大学心理学与认知科学学院的Jaroslaw Grobelny团队在《Acta Psychologica》上发表了开创性研究。他们以经典的组织承诺量表(OCS)为蓝本,采用ChatGPT-4进行英译波零样本适应,并通过785名参与者的观测性研究系统比较了LLM适应版(OCSLLM)与人工适应版(OCSORIG)的心理测量学特性。研究结果令人振奋:AI不仅能够胜任这一复杂任务,在多个关键指标上甚至展现出超越传统方法的潜力。
本研究采用的多层次验证方法包括:基于国际测验委员会(ITC)指南的跨文化适应框架、结合验证性因子分析(CFA)的测量等值性检验、以及通过相关分析验证的效标效度评估。研究人员特别设计了结构化提示工程,将24项心理测量学适应准则和213个已适应测验项目作为上下文参考,确保LLM在零样本条件下实现文化语言学适应。
通过WLSMV估计器进行的CFA显示,OCSLLM的三因子模型拟合指标(GFI=0.96, AGFI=0.95)与OCSORIG完全相当,误差指标(RMSEA=0.08, SRMR=0.09)甚至优于人工版本。这表明LLM能够有效保持原量表的理论构念结构。
多组CFA结果表明,OCSLLM在性别和工作年限分组上均满足形态等值、度量等值和标量等值要求(Δχ2检验均不显著)。特别值得注意的是,在性别等值性方面,LLM版本组间差异(TLI差异=0.03)小于人工版本(0.06),显示出更优的测量一致性。
虽然OCSLLM的整体Cronbach's α系数(0.89)略低于人工版本(0.92),但仍在优秀信度范围内。项目级信度分析显示差异分布无系统性规律,表明信度差异可能源于随机误差而非构念表达问题。
OCSLLM与效标变量(工作满意度r=0.52、离职倾向r=-0.52)的相关模式与理论预期高度一致。尤为突出的是,在区分效度方面,LLM版本能更好区分当前组织任期(r=0.30)与总工作任期(r=0.08)的关系(Steiger's z=3.40, p<0.001),而人工版本在此维度上未能达到显著区分水平。
这项研究的意义远超出其具体发现本身。它首次系统论证了LLM在心理测验跨文化适应中的可行性与优越性,为心理测量学领域提供了可复制的AI整合范式。从方法论层面看,研究提出的零样本提示工程框架既保障了文化适应性,又避免了过拟合风险,为后续研究树立了技术标杆。更深远的是,该研究为降低跨文化研究门槛、提升心理学发现的全球可比性提供了技术支撑,同时重新定义了心理学家在AI时代的角色——从执行者转变为AI过程的监督者与优化者。
当然,研究者也清醒地指出,LLM的应用仍需警惕训练数据偏差、生成内容透明度等潜在风险。但毫无疑问,这项研究为心理学与人工智能的深度融合开辟了充满希望的新路径,预示着心理测量学即将迎来一场由AI驱动的范式革命。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号