摘要
目的
系统地识别和分类在评估大型语言模型(LLMs)在护理领域应用的研究中使用的结果、评估指标和测量工具。
背景
大型语言模型在护理教育、临床实践和研究中得到了越来越多的应用。然而,用于评估这些应用的结果、评估指标和测量工具仍然存在异质性,并且报告方式不一致,这限制了跨研究的比较性和证据的综合。
方法
本文献综述按照Joanna Briggs研究所的方法论和PRISMA-ScR指南进行。结果、评估指标和测量工具根据“基于共识的健康结果测量工具选择方法”(COMET)框架的领域进行提取和分类,然后根据“预测模型开发的可靠性和报告性——大型语言模型”(TRIPOD-LLM)指南将其映射到大型语言模型的任务类型。
证据来源
搜索了八个英文和中文数据库,以识别评估大型语言模型在护理领域应用的原始实证研究,共找到了50项符合纳入标准的研究。
结果
共提取和分类了56个不同的评估要素(包括临床/教育结果、技术评估指标和标准化测量工具),这些要素被归入三个COMET框架下的领域:客观效率指标、中间效应指标和主观体验指标。大多数测量工具集中在文本生成和摘要任务上,而用于数据提取和决策支持任务的评估指标相对较少。这反映了报告不一致性和标准化不足的问题。
讨论
大型语言模型在护理应用中的性能指标在不同任务模式和操作场景中的分布不均,这突显了制定标准化评估指南的必要性。
结论
这项基于证据的综述支持在护理研究和实践中更加一致地报告和整理大型语言模型的应用。
对护理实践的启示
本研究的发现可以帮助护士和教育工作者选择适当的评估指标,促进大型语言模型的安全、基于证据的整合。
对护理政策的启示
在评估大型语言模型在护理领域的应用时,提高结果指标报告的清晰度和一致性有助于制定机构层面的指南。
利益冲突
作者声明,本研究的进行不存在任何可能被视为潜在利益冲突的商业或财务关系。
数据可用性声明
由于在本研究中未生成或分析任何数据集,因此不适用数据共享。


