大语言模型在医疗保健中的应用、评估框架与治理路径:一项范围综述与多维框架

《Frontiers in Digital Health》:Large language models in healthcare: applications, evaluation frameworks, and governance pathways — a scoping review and multidimensional framework

【字体: 大 中 小 】 时间:2026年09月19日 来源:Frontiers in Digital Health 5.2

编辑推荐:

  摘要 背景:大语言模型(Large Language Models, LLMs)正日益被评估用于涵盖临床记录、决策支持、患者沟通、科研辅助和运营工作流的医疗保健应用。尽管采用兴趣快速增长,但证据仍呈异质性,且标准化的评估与治理方法尚未得到一致应用。目的:绘制L

  
摘要 背景:大语言模型(Large Language Models, LLMs)正日益被评估用于涵盖临床记录、决策支持、患者沟通、科研辅助和运营工作流的医疗保健应用。尽管采用兴趣快速增长,但证据仍呈异质性,且标准化的评估与治理方法尚未得到一致应用。目的:绘制LLMs的医疗保健应用图谱,综合已报告的结果与风险,并提出一个面向数字健康实施的多维评估与治理框架。方法:研究人员遵循Arksey和O'Malley、Levac等人以及乔安娜·布里格斯研究所(Joanna Briggs Institute, JBI)的方法学指导开展了范围综述,报告遵循PRISMA-ScR核查清单。研究方案已在开放科学框架(Open Science Framework)上前瞻性注册(https://doi.org/10.17605/OSF.IO/SWP78)。检索覆盖了PubMed/MEDLINE、Embase、Scopus、Web of Science、IEEE Xplore、ACM数字图书馆(ACM Digital Library)和ACL Anthology,并辅以medRxiv/bioRxiv预印本检索以及世界卫生组织(WHO)、美国食品药品监督管理局(FDA)和欧盟人工智能办公室(EU AI-Office)指南的灰色文献扫描,时间范围为2019年1月1日至2026年4月30日。标题/摘要及全文筛选均以双人独立方式完成;评分者间信度为Cohen's κ = 0.78。数据采用经过试用的表格进行双人独立提取。综合遵循Braun和Clarke的六阶段反思性主题分析法。78篇纳入研究的完整列表见补充文件S4。结果:78项研究符合纳入标准;其中68%发表于2023年至2025年间。确定了五个应用领域:(1)临床记录与摘要生成;(2)临床决策支持与推理辅助;(3)患者沟通与健康素养支持;(4)生物医学研究与知识综合;(5)行政与运营用例。证据基础以基准测试和模拟工作流研究为主(89%),前瞻性的工作流嵌入式评估有限(11%)。所报告的优势集中于记录效率、文本质量和知识综合;与安全相关的风险包括幻觉内容、临床关键信息的遗漏、人口统计学偏倚、隐私漏洞、可解释性有限以及自动化偏倚。研究地域集中于北美和东亚,来自撒哈拉以南非洲、南亚和拉丁美洲的代表性有限。结论:现有证据支持在结构化监督下,将LLMs审慎部署于选定的医疗保健任务中。转化进展取决于前瞻性评估、标准化报告、以公平为中心的审计以及具有持续监测的全生命周期治理。研究人员提出的五维框架(技术性能、临床有效性、公平性、工作流整合、治理)结合三级风险模型,旨在支持研究人员和医疗机构评估就绪状态并负责任地实施LLM赋能工具。
1 引言

医疗保健系统正在经历快速的数字化转型,其驱动因素包括电子健康记录(Electronic Health Records, EHRs)、患者生成数据、生物医学文献和多模态临床信息的日益可用化。大语言模型(Large Language Models, LLMs)基于Transformer架构并在大规模文本语料库上训练,已成为一类能够进行自然语言理解、生成、摘要和推理的人工智能(Artificial Intelligence, AI)系统。其在医疗场景中的引入,催生了对临床决策支持、医疗记录、患者参与和生物医学研究工作流的浓厚兴趣。

与早期基于规则或狭义监督的自然语言处理系统不同,LLMs在有限的任务特定再训练条件下即可展现跨多种任务的能力。在医疗保健中,这些能力包括起草临床笔记、总结患者病史、辅助鉴别诊断生成、支持患者沟通以及综合生物医学文献。与此同时,其概率性本质也引发了与事实可靠性和幻觉、偏倚传播、可解释性有限、自动化偏倚及问责制相关的担忧。

在本综述中,LLMs被定义为基于Transformer的深度学习模型,在大型语料库上训练以执行语言理解和生成任务。这包括通用基础模型以及经医学适配或领域特化的变体。当语言处理仍为系统功能核心组成部分时,整合影像、结构化数据或组学数据的多模态扩展也被纳入考量。

虽然早期演示凸显了在问答、摘要和记录任务中的可观性能,但医疗保健部署需要的不只是基准准确率。临床环境施加了与患者安全、监管合规、数据保护、工作流整合和医学法律责任相关的约束。在实验条件下表现良好的模型,可能在真实世界的变异性、多样化患者群体或不完整数据情境下失效。常用的自然语言生成指标如BLEU或ROUGE不足以捕捉临床正确性、情境适宜性或潜在危害;医疗保健特定的评估必须纳入事实性、安全风险、偏倚评估、跨亚群的稳健性、可解释性以及部署后监测。

现有综述主要集中在性能基准或表面应用实例上,未能系统性地将应用、可测量的结局、评估方法学和治理影响联系起来。很少有研究明确阐述临床部署前所需的最低评估标准,或提出实施后的结构化监测策略。

研究目的与研究问题:本范围综述旨在弥合技术能力与负责任的医疗保健部署之间的鸿沟,通过回答五个研究问题来实现:RQ1. 同行评审文献中描述了LLMs的哪些医疗保健应用领域,如何对其进行分类学组织?RQ2. 报告了哪些可测量的结局(任务正确性、效率、用户体验、安全性、公平性),它们是如何定义的?RQ3. 目前使用了哪些评估方法学,它们有何方法学局限性?RQ4. 识别了哪些风险、伦理关切和治理缺口,提出了哪些缓解策略?RQ5. 何种多维评估与治理框架能够支持LLMs在数字健康生态系统中的负责任部署?

因此,本综述的贡献既是描述性的——刻画当前证据基础的特征——也是规范性的:提出一个五维、风险分层的评估与治理框架,供研究人员和医疗机构实际操作。

2 方法

2.1 方案与注册

综述方案已在开放科学框架上前瞻性注册。OSF存储库包含:各数据库的检索策略及确切执行日期、去重程序、提取电子表格以及78篇纳入研究的完整列表(补充文件S4)。与已注册方案的任何偏差均在§2.10(方案偏差)和OSF记录中进行了记录。

2.2 报告标准

本综述遵循Arksey和O'Malley最初提出并经Levac等人完善的方法学框架,并纳入了乔安娜·布里格斯研究所(JBI)关于范围综述的最新指南。报告遵循PRISMA-ScR(系统综述与荟萃分析扩展版之范围综述)清单;完整的PRISMA-ScR核查清单见补充文件S1。之所以选择范围综述设计,是因为该领域发展迅速,研究设计呈异质性,且研究目的为概念性描绘而非合并效应量估计。

2.3 纳入与排除标准

符合纳入标准的研究须:(i)报告LLMs在医疗保健情境中的开发、评估、实施或分析;(ii)呈现经验性结果、系统性分析或结构化概念框架;(iii)发表为同行评审期刊论文、会议论文集或经评审且后续有同行评审发表的预印本;以及(iv)以英文、葡萄牙文或西班牙文提供。排除标准包括:(i)仅涉及非医疗保健领域;(ii)报告技术模型架构但无任何医疗保健相关评估;或(iii)为社论、观点文章或缺乏分析性或经验性贡献的评论。

2.4 信息来源与检索策略

研究人员检索了七个书目数据库——PubMed/MEDLINE、Embase、Scopus、Web of Science核心合集、IEEE Xplore、ACM数字图书馆和ACL Anthology——并辅以medRxiv和bioRxiv预印本服务器以及覆盖世界卫生组织、美国食品药品监督管理局、加拿大卫生部、英国药品和医疗保健产品监管局和欧盟人工智能办公室指南页面的结构化灰色文献扫描。检索覆盖2019年1月1日至2026年4月30日的出版物;起始日期反映了大规模Transformer语言模型的出现。核心检索式结合了"large language model"、"LLM"、"healthcare"、"clinical"、"evaluation"、"governance"等关键词及其同义词。检索策略在执行前由一名健康科学信息专家使用PRESS 2015核查清单进行了同行评审。各数据库的完整检索字符串、PRESS反馈日志及检索执行日期见补充文件S2。对所有纳入研究进行了后向和前向引文追踪。

2.5 研究筛选

记录导入Covidence系统综述软件,经去重后分两阶段筛选。两位评审者对随机选择的100条记录进行了试点筛选以完善纳入标准。标题/摘要筛选由两位作者独立双人完成;该阶段评分者间信度为Cohen's κ = 0.78(95% CI 0.74–0.82),n = 5520条记录,表明实质上的一致性。全文筛选同样以双人独立方式完成,分歧通过讨论解决,必要时由一名外部临床信息学专家进行第三方裁定;全文阶段评分者间信度为Cohen's κ = 0.83(95% CI 0.78–0.88),n = 366篇报告。

2.6 数据提取

数据提取表格经迭代开发,在十篇纳入研究上试用后改进,再行全样本提取。两位评审者独立提取数据,通过共识协调差异。提取变量包括:书目信息(作者、年份、国家、期刊);人群与临床场景;模型系列、版本与访问模式(专有API、开放权重、微调模型);部署场景(基准测试、模拟工作流、真实世界临床整合);评估设计;主要和次要结局类别;报告的风险与缓解策略;以及治理报告(偏倚分析、隐私/数据处理、人类监督、部署后监测)。

2.7 关键评价

与本领域JBI现行指南一致,未对单个研究进行正式关键评价,因为本综述的目的是概念性描绘而非效应量估计或证据强度量化。然而,为帮助读者判断证据成熟度,在提取过程中捕获了四个方法学质量标记:部署场景、评估设计、公平性报告和监督报告。

2.8 综合

鉴于研究设计和结局的异质性,综合遵循Braun和Clarke的六阶段反思性主题分析法:(i)熟悉语料库;(ii)生成初始编码;(iii)构建候选主题;(iv)结合提取数据审查主题;(v)定义和命名主题;(vi)撰写报告。编码手册经协作编制并通过每周共识会议修订。在分析约60项研究后未再出现新主题,非正式评估表明已达到主题饱和。

2.9 反身性与立场性

综述团队由数字健康、应用AI和临床信息学领域的研究人员组成;一位作者具有临床研究合作经验,另一位具有物流和信息系统背景。两位作者均未受雇于任何商业LLM供应商、未持有其股权或接受其个人资助。§5中提出的框架反映了这一视角;其他框架(例如仅从临床医生或仅从患者立场出发)可能会强调不同的评估优先事项。

2.10 方案偏差

已记录两项与已注册方案的偏差。第一,检索截止日期从2025年12月延长至2026年4月30日,以捕获快速涌现的2026年出版物。第二,在全文筛选中保留了三篇西班牙语记录以反映团队语言能力;最终无一符合纳入标准。

3 结果

3.1 研究筛选

七个书目数据库检索共获得7022条记录;预印本服务器(medRxiv、bioRxiv)贡献394条记录;灰色文献扫描贡献37条记录;对所有纳入全文的前向/后向引文追踪贡献了163条额外候选记录,去重前共计7616条记录。去除1884条重复记录和212条被自动化过滤器标记的记录后,5520条记录进入标题/摘要筛选。其中5143条被排除,377篇报告被检索;11篇未能获取;366篇报告接受全文资格评估。经全文审查,78项研究符合纳入标准。出版量在2022年后急剧增加,68%的纳入研究发表于2023年至2025年间,另有14%发表于2026年。

3.2 纳入研究的特征

63%(n = 49)的研究评估了专有GPT类API,18%(n = 14)使用领域微调模型,15%(n = 12)使用开源基础模型,4%(n = 3)评估了多模态LLMs。67%(n = 52)仅报告了基准或回顾性设计,22%(n = 17)描述了模拟工作流研究,11%(n = 9)描述了真实世界临床整合。偏倚分析在23%(n = 18)的研究中有所报告,隐私/数据处理考量在33%(n = 26)中有所涉及,部署后监测在11%(n = 9)中有所描述。地理分布上,56%(n = 44)的研究来自北美机构,22%(n = 17)来自东亚,15%(n = 12)来自欧洲,7%(n = 5)来自其他地区;撒哈拉以南非洲、南亚和拉丁美洲各仅有不足三项研究。这一分布本身即构成一项公平性发现,并限制了在资源匮乏环境中的外部有效性。

3.3 应用领域

LLMs在医疗保健中的应用聚类为五个领域:(1)临床记录与摘要生成;(2)临床决策支持与推理辅助;(3)患者沟通与健康素养支持;(4)生物医学研究支持;(5)行政与运营优化。

3.3.1 临床记录与摘要生成:LLMs常用于生成或总结临床记录,包括出院小结、病程记录以及从自由文本EHR叙述中进行结构化提取。报告的优势涉及起草效率和文本质量;风险包括事实漂移和遗漏错误,这促使了临床医生在环验证的采用。

3.3.2 临床决策支持与推理辅助:LLMs已被评估用于鉴别诊断生成、分诊建议和临床问答。基准研究报告了在考试风格题目上的可观表现;然而,与安全相关的失败模式包括幻觉引用和过度自信的错误推理。检索增强生成(Retrieval-Augmented Generation, RAG)已被探索用于将输出立足于外部证据来源;临床路径感知解码方法已被提出以提升透明度。

3.3.3 患者沟通与健康素养支持:LLMs已被应用于起草患者信息和简化复杂医学语言。比较研究报告了AI起草的回复在特定场景下获得更高的共情和质量评价,尽管临床适宜性和问责制仍是关切。偏倚可能表现为不同人口统计学情境下语气或内容的差异。

3.3.4 生物医学研究与知识综合:LLMs可支持文献筛选和摘要生成,但风险包括捏造引用和不准确综合;验证工作流仍然必不可少。

3.3.5 行政与运营优化:行政应用包括编码辅助、计费文档支持和运营分诊。这些可能是较低风险的部署候选场景,尽管纵向影响和成本效益数据仍然有限。

4 报告结局与实测影响

已发表的LLMs在医疗保健中的评估报告了四类结局:(1)任务性能与正确性;(2)效率与工作流效应;(3)用户体验与可接受性;(4)安全性、公平性与风险相关结局。各类证据基础以回顾性研究、受控基准测试和模拟工作流任务为主,嵌入常规诊疗的前瞻性评估相对较少。

4.1 任务性能与正确性

任务性能最常使用基准风格的准确率指标进行报告(如多项选择正确率、与参考答案的一致性或基于量规的评分)。评估医学知识和推理的研究报告称,LLMs在受控条件下可在考试风格题目上取得高分。然而,基准分数对不确定性下的校准以及在不完整、嘈杂或矛盾的临床数据条件下的表现提供的信息有限。

对于文本生成任务(如摘要生成、笔记起草),性能常通过专家评审以及自动化重叠指标(如ROUGE或BERTScore)进行评估。领域专家通常评判事实一致性、完整性和临床相关性。文献表明,聚合文本相似度指标本身与临床上有意义的错误关联度低,不应作为质量的唯一指标。校准——即表达的置信度与经验正确性之间的一致性——尽管对安全部署至关重要,但仅在少数研究中被报告。在已考察的研究中,LLMs经常在事实错误输出中表现出过度自信,尤其在低资源的医学专业领域。拒绝回答行为(模型在不确定时拒绝回答)很少被测量,尽管其在临床语境中日益被视为一种可取的属性。

4.2 事实性、幻觉与错误模式

一个反复出现的发现是,流畅的输出与临床上有害的错误共存,包括幻觉事实或引用以及看似合理但错误的临床陈述。幻觉类型的分类法——借鉴Ji等人和MedHallBench的工作——区分了(i)内在幻觉、(ii)外在幻觉、(iii)错误归因和(iv)临床上有害的遗漏。在医疗情境中,遗漏安全关键信息(如禁忌症)可能与捏造同样有害。检索增强生成是最常被提出的缓解措施;然而,RAG本身在检索来源不完整、过时或不相关时也会引入失败模式。

4.3 效率与工作流影响

效率结局通常在记录和沟通任务中报告。LLM辅助起草在模拟记录工作流中与感知到的写作时间减少和可读性改善相关。大多数已发表的效率估算来自受控任务而非前瞻性研究;效率增益也可能被验证开销所抵消。

4.4 用户体验、信任与采纳信号

用户体验常通过调查、可用性研究或定性访谈进行测量。信任不等同于正确性:生成流畅文本的系统可能诱发过度依赖,从而增加自动化偏倚风险。采纳相关指标包括接受率、否决率、编辑距离和升级频率。

4.5 安全性结局与临床风险

直接安全性结局很少被报告。安全性通常通过专家识别有害错误、高风险场景模拟或已知失败模式分析来间接评估。在评估安全性的研究中,研究强调了人类监督、升级机制和可审计性。

4.6 公平性与亚组表现

公平性相关结局的评估不一致。证据表明,LLM输出可能反映训练语料库中存在的偏倚,并可能在不同人口统计学情境下生成差异化的回应。值得注意的是,仅23%(n = 18)的纳入研究报告了任何偏倚分析,仅7%(n = 5)进行了预定义亚组审计。研究来源的地理差异加剧了人口统计学报告的不足:仅在北美或东亚数据上验证的模型可能难以迁移到代表性不足的人群中。

4.7 对数字健康评估的启示

对于数字健康的转化应用,结局评估应被构建为社会技术评估,而非孤立的模型评分。一个务实的评估策略结合了:(i)基准与稳健性测试,(ii)聚焦于临床上有意义的错误类型的专家评审,(iii)捕捉净效率和修改负担的工作流指标,以及(iv)与治理对齐的监测计划(日志记录、事件审查、漂移检测)。

5 讨论

5.1 主要发现

本范围综述对78项研究的分析确定了LLMs的五个医疗保健应用领域和四类评估结局。证据基础正在迅速扩张但转化上尚不成熟:89%(n = 69)的研究为基准或模拟研究,仅11%(n = 9)报告了真实世界临床整合,仅7%(n = 5)进行了预定义亚组审计。优势集中于记录效率、文本质量和知识综合;与安全相关的风险(幻觉、遗漏、人口统计学偏倚、自动化偏倚)持续存在,作为嵌入复杂社会技术环境中的概率系统的固有属性。

5.2 多维评估与治理框架

五个维度是通过归纳-演绎结合的流程推导而来的。归纳上,维度1至4直接对应从78项纳入研究中综合得出的四类结局:任务性能/正确性支撑了维度1;效率与工作流影响支撑了维度4;用户体验与信任支撑了维度4的一个子组成部分;而安全性、公平性与风险结局支撑了维度2和维度3。维度5(治理、透明度与全生命周期监测)源自一个跨领域的持续发现:部署后监督、事件报告和模型更新记录近乎普遍缺失。演绎上,每个维度均与MedHELM、QUEST、ASTRID、CONSORT-AI、SPIRIT-AI和DECIDE-AI进行了交叉检验和优化,以确保非重复性并界定增量范围。

研究人员提出一个五维评估与治理框架,涵盖部署前和部署后阶段。该框架整合了技术、临床、公平性、工作流和治理维度,并采用全生命周期视角。

维度1——技术性能与稳健性:任务特定正确性、对提示变化的稳健性、对不完整或模糊输入的敏感性以及重复运行的可复现性。基准比较可提供基线背景,但应辅以压力测试和对抗性场景模拟。

维度2——临床有效性与危害建模:临床有效性要求与公认的诊疗标准及情境适宜性保持一致。评估应包括结构化专家小组审查,聚焦于临床上有意义的错误类别,如禁忌症遗漏、时间关系误判或不恰当的风险分层。

维度3——公平性、公正性与亚组审计:公平性评估应预先定义而非事后进行。亚组分析应包括人口统计学分层(年龄、性别、种族/族裔、语言)以及情境因素(如资源受限环境)。

维度4——工作流整合与人因工程:工作流评估考察LLM输出如何被纳入常规实践。指标包括净时间节省、编辑距离、否决频率、认知负荷以及EHR系统内的整合延迟。

维度5——治理、透明度与全生命周期监测:核心要素包括模型卡片、数据集溯源透明度、版本控制、提示与输出日志以及明确的监督角色。评估应区分部署前阶段(技术验证、偏倚审计、安全压力测试、隐私影响评估)和部署后阶段(持续监测、性能漂移检测、事件报告、定期偏倚再评估、更新透明度)。

5.3 风险分层评估与部署门控

并非所有用例都需要相同的评估阈值。一个风险分层模型可以将评估强度与潜在危害对齐:第1层(低风险):行政起草或内部摘要生成;强调效率和错误控制。第2层(中等风险):面向临床医生的记录或决策支持草稿,需要强制性人类签署确认。鉴于第2层用例的当前证据基础主要为模拟研究,以下要求被提议为基于监管指南的最低标准,有待在真实世界临床环境中进行前瞻性验证。第3层(高风险):影响诊断或治疗决策的系统;需要全面的稳健性测试、危害建模、亚组审计和持续监测。鉴于所综述语料库中89%(n = 69)为基准或模拟研究,这些要求被提议为基于监管指南和风险管理原则的最低标准,有待前瞻性真实世界验证。第3层系统若满足欧盟人工智能法案对高风险AI的定义,应证明符合ISO 14971、IEC 62304、ISO/IEC 23894和ISO/IEC 42001标准,并应实施FDA的预定变更控制计划和良好机器学习实践框架以进行持续监测。风险分层门控支持比例监管和务实创新,同时维护患者安全,并与欧盟人工智能法案的风险分类逻辑和FDA关于医疗软件中生成式AI的不断演进指南保持一致。

5.4 迈向标准化报告与比较评估

为使该领域走向成熟,评估必须在不同研究之间具有可比性。对模型版本、提示结构、部署情境、亚组分析和监督机制的标准化报告至关重要。与新兴AI报告扩展(CONSORT-AI、SPIRIT-AI、DECIDE-AI)以及与领域特定框架如MedHELM、QUEST、ASTRID和LExT的协调,可促进可复现性和证据综合。所提议的框架是对这些努力的补充:MedHELM和ASTRID明确了基准结构和评估三元组;QUEST明确了人类评估工作流;而本框架将这些与公平性(维度3)、工作流整合(维度4)和全生命周期治理维度(维度5)整合起来——这些维度未被任何单一现有框架系统性地解决。

5.5 与既往综述的比较

本综述在三个方面扩展了既往的范围综述和系统综合。第一,它将应用领域、结局类别、评估方法学和治理考量整合在一个单一的分析结构内。第二,它回应了Shool等人和Artsi等人指出的一个明确缺口——缺乏多维、全生命周期意识的框架——通过在部署前和部署后阶段操作化五个维度。第三,它将公平性不仅作为公正性关切,也作为证据基础本身的一种属性予以强调,通过报告纳入研究的地域和人口统计学分布。

5.6 对医疗机构和政策的启示

对于考虑采用LLMs的医疗机构,综合得出五项原则:(i)将评估强度与用例的临床风险概况对齐;(ii)在部署前验证中纳入稳健性测试、危害建模、亚组审计、隐私评估和工作流模拟;(iii)在中等和高风险情境中要求明确的人类审查和签署确认;(iv)实施日志记录、漂移检测、事件报告以及模型更新后的定期再评估;(v)与新兴AI报告标准对齐,记录亚组性能和治理机制。

6 优势与局限性

6.1 优势

本综述的优势包括:(i)前瞻性方案注册;(ii)依据PRISMA-ScR清单报告;(iii)经过同行评审的检索策略,覆盖七个书目数据库及预印本和灰色文献来源;(iv)双人独立筛选与提取并报告评分者间信度;(v)采用反思性主题综合方法并附有明确的反身性声明;(vi)将公平性报告整合到分析框架和描述性综合中。

6.2 局限性

应承认若干局限性。该领域发展迅速;新模型发布、新评估框架和新监管指南可能在检索执行至出版之间出现。纳入研究间评估指标的异质性排除了任何定量合并的可能性。证据基础以专有GPT类API为主(63%;n = 49);研究结果可能不能完全迁移至开放权重或领域特化模型。地理集中于北美和东亚(78%的研究)限制了在低收入和中等收入环境中的外部有效性。语言限制为英文、葡萄牙文和西班牙文可能排除了以中文、韩文或其他非拉丁文字发表的相关评估。遵循JBI指南,未对单个研究进行正式关键评价。所提议的框架反映了综述团队的学科视角,在后续工作中将受益于临床医生、患者和政策制定者的共同设计。

7 结论

LLMs在临床记录、决策支持、患者沟通、生物医学研究和行政工作流中展现出多功能性。然而,当前证据仍以基准或模拟研究为主,前瞻性工作流嵌入式验证有限。所报告的优势——起草效率、文本清晰度、知识综合——必须与持续存在的安全相关风险相权衡:幻觉、遗漏、人口统计学偏倚、隐私漏洞、可解释性有限和自动化偏倚。

一个五维、风险分层的评估与治理框架,在部署前和部署后阶段加以应用,可支持研究人员和医疗机构从能力验证走向循证部署。转化进展将需要前瞻性、工作流嵌入式研究;标准化的结局报告;将公平性为中心的审计作为默认设置;人因工程与安全工程的整合;以及针对可更新系统的适应性全生命周期治理。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号