编辑推荐:
Brian Chu|Heather Shen|Ivy Lee|Jules B Lipoff布朗大学皮肤科,美国罗德岛州普罗维登斯市埃迪街593号,APC 10楼人工智能工具正在从被动的、由用户启动的工具转变为能够自主执行多步骤操作的主动型“智能代理”系统。这类智能体可以独立收集信
Brian Chu|Heather Shen|Ivy Lee|Jules B Lipoff
布朗大学皮肤科,美国罗德岛州普罗维登斯市埃迪街593号,APC 10楼
人工智能工具正在从被动的、由用户启动的工具转变为能够自主执行多步骤操作的主动型“智能代理”系统。这类智能体可以独立收集信息、依次完成任务,并与人类或其他智能体协作,无需人类持续干预。在医疗领域,早期采用者已在多个专业和临床环境中证明了其可行性。鉴于皮肤科患者数量众多、行政工作负担重以及复杂的临床病理工作流程,该领域尤其有望从智能代理技术中受益。为引导智能代理技术的负责任应用,我们提出了一个基于临床风险和任务可逆性的风险分层框架。目前,智能代理技术广泛应用的障碍包括模型可靠性不足、医疗记录之间的互操作性差,以及责任界定、隐私保护和监管等方面的问题尚未解决。皮肤科医生应通过专业组织及行业合作,积极推动智能代理技术的安全、公平发展,确保其发展符合我们的价值观。
从AI工具到智能协作伙伴
随着人工智能从被动工具发展为主动型协作伙伴,医学正处在一个关键转折点,这种技术被称为“智能代理”(在本文中,“智能代理”“AI智能体”和“智能协作伙伴”可互换使用)[
1]。目前的AI工具虽功能强大,但仍是被动的:用户必须主动发起每一次交互,提供所有相关背景信息,并解读所有输出结果。而智能代理则无需提示即可自主行动,能独立完成一系列任务,从多个渠道获取信息,与人类或其他智能体协作,还能通过反馈机制不断自我改进[
1]。本质上,智能代理可以充当具有明确职责的协作伙伴。需要指出的是,智能代理与传统基于规则的自动化系统不同,后者是对结构化输入执行固定逻辑,而智能代理则借助大型语言模型处理非结构化数据并应对新情况,其能力远超传统自动化系统。
大型医疗机构已经开始利用智能代理技术来减轻行政负担并提升护理质量。例如,杜克健康集团计划在心脏病科部署智能代理,负责协调护理工作,自动处理预约请求、优化资源分配,并帮助患者参与临床试验[
2]。在奥克斯纳健康集团,智能代理会持续查看患者的初级保健医生档案,主动联系患者进行筛查、实验室检测以及出院后的护理协调[
3]。牛津大学医院则在肿瘤科试点智能代理,用于总结病历、确定肿瘤分期,并为多学科肿瘤治疗团队起草符合指南的治疗方案[
4]。这些早期应用表明,智能代理技术在多个专业和临床环境中都具有可行性。
皮肤科面临的机会与风险
鉴于皮肤科患者数量庞大、行政工作负担重,以及依赖复杂的临床病理诊断方法,该领域尤其适合从新兴的AI技术中获益[
5]。在未来的皮肤科诊疗中,智能代理可以通过智能调度(如合理安排手术和复杂诊疗时间)、术前病历整理、记录书写与编码,以及自动跟进患者情况,来应对大量患者。语音智能体还能通过电话联系更多患者,包括老年人及英语水平较低的患者。智能代理还可以协助筛选并招募患者参与临床试验,尤其是解决临床研究中样本多样性不足的问题。对于生物制剂等特殊药物,其用药流程管理(如预先授权、申诉、患者援助计划以及实验室监测)也非常适合通过智能代理流程处理,从而减轻医护人员的重复性劳动负担。皮肤科独特的临床病理工作流程也便于实现多步骤的智能代理协作:智能系统接收病理检测结果后,可对照之前的记录和影像确认患者及病变部位,及时通知皮肤科医生,进而协调后续治疗方案(如联系莫氏手术专家)。
尽管应用前景广阔,但目前关于皮肤科领域智能代理技术的案例研究仍十分有限。不过,近年来已有不少公司致力于用智能代理技术优化皮肤科的各个工作环节。随着医疗机构及其他学科开始建立智能代理技术的相关工作流程、规范和商业模式,皮肤科医生也应积极学习这项技术,参与其中,共同推动其在实际诊疗中的应用。
部署智能代理技术需要权衡风险;在考虑开展试点项目时,皮肤科医生应逐步推进将任务交由智能代理处理的工作。为评估皮肤科是否具备应用智能代理技术的条件,我们提出了以下框架(
图1):适合开展试点的智能代理应用应以可逆、风险较低的任务为主。那些不可逆或风险较高的任务,则需要皮肤科医生或医护人员加强监督,因此在全面引入智能协作伙伴之前需格外谨慎。那些涉及重大决策、不可逆且风险极高的任务,在短期内并不适合交给智能代理处理。
图1。自主型智能代理技术目前最适合处理可逆且风险较低的任务。对于不可逆或风险较高的任务,则需要人类皮肤科医生的密切监督。那些既不可逆又风险极高的任务(如疾病诊断、开药等),短期内不太可能投入使用,其智能代理的自主权限也应受到限制。此框架中各任务的分类仅作为参考,具体安排还需根据各机构的日常工作流程、人员配置模式以及电子健康记录系统的功能来确定。
此外,还有诸多因素阻碍智能代理技术在皮肤科的广泛应用。首先,目前的AI模型在真实临床环境中的可靠性和复杂性方面仍有不足。一项最新研究显示,表现最佳的大型语言模型仅能成功完成70%的典型临床任务,比如开药、安排检查、转诊、病历记录以及与患者沟通等。这些模型在需要修改病历而非仅检索信息的任务上表现最为糟糕,这表明需要分阶段逐步引入此类技术[
6]。其次,需要提升医疗记录之间的互操作性,以便智能代理能够从分散的系统中获取数据。即便能够访问相关数据,智能代理也需要相应的权限才能真正代表皮肤科医生采取行动。第三,关于责任界定、隐私保护以及监管等问题仍需明确解答。因为传统上,监管机构往往是针对特定任务的AI医疗设备进行审批,而非针对其所能处理的各类相互关联的任务[
1,
7]。
为何皮肤科医生必须率先行动
虽然对于在职皮肤科医生而言,这项技术似乎还较为遥远,但关于智能代理技术的决策其实已经在制定中。国内外的皮肤科协会应将智能代理技术纳入AI应用规划,寻求与企业合作,并制定相关指南以指导智能代理技术的应用。与以往侧重于诊断性能的AI指南不同,针对智能代理技术的指南需要明确多步骤推理流程、最低性能标准、需要人类监督的机制,以及持续监控安全性的方案。近期可采取的具体措施包括在美國皮肤病学会等专业协会内成立专门的智能代理技术工作组,为皮肤科的试点项目制定标准化报告标准,以及建立自愿性的技术应用登记系统,以便各方交流经验。
研究还应重点考察智能代理在不同患者群体中的表现,以避免出现偏差[
7]。虽然已有研究表明,用于诊断的AI工具在深色皮肤人群上的表现存在明显差异,但目前尚不清楚专注于非诊断任务的智能代理系统是否会面临同样的问题。不过,如果智能代理系统依赖于有缺陷的组件,就有可能在更大范围内加剧这些差异,使得这些问题在自动化流程中无法被发现。因此,应采取相应措施,在不同人群群体中持续监控智能代理系统的运行情况。
智能代理技术代表着一种新的发展理念,即由智能的自主型代理为医生和患者提供服务,从而提升工作效率、诊疗连续性以及患者体验。人类医生与患者之间的信任关系无可替代,智能代理技术能为皮肤科医生提供机会,帮助强化这一关系,而非取代它。皮肤科医生不仅需要及时了解智能代理技术的发展动态,还应当积极参与相关决策,确保这项技术以合适、合规且符合伦理的方式得到应用,从而满足患者的需求并体现我们的价值观。