综述:设计驱动的以人为本人工智能在医疗健康领域的创新路径:理论、实践与未来展望

《Healthcare》:The Design-Driven Innovation Path of Human-Centered Artificial Intelligence in the Field of Healthcare: Theory, Practice, and Future Prospects

【字体: 大 中 小 】 时间:2026年07月09日 来源:Healthcare 3.4

编辑推荐:

  背景/目标:人工智能(AI)在医疗健康领域的应用持续深化,其发展范式正从技术驱动创新逐渐转向面向“以人为本人工智能(HCAI)”的设计驱动创新,旨在弥合AI技术与实际临床需求之间的鸿沟,并提升医疗服务的质量与可及性。然而,仍面临理论框架整合不足、实施挑战复杂以

  
背景/目标:人工智能(AI)在医疗健康领域的应用持续深化,其发展范式正从技术驱动创新逐渐转向面向“以人为本人工智能(HCAI)”的设计驱动创新,旨在弥合AI技术与实际临床需求之间的鸿沟,并提升医疗服务的质量与可及性。然而,仍面临理论框架整合不足、实施挑战复杂以及伦理治理机制不完善等问题。方法:本文对与HCAI哲学与伦理基础相关的文献进行系统性叙述综述,分析文献中记录的具体临床应用模式,整合与实施科学、人机协作及可解释人工智能(XAI)相关的关键理论,构建医疗领域HCAI的多维综合分析框架。结果:研究表明,设计驱动创新是弥合AI技术潜力与实际医疗应用之间差距的关键;“以人为本人工智能”的成功实施依赖于跨学科协作、利益相关者共创以及贯穿全生命周期的伦理考量;其中,以人为本的设计确保技术满足真实需求;实施科学保障创新能有效融入复杂医疗环境;可解释人工智能技术是建立临床信任的基石;战略治理框架为整个生态系统的健康发展设定了边界与轨道。结论:在总结现有研究发现的基础上,本研究针对HCAI的关键技术与实践困境提出了有针对性的设计框架与权衡策略,并厘清了现有实证结果的情境边界,为HCAI的实施提供了差异化操作路径,也为以人为本的AI医学的学术研究与未来实际应用指明了方向与重要参考。
1. 引言
人工智能(AI)正以前所未有的速度重塑医疗服务交付方式,其应用已扩展至医疗影像分析、疾病风险预测、个性化治疗建议及手术辅助等核心医疗领域。综合现有实证研究,代表性实践案例揭示了AI在多种手术场景中的优势:牙科植入中AI辅助手术导板相比传统工具和手动操作具有更高的精度、稳定性和成功率;神经外科中AI平台支持颅内动脉瘤栓塞的实时预测;结直肠癌手术中高级AI模型实现术中实时检测以提升临床效率与安全性。这些发现表明AI具备覆盖术前诊断、术中导航和术后管理的全流程赋能能力。然而,AI技术发展与大规模临床采纳之间存在显著的“创新-应用鸿沟”。该鸿沟源于组织障碍、基础设施不足,以及对AI可靠性和伦理风险的广泛担忧。尽管AI在实验室和初创企业中广泛应用,但真正融入医疗服务提供机构的案例相对较少。基于对相关证据的综合回顾,研究人员将关键障碍归为多个维度:过高成本、数据质量与可及性缺陷、算法适应性有限、与电子健康记录系统兼容性差、与常规临床工作流程不匹配,以及临床人员AI素养和专业培训不足。一项意大利区域性机构调查进一步验证了这种采纳差异:57%的受访医疗机构尚未部署任何AI工具,而已采纳的机构也采用多样化的实施策略。此外,数据隐私、安全性、算法偏见及责任归属等伦理与法律挑战也严重限制了AI的信任建立与广泛部署。在此背景下,“以人为本人工智能(HCAI)”概念应运而生,强调AI系统的设计、开发与部署必须始终以人类需求、价值和能力为中心,确保技术增强而非取代人类判断与关怀。HCAI致力于设计能够增强和改善人类能力而非替代人类的AI系统,其核心是将“人工智能”与“自然智能”相结合,以赋能、放大和提升人类表现。这一概念要求AI的开发与应用过程充分纳入多元利益相关者(尤其是临床医生和患者等终端用户)的参与,并通过以人为本的设计原则确保技术的可用性、可信赖性和公平性。例如,在AI辅助手术场景中,研究表明在AI辅助下的人类表现超越了单独使用AI或单独工作的表现,且这种提升存在于所有专业领域和经验水平的医疗专业人员中,挑战了AI主要惠及初级临床医生的普遍认知,凸显了将AI设计为人类伙伴而非替代品的必要性。设计驱动创新作为一种系统性方法论,将HCAI原则贯穿于从问题定义到解决方案实施的整个过程,通过迭代式用户参与和原型测试,创建可用、可信、可持续的AI系统。该方法强调早期和持续的用户参与,以理解实际临床需求、工作流程和价值观,从而设计出与临床实践无缝集成、易于使用且值得信赖的解决方案。例如,在开发AI临床决策支持系统时,设计思维方法通过与临床医生等非技术专家持续协作,能更好地应对模型透明度和可解释性的挑战,从而构建更可信、更可用的工具。这种设计驱动过程有助于弥合技术创新与实际临床采纳之间的差距,确保AI工具不仅在技术上先进,而且在伦理上负责任、在社会上可接受,最终实现以人为本的医疗健康创新。采用系统性叙述综述方法,本文旨在应对HCAI在医疗健康领域理论体系不完善、实践障碍重重及伦理治理不健全的问题,建立医疗HCAI的多维分析框架,总结连接AI技术与临床实践的设计驱动创新路径,并为该领域的学术研究与实际应用提供可操作的解决方案与参考。

2. 方法与框架
本研究围绕以人为本人工智能、设计驱动创新、医疗健康AI、实施科学和人机协作等主题进行了全面的文献检索。使用了多个主流学术数据库,包括PubMed、Web of Science、Scopus和CNKI,涵盖2018年至2025年间发表的同行评议期刊文章、会议论文及相关学术综述。检索关键词以中英文围绕以人为本AI、可解释人工智能(XAI)、生成式AI、医疗健康创新与临床实施等核心主题进行组合。文献筛选分两个阶段进行:首先通过标题和摘要初步筛选,排除不相关论文、重复文献和灰色文献;其次进行全文阅读,保留与HCAI的理论内涵、技术挑战、实际应用与治理密切相关的文献。研究人员排除了信件、评论以及仅关注纯技术算法实验而未讨论以人为本设计和临床实施的文献。在文献分析与综合过程中,研究人员按研究主题、研究领域和研究类型对纳入研究进行分类。核心论证优先采用同行评议的原始研究和权威综述,并区分不同领域证据的应用场景与局限性。通过整合多种理论和实践案例,形成逻辑结构化的分析框架与创新路径,同时客观指出现有研究发现在不同医疗领域的差异与局限性。具体而言,提出的设计驱动HCAI创新多维框架由四个相互关联的核心模块组成,具有明确边界:(1)哲学与价值模块(HCAI的目的论、本体论、认识论与伦理学),定义基本价值取向;(2)方法学模块(以人为本设计与实施科学),提供操作方法;(3)技术模块(可解释人工智能(XAI)、生成式AI(GenAI)与物理AI),支撑技术实现;(4)治理模块(技术-制度-伦理三维结构),保障规范化发展。该框架建立在大量同行评议文献和医疗AI实践案例的整理与综合之上,其合理性与适应性已通过现有临床实践和不同医疗场景的实证研究得到验证。

3. 以人为本人工智能的理论与哲学基础
3.1. HCAI的核心定义与多维框架
以人为本人工智能(HCAI)标志着AI在医疗领域发展的根本性转变,其核心在于超越单纯追求算法效率的技术范式,将人类福祉、价值和伦理置于系统设计的中心。这意味着AI工具的开发必须优先考虑可用性、可理解性、公平性和可控性,以确保技术真正服务于人而非取代人。在医疗实践中,HCAI要求AI系统致力于提升临床决策质量、减轻医务人员负担,并最终改善患者体验与健康结局,同时维护医患关系的核心价值。例如,AI驱动的决策支持系统应设计为增强而非取代医生的专业判断,从而在提升效率的同时保持医疗中不可或缺的人文关怀。借鉴关于以人为本AI的哲学与理论文献,研究人员构建了一个全面的多视角框架,以支持医疗AI的发展与治理。该框架涵盖五个核心维度:将人类健康而非技术优化定义为终极目标的目的论;诠释人类认知、情感以及AI工具性存在的本体论;探索通过人机协作进行知识生成与验证的认识论;将公平、正义与透明度融入算法设计的价值论;以及建立实践伦理指南的伦理学。综合现有研究观点,这一多维哲学框架为HCAI设定了基本价值基准。这些哲学指南并非停留在理论层面,而是直接约束和指导设计驱动创新所涉及的全部实践方法、技术设计与治理规则,贯穿于AI开发与临床应用的整个生命周期。因此,HCAI不仅是一个技术概念,更是一个融合哲学思考、伦理考量与实践智慧的综合创新路径。为将这种以人为本的哲学转化为现实医疗实践,设计驱动创新充当核心实施载体,而以人为本设计(HCD)和实施科学(IS)则是推动HCAI部署的两个不可或缺的方法学支柱。

3.2. 从技术中心到人类中心范式转变的驱动力
从技术中心范式向人类中心范式的转变,主要源于纯技术驱动方式带来的诸多现实困境。过去仅关注算法性能的开发模式,常常导致AI工具与实际临床工作流程脱节,造成用户接受度低,甚至带来安全与伦理风险。例如,“黑箱”算法的不透明性削弱了临床信任,而缺乏对医疗情境深入理解的AI系统可能无法有效支持复杂决策过程。技术中心主义还可能催生优先考虑管理效率的工具,自上而下地强加给一线医务人员,忽视了专业人员的实际需求和患者的核心利益,从而加剧了技术与人文之间的张力。这些挑战凸显了在复杂医疗生态系统中忽视人类价值考量的技术中心AI解决方案的内在局限性。其次,持续的利益相关者参与对于医疗AI的成功实施至关重要。临床医生、患者和管理团队的参与使AI解决方案能够契合实际临床需求与用户期望。对孕妇和一线护士的调查显示,用户在AI采纳过程中优先考虑医患共情与伦理规范。利益相关者参与式设计有效缩小了技术潜力与现实临床应用之间的差距。最后,日益增长的伦理与监管压力是范式转变的另一核心驱动力。社会对算法偏见、数据隐私、安全性和问责制的广泛担忧,迫使AI创新系统性地融入人类监督与伦理审查机制。监管机构强调向以人为本的医疗模式转变,要求AI发展增强而非削弱人类能力,并融入现有流程。建立完善的AI治理框架已成为AI系统在医疗机构中安全转型与应用的必要机制。同时,在全球范围内,尤其是在资源受限环境中,AI的实施面临基础设施、数据质量、专业人才短缺以及政策法规不完善等多重障碍,这些挑战进一步凸显了建立系统性、人文主义实施框架的必要性,该框架需充分考虑技术、伦理与社会因素。上述哲学与驱动因素共同推动医疗AI的范式转变,后续章节将进一步阐述如何将这些理论概念转化为可执行的设计与实施方法。

4. 设计驱动创新的方法论与应用
设计驱动创新是HCAI的核心实施范式。一方面,以人为本设计(HCD)通过在整个创新生命周期中捕捉真实用户需求来夯实HCAI价值;另一方面,实施科学(IS)应对实际障碍,保障HCAI解决方案在复杂临床环境中的大规模推广。两种方法论的结合构成了HCAI从概念设计到实际应用的完整逻辑链。该范式遵循标准工作流程:用户研究、协同设计、原型制作、临床试验和全面推广,以人类需求为核心贯穿整个AI研发与实施生命周期。

4.1. 以人为本设计(HCD)原则与流程
以人为本设计(HCD)是一种迭代式创新方法,通过深刻理解用户在真实环境中的需求、能力和局限性来开发解决方案。该过程通常包括同理心研究、问题定义、创意构思、原型制作和用户测试等多个阶段,强调“与用户共同设计”而非“为用户设计”。在医疗领域,HCD的应用已被证明能显著提升产品可用性和用户接受度。一系列实证案例验证了HCD在医疗场景中的实践价值。一项在坦桑尼亚农村进行的实地研究采用五阶段HCD模型改善母婴保健中的护患关系,归纳了用户画像、情境访谈、可用性测试和参与式共创等核心操作策略。参与者反馈表明,参与式共创是联合设计方案的有效方法。数字健康研究的进一步证据扩展了HCD的应用范围:相关研究应用该方法开发了移植护士的支持工具,并优化了新生儿重症监护室的服务环境。通过整理和分析这些跨场景案例,研究人员确认HCD的迭代性和参与性特征使医疗解决方案能够充分契合真实用户体验与实践情境。

4.2. 实施科学(IS)在弥合创新鸿沟中的作用
实施科学(IS)为促进AI干预措施在常规医疗实践中的整合与持续使用提供了系统的理论、模型和可操作策略。在实际部署中,它指导医疗机构识别个体、组织及制度层面的采纳障碍,并制定针对性解决方案(如人员培训、系统适配和资源配置),以加速HCAI解决方案的稳定应用。其核心作用是识别和分析创新采纳的多层次障碍,并设计克服这些障碍的策略,从而弥合研究证据与广泛实践之间的“创新鸿沟”。实施科学框架,如实施研究综合框架(CFIR)和覆盖、有效性、采纳、实施、维护框架(RE-AIM),帮助研究人员系统地考察个体(如医务人员态度与技能)、组织(如机构文化与资源配置)和系统(如政策环境与报销机制)因素对AI工具采纳的影响。例如,在赞比亚卢萨卡将HIV与非传染性疾病服务整合的实践中,研究人员将HCD方法应用于实施科学,以调整多层次实施策略。通过探索、概念化、分析和改进四个阶段对初级保健和非医师医疗工作者进行定性研究,共同设计了具体策略子组成部分,如设立非传染性疾病/艾滋病倡导者、发布每周机构非传染性疾病药物公告等,旨在提高干预措施的采纳性、适当性和可行性。这反映了IS与HCD的互补性:HCD深入理解用户需求并共同设计方案,而IS提供系统性框架确保这些方案能在复杂医疗系统中成功嵌入并持续运行。通过采用混合研究设计和适应性实施策略,可以实现对AI的动态响应。例如,有学者提出了面向人类中心、证据驱动和适应性设计的AHEAD框架,它弥合了创造性问题解决与严格科学验证之间的差距,通过将HCD原则与健康服务研究方法相结合,赋能从业者构建实用、可持续的医疗干预措施。在AI监控系统开发中,范德比尔特大学医学中心采用HCD流程,通过参与式设计会议和形成性访谈,与多元利益相关者共同开发了范德比尔特算法监控和运营系统(VAMOS)原型,以支持医疗AI工具生命周期的系统性和主动性监控。该过程识别了不同用户(如卫生系统领导者、临床专家和技术人员)所需的具体数据视图和功能,确保监控系统与组织工作流程和需求紧密结合,这是成功实施的关键。因此,实施科学通过其结构化的理论和方法,结合以人为本设计,为人工智能等复杂健康技术创新在现实世界中的有效实施和长期维持提供了关键路径。

5. 关键技术及其以人为本设计挑战
作为HCAI和设计驱动创新的关键技术支撑,可解释人工智能(XAI)、生成式AI(GenAI)和物理AI解决了以人为本AI实践中的核心技术障碍。其中,可解释人工智能(XAI)是建立临床信任、实现HCAI实际价值的基本技术前提。

5.1. 可解释人工智能(XAI)与临床信任建立
可解释人工智能(XAI)旨在使AI模型的决策过程对人类可理解和可追溯,这对于在高风险医疗场景中建立临床信任至关重要。临床医生对AI系统的信任并非自动产生,而是受多种因素影响,其中模型的透明度和可解释性是核心。多项独立研究证实了AI可解释性与临床医生对AI系统信任之间的正相关关系。在整合并比较相关研究结果后,研究人员发现XAI的实际作用比单一积极效应更为复杂。一些临床研究指出,虽然可解释性功能作为临床安全与信任的保障,但可能带来认知负担过重等潜在弊端。同时,来自眼科研究的证据进一步表明,XAI的效果因临床场景和临床医生专业水平而异。因此,开发直观的可视化界面并确保解释本身准确无偏是XAI设计的关键。在外科领域,XAI应用于术前风险评估、手术规划和术后监测,使外科医生能够解读并验证AI建议,从而做出明智决策。然而,生成式AI目前缺乏内在的XAI机制,这成为其融入临床工作流程的主要障碍。为增强信任,有研究提出,除可解释性外,模型训练信息(包括数据来源和要素)的透明性,以及模型决策与既定临床研究结果和指南之间清晰的一致性,对于提高临床医生对AI建议的信任和接受度至关重要。此外,针对特定临床场景(如阿尔茨海默病诊断)设计的特征增强XAI模型,结合规则推理和实例可视化,能够获得医生100%的信任评分,显著提升他们使用AI辅助诊断的信心。这些发现共同表明,精心设计的XAI是建立临床信任、实现AI在医疗领域负责任创新的基石。为解决模型可解释性、计算性能与用户认知负担之间的固有权衡,本研究提出针对临床场景的分层XAI设计框架。对于高风险诊断和手术场景,将可解释性和准确性设为最高优先级;对于辅助行政和随访工具,采用适度可解释性以平衡操作效率。同时,设计者需根据临床医生专业水平区分解释形式:一线全科医生采用简化视觉解释,高级专家则提供深入逻辑推导。该分层框架为缓解透明度不足与认知负荷过重双重风险提供了可操作的指导。

5.2. 生成式人工智能(GenAI)与个性化内容创建
生成式人工智能(GenAI)能够根据上下文自动生成文本、图像甚至3D模型,为创建个性化患者教育材料、康复训练场景或手术模拟环境提供了新的可能性。在糖尿病护理领域,GenAI可通过变分自编码器、生成对抗网络、变换器和扩散模型等深度生成模型生成合成患者数据、增强数据集、模拟血糖-胰岛素动力学,并开发虚拟教练和数字孪生,从而应对数据稀缺、患者变异性和个性化等挑战。这种能力使得为患者提供高度定制化的健康管理方案成为可能。在扩展现实(XR)环境中,将GenAI与人类设计师创造力相结合的“人在环中”方法,能够生成更符合沉浸式场景需求的3D资产,如MineVRA框架所示。然而,以人为本设计要求高度关注生成内容的质量、安全性、文化适宜性和潜在偏见,以防止产生误导性或有害信息。这在罕见病和遗传咨询等复杂领域尤为重要。例如,一项针对遗传综合征面部表型分析工具的用户研究发现,尽管基于深度学习与XAI的诊断辅助工具提高了遗传学家的诊断准确性和信心,但用户仍对XAI支持持怀疑态度。这警示GenAI生成的内容必须经过严格的临床验证,并确保其解释与临床推理一致。此外,在心理健康筛查等场景中,信任的形成是一个受模型表现及其与临床推理一致性影响的序列过程。因此,在将GenAI应用于个性化内容创建时,必须建立严格的质量控制和安全协议,例如在心理健康AI模型中纳入自杀风险标记,同时确保生成内容不仅在技术上准确,而且在文化和社会上适宜,避免加剧健康不平等或产生歧视性结果。最终,只有将人类专业判断与GenAI的创造力相结合,辅以透明解释和持续评估,才能实现真正以患者为中心的个性化医疗内容创新。鉴于内容偏差、错误信息和临床不适用性等多重风险,本研究为医疗场景中的GenAI建立了三层风险治理框架:第一层通过多样化训练数据集进行生成前控制以减少固有偏差;第二层由医疗专业人员进行实时临床验证以过滤误导性内容;第三层进行使用后反馈与迭代优化。在平衡内容个性化与普遍安全性时,医疗GenAI应遵循“安全优先,个性化优化次之”的原则,并根据疾病类型和患者群体调整内容生成强度,尤其是对风险敏感度高的罕见病和心理健康领域。

5.3. 物理人工智能与机器人中的人机协作
物理AI使机器人能够在动态环境中感知、推理和行动,可用于护理领域的物流、清洁,甚至协助直接护理任务,如移动患者。人机协作设计的关键是明确角色划分,让机器人充当“沉默伙伴”或助手,旨在增强而非取代护理人员的专业判断和人文关怀。研究表明,护士对AI的信任在AI不确定性与AI能力的关系中起中介作用。这意味着在设计物理AI系统时,必须考虑终端用户(如护士)的心理安全需求,通过透明决策过程、提供AI临床案例和培训来减少不确定性,从而建立信任。这种信任对于机器人成功融入护理团队并实现有效协作至关重要。挑战包括确保界面直观性、处理非结构化环境中的不确定性、解决伦理问题(如安全、隐私和情感依赖),以及避免因技术可及性差异而加剧健康不平等。为优化人机协作,本研究提出角色划分设计框架:物理AI机器人承担重复性、高强度、低风险的辅助工作,而医务人员保留核心临床判断、情感沟通和紧急处置权。这种角色划分明确了责任,避免了功能重叠或技术过度替代。在设计权衡方面,非结构化临床环境中的系统鲁棒性优先于完全自动化;同时,应根据不同医疗机构调整可及性配置,以缩小健康公平差距。通过迭代式用户测试和针对性培训,护理人员可以逐步建立信任,最终实现人机优势互补,提高整体护理质量与效率。综上,本节系统分析了三种关键AI技术(可解释人工智能、生成式AI、物理AI)在医疗创新中的以人为本设计挑战。除上述核心技术类别外,多种新兴和基础AI技术也对现代医疗实践产生重要影响,包括基于传感器的AI感知技术、基础机器学习算法、智能医疗推荐系统以及各种AI赋能的临床决策支持技术,它们都是推进以人为本医疗AI创新的关键技术支柱。鉴于本文主题聚焦与结构安排,本研究集中讨论与设计驱动医疗创新最密切相关的上述三个代表性技术方向,未对其他辅助AI技术的具体设计特征和实践挑战进行展开。后续研究可基于本研究的框架,进一步探索这些多样化医疗AI技术的以人为本设计逻辑、应用瓶颈与创新发展路径,从而丰富和完善设计驱动的以人为本人工智能在医疗健康领域的理论与实践体系。

6. 多元用户的采纳意愿与障碍分析
6.1. 医务人员态度、准备度与工作流程整合
综合全球调查证据,大多数医疗专业人员对AI在临床实践中的采纳持积极态度。然而,现有跨区域、跨专业的研究揭示了这些态度的明显异质性。这些分歧与当地医疗系统、数字基础设施和人才培养体系密切相关:对土耳其和埃及等中等收入地区的调查显示,年龄和性别是突出影响因素,主要源于群体间数字素养不均衡;而在英国等数字医疗系统成熟的高收入地区开展的研究,更强调AI与专业工作场景的匹配度而非人口统计学特征。这种区域差异意味着相关研究结论不能直接全球推广,必须因地制宜制定针对性推广策略:数字基础薄弱地区需优先开展人员培训,而成熟医疗系统则聚焦工作流程适配。土耳其和埃及的区域调查反映了职业群体、性别和年龄队列之间的差异,而英国对听力健康从业者的研究进一步证明,专业背景也塑造了对AI的认知。研究人员将总结这些差异化发现,并在后续讨论中分析其潜在影响因素。这些发现共同表明,AI的接受度受到年龄、教育背景、技术接触史、性别和职业角色等多种因素复杂交互的影响。尽管抱有积极期望,AI在临床实践中的采纳仍面临多重障碍。主要担忧包括工作流程中断的顾虑和对算法可靠性的怀疑。医疗专业人员普遍担心AI系统可能无法无缝融入现有工作流程,反而会增加操作复杂性。更深层次的障碍涉及对医患关系弱化的担忧以及对临床自主权受到威胁的感知。许多医疗专业人员担心AI的介入会减少与患者的人际互动,削弱基于共情的照护,并质疑在AI辅助或主导决策中的最终责任归属。此外,对数据隐私、算法偏见以及掌握AI相关技能可能导致职业倦怠的担忧也普遍存在。这些障碍共同构成了AI整合过程中需要克服的心理与操作挑战。成功的整合策略强调渐进式方法,从自动化行政任务开始,逐步过渡到临床决策支持。研究表明,初始阶段应聚焦于能直接减轻医务人员行政负担的领域,如自动化文档记录和预约管理。例如,在皮肤病学中,AI驱动的自动化病历工具已被证明能优化工作流程并降低医生倦怠风险。这种从简单到复杂的方法有助于建立信任并展示AI的实际价值。一个关键步骤是确保AI系统与现有电子健康记录系统无缝集成,以最小化工作流程中断并改善用户体验。例如,将用于检测颅内出血的卷积神经网络集成到临床工作流程中,实现了近实时处理和高精度诊断,展示了技术集成的可行性。最终,成功的整合需要配套的培训和教育,以提高医务人员的AI知识和操作信心,从而克服采纳障碍,实现AI工具在改善患者安全和工作效率方面的潜力。

6.2. 患者与残障人士的可及性与包容性设计
对于患者和残障人士而言,健康相关技术采纳的最强预测因素之一是感知有用性,即技术被认为能改善其健康或生活质量的程度。然而,即使感知到有用性,仍存在显著的采纳障碍。这些障碍包括因身体和认知限制导致的可及性挑战,例如视力或运动障碍用户操作标准界面的困难。其次,高昂的技术成本、培训支持不足以及普遍存在的数字鸿沟,将经济能力有限或数字素养较低的人群排除在外。在资源受限环境中,如巴基斯坦,尽管医生对利用AI提升专业效率有浓厚兴趣,但资金缺乏、培训不足和提供方抵制等挑战严重限制了AI的整合。这些结构性障碍使技术可及性远未达到公平。此类障碍的严重程度因群体和地区而异:身体或认知障碍患者面临最突出的可及性挑战;中低收入地区经济门槛和培训不足成为主要障碍,而发达地区患者更关注隐私和情感疏离。因此,包容性设计解决方案不能采用一刀切模式,其泛化受限于人群特征和区域发展水平。除了技术和经济障碍,社会心理因素也在塑造患者对医疗AI的消极采纳中发挥关键作用。对安全风险的恐惧是核心关切,患者担心AI系统可能做出错误诊断或治疗建议,从而危害健康。社会污名化是另一个重要因素,尤其是使用辅助技术的残障人士,他们可能担心被贴上标签。此外,对人际互动减少的担忧尤为突出;许多患者珍视与医生之间的信任和共情关系,担心AI的介入会使医疗变得非人化和冷漠。一项系统综述指出,患者和公众对AI能否提供共情性照护持怀疑态度,并强调AI的开发和应用需要患者参与和临床验证。这些社会心理因素深刻影响用户对技术的信任和最终采纳意愿。包容性设计是应对上述挑战的根本途径,其核心原则是优先考虑可及性、可负担性和信任建立。这意味着必须在设计阶段就积极纳入残障人士和多元患者群体的参与,确保产品满足其真实需求。例如,开发支持多种交互模式(如语音控制、眼动追踪)的用户界面,可大幅提升身体受限用户的可及性。同时,通过透明设计流程、清晰沟通和强有力的数据隐私保护措施来建立信任至关重要。一项关于AI在乳腺癌筛查中应用的研究发现,尽管女性参与者欢迎AI驱动的热成像技术作为一种无创替代方案,但她们也对技术新颖性、临床验证不足、固有算法偏见和数据隐私问题表示担忧,并强调需要来自医疗专业人员的严格监督和透明解释。因此,包容性设计不仅是技术适配,更是一个涉及伦理、沟通和持续参与的系统工程,旨在确保技术创新能够惠及所有人,包括最边缘化的患者和残障人士。

7. 战略优先级评估与治理框架
与上述方法论和技术支撑互补,完善的治理三维结构为HCAI定义了底线与长期发展规则。它与以人为本设计、实施科学及关键AI技术共同构成设计驱动HCAI创新的完整多维框架。

7.1. 多准则决策模型在创新优先级评估中的应用
在医疗AI创新资源有限的环境中,系统评估和选择项目至关重要。多准则决策分析(MCDA)模型为此提供了结构化框架,使决策者能够权衡冲突的目标和准则。例如,层次分析法(AHP)作为一种成熟的MCDA方法,已被用于对创新医疗器械进行多准则分析,通过比较不同选项在特定准则和子准则下的表现,识别出最优方案,以增强决策过程的稳健性。此外,逼近理想解排序法(TOPSIS)等模型也已应用于技术采纳场景。例如,在主动辅助生活(AAL)系统中,TOPSIS结合模糊方法被用于从一系列分类算法中选择最优方案,以支持老年人护理实施的研究。这些模型的应用使医疗机构能够超越单一技术指标,进行更全面的考量。评估维度需涵盖医疗创新的多个关键方面。研究表明,以人为本的人工智能和自动化常被视为提升医疗质量的最有效赋能因素。为了说明其在真实医疗决策中的实际运作,本研究以机构选择临床AI诊断工具为典型应用场景。当医院计划引入多个AI辅助诊断产品时,决策者可应用AHP逐层分解评估目标、一级准则和详细子指标。顶层是选择实用且安全的AI方案的总体目标;一级准则涵盖临床有效性、安全性、实施成本、系统兼容性和长期维护能力。每个一级准则进一步分解为可量化的子指标,如诊断准确率、不良事件发生率、采购成本、与本地电子健康记录系统的兼容性等。决策者根据机构优先级为各指标分配差异化权重——专注于高风险诊断的三级医院给予安全性和临床有效性更高权重,而预算有限的基层医疗机构则以成本和可操作性为主导因素。在对所有候选AI产品按统一指标评分后,模型输出清晰的排序以支持最终项目选择,解决了传统产品筛选中主观、片面的决策困境。标准化的MCDA框架通常包含多个评估维度,如临床有效性、临床安全性、创新性、疾病严重程度、实施能力和成本。在中国植入式医疗器械评估研究中,利益相关者赋予临床安全性和成本最高权重,其次是实施能力和临床有效性,而创新性和疾病严重程度权重较低。这反映出在现实决策中,安全性、经济可行性和实施能力往往是优先于纯技术新颖性的核心考量。其他重要维度包括以患者为中心的数字医疗、可持续医疗实践、劳动力适应性以及伦理与法规遵从性,它们共同构成一个综合评价体系。该模型的核心价值在于帮助机构在复杂环境中进行结构化决策,平衡技术成熟度、伦理要求和以患者为中心的价值。通过为不同准则分配权重并进行系统评分,MCDA模型能将主观判断转化为可比较、可复现的决策标准。以癫痫管理的AI研究和项目审批为例,医疗机构需平衡诊断性能、患者获益、健康公平和资源投入。MCDA模型量化了这些多重冲突目标:能够提高诊断准确率并减少患者群体间差异的项目将获得更高的综合评分,即使需要适度的资源投入。这种操作逻辑使管理者避免仅优先考虑技术新颖性,而将有限资源分配给能带来最大临床和社会价值的AI计划。有效的优先级模型能引导资源投向满足紧急临床需求、符合机构战略目标(如可持续性和劳动力赋能)且风险可控的项目,从而支持医疗系统在快速变化的创新环境中做出明智选择。

7.2. 三维(技术-制度-伦理)治理结构
有效的AI治理是一项复杂、多维度的任务,需要覆盖技术、制度和伦理三个相互关联、相互支撑的维度。这一三维框架是确保AI在医疗领域负责任创新与可持续发展的基础。技术维度的治理重点在于确保AI系统的可靠性、透明性和公平性。这要求通过可解释人工智能(XAI)等技术提升算法透明度,使临床决策过程不再是“黑箱”。同时,具有文化意识的设计也至关重要,要求算法开发考虑到不同群体的社会文化背景,以促进算法公平、减少偏见。例如,仅基于西方审美标准训练的AI驱动面部分析系统可能会加剧整形外科中的偏见。在医疗AI的日常技术治理中,临床监管部门应用此维度进行定期算法审计。例如,在AI影像诊断系统正式上线前,审计人员使用XAI工具追溯其决策逻辑,验证数据在不同年龄、性别和种族群体中的多样性,检测潜在的人口统计学偏差。不合格的算法将被要求迭代优化后才能投入临床部署,从而在实践中实现实时技术风险控制。制度维度为人工智能治理提供必要的规则和基础设施保障。这首先需要建立隐私保护的数据平台,在促进数据流动以支持创新的同时,严格保护患者数据主权和隐私。其次,需要构建基于风险的监管框架,例如一些国家为创新医疗器械建立的优先审查和特殊许可制度。此外,跨国治理机制协调数据与监管标准。实际应用:对于区域医疗主管部门,此制度维度指导制定统一的医疗AI管理规则。以某省级医疗AI推广项目为例,主管部门首先构建统一医疗数据平台并设置严格访问控制,保护患者隐私;然后按风险等级对AI产品进行分类,采取差异化审批程序:高风险诊断AI进行严格全周期审查,低风险辅助AI工具适用简化备案机制。这种分层制度安排在实际治理工作中平衡了创新激励与风险防范。伦理维度是AI治理的灵魂,要求将本地价值观和普遍伦理原则深度嵌入系统设计与部署的全过程。这包括确保公平、同情等价值观在算法中得到体现,并关注AI红利的公平分配,以维护公正的健康结局。社区参与被认为是识别和协同解决相关伦理问题的重要途径。例如,在非洲开展AI健康研究时,社区参与对于应对数据殖民和公平可及等挑战十分必要。在推广智能慢性病管理等公共卫生AI服务时,伦理维度贯穿全过程。治理团队邀请患者、社区代表和临床工作人员参与联合评估,检查服务设计是否忽视了老年人和低收入人群等弱势群体,评估AI应用是否扩大了健康差距。对于存在问题的设计进行调整,以确保所有群体公平获得AI医疗服务。伦理治理还需关注AI对环境可持续性的影响,推动开发资源消耗更少、更环保的智能医疗解决方案。最终,完善的伦理治理结构能够引导AI的发展不仅追求效率和精准,更致力于改善全人类的健康福祉与社会公平。

8. 跨学科协作与生态系统共创
8
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号