《Life》：Of Silicon and Cells: Ethical and Safety Concerns Regarding Artificial Intelligence Usage in the Biomedical Sciences—A Narrative Review
编辑推荐：
人工智能（AI），尤其通过大型语言模型（LLMs）的进展，已在媒体中占据主导地位，并在众多领域展现出提高生产力的广泛前景，尤其是生命科学。AI向该领域的扩展几乎涵盖从研究到医疗保健的各个领域，并似乎具有一种惯性，使改变其采纳轨迹变得困难。鉴于这种快速采纳，反思
人工智能（AI），尤其通过大型语言模型（LLMs）的进展，已在媒体中占据主导地位，并在众多领域展现出提高生产力的广泛前景，尤其是生命科学。AI向该领域的扩展几乎涵盖从研究到医疗保健的各个领域，并似乎具有一种惯性，使改变其采纳轨迹变得困难。鉴于这种快速采纳，反思这些进展及其在现代生命科学中的地位至关重要，以理解此类技术使用对生命科学从业者，特别是生物医学科学从业者所带来的不断演变的伦理、医疗法律和科学挑战。本文研究人员以叙事方式综述AI目前在临床照护、研究产出与研究诚信方面的使用，并从流行病学视角审视该技术。
1 引言
过去五年，人工智能（AI）尤以大型语言模型（LLMs）进展为标志，在多个行业快速发展；其核心承诺在于自动化人类认知工作负荷，用户从个人扩展至国际企业。美国医学会（AMA）2026年调查显示，受访医师使用AI比例较2023年翻倍至81%。AI在基础科学中被用于计算机模拟建模、实验排障和药物重定位，但数据采集/分析问题降低AI产出项目的可转化性，且依赖模型可能导致基础研究原则相关技能萎缩。临床生命科学中，AI用于患者面向角色带来额外伦理复杂性；临床决策支持工具已使用二十余年，LLMs整合更近。AI被提出可受益于分诊、诊断、恶化预警和治疗计划，但因初始过程缺乏人类输入而反复出现问责问题。作者旨在描述社会、生物医学从业者与AI的关系，识别广泛适用于生物医学科学中AI使用的风险与收益，并围绕伦理、医疗法律和科学利益建立对话。
2 方法
方法改编自Magouliotis等。本文为叙事性（非系统性）综述/评论，评价异质性数据以回答生物医学科学中AI使用当前/紧迫伦理与安全关切。使用OpenEvidence 2.0作为搜索引擎识别PubMed和Google Scholar索引来源，检索时间2026年8月30日至9月4日；未设日期限制，因初步检索提示绝大多数相关文献发表于近五年。优先纳入直接涉及主题的原始研究，主题/子主题通过作者迭代评价定性识别而非定量合并。OpenEvidence 2.0用于数据策展，输入迭代提示识别高影响力文献；来源由至少两名作者按题目和摘要筛选，纳入基于与提示的感知相关性，经作者讨论确定；来源需英文且与AI在生物医学科学中使用的伦理/安全关切相关。作为叙事综述/评论，承认选择偏倚和可得性偏倚；通过多作者评价每篇文章控制个人偏倚，通过多次OpenEvidence 2.0检索控制选择/可得性偏倚。因非系统综述，未注册、不遵循PRISMA、无正式偏倚风险工具、不适用结果合并。
3 评论
3.1 人工智能在临床决策中的应用
AI临床决策支持（CDS）包括较新LLMs和较旧非LLM软件，美国食品药品监督管理局（FDA）授权逾千项，涉及多专科，其中84.1%用于患者评估。2026 AMA调查显示81%医师已将AI纳入工作，常见于文档、计费与临床支持，但主要集中于文档。快速采纳可能由人类实践的结构性脆弱性驱动，如急诊分诊中高认知负荷和时间压力导致人为错误与错误分类。机器学习（ML）模型和自然语言处理（NLP）可能匹配传统护理和量表/评分分诊方法；NLP使计算机处理、解释和生成人类语言，ML使计算机从数据学习模式并预测，深度学习（DL）使用多层人工神经网络学习复杂模式，LLMs使用DL技术执行NLP任务。某研究报告采纳这些模型可将卒中、心肌梗死等紧急表现等待时间减少多达20%。AI分诊倾向过度或不足取决于模型设计和病例急迫性；商业LLMs评估显示U型错误分诊模式，对中间病例准确性高，但可能对非紧急病例过度分诊64.8%，对真实紧急病例不足分诊51.6%；因分诊人群偏向中等急迫类别，模型可报告高总体准确性却未能识别危重患者。文献建议以敏感性、特异性和曲线下面积作为合适指标。AI工具还用于预授权和利用管理自动化，但新兴报告显示AI驱动拒绝在缺乏适当人工审查时不当拒绝医学必要服务，给患者造成经济和身体伤害；文献描述保险方与提供方之间的“AI军备竞赛”，增加安全与公平关切并降低双方效率。侵权法通常将责任置于治疗临床医生，无论AI影响如何，使提供者在几乎任何AI用于临床决策的场景中面临医疗法律风险，即拒绝医学正确的AI建议或接受错误建议；该结构限制性，促使提供者仅将AI用于确认基线照护标准而非超越现行指南。责任理论上可扩展至开发者的过失设计或机构整合缺陷，但AI使用场景下临床医生的法律保护未在医疗领域标准化。除严格医疗法律责任外，责任在开发者、卫生系统和临床医生之间扩散理论上代表结构性失效模式；许多算法的黑箱性质遮蔽逻辑并拒斥错误清晰归因，从而分散问责。美国医学信息学协会（AMIA）指南强调安全部署需要明确指定验证、确认、持续监测和不良事件报告的所有者。
3.2 知情同意与患者自主权
知情同意要求披露干预、重大风险、获益和替代方案。AI黑箱性质再次成为问题，因为算法推理可能与临床推理脱节；当医师无法解释模型如何得出建议时，他们成为AI建议的中介而非临床理由来源。生物伦理学者主张在自主、不伤害、有益和公正之外增加可解释性作为第五原则，将解释确立为知情同意的先决条件。实施时可关注工具存在、目的、监督和患者选择而非软件构建；在物质风险低时过度灌输技术细节会降低信任而不增强自主权。提议补救优先通过平实语言、视觉辅助、分层信息和持续反馈机制重新设计同意沟通。对算法输出的遵从在寻求同意之前就使临床决策产生偏倚；当临床医生反射性遵从模型输出时，临床选项范围在到达患者前收窄，这种权威输出微妙地否定患者认为存在有意义替代方案的感觉。自动化偏倚取代个体临床医生错误，作为沟通障碍限制共享决策；然而该失效模式并非不可避免。针对性培训、明确的提供者问责和非指令性界面设计可抵消这些错误并保护独立临床判断。自动化还通过鼓励对自动化系统的不成比例信任使临床判断偏倚；当临床医生遵循AI代理错误建议时产生作为错误，当未提示时未干预产生不作为错误。该脆弱性不仅发生在复杂多任务场景，也发生在逻辑验证困难的单任务诊断评估中；这些发现产生于LLM广泛采纳之前。
3.3 算法偏倚与健康公平
医疗数据按定义引入抽样偏倚：它只记录接受照护者的记录，不捕捉缺乏充分医疗服务者的表现。基于这些数据集训练的模型学习并延续结构性诊断不足、专科可及性不平等和治疗强度差异，仿佛它们是有效临床信号，而实际上是社会而非医学状况的标志。四种机制将历史差异转化为有偏算法输出：代表性不足使模型缺乏少数群体和农村人群充分信号；使用成本或既往就诊作为代理产生偏倚，因为这些指标衡量结构性可及障碍而非真实疾病负担；嵌入变量纳入通过种族调整的生理方程将历史差异传播到算法逻辑；人机交互导致临床医生选择性接受确认内隐偏倚的AI输出。因为这些机制通过数据架构和代理选择运作，即使排除种族或民族等受保护属性，算法偏倚仍持续存在。Obermeyer等分析的人群健康算法是结构性偏倚例子：该算法通过预测医疗成本分配照护管理资源，系统性低估历史上因照护可及不平等而产生较低成本的Black患者的疾病严重程度；修订目标标签显著减少偏倚，证明算法差异源于设计选择而非不可避免结果。类似失败见于胸部X线分类器、急性肾损伤模型和脉搏血氧仪等。算法可减轻、延续和加剧差异，表明算法偏倚是需要严格审计的设计属性。公平挑战还包括结构性可及这些AI工具的差异；若验证工具仅限于富裕机构，收益将不成比例地累积于已优势人群，资源不足诊所可能被落下，扩大照护鸿沟。换言之，发展数据集中缺失的人群正是安全网机构主要服务的人群，而这些机构最缺乏采购和审计模型的能力。这以工业规模将系统性偏倚嵌入临床工作流；危险因第二意见带来的临床变异被消除以及机器输出的虚假确定感侵蚀临床医生怀疑而加剧。尽管有挑战，AI有望通过在资源有限环境扩展诊断能力缩小差异；实现潜力需要有意的、公平优先的部署。与人类内隐偏倚不同，AI中的算法偏倚可被审计和缓解；由于临床AI既呈现独特可扩展危害又呈现独特可处理性，举证责任必须置于强制性预使用公平审计。
3.4 人工智能在研究中的应用
AI已深入科学探究许多阶段，加速从假设生成、数据分析到稿件准备和同行评审的任务；每个整合点提供加速研究过程的机会，也引入不同错误机会。LLMs应用之一是综合科学文献，但呈现严重风险：LLMs频繁生成事实错误声明和伪造书目参考文献（“幻觉”），创建可逃避传统编辑检测的貌似合理文本，并可能使不追溯所引参考文献依据的人产生偏倚。此类脆弱性通过“引用生成”（citogenesis）威胁更广泛科学文献，即伪造或未验证声明进入已发表作品、获得下游引用并随时间获得虚假权威。近期分析编目学术写作中算法失败分类，包括引用伪造、事实扭曲、逻辑不一致和错误传播。因为幻觉引用在形式上模仿合法参考文献，编辑同行评审机制可能无法检测自信表述的虚假引用，负担完全落在人类作者和读者。生成式AI的诚信威胁延伸至视觉和定量科学记录；生成工具能以难以追踪方式伪造或操纵图和数据，期刊对AI辅助数据分析或图像生成是否允许仍存在分歧。作为ML亚型，DL也日益整合于基础科学数据收集；它用于处理显微镜、组织学和组学数据，但其缺乏透明度威胁科学可重复性。图像恢复和超分辨率模型存在通过幻觉出训练数据集特征而非实际标本特征生成隐藏伪影的严重风险；在数字组织病理学中，DL黑箱性质掩盖假阳性和阴性预测。注意力热图试图通过识别影响模型预测的组织区域提供部分可视化，但突出模型解释数据的位置并不揭示驱动结论的生物特征或决策逻辑。此外，文献报告缺陷加剧可审计性危机：近一半已发表AI组织病理学研究同时省略代码和原始数据，少于三分之一采用可解释性方法；只有40%在外部患者队列验证发现，相当数量报告模型不能独立审计或复现。建立真正可重复性要求将训练数据集和模型参数视为主导方法学组成部分。当前AI研究工具治理在学术出版中碎片化；政策分析显示主要出版商和个体高影响力期刊在允许AI应用、披露位置和语言编辑豁免方面存在实质分歧。除稿件起草外，同行评审也代表脆弱性，因为将未发表稿件上传至外部模型有暴露专有数据和违反评审保密风险。尽管碎片化，对三项核心原则存在普遍共识：禁止AI作者身份、强制明确记录工具使用、要求所有生成输出经人类验证。该基线一致主要因多数期刊遵循国际医学期刊编辑委员会（ICMJE）、出版伦理委员会（COPE）和世界医学编辑协会（WAME）提供的外部框架。新兴指导集中于在研究工作流中诚实、坦诚披露算法参与。研究误用的区别特征在于损害潜伏性：临床AI失败在床旁实时伤害患者；研究误用侵蚀未来科学和临床指南所依赖的基础证据库。幻觉引用、伪影和操纵数据集进入文献，在原始错误逃脱检测后长期延续引用生成。传统保障包括同行评审和编辑监督设计用于对抗人类欺诈而非AI伪造，使文献易受AI生成错误影响。维持文献信任要求将验证、透明和明确披露视为人类作者不可谈判的伦理义务。
3.5 人工智能在更广泛生命科学流程中的应用
药物重定位是AI在基础科学中最成熟应用之一；在此环境中，AI可利用已有安全性和药代动力学数据缩短实施时间并降低开发成本。Zielińska等详述当前基于AI的药物重定位方法，涵盖ML、DL和生物网络方法，包括DrugRepo、RosettaVS、RepurposeDrugs、TxGNN、AlphaFold3、AdaDR和mediKanren。随着领域演变，应用迅速扩展至肿瘤、感染、神经、风湿和罕见病空间，吸收/分布/代谢/排泄/毒性（ADMET）和安全性预测软件常整合入工作流。与重定位相比，AI原创药物候选成功更有限；一些进入临床试验，但尚无获得监管批准。AI现用于基因组分析多个阶段，用途从识别遗传变异到整合复杂多模态生物数据；近期综述详述AI在转录组学、变异识别、成簇规律间隔短回文重复序列（CRISPR）-Cas9优化和多组学整合中的应用。除这些具体应用，近期文献强调持续努力整合基准数据集和开源框架，为合成基因组学和生物数字孪生等新兴领域奠定基础；为确保临床信任和监管合规，现代工作流常规纳入可解释AI、隐私保护联邦学习和伦理考量等保障。主要综述强调分子医学是这些方法的理想试验场，将机器学习应用于基因组学、表观基因组学、蛋白质组学和代谢组学；肿瘤研究本身提供典型例子：将多组学与临床记录整合依赖专门模型和数据融合方法，将复杂数据集统一为清晰预测以推进领域。然而重大挑战持续存在，研究人员必须整合异质数据类型并解决黑箱模型，同时严格保护患者数据隐私。虽然药物重定位和基因组分析代表最转化成熟应用，生成式生物分子设计呈现具有人群水平影响的独特风险。临床AI伦理主要关注明确医疗环境中的患者隐私、偏倚和诊断准确性，而生成生物学提出全新生物安全威胁：AI可用于有益人类健康，同时引入新生物安全风险，如使用AI创建新型生物武器（两用生物能力[DUBC]）。应对该挑战需要传统医疗治理无法提供的领域特定监督；因此，AI应用进展必须常规锚定于生物安全和主动治理的同等进展。
3.6 治理与建议
作者对文献的评价和讨论识别出AI领域五个可适应治理脆弱性——问责、同意、公平、研究诚信和DUBC。关于问责，ML黑箱性质使在开发者、医疗系统和临床医生之间分配责任困难；部署后更新的自适应模型进一步加剧风险，导致专业学会要求可审计决策轨迹和算法错误临床报告路径。关于同意，当前原则在应对AI不透明性和二次数据复用方面大多不足。Su等对2025年ClinicalTrials.gov列出的114项涉及AI试验进行横断面分析，发现58%试验同意文件未披露AI模态或预期用途，18.4%完全省略AI使用风险；因此需要标准化在获取知情同意时报告AI使用。关于公平，算法偏倚威胁扩大研究参与和临床结果差异；因此必须实施标准化审计以确保算法偏倚不在AI模型中发展。关于研究诚信，生成式AI使用已超过出版规范；关于AI使用和披露的正式作者指导尚未在期刊间标准化，导致期刊政策冲突以及代码可用性和方法学验证标准不一致。关于DUBC，能设计新型生物分子/生物武器的生成模型威胁引入临床、市政、国家及全球框架从未设计容纳的生物危害。对于人类受试者研究，机构审查委员会（IRBs）需要专门加强以评估算法偏倚和隐私；已提出风险自适应同意框架，根据模型自主性和临床风险校准披露深度。在科学出版中，ICMJE、COPE和WAME强制明确AI披露、禁止AI作者身份、要求人类作者对内容负责，并由领域特定报告标准支持。解决治理差距需要所有相关方协调行动：机构必须为IRBs配备专门AI专业知识、采用风险自适应同意政策、执行生命周期数据控制，并对生成生物学项目强制上游生物安全审查；监管者应操作化变更控制计划并强制真实世界性能监测、标准化生成模型召回协议、协调国际标准并强制分层生物安全防御；研究人员有义务遵守领域透明标准、按ICMJE规范披露AI使用并使实践锚定于生物伦理原则。
4 结论
AI在生物医学科学中日益增加的采纳显示基础科学研究和临床生命科学的转变。AI不再是假设性关切；它是当代工具，适当使用有潜在益处，不当或恶意使用有显著缺点。有偏训练集、幻觉引用、DUBC和伪造科学数据都使AI在生物医学科学中使用的潜在积极方面复杂化。尽管如此，仍有提高研究产出、改进分诊和加速药物发现的潜力。缺乏对AI整合的关键评估使系统易受当前框架未充分评价的风险影响。AI不是人类判断或行动的替代品；保护生命科学意味着从被动采纳转向 stewardship，并需要报告标准、同意模型、公平审计和国际治理，同时维持人类监督并使问责链标准化。
5 局限性
作为叙事综述，本评论有若干局限。第一，所引文章通过作者个人评价识别，因此文章选择固有地受作者自身偏倚混杂。第二，OpenEvidence用作搜索引擎而非手动检索PubMed或Google Scholar；虽然所有引用稿件均由PubMed或Google Scholar索引，但使用OpenEvidence固有地将文章发现限制于软件认为最适用者，即可得性和选择偏倚；作者承认这可能限制数据策展的可重复性，但所有被评价以提供本综合的文章均已引用，使读者可评价相同文章并自行得出结论。第三，作为广泛评论，各种类型AI模型未被明确详述，可能忽视每种类型使用风险—收益计算的细微差别。第四，作为广泛评论，本综述没有具体问题，可能意味着主题被遗漏或评价不充分。作者承认本综述受这些因素及潜在其他因素限制，但希望它是一篇发人深省的作品，将启发围绕这一快速发展领域的未来对话和研究。
