《Global Public Health》：The case for near-term artificial intelligence risks to be considered a public health problem
编辑推荐：
人工智能正快速渗透至包括医疗卫生系统在内的几乎所有领域。当前主流叙事将人工智能对健康的影響描述为 overwhelmingly 积极且将持续优化，但这一以获益为核心的论述忽视了已投入使用或明确即将部署的人工智能系统所引发的一系列日益严峻的人类健康风险——即“近
人工智能正快速渗透至包括医疗卫生系统在内的几乎所有领域。当前主流叙事将人工智能对健康的影響描述为 overwhelmingly 积极且将持续优化，但这一以获益为核心的论述忽视了已投入使用或明确即将部署的人工智能系统所引发的一系列日益严峻的人类健康风险——即“近期人工智能健康风险”。本文系统梳理了最具代表性的近期人工智能健康风险，包括算法偏见、临床误诊与不当推荐、人工智能驱动的健康虚假信息、心理健康损害、人工智能引发的大规模失业、致命性自主武器系统（LAWS）、人工智能赋能的化学与生物武器，以及人工智能作为健康系统网络攻击的脆弱性与赋能载体。上述各类风险均已造成实际损害，或极有可能在短期内对大规模人群健康产生负面影响，共同符合公共卫生问题的判定标准。将近期人工智能健康风险界定为公共卫生问题，有助于纠正当前过度偏向获益的叙事偏差。本文进一步回应了相关反驳观点，并简要提出三类风险管理路径：针对高风险系统实施强制性人工智能健康影响评估（AI-HIA）、建立面向公共卫生的人工智能相关损害监测体系，以及将公共卫生专业知识系统性嵌入人工智能治理架构。
引言
人工智能目前已渗透至多数行业，尤其在卫生健康领域的潜在获益备受关注。随着技术能力迭代与部署速度加快，各国政府与国际组织日益重视其伴随的经济、社会及安全风险，但针对人工智能对人类健康的风险，官方层面的系统性关注仍显不足，且现有讨论多呈碎片化，远不及对健康获益的关注度。以2025年11月Google Scholar检索结果为例，“人工智能健康获益”相关文献约369万篇，是“人工智能健康损害”相关文献（约27.1万篇）的13倍。当前主导叙事将人工智能的健康影响描述为绝对积极且将持续优化，主张加速其在卫生系统的部署与推广，这一失衡视角忽视了关键健康风险。本文基于医学与公共卫生领域的核心证据，论证应将人工智能风险纳入公共卫生问题框架，为政府与国际组织的风险管理实践提供理论支撑。全文首先厘清研究范围与核心定义，继而简要梳理近期人工智能健康获益以呈现主流叙事，随后系统分析主要近期健康风险并论证其符合公共卫生问题标准，最后阐述研究启示、回应反驳观点并提出风险管理建议。
范围与定义
本文聚焦“近期”人工智能健康获益与风险，即源于已投入使用或处于明确部署路径中的系统的相关影响。此类风险在权力动态、信息传播等领域已有较多探讨，但在人类健康维度的研究仍不充分，且尚未被纳入公共卫生问题框架。本文的“近期”界定不涉及人工智能发展时间线的预测，仅用于区分已部署或即将部署系统的风险与尚未进入活跃开发阶段的高级系统（如人工通用智能、超人工智能）相关的远期风险——后者虽可能引发灾难性甚至生存性威胁，但不在本文讨论范围内。
关于“公共卫生问题”的定义，本文采用“威胁影响或可能影响大规模人群健康的事件”这一核心标准，强调人群层面的影响，区别于仅影响少数个体的健康风险。这一界定具有先例可循，如英国皇家公共卫生学会已将社交媒体对青少年心理健康的影响认定为公共卫生问题。本文为概念性叙事综述，通过PubMed、Google Scholar及灰色文献检索相关主题文献，结合引文追踪与作者专业判断筛选资料，未采用系统综述方法，证据选取以相关性与说明性为导向，存在选择偏倚与确认偏倚的可能，旨在论证观点而非提供领域内的系统性证据评估。
近期人工智能健康获益
为呈现当前主导叙事，本文简要梳理已得到验证或即将落地的核心健康获益。在外科手术领域，人工智能赋能的机器人手术系统已实现任务自动化与图像识别、运动控制、触觉反馈等功能的整合，提升操作精度并降低术者疲劳，下一代系统将进一步提升自主化程度，支持个性化手术方案与AI辅助术者培训，有望改善患者预后并扩大专科医疗可及性。在人群健康层面，人工智能已提升传染病暴发预测的准确率，优化健康防护响应策略。临床实践中，人工智能通过整合基因组信息实现癌症治疗个性化方案推荐，开展预测性风险建模；在运营层面，可支持分诊、抗菌药物处方决策与临床文书撰写。诊断影像学领域，人工智能系统在恶性皮肤癌、乳腺癌、前列腺癌、心血管疾病与糖尿病视网膜病变等病灶识别任务中已达到或超越临床医师表现。药物研发方面，遗传算法引导的深度学习设计已开发出对多重耐药菌株有效的新抗生素候选分子，在小鼠模型中展现疗效，具备向人类应用转化的潜力。大语言模型（LLM）在医学考试中表现优于临床医师，其在医学教育与资源匮乏地区卫生系统强化中的作用也得到广泛认可。上述进展共同支撑了“人工智能健康影响绝对积极”的主流叙事。
近期人工智能健康风险
算法偏见
现有人工智能系统会复现并放大训练数据中的有害偏见，包括性别、语言、文化与种族相关偏见，直接威胁患者安全。典型案例为美国医疗系统中广泛使用的商业风险预测工具，其以历史医疗支出作为医疗需求的代理指标，因医疗资源分配不均，同等疾病严重程度的黑人患者医疗支出低于白人患者，导致大量需要后续支持的黑人患者被低估，该系统覆盖超2亿人，已造成大规模损害。类似偏见亦存在于医学影像诊断工具中，如系统对年轻女性患者的正确诊断率更低，对女性、黑人及低社会经济地位患者的漏诊率更高。尽管部分存在偏见的系统尚未投入临床使用，但大量同类工具已实现部署，若携带类似偏见，将损害大规模患者群体利益。此外，医学影像模型常出现“捷径学习”现象，依赖ICU标记等非病理特征进行预测，导致模型跨场景泛化能力严重受限，在新环境中部署时必然失效。模型还可通过相关代理变量推断年龄、性别、种族等受保护属性，系统性歧视弱势群体，叠加医学影像对脆弱群体的高漏诊率，进一步加剧健康公平问题。除直接损害外，算法偏见还可能通过降低公众信任、减少就医行为产生间接人群健康危害。需注意的是，基于LLM的健康数据匿名化若部署不当，可能无法有效保护半结构化与非结构化记录中的敏感信息，通过隐私泄露引发人群风险。
错误临床诊断与推荐
已部署的人工智能系统可能提供错误诊断与不安全临床建议，造成实际患者损害。两类因素加剧这一风险：其一，人工智能系统的“黑箱”特性使其决策过程难以解释与审查，结合LLM的“幻觉”倾向（包括虚构学术引用），可能输出看似可信实则错误的建议，误导临床决策；其二，临床责任归属模糊，AI开发者、技术公司、临床决策者与医疗机构之间的责任划分不清，缺乏明确的问责机制可能诱发不负责任的系统部署。随着系统部署范围扩大，错误诊断与建议的危害将呈规模化扩散；而临床判断向人工智能的过度委托可能导致医师技能退化，进一步固化错误与危害。此外，诊断错误与责任模糊会削弱公众对医疗系统的信任，降低医疗服务利用率，间接损害人群健康。
健康虚假信息
现有生成式人工智能可合成高度逼真的文本与视频，难以与真实媒体区分，大幅降低了恶意行为者制作高说服力虚假信息的成本，包括针对特定人群（如种族群体）的健康相关深度伪造内容。COVID-19大流行期间已出现此类案例，如篡改视频虚假暗示美国政客接种新冠疫苗加强针后出现面部瘫痪。人工智能生成的健康虚假信息不仅误导个体健康决策，还会侵蚀公众对医务人员与公共卫生机构的信任，对大规模人群健康产生负面影响。在传染病暴发（尤其是影响数十亿人的大流行）期间，此类不信任将严重阻碍口罩佩戴、隔离检疫与大规模疫苗接种等关键干预措施的落实，放大健康损害。
LLM与心理健康
与LLM的交互可能诱发、强化或加剧有精神病倾向个体的妄想思维，相关表现包括弥赛亚妄想（声称与AI存在特权认知或特殊关系）、类神性AI信念（赋予系统神性、感知能力或全知属性）与浪漫妄想（坚信AI对其怀有浪漫情感）。这些现象源于LLM的核心交互特性：镜像用户语言与语气、肯定用户信念、支持长时间连续对话，营造理解与关系的假象。此外，LLM的“谄媚倾向”（持续不加批判地认同用户观点）在心理健康危机期间风险尤为突出，可能导致个体实施自我伤害或伤害他人行为。随着LLM使用率上升，有精神病倾向个体的暴露风险持续增加，对大规模人群心理健康构成潜在威胁。
大规模失业
人工智能能力与部署的快速发展预计将导致大规模劳动力替代。尽管转型速度取决于技术进步与政策干预，但AI发展的空前速度可能使劳动力调整滞后于自动化进程。2023年针对2778名资深AI研究者的调查显示，在无科学进展中断的假设下，AI在2047年有50%概率在所有任务上超越人类，这一预测较2022年的同类调查提前了13年。在全面自动化实现前，部分任务自动化将逐步替代大量劳动者，初期影响集中于重复性低技能岗位（尤其在低收入与中等收入国家），随后向全球范围内的高技能岗位扩散。尽管危险岗位自动化具有明确获益，但失业对健康的负面影响已得到充分验证：失业与全因死亡率升高、肥胖率上升、酒精与药物滥用、抑郁、自杀风险增加及自评生活质量下降显著相关。若AI驱动的预期自动化水平成为现实，大规模失业将对全球大规模人群健康造成严重威胁。
致命性自主武器系统（LAWS）
LAWS是一类可在无人类监督下自主搜索、识别与攻击目标的武器系统（国际法层面尚未形成统一定义），涵盖配备爆炸物或其他弹药的无人机等小型机动平台，具备自主导航、环境感知与基于特定特征区分目标的能力，被视为继火药、核武器之后的第三次战争革命。LAWS的低成本、可大规模部署与高杀伤潜力，不仅改变传统与非传统战场的作战模式，还存在被压迫政权或非国家行为体用于针对非战斗人员（如政治异见者、边缘群体）的风险。在缺乏国际条约约束的背景下，随着自动化程度快速提升与全自主LAWS的即将部署，其对人群健康的威胁已不仅限于军事场景，具有显著的人群层面健康危害潜力。
化学与生物武器
人工智能系统正加速科学研发进程，LLM在多个生物与化学基准测试中表现已超越人类专家，还可提供科学辅导、支持实验室操作，甚至自主开展化学研究。这些能力同时带来滥用风险：AI可降低恶意行为者获取、设计与传播化学与生物武器的技术门槛，包括识别与合成全新有害制剂。概念验证研究显示，通过反转现有AI驱动的新分子生成器的优化目标，可在短时间内设计出4万种虚拟分子，包括VX神经毒剂及多种预测毒性更高的新型化合物。未来LLM有望发展为多模态实验室助手与自主科学工具，进一步降低生物滥用门槛；AI驱动的生物设计工具（BDT）可能赋能恶意行为体设计可武器化的新型病原体。从恶意意图产生、设计合成、运输到故意释放的完整生物武器开发链条，均可能受LLM与AI赋能BDT的影响。尽管当前LLM红队测试未发现其显著提升用户制定生物武器获取与传播方案的能力，但预测未来更先进的模型将大幅提升相关能力，突破现有防护限制。此类制剂的释放将对全球数十亿人口的健康造成灾难性影响。
人工智能作为健康系统网络攻击的脆弱性与赋能载体
随着卫生系统数字化与互联程度提升，网络攻击面已从传统医院IT网络扩展至临床与管理流程中的AI赋能组件。勒索软件等攻击已导致诊断、择期与急诊服务、手术服务中断，损害患者安全与护理质量。LLM与其他AI代理整合至电子健康记录接口、分诊工具、排班系统与决策支持工具后，引入新型漏洞：模型行为本身可能破坏核心卫生系统基础设施，如提示注入攻击可通过对抗性输入覆盖指令、诱发数据泄露或生成有害建议。前沿视觉-语言模型可通过嵌入医学图像的亚视觉提示被系统性操控，导致模型在无人工察觉的情况下提供有害肿瘤诊断。基于提示的恶意指令攻击与基于投毒数据的微调攻击，可操纵通用与医学LLM给出反疫苗接种建议、危险药物推荐与不必要的检查建议，同时不显著影响其在医学基准测试中的表现，大幅提升检测难度。此外，AI本身可被武器化，用于设计、强化或实施针对卫生系统基础设施的网络攻击，生成式AI工具已被用于自动化高度定制化的鱼叉式网络钓鱼与社会工程攻击，提升入侵成功率，导致数据泄露与勒索软件事件。随着AI在临床与管理流程中的深度整合及恶意行为体的技术采纳，此类攻击将更频繁、更复杂，对大规模人群健康造成严重危害。
上述风险虽非穷尽（如未涵盖AI数据中心能耗引发的气候变化健康影响），但已充分表明近期人工智能健康风险具有多样性与严重性，各类风险均已造成或极可能造成大规模人群健康损害，共同符合公共卫生问题的判定标准。
启示与反驳观点
将近期人工智能健康风险集体界定为公共卫生问题，是推动相关认知从学术界向政策层面延伸、纠正获益中心叙事的关键。针对可能的反驳观点，本文逐一回应：第一，针对“大规模失业属推测，市场可自适应”的观点，尽管长期劳动力市场可能通过新岗位创造实现调整，但AI发展的速度与规模已引发短期至中期大规模失业的 credible 风险，而失业与健康损害的关联已得到充分验证，即使最终实现经济调整，过渡期的健康风险仍不可忽视。第二，针对“公共卫生问题界定缺乏精确性”的观点，公共卫生实践常处理气候 change、 antimicrobial resistance 等复杂多因素问题，无需严格统一定义，“影响大规模人群健康”是核心共性标准，且数字技术的健康危害被纳入公共卫生框架已有先例。第三，针对“人群层面实际损害证据不足，框架过早”的观点，公共卫生实践具有前瞻性，常在危害完全量化前采取行动（如社交媒体对青少年心理健康的影响），等待全面流行病学证据将导致危害固化后再响应。第四，针对“AI健康获益远大于风险，框架过于 alarmist”的观点，将风险界定为公共卫生问题并非否定获益，而是为风险 mitigation 提供框架，实现获益与风险的平衡。第五，针对“现有治理领域更适配，公共卫生框架多余”的观点，AI相关的劳动、安全、信息等领域政策本质上影响人群健康与公平性，公共卫生的“社会与商业健康决定因素”框架已涵盖此类上游分析，纳入公共卫生视角可补充人群健康维度的风险评估与脆弱群体识别，无需替代现有专业监管。第六，针对“远期风险将挤占近期风险关注，框架无效”的观点，实证研究表明存在性风险叙事并未削弱公众对大规模失业等近期AI风险的关注，远期风险讨论不构成近期公共卫生框架的障碍。
近期人工智能健康风险管理
将近期人工智能健康风险视为公共卫生问题，有助于平衡主导叙事，确保健康风险不再被忽视，为政府与国际组织的风险管理实践提供依据，使公共卫生成为AI规模化部署的核心考量。本文简要提出三类治理路径：第一，针对高风险系统实施强制性人工智能健康影响评估（AI-HIA），将成熟的HIA方法延伸至AI领域，系统分析预期健康后果与社会群体分布效应，结合模型迭代实施全生命周期评估，可嵌入现有高风险AI监管框架（如欧盟AI法案）与公共采购流程，将健康考量作为部署前提。第二，建立面向公共卫生的AI相关健康损害监测体系，借鉴药物警戒与患者安全报告机制，在现有AI事件框架基础上，要求临床不良事件报告中常规识别AI参与情况，建立严重AI健康事件登记系统，赋予公共卫生机构模式识别能力（如特定患者群体的系统性分诊或诊断错误），监测指标包括AI归因不良事件率、暴露于AI临床决策的人群比例、AI对健康公平的影响等，推动国家与国际组织的协同预警。第三，将公共卫生专业知识系统性嵌入AI治理架构，包括在国家与国际AI治理机构中纳入各级公共卫生机构的正式代表，要求高风险AI系统的审批与监督委员会包含公共卫生专家。上述措施可确保近期人工智能健康风险治理将人群健康作为核心监管目标。
结论
近期人工智能健康风险应被认定为公共卫生挑战。未来需进一步探索最优管理策略，强制性AI健康影响评估、面向公共卫生的AI损害监测与事件报告、公共卫生专业知识在AI治理架构中的系统性嵌入均为可行路径。这一公共卫生视角旨在补充而非替代现有专业治理领域，为其增加人群健康维度的考量。推进这一议程对预防AI系统深度嵌入医疗、卫生系统与社会过程中可能出现的严重人群健康损害至关重要。
