编辑推荐：
为解决人工智能（AI）在医疗领域应用的有效性、临床实用性及伦理等问题，研究人员开展了 AI 在医疗尤其是放射肿瘤学中应用的研究。结果发现 AI 应用存在局限性，如算法偏差等。该研究对规范 AI 医疗应用、保障患者权益意义重大。
在科技飞速发展的当下，人工智能（Artificial Intelligence，AI）如同一股浪潮，席卷了各个领域，医疗保健领域也未能例外。想象一下，在医院里，医生们不再需要花费大量时间处理繁琐的医疗数据，AI 助手就能快速给出诊断建议；放疗过程中，AI 精准规划治疗方案，提高治疗效果…… 这看似美好的场景背后，却隐藏着诸多问题。
AI 在医疗领域的应用并非一帆风顺。在发达国家，AI 的发展影响着众多行业，医疗行业也深受其扰。算法出现故障或者训练数据集存在偏差，都可能导致治疗方案不理想，给患者健康带来负面影响。对于癌症这类危及生命的疾病，以及可能引发严重甚至致命不良反应的治疗手段，风险就更高了。过去二十年，AI 在医疗领域的研究多集中在诊断放射学和数字病理学，近年来在放射肿瘤学工作流程中的研究虽有所增加，但这些应用的有效性缺乏证据支持，距离证明其临床实用性更是还有很长的路要走。
随着生成式人工智能（Generative artificial intelligence，GenAI）的迅速发展，情况变得更加复杂。GenAI 能够从多种类型的数据中获取信息，生成个性化且看似相关的内容。大语言模型（Large Language Models，LLMs）的进步更是开拓了广阔的应用前景，比如生成式预训练变换器 4（Generative Pre-trained Transformer 4，GPT-4）通过 ChatGPT-4 让终端用户广泛使用，甚至通过了严格的图灵测试。然而，这也带来了新的问题，例如 ChatGPT-4 训练数据量大且来源复杂，包含各种偏差和不准确信息，还存在隐藏的种族偏见。
在这样的背景下，为了探索 AI 在医学领域合理且安全的应用方式，研究人员开展了相关研究。虽然文中未提及具体研究机构，但他们的研究意义重大。研究聚焦于 AI 在医疗尤其是放射肿瘤学中的应用，其成果若能得到有效应用，将规范 AI 在医疗领域的使用，保障患者权益，推动医疗行业借助 AI 实现更安全、有效的发展，相关研究成果发表在《Clinical Oncology》上。
研究人员开展研究时用到的主要关键技术方法与 AI 技术密切相关。他们借助 GenAI 和 LLMs 技术，对 AI 在医疗领域的应用进行分析。在数据来源方面，以 ChatGPT-4 为例，其训练数据来自大量的文本，这些文本包含多种来源，虽然文中未明确其他样本队列来源，但这一数据特点对研究 AI 在医疗应用中的偏差问题有重要意义。
下面来看具体的研究结果：
- 当前人工智能格局（The Current Artificial Intelligence Landscape）：AI 在放射肿瘤学及其他医学领域广泛存在，且持续发展。当前 AI 的蓬勃发展很大程度上得益于 GenAI，尤其是 LLMs。GenAI 的训练数据多样，LLMs 则通过对大量文本中单词或字母序列的概率估计来发挥作用。
- AI 在放射肿瘤学中的应用（AI in Radiation Oncology）：AI 应用可分为自动化和增强两类。在放射肿瘤学工作流程中，许多方面都适合 AI 进行自动化或增强处理，例如在靶区勾画等方面，AI 可以帮助医生提高工作效率和准确性。
- 局限性和担忧（Limitations and Concerns）：像 ChatGPT-4 这样的模型，训练数据量巨大且来源复杂，多来自 “现实世界”，存在偏差和不准确信息。研究发现 ChatGPT-3.5 或 ChatGPT-4 在处理相同病史但不同种族信息时，会表现出隐藏的种族偏见，这对医疗应用的公正性构成威胁。
- 现在该怎么办（What Now?）：GenAI 即将广泛应用于临床，如果医疗机构不积极采用，可能会在竞争中处于劣势。但面对 AI 的推广，不能盲目跟从。就像历史上卢德派对新技术的抵制一样，我们需要理性看待 AI 在医疗领域的应用，平衡技术发展与潜在风险。
研究结论和讨论部分强调了多方面的重要意义。在临床研究方面，需要开展独立的学术研究，建立 AI 在医学中基于证据的应用，如同对待新药或新医疗器械一样严格评估 AI 算法。在教育层面，要加大力度让医疗领域的 AI 终端用户了解算法医学的优缺点，提高他们对 AI 输出结果的评估能力。从伦理角度出发，必须明确 GenAI 在医患关系中替代人类的边界，确保患者权益不受侵害，保障医疗服务的质量和公正性。总之，该研究为 AI 在医疗领域的健康发展指明了方向，有助于推动医疗行业在合理应用 AI 技术的道路上稳步前行，让 AI 真正成为提升医疗水平的有力工具。
