《Discover Public Health》：Legal, ethical, and policy challenges of artificial intelligence translation tools in healthcare
编辑推荐：
本文针对AI翻译工具在医疗沟通中的广泛应用，系统分析了其引发的法律、伦理与政策挑战。研究者通过分析欧盟《人工智能法案》《通用数据保护条例》等法规框架，结合平台服务条款内容分析，揭示了数据隐私泄露、翻译准确性不足、算法偏见等风险，并提出了针对性的政策建议，为规范AI医疗翻译工具使用提供了重要参考。
在全球化的今天，医疗领域正面临着一个看似简单却极其复杂的挑战：当医生和患者说着不同的语言时，如何确保精准的沟通？语言障碍不仅影响着问诊的准确性，更直接关系到诊断的正确性、治疗的安全性和患者的知情同意。随着人工智能技术的快速发展，Google Translate和ChatGPT等工具因其便捷性和高效性，正被越来越多地应用于医疗场景中，成为跨越语言障碍的"桥梁"。
然而，这座"桥梁"是否稳固可靠？当敏感的医疗信息通过第三方平台进行翻译时，患者的隐私权如何保障？当翻译出现错误导致医疗事故时，责任应该由谁承担？这些看似技术性的问题，背后涉及的是患者的基本权利和医疗安全的核心问题。
为了系统分析这些问题，van Kolfschooten等研究者在《Discover Public Health》上发表了题为"Legal, ethical, and policy challenges of artificial intelligence translation tools in healthcare"的研究论文。该研究采用混合研究方法，首先对ChatGPT和Google Translate的平台政策进行手动内容分析，评估其在隐私保护、透明度、责任认定等方面的具体条款；随后通过法律文献分析，深入剖析欧盟《人工智能法案》（AI Act）、《通用数据保护条例》（GDPR）和《医疗器械法规》（MDR）等现行法律框架对AI翻译工具的适用性；最后整合生物伦理学、数字健康和健康传播等跨学科视角，提出针对性的政策建议。
研究团队通过内容分析发现，现有AI翻译工具在数据处理方面存在显著风险。Google Translate明确表示用户数据可能被存储并用于改进服务，且免费版本用户难以完全退出数据保留机制。ChatGPT虽然允许用户禁用聊天历史记录，但并未明确说明医疗信息的处理方式，也未提供针对医疗场景的特殊保护措施。两个平台在医疗责任认定方面都采取了免责声明，将使用风险转嫁给用户。
在法律分析层面，研究揭示了重要的监管空白。由于AI翻译工具属于通用目的技术而非专门的医疗设备，它们不受《医疗器械法规》的严格监管。同时，《人工智能法案》将其归类为"有限风险"系统，仅要求基本透明度义务，而未施加高风险医疗AI系统的严格管控要求。这意味着当这些工具被用于医疗场景时，患者安全实际上缺乏充分的法律保障。
在伦理层面，研究指出了三个关键问题。首先是隐私保护困境，医疗信息作为GDPR定义的"特殊类别数据"，在通过AI翻译工具处理时面临跨境传输、二次使用等风险。其次是患者自主权受损的可能性，翻译错误可能导致患者无法真正理解医疗信息，影响知情同意的有效性。欧洲人权法院在V.C.诉斯洛伐克等案件中的判决已经强调，医疗信息必须以患者能够理解的语言进行沟通。第三是算法偏见问题，研究表明AI翻译工具在不同语言间的准确性存在显著差异，对非欧洲语言使用者的翻译错误率高达32-45%，这可能构成间接歧视。
针对这些挑战，研究者提出了三个层面的政策建议。在操作层面，医疗机构需要制定明确的使用指南，帮助医务人员判断何时适合使用AI翻译，何时必须求助专业口译员。在技术层面，建议投资开发专门的医疗翻译工具，这些工具应该基于医疗术语进行训练，并尽可能采用本地化部署模式，减少数据外泄风险。在监管层面，强调需要加强数据保护措施，包括进行数据保护影响评估（DPIA）和定期审计。
这项研究的重要意义在于首次系统梳理了AI翻译工具在医疗领域应用的全链条风险，并指出了现行法律框架的不足。随着AI技术在医疗领域的深入应用，如何平衡技术创新与患者权利保护将成为关键议题。研究者强调，AI翻译工具应该作为专业口译服务的补充而非替代，只有在确保安全、准确、公平的前提下，才能真正发挥其跨越语言障碍的潜力。
研究结果具体体现在以下几个方面的发现：
隐私与数据保护方面，分析显示AI翻译工具通过将用户输入传输到外部服务器进行处理，创建了多个隐私风险点。Google Translate的隐私政策明确表示会使用用户与AI模型的交互来"开发、训练、微调和改进这些模型"，这意味着医疗数据可能被用于商业目的。同时，跨境数据传输使患者信息可能流向数据保护标准较低的法域，增加了数据泄露风险。
患者自主权与知情同意方面，研究发现翻译错误可能严重影响医疗决策的有效性。欧洲人权法院的判例确立了医疗机构有义务确保患者以理解的语言接收医疗信息，而依赖AI翻译工具可能无法满足这一法律要求。特别是在手术同意书、药物治疗说明等关键场景中，翻译错误可能导致严重的医疗事故。
偏见与歧视方面，内容分析揭示了算法偏见的系统性风险。AI翻译工具的训练数据不平衡导致其对不同语言使用者的服务质量存在显著差异。例如，从芬兰语、匈牙利语等不明确指示性别的语言翻译成英语时，系统往往默认使用男性代词和刻板印象化的表达方式，这可能影响医疗沟通的准确性。
医疗责任认定方面，研究指出了法律责任的模糊性。当翻译错误导致患者损害时，责任可能在医疗服务提供者、医疗机构和技术开发者之间难以清晰界定。这种不确定性不仅增加了医疗机构的运营风险，也可能阻碍有益技术的推广应用。
van Kolfschooten等人的研究为正在快速发展的数字医疗领域提供了重要的警示和指导。随着欧盟《人工智能法案》的全面实施，以及全球范围内对AI监管的日益重视，这项研究不仅有助于政策制定者完善相关法规，也为医疗机构和技术开发者提供了实践指南。最终目标是确保AI技术在医疗领域的应用能够真正促进健康公平，而不是加剧现有的不平等现象。
这项研究的局限性在于主要聚焦欧盟法律框架，其他地区的监管环境可能有所不同。同时，技术发展速度快于政策制定过程，这意味着监管空白可能持续存在。未来研究需要持续跟踪技术发展和实践应用，为政策调整提供及时的证据支持。
