将机器反学习作为临床人工智能发展的治理要求

《npj Digital Medicine》：Machine unlearning as a governance imperative for clinical AI

　　

摘要

临床人工智能假设训练数据的影响可以永久持续。但当患者撤回同意、证据发生变化或发现偏差时，这一前提就不成立。机器“去学习”技术旨在无需重新训练即可消除特定数据的影响。我们认为，应从患者自主权、临床有效性以及系统治理等方面，将“去学习”功能纳入高风险医疗人工智能的架构中，同时我们还提出了一种治理方案，以确保更新过程可审计且具有临床安全性。