用于保护隐私的胸部X光片分类的联邦持续学习方法

《Scientific Reports》：Federated continual learning for privacy-preserving chest radiograph classification

　　

摘要

针对胸部X光片的跨站点深度学习面临两个通常需要分别处理的问题：隐私法规限制医院合并原始图像；同时，临床工作流程会随时间变化，导致模型更新会覆盖之前的学习成果。联邦学习（Federated Learning, FL）可以解决第一个问题，但大多数FL系统都是为静态数据分布设计的。而联邦持续学习（Federated Continuous Learning, FCL）能够同时应对这两个问题。不过，在基准测试中表现最好的方法往往需要使用公共的替代数据集或存储的图像重放功能——在医院环境中，这两种方式都难以被合理采纳。我们提出了DP-FedEPC（差分隐私联邦弹性原型整合）算法，该算法结合了弹性权重整合（Elastic Weight Consolidation, EWC）、基于原型的复习机制以及客户端端的差分隐私随机梯度下降（DP-SGD）算法，这些技术都集成在标准的FedAvg工作流程中。EWC机制可以防止权重更新偏离之前任务中学到的参数值。通过一小部分潜在原型（而非原始图像）来保持不同任务之间的类别几何结构的一致性。每个客户端都在DP-SGD框架下进行训练，我们明确报告了在各个噪声水平下所取得的性能指标（表7）。我们在CheXpert数据集上进行训练，并在MIMIC-CXR数据集上进行外部验证。除了整体准确率（macro-AUROC）之外，我们还报告了每个检测结果的性能指标和遗忘率（表3）、原型几何结构的信息以及失败案例（图2–4），同时还提供了与基线相比的全面成本分析（表8）。