FedCleanse：联邦学习系统中后门攻击的净化防御机制及其在健康医疗数据安全中的应用

本文提出了一种名为FedCleanse的创新防御机制，针对联邦学习（FL）系统中的后门攻击问题。该方法通过神经元电导（conductance）分析识别可疑后门神经元，并采用抑制和扰动策略消除后门效应，无需额外干净数据即可在保持主任务性能的前提下实现高效防御，为医疗健康领域的隐私保护学习提供了新解决方案。

　　

Highlight

本研究亮点在于提出首个无需干净数据的联邦学习后门净化方案，通过神经元行为分析与动态抑制机制，在医疗影像等敏感数据场景下实现安全性与模型性能的平衡。

Method

方法部分详细阐述了FedCleanse的三阶段框架：首先基于神经元电导值（conductance）设计投票机制区分良性神经元与后门神经元；其次对可疑神经元施加噪声抑制；最后通过策略性扰动防止后门效应转移至良性单元。该方法可与其他预处理防御模块灵活组合。

Experiment Setup

实验设置涵盖三个经典数据集：CIFAR10（采用VGG9模型）、EMNIST手写字符集（使用LeNet-5模型）以及医疗影像常用数据集。测试场景包含不同非独立同分布（non-IID）程度与多种攻击模式。

Experiment Results

实验结果表明FedCleanse在各类攻击场景下均达到最先进（SOTA）防御效果，尤其在数据高非独立同分布情况下显著优于现有方案，且主任务准确率保持稳定。与预处理防御结合时呈现协同增强效应。

Conclusion

结论指出FedCleanse突破了传统后聚合防御对干净数据集的依赖，通过神经元电导分析与动态调控机制，为联邦学习系统提供了轻量且普适的后门防御方案，在健康医疗等隐私敏感领域具有重要应用价值。