基于最优传输的异质联邦学习用于胸部X射线影像

《Sensors》：Optimal Transport-Based Heterogeneous Federated Learning for Chest X-Rays

　　

在某些联邦学习（Federated Learning, FL）场景中，本地客户端设备的差异导致图像分辨率不一致，促使客户端采用不同深度与宽度的模型。现有异质联邦学习方法难以在保持计算效率的同时维持模型精度。针对该问题，研究人员提出一种基于最优传输（Optimal Transport, OT）与跨层对齐的异质联邦学习框架。该框架通过跨层对齐解决模型深度不一致问题，利用最优传输融合不同宽度层的参数，并设计了一种面向多种异质模型的聚合策略。实验表明，该方法在保持满意效率的同时，可将模型精度提升至多1.65%。

研究背景与问题提出

联邦学习作为一种分布式协同训练范式，使多方在不共享原始数据的前提下联合训练全局模型，在智能医疗等隐私敏感场景具有重要价值。胸部X射线作为肺部疾病筛查核心依据，其数据受法规严格约束无法集中，而各级医疗机构在成像设备、分辨率、算力上的差异，迫使各机构部署网络深度、宽度乃至架构均不同的本地异质模型。传统FL框架（如FedAvg）要求同构聚合，无法处理深度与宽度双重异质；主流异质方法要么依赖医疗场景难获取的公共数据，要么引入生成模型带来额外计算开销；已有基于OT的模型融合仅解决宽度异质、忽略深度错位且只支持两两融合，无法直接扩展到多客户端FL。为此，研究人员在《Sensors》发表上述论文，提出OHFL（Optimal Transport-Based Heterogeneous Federated Learning）框架，同时平衡精度与聚合效率。

主要关键技术方法

研究人员采用跨层对齐建立不同深度网络层间功能对应，以同输入样本预激活矩阵经线性CKA（Centered Kernel Alignment）构建代价矩阵并求最优双射；通过插入恒等权重层补齐浅网络层数而不改变原输出；将对应层神经元分布视为离散概率测度，用Sinkhorn算法求解OT传输矩阵并对权重矩阵做仿射重排实现宽度融合；提出CID（Coupling Alignment Strategy with Progressively Increasing Model Depth）多模型聚合策略，先按同深度归并、再按深度升序逐对融合。实验在单张RTX A6000 GPU上进行，本地用SGD（学习率0.01，动量0.9，20轮，batch 16）训练，聚合用几何集成"wts"、Sinkhorn正则ε=0.01，微调50轮；样本队列来自Kaggle胸部X射线肺炎数据集（5856张，正常1583/肺炎4273，按宽度分6组模拟6家医院），另用MNIST与CIFAR-10做泛化验证，6客户端按浅中深分配同族三类架构（CNN/VGG11/DPFL变体）。

研究结果

3.1 层对齐（Layer Alignment）：以预激活矩阵和Linear CKA相似度建代价矩阵C，最小化总代价得隐层双射a，首尾层默认对齐，解决深度异质下的功能错位。

3.2 层协调（Layer Coordination）：向浅模型插恒等权重新层（神经元数等同前层、权阵为单位阵）补齐层数，深变浅则乘权阵合并（本文未展开），保障输入输出不变。

3.3 OT数学形式（Mathematical Formulation of OT）：给出离散概率测度a、b与代价矩阵定义，用Sinkhorn近似解传输矩阵T。

3.4 OT平衡两层（Balance Two Neural Network Layers with OT）：逐层将A层权W_A^l经前层传输阵T^l-1左乘、当前层T^l转置右乘，重排为与B同形权阵后加权平均，实现宽度软对齐融合。

3.5 多模型聚合（Multi-Model Aggregation Strategy）：同深度先平均归并，按深度升序以浅为基模逐对CID融合，得全局模型下发微调，伪代码见Algorithm 1。

3.6 医疗应用（Applications of OHFL in the Medical Field）：各院本地训异构同族模型，单轮上传—服务器CID聚合—广播—本地微调，适配设备分辨率与算力差异，降低泄露风险。

3.7 复杂度（Complexity Analysis）：服务端总复杂度O(M·m·n·p²)，p为单层最大神经元数占主导，t较小。

讨论与结论翻译

该工作聚焦因模型尺寸异质与算力不同致客户端架构相异的FL场景，现有方法难兼顾精度与效率，故提出OHFL在异质FL中平衡精度与时间。研究者在胸部X射线集仿真验证有效性，并在MNIST/CIFAR-10讨论其局限（极端非IID下不及FedMD），未来将增强非IID适应力并拓展跨模型族融合。结论指出：OHFL通过跨层对齐解深度异质、OT解宽度异质、CID扩至多模型，在胸部X射线场景精度最高提升1.65%且效率满意；其意义在于为医疗影像机构提供不共享数据、允许本地异构同族部署的单向通信聚合方案。