FedGreenCS：一种基于数据分布相似性分组与碳排放卸载机制的碳感知联邦学习方法

《Future Internet》：Green Offloading and Model Size Adaptation for Federated Learning in IoT and Next-Generation Networks

　　

摘要

联邦学习（FL）在地理上分散的客户端之间训练模型，而这些客户端的电力碳排放强度差异极大。我们提出了 FedGreenCS，一种面向物联网和下一代网络的碳感知联邦学习方法。首先根据数据分布相似性对客户端进行分组，方法是在一个本地训练周期后计算模型权重的成对余弦相似度。在后续每一轮中，若被抽样到的客户端其碳排放强度超过固定容差，则将其训练任务卸载到其所属相似度簇中碳排放最低的可用对等节点上，而碳排放强度在容差范围内的客户端则按原样参与训练。有序 dropout 机制使碳排放强度较高的客户端获得更窄的模型。我们推导了一个碳排放成本模型，该模型对每个客户端和每一轮分别计算计算与通信成本，隔离了首轮强制广播的成本，并给出了关于缩放率和容差的设计约束。在具有真实区域碳排放强度的非独立同分布（non-IID）EMNIST 数据集上，FedGreenCS 使用三个碳簇在三个随机种子下达到 70% 的测试准确率，客户端侧碳排放成本为 3.15 至 3.36 g CO，而 FedGreen 为 3.58 g，FedAvg 为 15.12 g。当所有客户端使用统一模型宽度时，卸载机制可将该成本降低 23% 至 58%，但在仅有两个碳簇的情况下成本会上升，且始终需要更多的训练轮次。