在人工智能驱动的边缘计算环境中，针对资源受限设备的支持模型剪枝的联邦分割学习

《ACM Transactions on Sensor Networks》：Model Pruning-enabled Federated Split Learning for Resource-constrained Devices in Artificial Intelligence Empowered Edge Computing Environment

分布式协同机器学习在工业物联网中面临资源消耗大和模型易受攻击问题，本文提出MP-FSL框架通过自适应通道剪枝和联邦分割学习，将压缩模型拆分为客户端和服务器两部分，并采用新聚合算法，实验表明准确率提升1.35%，资源消耗分别减少32.2%和26.73%

　　

摘要

分布式协同机器学习（DCML）在人工智能支持的边缘计算环境中（如工业物联网（IIoT））得到了广泛应用，用于处理智能设备产生的海量数据。然而，并行DCML框架需要资源受限的设备来更新整个深度神经网络（DNN）模型，并且容易受到重构攻击。与此同时，串行DCML框架由于其串行训练的特性而存在训练效率问题。在本文中，我们提出了一种基于模型剪枝的联邦分裂学习框架（MP-FSL），该框架采用安全高效的训练方案来降低资源消耗。具体而言，MP-FSL通过自适应通道剪枝压缩DNN模型，并将每个压缩后的模型分为两部分，分别分配给客户端和服务器。同时，MP-FSL采用了一种新颖的聚合算法来整合剪枝后的异构模型。我们使用真实的联邦学习（FL）平台对MP-FSL进行了性能评估。实验结果表明，MP-FSL在模型准确性方面比现有框架高出1.35%，同时在存储和计算资源消耗方面分别降低了32.2%和26.73%。这些结果表明，MP-FSL是解决DCML面临挑战的综合性方案，在降低资源消耗和提升模型性能方面表现出色。