摘要
作为一种基于无线网络构建人工智能（AI）模型的分布式方法，基于多设备协同训练的联邦学习（FL）能够保护数据隐私，同时增加本地模型更新的计算负荷。相比之下，通过合理划分模型的分治学习（SL）则能适应不同设备之间的计算与传输能力差异。在本文中，我们结合FL与SL的优势，提出了一种半去中心化的混合联邦分治学习（SD-HFSL）框架，该框架突破了单一中央服务器的局限，使得共享的划分模型能够在多个边缘服务器之间进行聚合。为验证延迟优化对训练效率的重要性，我们在考虑有限的计算和通信资源的前提下，分析了SD-HFSL的收敛性能。随后，为了最大化长期训练效率，我们提出了一个包含本地模型划分和设备关联的在线优化问题。鉴于系统事先无法知晓训练延迟，我们基于上下文多臂老虎机（CMAB）框架，提出了一种具有次线性遗憾的上下文感知型在线训练算法，让边缘服务器能够通过观察设备所在位置的上下文信息来估算延迟，进而根据不同上下文下的评估结果进行迭代优化。在多种神经网络模型上的实验表明，与所选的基准方法相比，该算法能够降低训练延迟并提高测试精度。
