在数字孪生技术支持的工业物联网中，采用去中心化的半联邦学习模式

《Digital Communications and Networks》：Decentralized semi-federated learning in digital twin-empowered industrial IoT

　　陈芳芳 | 吴雄月 | 唐建华
华南理工大学智慧工程学院，中国广东省广州市511442

**摘要**
近年来，工业边缘智能（IEI）已成为实现智能工厂的关键组成部分。然而，大量所需的训练数据、数据隐私问题以及工业设备之间的异构计算能力都给IEI的实现带来了重大困难和挑战。为了提高资源利用效率并克服传统基于联邦学习的IEI的局限性，我们提出了一种去中心化半联邦学习（DSFL）框架，在该框架中，具有较高隐私属性的数据保留在本地端，而隐私属性较低的数据可以选择性地上传到多个潜在的边缘节点进行训练和构建数字孪生体（DT）。为了最小化所提出的DSFL框架每轮的训练开销，我们研究了一种新的视角，即可以动态调整活跃边缘节点的数量。因此，我们提出了一个联合优化边缘关联和非私有数据上传比例的新优化问题。考虑到所提出的问题是一个混合整数规划问题，我们提出了高效的算法来找到解决方案。此外，仿真结果表明，我们提出的算法可以显著降低训练开销。

**1. 引言**
近年来，随着新型传感器技术、无线通信、移动边缘计算（MEC）和大数据技术的快速发展，物联网（IoT）的进步得到了极大的推动。作为工业制造领域中IoT的重要延伸，工业物联网（IIoT）结合了6G和人工智能等信息技术，实现了万物互联，并促进了工业制造的数字化和智能化发展[1]。IIoT、MEC和人工智能技术的结合催生了工业边缘智能（IEI）[2][3]。特别是大型模型的最新进展进一步扩展了IEI的能力边界，使得异构工业设备之间能够进行更强大的感知、推理和决策服务[4]。IEI将工业数据分析和处理能力移至设备端或边缘端执行，实现了实时、低延迟和高安全性的数据分析和处理。

为了促进IEI的发展[5]，需要解决两个挑战：一是工业设备对其自身数据隐私的担忧，二是工业设备的异构计算能力可能导致数据处理延迟较高[6]。幸运的是，新技术的发展为解决上述两个挑战带来了希望。我们介绍了两种新技术：联邦学习（FL）和数字孪生体（DT），以应对这两个挑战。
- **FL**是深度学习的扩展和延伸，旨在保护用户设备的数据隐私[7][8]。联邦学习采用分布式训练框架，用户设备的数据在本地端进行训练，训练后的模型参数上传到聚合服务器进行汇总。汇总后，聚合服务器将全局模型发送回本地端的用户设备进行训练。这个过程重复进行，直到模型收敛[9]。联邦学习与深度学习的不同之处在于，本地客户端只需上传训练后的参数，无需上传自己的数据，从而保护了用户设备数据的隐私和安全性。然而，联邦学习框架的训练模型没有考虑数据分布和计算能力的异构性，这可能导致本地客户端训练模型的完成时间不同步以及较高的训练延迟开销[10]。此外，当本地客户端进行训练时，聚合服务器会有一段时间处于空闲状态，从而导致资源浪费。
- **DT**是传统建模技术的扩展和延伸，通过数据交互实时映射物理实体的状态，从而实现物理实体的实时监控、预测和优化[11]。此外，DT可以在工业边缘构建，且只需少量数据即可更新，减少了数据隐私泄露和通信负担。DT可以用作联邦学习的客户端，模型训练可以直接在DT中进行，从而缓解由于工业设备计算能力异构性导致的客户端完成模型训练时间不同步的挑战[12]。此外，DT还可以生成现实中难以捕获的数据（例如来自工业设备的故障数据），从而辅助联邦学习的训练并增强模型的泛化能力。

在这项工作中，我们考虑使用DT来增强联邦学习，并缓解工业设备计算能力异构性的挑战。DT可以分为设备DT和服务DT[13]。设备DT是对整个物理实体的全面复制，包括硬件信息、历史运行信息和当前状态信息。服务DT是针对特定领域的轻量级DT（例如，在自动驾驶中，构建车辆的DT模型只需要车辆的尺寸、速度和方向等信息）。在这项工作中，我们仅关注服务DT。我们之前的工作[14]研究了一种基于DT的半联邦学习（SFL）框架，其中高隐私性的数据保留在本地，低隐私性的数据可以选择性地上传到边缘服务器以构建DT。然而，在[14]中，它仍然基于传统的FL结构（即只有一个聚合节点），这可能导致单点故障问题。

为了减少资源消耗并提高系统的可靠性，我们在本文中提出了一种去中心化的SFL框架，如图1所示。在这种去中心化的SFL框架中，高隐私属性的数据只能保留在本地端，低隐私属性的数据可以选择性地上传到多个边缘节点以构建DT或进行模型训练。本文的主要贡献如下：
1. 与传统FL不同，我们提出了一种去中心化的SFL框架，通过边缘节点之间的模型信息交换来实现模型聚合，从而使边缘节点同时充当客户端和聚合节点，降低了训练延迟并提高了系统可靠性。
2. 为了减少每轮的全局迭代训练开销，我们提出了一种新的优化问题，即可以动态调整活跃边缘节点的数量，这种方法更有效，并增强了系统的泛化能力。所提出的问题联合优化了边缘关联和IIoT设备上传的非私有数据比例。
3. 考虑到我们提出的问题是一个混合整数规划问题，我们将主问题分解为两个子问题，并推导出了其中一个子问题的解析结果。

**下载：**下载高分辨率图片（245KB）
**下载：**下载全尺寸图片
**图1. 系统模型框架。**

以智能工业园区为例，不同工厂协作训练智能调度模型以提高整体生产效率和智能化水平。每个工厂部署了大量传感器和设备。收集到的运行状态和运行行为数据往往涉及商业秘密，难以上传到云端。本文提出的IEI框架首先基于公共数据或模拟数据在云端训练基本模型，然后将其部署到每个工厂的边缘网关。随后，每个工厂在保留本地私有数据的前提下对模型进行微调或持续学习，以实现本地设备和流程的优化。更新后的模型参数上传到云端，通过DSFL机制完成跨工厂的模型聚合。在此期间，我们提出了最小化训练开销的策略，联合优化边缘节点的选择和非私有数据上传比例，有效平衡了隐私保护和系统效率，最终为设备预测维护和质量优化等关键应用提供了高质量的全局模型能力。

本文的其余部分如下：第2节概述了相关工作，第3节介绍了系统模型和问题表述，第4节讨论了问题解决方案，第5节讨论了数值结果，第6节对全文进行了总结。

**2. 相关工作**
在本节中，我们对以下三个领域的现有研究进行了全面回顾：联邦学习、数字孪生网络和移动边缘计算（MEC）。

**2.1. 联邦学习**
与传统方法不同，联邦学习不需要传输原始数据，只需共享训练模型。这种方法有助于保护用户数据隐私，并防止数据孤岛的形成。根据其架构形式，FL可以分为两种类型：集中式FL（CFL）和去中心化FL（DFL）。前者依赖中央服务器进行全局模型聚合，而后者通过节点间的协作更新实现全局共识，从而缓解单点故障和通信瓶颈等问题[15][16]。近年来，通信领域的FL研究不断深入，旨在提高通信效率和系统安全性[17]。Chen等人[18]提出了一种通信效率高的去中心化联邦学习方法，改进了传统的模型交换过程和中间结果交换过程。Zheng等人[19]提出了一种分层框架的混合学习范式（SFL），将传统联邦学习和集中式学习集成到协调架构中，以提高学习效率和通信效率。Yang等人[20]提出了一种基于缓冲区的半异步联邦学习方案，引入了缓冲机制来适应计算能力不同的客户端，从而缓解了落后效应，同时保持了训练效率和收敛稳定性。Liang等人[21]开发了一种适用于社交物联网的去中心化联邦学习框架，该框架在动态网络拓扑条件下实现了稳健的模型训练，无需依赖中央聚合服务器。然而，上述研究没有考虑客户端的计算能力异构性，这可能导致客户端之间的训练延迟不同步。此外，依赖单一聚合服务器可能导致资源浪费和单点故障。

**2.2. 数字孪生网络**
除了在工业领域的应用外，DT还作为一种新兴技术出现在通信网络中，通过构建这些网络的DT模型来实现预测、优化和决策过程[22]。最近，一些研究探索了DT在通信场景中的卸载、资源分配和调度应用。Liu等人[23]提出了一种基于DT的移动边缘服务器（MES）选择和智能任务卸载方案，制定了一个数学优化模型，旨在减少功耗和时间开销。Gong等人[24]提出了一种结合DT和网络切片的架构，以实现以服务和用户为中心的网络管理。他们还提出了一种集成感知和通信系统的卸载机制，用于任务调度和资源分配。对于异构任务和异构计算/通信资源，Xu等人[25]提出了一种基于DT的边缘侧协同调度算法，联合优化了任务划分、传输功率控制和计算资源的匹配与分配。然而，上述研究没有考虑在边缘服务器上构建DT可能带来的数据隐私问题。此外，维护全面的DT需要大量的计算和存储资源。

**2.3. 移动边缘计算（MEC）**
MEC通过在网络边缘提供计算能力和存储资源，显著减少了数据传输延迟并提高了网络带宽利用率，数据在本地进行处理[26]。最近，越来越多的研究将MEC集成到DT系统中，以满足对实时数据处理和智能协调日益增长的需求[27]。He等人提出了一种将DT与MEC结合的FL框架，实现了多个终端之间的协作智能。在这种架构中，数字孪生（DT）被构建用来动态感知边缘节点的状态，同时计算卸载和资源分配策略也被联合优化，以显著降低整个系统的成本。李等人将数字孪生网络（DTN）与MEC相结合，并引入了一个为延迟敏感服务设计的动态协作切片框架。通过利用DTN来感知网络状态，并采用具有可变动作空间的深度确定性策略梯度（DDPG）算法，该框架提高了资源分配效率，同时减少了服务延迟[28]。然而，这些研究没有解决当敏感数据被卸载到边缘服务器时可能发生的潜在数据隐私泄露问题。

3. 系统模型
实施工业设备信息（IEI）需要大量的数据训练。遵循我们之前在[14]中提出的“SFL”概念，工业设备可以选择将非私有数据上传到边缘端以构建DT，而私有数据则保留在本地用于训练。为了提高系统的实用性，并考虑到维护DT所需的大量计算和存储资源，在这项工作中，我们考虑使用多个边缘节点，以环形拓扑结构进行协作训练和聚合，从而构建一个去中心化的SFL框架来更好地服务于IEI。如图1所示，边缘节点和IIoT设备中的DT可以用作SFL的客户端，聚合端通过边缘节点之间的模型信息交换来实现。我们假设在SFL训练之前，DT已经部署在边缘节点中，并且通过从相关IIoT设备上传状态更新数据来定期/频繁地更新DT。我们提出的去中心化SFL训练过程如图1所示：
首先，选择一个边缘节点作为初始化点，并将其全局模型广播给其他边缘节点。连接建立后，每个边缘节点将其初始化的全局模型广播给其关联的IIoT设备；
其次，IIoT设备接收全局模型，然后使用自己的数据进行训练。同时，一部分隐私性较低的数据被上传以更新DT；
第三，更新DT后，边缘节点开始训练边缘模型；
然后，当IIoT设备完成本地模型训练后，它们将训练好的本地模型上传给边缘节点；
最后，边缘节点将本地模型和边缘模型聚合成一个新全局模型，并相互协作直到全局模型达到近似平均值。上述步骤重复进行，直到全局模型收敛。由于这种聚合不需要专用服务器来完成，而是直接在边缘节点上进行，我们将这个框架称为DT辅助的去中心化SFL。在这个框架中，DT可以生成在实际中难以收集的有用数据来辅助SFL的训练。在每轮SFL全局迭代开始之前，需要上传状态更新数据以更新DT，以提高训练模型的准确性并增强模型的泛化能力。
系统模型中使用的主要符号总结在表1中。

表1. 主要符号
| 符号 | 定义 |
|------------|-----------------------------------------|
| N | IIoT设备集合 |
| Di | IIoT设备i的数据集 |
| Di^ | 具有隐私性的IIoT设备i的数据大小 |
| Diˇ | 不具有隐私性的IIoT设备i的数据大小 |
| D¨i | IIoT设备i的DT更新数据 |
| D˙i | IIoT设备i的剩余数据大小 |
| αi | IIoT设备i的上传比例 |
| α˙i | 设备i上传的更新数据比例 |
| M | 边缘节点集合 |
| Djedg | 第j个边缘节点的总数据大小 |
| βij | 设备i和边缘节点j之间的通道速率 |
| τijup | IIoT设备i和边缘节点j之间的延迟 |
| tiloc | IIoT设备i的计算延迟 |
| tjedg | 边缘节点j的计算延迟 |
| Tloc | 本地瓶颈 |
| Tedg | 边缘瓶颈 |
| Tsyn | 同步延迟 |
| Tto | 训练开销 |

3.1. DT模型
我们关注的场景是为特定的IIoT领域构建一个IEI模型，以提高IIoT的效率。对于IIoT设备i∈N?{1,?,N}，它有一个本地数据集Di，其数据大小为Di。有些数据Di^由于隐私问题无法上传到边缘节点（即私有数据），而有些数据Diˇ在某些激励下可以选择上传到边缘节点（即非私有数据）。为了更好地映射物理实体状态，已经在边缘节点构建了物理实体设备的DT。假设在设备i中，上传非私有数据的比例为αi∈[0, 1]，其剩余数据为D˙i（即本地数据），可以表示为：
(1) D˙i = Di^ + (1?αi)Diˇ
上传到边缘节点的数据用于参与SFL的训练和DT的构建。在每轮SFL全局迭代开始之前，需要通过上传来自相关IIoT设备的状态更新数据来更新DT，以减少DT生成数据的偏差。对于IIoT设备i，其状态更新数据D¨i（用于更新DT1）的大小为：
(2) D¨i = α˙iDiˇ
其中α˙i是与设备i上传的非私有数据量相关的比例，μi∈[0, 1]是更新参数。
在我们的系统中，有M个边缘节点供IIoT设备选择关联，每个边缘节点j∈M?{1,?,M}包含一个DT。DT可以生成在实际中难以收集的数据来辅助SFL的训练。第j个边缘节点的总数据大小可以表示为：
(3) Djedg = ∑iβij(1+ηj)αiDiˇ
其中ηj>0是第j个DT生成的数据比例。βij=1表示IIoT设备i与边缘节点j关联，否则βij=0。在这项工作中，我们设定一个IIoT设备只能与一个边缘节点关联，一个边缘节点可以服务多个IIoT设备。

注1：DT生成的数据可以辅助SFL的训练并提高系统性能。例如，可以构建一个包含生成器和鉴别器的生成对抗网络（GAN）DT模型。生成器交替训练以生成真实数据，鉴别器学习区分真实数据和生成的数据。网络不断优化，直到生成器能够生成无法区分的假数据，即数据生成过程完成。
由于SFL需要数千次本地和边缘全局迭代来训练模型，因此构建DT的时间与训练时间相比可以忽略不计。因此，我们只关注DT的更新过程。第j个DT（在第j个边缘节点中）的更新可以表示为以下元组：
(4) ΔDTj = {∑iβijD¨i,fjedg}
其中fjedg是存储第j个DT的边缘节点的计算能力。

3.2. 通信和计算模型
如图1所示，为了降低所提出的SFL的总训练延迟，我们考虑优化每次SFL全局迭代的训练延迟，这涉及到通信和计算延迟。
1) 通信延迟模型：在我们的系统中，将模型参数传输到边缘节点的延迟可以忽略不计，因为本地模型较小且传输次数较少。我们主要考虑将状态更新数据上传到边缘节点的延迟。
- IIoT设备与边缘节点之间的传输速率：
我们考虑在系统中使用频分多址（FDMA）协议进行无线传输。从IIoT设备i到边缘节点j的通道传输速率表示为：
(5) rij = βijBlog2(1+πihijN0)
其中B是子通道带宽，hij表示IIoT设备i和边缘节点j之间的无线通道功率增益，πi表示IIoT设备i的传输功率，N0是噪声功率。
- IIoT设备与节点之间的通信延迟：
从IIoT设备i上传状态更新数据大小D¨i到边缘节点j的传输延迟可以表示为：
(6) τijup = D¨irij
2) 计算延迟模型：在我们的工作中，有三个计算阶段，即本地端的模型训练、边缘节点的模型训练以及边缘节点之间的协作聚合。由于边缘节点具有较大的计算能力，模型的聚合延迟可以忽略不计。
- 本地训练延迟：
对于IIoT设备i，它将D¨i数据大小上传到关联的边缘节点，并在本地保留D˙i数据。用ciloc表示IIoT设备i处理一个单位数据所需的CPU周期数，用filoc表示IIoT设备i的CPU频率。因此，IIoT设备i的训练延迟为：
(7) τiloc = δlog21?cilocD˙i
其中δlog2(1?)是达到本地精度?所需的迭代次数，δ是与计算任务相关的常数。
- 边缘训练延迟：
在边缘节点j，训练的数据大小为Djedg。用cjidg表示边缘节点j处理一个单位数据所需的CPU周期数，用fjedg表示边缘节点j的CPU频率。因此，边缘节点j的计算延迟为：
(8) tjedg = δlog2(1ε)Djedgfjedg
其中δlog2(1ε)是达到边缘精度ε所需的边缘迭代次数。

3.3. 同步延迟
在我们的框架中，当本地模型正在训练时，一部分状态更新数据被上传到边缘节点以更新DT，更新DT后，边缘节点开始训练边缘模型。我们关注同步延迟，可以从两个方面进行分析：
- 本地瓶颈：
定义本地瓶颈为完成一次本地训练迭代的最大延迟，可以表示为：
(9) τloc = maxitiloc
- 边缘瓶颈：
在我们的工作中，每次SFL全局迭代之前需要上传一部分状态更新数据来更新DT。因此，边缘瓶颈包括传输状态更新数据的延迟和边缘训练延迟。可以表示为：
(10) Tedg = maxj{tjedg + maxiβijτijup}
如图2所示，为了降低SFL的训练开销，需要同步本地和边缘瓶颈，因此我们将同步延迟定义为：
(11) Tsyn = max{Tloc,Tedg}
假设1：在环形拓扑中有K个边缘节点，模型聚合参数需要K轮边缘聚合来近似平均值[29]。

3.4. 训练开销
在这项工作中，我们旨在降低训练开销，包括以下三个部分：
- 同步延迟Tsyn。
- 模型聚合传输延迟。根据假设1，边缘节点中的模型聚合传输延迟与活跃边缘节点的数量有关：
K?∑j∥∑iβij∥0
其中‖·‖0表示l0范数。因此，这个延迟是KTw。
- 活跃边缘节点的激活成本Csyn?∑jCj∥∑iβij∥0
其中Cj是激活边缘节点j的成本。
因此，我们提出的去中心化SFL每次全局迭代的训练开销为：
(12) Tto = Tsyn + KTw + λCsyn
其中λ是一个平衡SFL全局迭代次数和活跃边缘节点激活成本的因子。Tw是相邻边缘节点之间的模型聚合传输延迟，是一个常数参数。
在我们的系统中，有两个参数需要优化：第一个是关联变量βij，它映射IIoT设备与边缘节点之间的关系；第二个是IIoT设备选择上传的非私有数据比例αi。

3.5. 联合优化问题表述
我们问题的目标是在给定本地和边缘端学习精度的情况下，最小化每次SFL全局迭代的训练开销。我们联合优化关联变量βij和上传比例αi。联合优化问题表述为：
(13) P: minα,BTto
(13a) s.t. ∑j∈Mβij=1,?i∈N
(13b) ∑i∈Nβij≤Nj,?j∈M
(13c) αi∈[0,1],?i∈N
(13d) βij∈{0,1},?i∈N,?j∈M
(13e) 1≤∑j∥∑iβij∥0≤M,?i∈N,?j∈M
其中B={βi,j}i∈N,j∈M，α={αi}i∈N。约束条件（13a）确保每个IIoT设备仅与一个边缘节点关联；约束条件（13b）表明边缘节点j最多可以为Nj个IIoT设备提供服务；约束条件（13d）要求关联变量必须是布尔值；约束条件（13e）指定了活跃边缘节点的范围。3.6. 问题简化由于目标函数是非凸的且约束条件是离散的，问题P属于非凸问题。通常很难有效地获得全局最优解。我们首先引入辅助变量T > 0，并将问题P转换为等价问题P0：P0: minα, B, T + KTw + λCsin s.t. tiloc ≤ T, ?i ∈ N; tijup + tjedg ≤ T, ?i ∈ N, ?j ∈ M (13a) ? (13e)对于非光滑的l0-范数∥∑iNβij∥0，可以通过一系列加权l1-范数来近似，这在压缩感知[30]中得到了广泛应用。即，l0-范数可以迭代地近似为：(14) ∥∑iNβij∥0 ≈ δj(n)∑i=1Nβi,j其中δj(n)是第n次迭代时第j个边缘节点的权重因子。δj(n)可以通过以下公式更新：(15) δj(n) = 1/∑iNβij(n?1) + ν，其中ν是一个小的调节参数，βij(n?1)是第(n?1)次迭代时βij的值。4. 解决方案在本节中，我们将介绍针对问题P0的解决方法。根据块坐标下降（BCD）方法[31]，我们将问题P0分解为两个子问题。第一个子问题是在给定边缘关联的情况下解决非私有数据比例问题；另一个子问题是在给定非私有数据比例的情况下解决边缘关联问题。4.1. 卸载比例的优化给定关联矩阵B后，可以通过解决以下问题获得最优卸载比例α：(16) P1: minα, T s.t. tiloc ≤ T, ?i ∈ N; (16b) tijup + tjedg ≤ T, ?i ∈ N, ?j ∈ M; (16c) 0 ≤ αi ≤ 1, ?i ∈ N可以验证问题P1是一个线性规划问题，可以使用标准工具箱（例如CVX）来解决。为了更好地解决问题P1，我们提出了一种高效算法——二分快速搜索（BFS），具体内容在算法1中详细说明。引理1 T的上界为：Tmax = max{max(tiloc′, tedg′ + tup′}，其中tiloc′ = δlog2(1/?)ciloc, tedg′ = δlog2(1/ε)∑j∑iβij(1 + ηj)Diˇfedg′, cedg′ = min(jcijedg′fjedg′, tup′ = ∑iD¨ir′，r′ = min(jrij)。证明见附录B。下载：高分辨率图像（168KB）下载：全尺寸图像算法1. 用于问题P1的BFS算法。现在，我们可以根据引理1来搜索最优的T值。从方程（3）可以看出，对于IIoT设备i的卸载比例αi，它会受到其他IIoT设备卸载的数据量的影响。因此，为了计算当前轮次中IIoT设备i的卸载比例αi，需要使用上一轮的α值来进行近似。(16a)和(16b)可以重写为：αi(t) ≥ Ai ? Diδlog2(1/?)ciloc ? Tfiloc/Diˇδlog2(1/?)ciid, ?i ∈ N；以及αi(t) ≤ Cij ? (T ? δlog2(1/ε)cjedgfjedg∑k≠iκ=0Nβkj(1 + ηj)αk(t?1)Dkˇ)×[δlog2(1/ε)cjedgfjedg(βij(1 + ηj)Diˇ) + μiDiˇrijib]?1, ?i ∈ N, ?j ∈ M。引理2 对于任何给定的T ∈ [Tmin, Tmax]，为了最小化最大同步延迟，最优的α应确保满足约束条件(16a)和(16b)。证明见附录C。根据引理2，我们有以下定理：定理1 问题P1的最优α由以下公式给出：(17) αi(t)(T) = {max{0, Ai}, 如果tiloc(t) ≤ T, ?i ∈ N；否则，min{1, max(jCij}, ?i ∈ N, ?j ∈ M}证明这是基于局部延迟与优化变量T的比较，以及(16a)、(16b)和(16c)提供的边界点得出的。注2 从定理1可以看出，第i个IIoT设备会计算其剩余数据并获得其局部延迟tiloc(t)。如果tiloc(t) ≤ T，说明该设备的局部延迟满足约束条件(16a)，则αi取下界；否则，αi取上界。4.2. 基于对偶分解的边缘关联在固定α的情况下，根据(14)和(15)，并将整数变量βi,j放宽到区间[0, 1]内，问题P0可以简化为一个关联问题：P3: minB, T + K?Tw + λδj(n)∑i=1Nβi,jCj s.t. ∑j ∈ Mβij = 1, ?i ∈ N; tiloc ≤ T, ?i ∈ N; tijup + tjedg ≤ T, ?i ∈ N; ∑i ∈ Nβij ≤ Nj, ?j ∈ M; 1 ≤ K? ≤ M, ?i ∈ N, ?j ∈ M; 0 ≤ βij ≤ 1, ?i ∈ N, ?j ∈ M其中B = {βi,j}i ∈ N, j ∈ M，α = {αi}i ∈ N，K? = ∑jδj(n)∑i=1Nβi,j。我们可以使用拉格朗日对偶分解方法[33]来解决优化问题P3。问题的拉格朗日函数构造为：L(γ,τ,?,ψ,ε) = T + K?Tw + λδj(n)∑i=1Nβi,jCj + ∑i=1Nγi(tiloc?T) + ∑i=1N∑j=1Mτij(tijup+tjedg?T) + ∑j=1M?j(∑i=1Nβij?Nj) + ψ(1?K?) + ε(K??M) s.t. ∑j ∈ Mβij = 1, ?i ∈ N; 0 ≤ βij ≤ 1, ?i ∈ N, ?j ∈ M。拉格朗日对偶函数为：g(γ,τ,?,ψ,ε) = min(BL(γ,τ,?,ψ,ε) s.t. ∑j ∈ Mβij = 1, ?i ∈ N; 0 ≤ βij ≤ 1, ?i ∈ N, ?j ∈ M。对偶优化问题为：(18) maxγ,τ,?,ψ,ε g(γ,τ,?,ψ,ε) s.t. γ ≥ 0, τ ≥ 0, ? ≥ 0, ψ ≥ 0, ε ≥ 0。给定对偶变量(γ,τ,?,ψ,ε)后，可以通过以下公式获得最优的边缘关联矩阵B：(19) βi,j* = {1, 如果j = argmin(j ∈ MΨi,j)；否则，其中Ψi,j定义为Ψi,j = δlog2(1/ε)cjedgfjedg(1 + ηj)αiDiˇ + μiαiDiˇBlog2(1 + pihijN0) + δj(n)Tw + λδj(n)Cj + τij(δlog2(1/ε)cjedgfjedg(1 + ηj)αiDiˇ + μiαiDiˇBlog2(1 + pihijN0)) + ψδj(n) + εδj(n), ?i ∈ N, ?j ∈ M。此外，我们还可以得到T* = max{Tloc, Tedg}。获得T*和B*的最优解后，需要通过对偶梯度方法更新对偶变量：(20) γi = [γi + ?(tiloc?T)]；(21) τij = [τij + ?(tijup+tjedg?T)]；(22) ?j = [?j + ?(∑i=1Nβij?Nj)]；(23) ψ = [ψ + ?(1?K?)]；(24) ε = [ε + ?(K??M)]，其中ρ > 0是一个动态步长序列，可以通过典型的自适应方案来选择。通过迭代更新优化变量(T*, B*)和对偶变量(γ,τ,?,ψ,ε)，可以使用对偶梯度方法获得问题P3的最优解。解决方案见算法2[34]。下载：高分辨率图像（246KB）下载：全尺寸图像算法2. 基于对偶分解的边缘关联算法。4.3. 提出的算法用于解决问题P0的迭代算法在算法3中给出。其思想是迭代优化边缘关联和非私有数据的上传比例。在第二步中，U(α,B) = max{δlog2(1/?)ciloc(Di^+(1?αi)Diˇ)filoc, δlog2(1/ε)cjedgfjedg∑iβi,j(1 + ηj)αiDiˇ+μiαiDiˇrij) + Tw∑jδj(0)∑i=1Nβi,j + λδj(0)∑i=1Nβi,jCj。下载：高分辨率图像（184KB）下载：全尺寸图像算法3. 迭代边缘关联和非私有数据上传比例。5. 数值结果如图3所示，我们模拟了一个IEI场景，用于训练智能模型以对多个工业设备的调度做出最优决策。该场景包含M个边缘节点和N个IIoT设备，这些设备随机分布在1000米×1000米的范围内。我们使用CIFAR-10图像分类数据集进行实验，这是深度学习领域中最常用的数据集，包含60,000张彩色图像，分为10个类别，其中50,000张图像用作训练集，10,000张图像用作测试集。我们根据对数正态分布[35]随机破坏了50,000张训练图像，并将它们分配给IIoT设备作为它们的数据。对于每个IIoT设备，60%的数据被设置为私有数据，只能存储在本地；同时，40%的数据被设置为非私有数据，可以选择上传到边缘节点进行训练或构建DT。因此，在我们的实验中，所提出的分散式SFL的训练数据是非独立同分布（Non-IID）的。下载：高分辨率图像（256KB）下载：全尺寸图像图3. 带有边缘节点和IIoT设备的网络布局。在我们的模拟中，为了更直观地展示上传状态更新数据的比例对DT的影响以及DT生成的数据比例对训练开销的影响，我们设置μ1=μ2=?=μ100=μ=0.1和η1=η2=?=η100=η=0.1。我们将每个IIoT设备的数据量分配的对数正态方差设置为ρ=0.5。模拟场景的其他参数见表2。表2. 参数设置参数设置值子信道带宽 B1 MHz传输功率 pi [0.1,0.25] W设备CPU频率 fiid [4,8] GHz设备处理密度 ciid [40,200] cycle/bit基站CPU频率 fjedg [50,100] GHz处理密度 cjedg [30,40] cycle/bit边缘节点数量 M 10IIoT设备数量 N 100噪声功率函数 N0?174 dBm/Hz迭代次数 δlog2(1/?) 1×log2(10.0625)迭代次数 δlog2(1/ε) 1×log2(10.0625)上传更新数据比例 μ 0.1生成数据比例 η 0.1数据分割比例 ρ 0.5如图4所示，当边缘节点数量设置为10且IIoT设备数量设置为100时，我们提出的算法在不超过5次迭代中即可快速收敛。这表明我们的算法能够快速收敛并且性能优异。下载：高分辨率图像（131KB）下载：全尺寸图像图4. 提出算法的收敛性能。5.1. 卸载比例方案为了验证我们提出算法的有效性，在给定最优边缘关联的情况下，我们将其与以下几种卸载算法方案进行了比较：• 随机卸载（RO）：在给定最优边缘关联的情况下，以随机比例卸载IIoT设备的非私有数据。• 平均卸载（AVO）：在给定最优边缘关联的情况下，IIoT设备的非私有数据按平均值α=0.5进行卸载。• 全部卸载（ALO）：在给定最优边缘关联的情况下，IIoT设备的非私有数据按α=1全部卸载。• CVX-对偶分解（CVX-DD）：在给定最优边缘关联的情况下，通过标准工具箱CVX解决IIoT设备的非私有数据卸载问题，即线性规划问题P1。如图5所示，我们研究了SFL每次全局迭代的训练开销与每次全局迭代前上传的状态更新数据比例之间的关系。很明显，所有方案的训练开销都随着上传状态更新数据比例的增加而增加，显示出线性增长趋势。对于RO和ALO算法方案，随着上传状态更新数据比例的增加，系统的通信负担更加显著。此外，我们提出的算法在上传状态更新数据比例增加时的训练开销增加较慢。对于CVX-DD算法，我们的算法与其差异不大，但计算速度更快。这表明我们的算法在性能上有显著优势，且训练开销更低。下载：高分辨率图像（197KB）下载：全尺寸图像图5. 不同状态更新数据比例对训练开销的影响在我们的场景中，每个IIoT设备的数据分配基于对数正态分布的方差值。如果对数正态分布的方差值较大，说明IIoT设备之间的数据分配更加不平衡。如图6所示，随着对数正态分布方差值的增加，每种方案的训练开销都会增加，显示出线性增长趋势。与其他算法相比，我们提出的算法具有更低的训练开销，并且随着数据分配的不平衡，训练开销的增长较慢，这表明我们提出的算法性能优异。下载：高分辨率图像（213KB）下载：全尺寸图像图6. 不同数据分配方案和卸载方案对训练开销的影响在我们的系统场景中，考虑到系统中的总数据量是固定的，如果IIoT设备的数量较少，则分配给每个IIoT设备的数据量会增加，从而导致整个系统的训练开销增加。如图7所示，我们考虑将所有数据分配给60、70、80和90、100个IIoT设备，并考虑不同卸载方案对不同数量IIoT设备的训练开销的影响。可以看出，我们提出的算法可以大大降低整个系统的训练开销。与其他所有算法方案相比，我们提出的算法在开销方面具有更显著的优势。下载：高分辨率图像（188KB）下载：全尺寸图像图7. 不同IIoT设备数量和卸载方案对训练开销的影响。5.2. 关联方案为了验证我们提出算法的有效性，我们在给定IIoT设备非私有数据卸载比例的情况下，将其与以下关联算法进行了比较：• 平均关联（AVA）：在给定IIoT设备非私有数据卸载的最优比例下，如果系统场景有M个边缘节点和N个IIoT设备，则启用M/2个边缘节点与IIoT设备关联，以及每个边缘节点为2N/M个IIoT设备服务。• 全部关联（ALA）：在给定IIoT设备非私有数据卸载的最优比例下，如果系统场景有M个边缘节点和N个IIoT设备，则所有边缘节点都与IIoT设备关联。• 最短距离关联（SDA）：在给定IIoT设备非私有数据卸载的最优比例下，所有边缘节点都与IIoT设备进行路径匹配，并通过最小距离进行关联。• CVX-对偶分解（CVX-DD）：IIoT设备的非私有数据卸载比例可以通过标准工具箱CVX解决，边缘关联可以通过对偶分解算法解决。如图8所示，我们研究了SFL每次全局迭代的训练开销与每次全局迭代前上传的状态更新数据比例之间的关系。很明显，不同关联方案的训练开销都随着上传状态更新数据比例的增加而线性增加。我们可以看到，与我们提出的算法相比，AVA算法的训练开销降低得更显著。我们的算法与CVX-DD算法的结果相当，但计算速度更快。下载：高分辨率图像（208KB）下载：全尺寸图像图8. 不同状态更新数据比例对训练开销的影响。5.3.不同的联邦学习（FL）方案

为了验证我们提出的去中心化SFL框架的有效性，我们将提出的去中心化SFL（DSFL）与以下学习方案进行了比较：
- 联邦学习（FL）：所有数据都保存在本地，聚合服务器专门用于模型分发和聚合，使用传统的联邦学习框架进行训练。
- SFL：根据[14]中的方法，IIoT设备的私有数据在本地进行训练，非私有数据可以选择上传到边缘服务器进行训练，然后将训练好的本地模型和边缘模型发送到MBS中的服务器进行聚合。
- 随机去中心化SFL（RDSFL）：根据提出的去中心化SFL框架，边缘节点的关联以及IIoT设备非私有数据的卸载比例是随机确定的。

如图9所示，我们比较了不同学习方案对学习准确性的影响。可以看出，我们提出的DSFL算法的结果与SFL算法相当。DSFL算法在学习准确性上与SFL算法和FL算法相比有较小的差异，但DSFL的训练开销远低于其他两种算法，这表明了其优越的性能。与依赖中央服务器进行模型聚合的传统SFL不同，DSFL采用了一种去中心化的聚合策略，其中边缘节点直接交换模型更新。这不仅通过避免单点故障提高了系统的鲁棒性，还减少了通信延迟。在DSFL算法中，IIoT设备的数据分布更加均匀，而在RDSFL算法中数据分布不均匀。此外，DSFL算法的训练开销也更低。

下载：下载高分辨率图片（193KB）
下载：下载全尺寸图片
图9. 不同联邦学习方案在学习准确性上的性能。

5.4. 数据生成比例的影响

DT可以生成在现实中难以收集的数据，从而帮助SFL的训练。图10（a）描述了DT生成的数据比例对SFL每次全局迭代轮次训练开销的影响。可以看出，随着DT生成的数据比例增加，SFL每次全局迭代轮次的训练开销也会增加。这是因为DT生成的数据比例越大，整个系统需要处理的数据就越多，从而导致训练开销增加，其他参数保持不变。图10（b）展示了DT生成的数据比例对全局学习准确性的影响，其中我们使用CIFAR10测试集的一部分图像作为DT生成的数据，其余部分作为测试集。观察到，随着DT生成的数据比例增加，全局学习准确性也会提高。这表明增加训练集中的数据量可以提高数据的多样性，从而适当提高我们提出的去中心化SFL训练的全局学习准确性。然而，训练数据的增加也会导致系统训练开销的增加。

下载：下载高分辨率图片（163KB）
下载：下载全尺寸图片
图10. 不同数据生成比例对训练开销和学习准确性的影响。

6. 结论

在本文中，我们提出了一种新的去中心化SFL框架，该框架利用DT来缓解IIoT设备计算能力异构性问题，并提高SFL的训练可靠性。我们提出了一个联合优化边缘节点关联和非私有数据卸载比例的问题。该问题允许系统根据每次训练轮次的全局迭代训练开销动态选择关联的边缘节点数量。由于这个问题是一个混合整数规划问题，我们将优化问题分为两个子问题，分别使用二分法和拉格朗日对偶分解方法进行求解。从仿真结果来看，与基准算法相比，我们提出的算法在减少训练开销方面表现良好。此外，我们提出的去中心化SFL的性能与传统FL相当，并且与其他学习方案相比具有许多优势。在未来的工作中，我们计划探索更动态的网络环境，如移动边缘网络，并研究使用扩散模型[36]在数字孪生中生成真实数据以增强学习性能。

CRediT作者贡献声明
陈芳芳：写作——审阅与编辑。
吴雄月：方法论。
唐建华：写作——审阅与编辑、监督、概念化。