基于有向图的去中心化在线优化与压缩通信技术

《IEEE Transactions on Neural Networks and Learning Systems》:Decentralized Online Optimization With Compressed Communication Over Directed Graphs

【字体: 大 中 小 】 时间:2026年04月09日 来源:IEEE Transactions on Neural Networks and Learning Systems 8.9

编辑推荐:

  本文提出了一种基于压缩通信的去中心化在线梯度推和求和算法(CC-DOGPS),适用于多智能体系统中的强连通有向图交互场景,通过时间变化的局部损失函数最小化全局损失函数,解决了高维数据和大规模网络下的通信瓶颈问题,并获得了次线性 regret bounds 的理论证明,数值模拟验证了算法的有效性。

  

摘要:

本文关注的是多智能体系统中的去中心化在线优化问题,其中智能体之间的交互通过一个强连通的有向图来建模。每个智能体的目标是最小化所有智能体局部损失函数累积而成的全局损失函数,而这些局部损失函数是随时间变化的,并且只有智能体自身知道。为了解决高维数据和大规模网络带来的通信瓶颈问题,我们设计了一种具有压缩通信功能的去中心化在线算法——压缩通信下的去中心化在线梯度推送求和算法(CC-DOGPS)。对于强凸函数,我们设计的算法能够达到亚线性遗憾界限 O((lnT)2,其中 T 表示时间范围。最后,通过两个数值模拟来验证理论结果并展示我们设计算法的效率。

引言

近年来,由于在线优化在资源分配和机器学习 [1]、[2]、[3] 中的应用,它受到了广泛关注。在在线优化中,由于环境是动态的,分配给智能体的损失函数会随时间变化,这更符合实际场景。此外,每个智能体在做出决策后才能了解到损失信息。在线优化的目标是实现亚线性遗憾,即智能体决策所累积的全局损失与事后最佳决策所获得的全局损失之间的差异 [4]、[5]。在 [6] 和 [7] 中提出了梯度下降方法,分别针对凸函数和强凸函数得到了遗憾界限。受到适用于多智能体系统且在许多实际场景中广泛使用的去中心化架构的启发 [8]、[9],在 [10]、[11] 和 [12] 中提出了去中心化在线优化算法。到目前为止,关于去中心化在线优化的研究已经有很多。Yan 等人 [13] 将 [6]、[7] 的工作扩展到了去中心化环境中,并得到了与 [6] 中相同的遗憾界限,以及与 [7] 中相同的遗憾界限。在 [14] 中引入了一种梯度跟踪方法来解决在线随机非凸问题。在 [15] 中提出了一种适用于受限问题的自适应原始-对偶技术。此外,Wang 和 Xu [16] 研究了具有反馈延迟的去中心化在线受限问题。在 [17]、[18] 中考虑了动态环境中的问题。在 [19] 和 [20] 中研究了保护隐私的问题。

相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号