《Algorithms》:Finite-Time Consensus Neurodynamic Optimization for Distributed Pseudoconvex Problems with Engineering Applications to Economic Dispatch
编辑推荐:
摘要:本文提出一种基于罚函数法(penalty method)的自适应单层分布式神经动态优化(distributed neurodynamic optimization)方法,用以求解多智能体系统(multi-agent system)中具有仿射等式约束(af
摘要:本文提出一种基于罚函数法(penalty method)的自适应单层分布式神经动态优化(distributed neurodynamic optimization)方法,用以求解多智能体系统(multi-agent system)中具有仿射等式约束(affine equality constraints)与不等式约束的非光滑伪凸(pseudoconvex)优化问题,其全局目标函数为伪凸但不要求可微。该方法旨在优化全局目标函数的同时满足各类约束条件。该方法避免使用额外辅助变量,从而降低了通信带宽与计算复杂度。在温和假设下,所设计模型的解对任意初值有界,能在有限时间内进入各自可行域并不变地停留在其中。为实现无向连通网络中多智能体系统的有限时间一致性(finite-time consensus),引入一种新颖的一致性机制以保证所有智能体在有限时间内同步其状态。利用全局目标函数的伪凸性(pseudoconvexity),状态轨迹收敛至原问题的最优状态。此外,通过两组仿真实验验证所提方法的有效性,并与四种已有算法对比以证明其在收敛性能上的优越性。最后,以电力系统中的经济调度问题(economic dispatch problem)作为工程应用实例说明该算法的实际适用性。
论文解读:带有限时一致性神经动态优化的分布式伪凸问题求解及工程应用
本文发表于《Algorithms》期刊。现有约束分布式优化问题中多数研究局限于凸优化,而实际工程中目标函数常为非凸的伪凸(pseudoconvex, PCX)函数——凸函数是伪凸函数的真子集,伪凸更具一般性。传统集中式优化存在单点故障风险与高通信开销,分布式优化依赖多智能体间局部信息交互更适用于大规模网络。现有分布式神经动态优化方法多为双层网络需引入对偶变量或辅助变量,增加计算负担;且多数仅处理共同凸约束集无法应对各智能体私有不等式约束,一致性通常为渐近收敛需无限时间而非有限时间。针对此,研究人员开展了一项研究:设计基于罚函数法的单层有限时一致性神经动态模型,处理带仿射等式与智能体私有不等式约束的分布式非光滑伪凸优化问题,并从理论上证明解的有界性、有限时进入可行域、有限时达成一致及收敛至全局最优,最后通过数值仿真与电力系统经济调度实例验证。
主要关键技术方法:
研究人员采用图论描述无向连通多智能体通信拓扑,定义Clarke广义梯度与局部Lipschitz连续的非光滑分析工具处理非光滑伪凸目标函数之次微分(subdifferential)。构造外惩罚函数(exterior penalty function)将各智能体私有不等式约束gi,j(xi)≤0融入动力学,利用等式约束Ax=a的行满秩性质设计投影项AT(Ax-a)驱动状态满足全局等式约束。设计含符号函数(sign function)项的有限时一致性协议(finite-time consensus protocol)实现智能体状态在有限时趋同,并引入时变衰减系数平滑过渡各分项权重。理论证明借助Lyapunov稳定性理论与有限时收敛引理(Lemma 3, Lemma 4——Clarke等, 见参考文献[44][45])逐步论证有界性、有限时抵进等式/不等式可行域、有限时共识及最终收敛至伪凸优化问题全局最优解。数值实验设置6智能体与5智能体网络,对比文献[18][25][38][39]算法;工程应用采用5机组电力系统经济调度(economic dispatch, ED)二次成本函数实例。
研究结果:
Section 2. Related Work
研究人员综述了既有分布式神经动态优化文献,指出Jahvani等[14]、Jiang等[18]、Liu等[20]等方法主要针对凸优化且仅渐近一致;Lu等[24]、Xu等[25]可处理伪凸但仅限于共同凸约束集无法处理智能体私有不等式约束;Wang等[38]允许私有不等式约束但不能处理仿射等式约束。由此明确本研究填补带等式与私有不等式约束的分布式伪凸优化及有限时一致性研究的空白。
Section 3. Modeling
研究人员形式化描述问题:n个智能体于无向连通图G上协作最小化∑fi(xi),受私有不等式gi,j(xi)≤0与全局等式Ax=a约束,fi为正则(regular)可能非光滑的伪凸函数。定义惩罚项Pi(xi)=∑jmax{0,gi,j(xi)}2,设计第i个智能体的单层神经动态模型:
dxi/dt = -?fi(xi)/?x - α(t)AT(Ax-a) - β(t)?Pi(xi) - γ·sign(∑j∈Ni(xi-xj))|∑j∈Ni(xi-xj)|p-1
其中α(t)、β(t)为递减时变增益,γ>0,0< />
Section 4. Theoretical Results
—Theorem 1:在假设1(Assumption 1, fi伪凸)下,任意初值出发的状态x(t)能在有限时内进入等式约束集Ωeq={x∈?m|Ax=a}并永驻其中。证明取V1(t)=?‖Ax(t)-a‖2,沿轨迹求导得?V1≤-λmin(ATA)V1,由引理3得有限时到达。
—Theorem 2:在假设1,3(可行域非空且Ωopt有界),4(存在严格可行内点)下,状态x(t)对所有t一致有界。证明取能量函数V2=F(x)+?‖Ax-a‖2+μP(x),其水平集有界故轨线有界。
—Theorem 3:状态能在有限时内进入各智能体私有不等式约束可行域Ωineq并永驻。分V3=P(x)在P(x)=0与P(x)>0两种情况讨论,利用罚项负梯度与有界性证得有限时滑模到达并不变集性质。
—Theorem 4:所有智能体能于有限时tc达成共识,即t≥tc时x1(t)=…=xn(t)。取V4=∑i< />(xi-xj)2,利用有限时一致性协议项使?V4≤-c·V4(p+1)/2,由引理4得有限时V4≡0。
—Theorem 5:进入可行域并达共识后,状态收敛至原问题(1)的最优解x*。取V5=F(x)-F(x*),利用伪凸函数最优性条件(Lemma 2)证得?V5≤0且∫?V5dt负半定趋于零,故x(t)→x*。
Section 5. Experiments
—Example 1(6智能体含等式∑xi=6与私有盒型不等式):最优解为x*=1。仿真显示各智能体状态收敛至1,误差趋于零;五组不同初值均收敛,验证鲁棒性。
—Example 2(5智能体二次伪凸目标含私有不等式):最优解x*≈2.114,状态20 s内达成共识并最终收敛至最优,多组初值测试均成功。
—Example 3(对比实验去除等式约束,与[18][25][38][39]对比):本文算法在两种初值下均能有限时达成共识且收敛误差最小;[18]为凸优化设计对伪凸问题收敛性差,[25]对初值敏感,[38]不能处理等式约束且需内点距离计算,[39]需谨慎调参。本文算法无需繁琐调参且具更好收敛表现。
—Example 4(电力系统经济调度ED,5机组二次成本函数Ci(Pi)=aiPi2+biPi+ci,总负荷D=350 MW,出力上下限约束):算法求得最优分配[P1*… P5*]使∑Pi=D且最小化总成本,状态轨迹与误差收敛证实工程有效性。
Section 6. Conclusions
研究人员得出结论:所提出的基于罚函数法的单层神经动态模型可有效求解带仿射等式与私有不等式约束的非光滑分布式伪凸优化问题。理论证明状态解有界、有限时进入公共可行域、有限时智能体间达成一致并最终收敛至原问题最优解。数值实验与四种现有算法对比显示更优收敛性能,电力系统经济调度实例佐证工程适用性。相比现有方法,本框架为单层递归神经网络(recurrent neural network, RNN),实现有限时一致性,允许各智能体具私有不等式约束且无需辅助变量,降低通信带宽与计算复杂度。未来工作拟扩展至有向图、切换拓扑、通信时延与扰动情形及更一般约束类问题。
翻译研究结论部分如下:
本文采用罚函数法设计了一类单层神经动态模型,通过迭代状态演化求解带约束的分布式伪凸优化问题。该框架为带有仿射等式约束与私有不等式约束的非光滑分布式伪凸优化问题提供了有效途径。首先,从理论上证明了所设计模型的状态解对任意初始条件有界;此外,状态轨迹能在有限时间内进入公共可行域并使所有智能体达成一致,最终收敛至原优化问题的最优解。通过数学分析严格建立了所提模型的正确性,并通过两组分布式伪凸优化实验验证其有效性。与四种已有分布式优化算法的对比进一步证明了所提方法优越的收敛性能。此外,研究了电力系统中的经济调度问题以阐明该算法的实际适用性与工程意义。与现有分布式优化方法相比,本文的主要贡献在于开发了一种新颖的递归单层神经动态框架,其实现了有限时一致性,允许各智能体拥有私有不等式约束,且无需引入辅助变量,从而降低了通信带宽与计算复杂度。尽管取得上述成果,若干挑战尚待解决。当前研究聚焦于理想通信条件下无向连通通信图,未来研究将把所提框架拓展至有向通信图、切换拓扑及含通信时延、扰动与其他实际不确定性的系统上的分布式伪凸优化问题,此外探索更一般类的约束分布式优化问题亦是未来值得关注的方向。