用于数值优化的多策略自适应差分进化:基于维度的预选与基于状态的种群调整
《Swarm and Evolutionary Computation》:Multi-strategy adaptive differential evolution with dimension-based pre-selection and state-based population adjustment for numerical optimization
【字体:
大
中
小
】
时间:2026年08月29日
来源:Swarm and Evolutionary Computation 9.6
编辑推荐:
摘要 本研究提出了一种新颖的基于维度的多策略自适应差分进化算法(DMDE),通过利用种群中个体之间的维度信息和搜索状态来分别确定子代个体以及动态调整种群缩减模块。首先,为避免复合搜索策略中选用欧几里得距离进行子代选择时造成的估计偏差,设计了一种新的基于维度的预选方法。该方法充
摘要 本研究提出了一种新颖的基于维度的多策略自适应差分进化算法(DMDE),通过利用种群中个体之间的维度信息和搜索状态来分别确定子代个体以及动态调整种群缩减模块。首先,为避免复合搜索策略中选用欧几里得距离进行子代选择时造成的估计偏差,设计了一种新的基于维度的预选方法。该方法充分考虑每个候选解在每个维度上的邻域信息,并利用这些邻居适应度值的中位数来确定目标个体的子代,原因是中位数对离群值具有较强的容错能力。同时,进一步开发了一种基于状态的自适应种群调整机制,以动态调节算法的搜索能力。在该机制中,记录优秀个体和较差个体的适应度改进情况,以衡量优化过程的难度,并根据不同的优化场景采用两种不同的种群缩减模块。通过这些方法,所提出的算法能够更准确地识别合适的候选解作为子代,并在探索与开发之间实现更好的平衡。最后,通过在不同维度下将DMDE与CEC'2017测试套件中的21种知名或最新方法进行比较基准测试,并将其应用于两个不同的实际应用场景,验证了DMDE的性能。数值结果表明,新算法相比同类算法具有显著优越的性能。
引言 优化作为不可或缺的工具,一直是各科学和工程领域研究者关注的焦点。源于不同的实际场景,各种优化问题,如单目标优化[1]、多目标(或多目标)优化[2]、[3]、[4]、混合优化[5]、约束优化[6]、动态优化[7]、不确定性优化[8]、[9]、[10],逐渐被引入和探讨。到目前为止,针对这些问题提出了许多特殊方法,如神经网络[11]、[12]、高斯过程回归[13]、[14]、图形技术[15]、[16]以及集成/复合方法[17]、[18]。在这些各类优化问题中,全局优化是最典型且适用范围最广的优化问题之一。随着技术进步,实际中遇到的优化问题不仅在规模上不断扩大,而且在结构上变得更加复杂,通常表现出非线性、多模态和黑箱特性。此外,这些问题通常缺乏连续性、可微性等良好数学性质,使得梯度下降和牛顿法等经典基于梯度的方法[19]、[20]难以直接应用。
相比之下,受进化、觅食等自然现象启发的智能优化算法对问题的数学特征要求较少,且相对容易实现。目前,研究者已提出了各种智能优化算法,如粒子群优化(PSO)[21]、差分进化(DE)[22]、遗传算法(GA)[23]、引力搜索算法(GSA)[24]以及知识获取-共享算法[25]。其中,差分进化(DE)因其结构简单、参数少、易于实现和强大的全局搜索能力[22]而受到广泛关注。这一设计使得DE在处理非凸优化问题时表现出色。因此,DE在许多领域得到了成功应用,例如生产调度[26]、工程设计[27]、图像处理[28]、神经网络训练[29]和路径规划[1]、[2]、[3]。遗憾的是,对于复杂的优化问题,DE仍然容易出现收敛缓慢和陷入局部最优等问题。因此,仍有迫切需要投入额外努力来提升差分进化算法的性能。
对于差分进化算法而言,变异策略和控制参数的选择对其整体性能至关重要。因此,大量研究工作致力于开发有效的变异策略和参数设置。特别是,目前关于变异策略的研究可大致分为两个主要方向:研究单一变异算子和集成多个变异算子。围绕单一变异算子的研究通常旨在生成具有吸引力的多样化引导个体,以提高算法的搜索有效性和效率。例如,Zhang等人[30]基于经典的"DE/current-to-best/1"算子,设计了称为"DE/current-to-pbest/1"的增强变体,通过从种群中随机选择表现优良的个体来引入更大的多样性和改进优化的潜力。Xu等人[31]提出了一种具有动态双档案的变异策略,将已丢弃但有希望的解中有用的信息进一步纳入,以增强供体向量的探索。同时,通过根据所有个体的适应度排名分配选择概率,Liu等人[32]提出了一种简单但强大的变异策略,称为"DE/current-to-rwrand/1"。尽管这些算子显著提高了算法的搜索效率,但它们对复杂优化场景仍缺乏适应性和鲁棒性。
与上述单变异方法不同,集成多种变异策略的方法旨在融合它们的优势,从而产生更有效的优化结果。例如,Wang等人[33]提出了一种复合DE变体。在该方法中,三种不同的变异算子并行运行,为每个个体生成一组试验解,其中适应度最高的解被选为子代。同样,Wang等人[34]进一步设计了一种针对约束优化问题的约束差分进化算法,其中也同时使用三种不同的搜索算子来为每个目标个体生成试验解。虽然这些方法成功地融合了不同算子的优势并提高了算法的鲁棒性,但在进化过程中往往会浪费大量评估资源。为解决这一缺陷,研究者引入许多代理模型来预评估试验解的适应度,然后为每个解确定最终子代。在文献[35]中,Gong等人制定了一种简单的基于代理模型的DE算法,其中通过多种变异算子生成一组试验解,根据代理模型选择最优的一个作为子代。此外,为了在DE的探索与开发之间取得平衡,Chen等人[36]开发了一种创新的、高效的层次代理辅助差分进化算法。在初始阶段,利用基于径向基函数网络的代理模型预选最优子代,而在后期阶段使用两个局部代理模型来加速收敛速率。虽然基于代理模型的方法可以在一定程度上有效降低评估成本,但代理模型的构建和预定义往往具有挑战性,影响其在实际场景中的应用潜力。相应地,近年来一些基于规则的选择机制也受到了关注。例如,Zheng等人[37]设计了一种自适应相似性选择规则来确定两个候选中的子代,其中相似性以解之间的距离定义。类似地,Zhang等人[38]通过比较每个候选解与其目标解之间的距离,也开发了一种子代选择策略(DTDE)。值得注意的是,尽管这些基于规则的选择方法显著降低了个体预选的难度,但其基于距离的估计过程可能不够合理和可接受。试验解的性能应该通过其最近邻个体进行更准确的近似,并且在性能估计中应考虑维度效应而不是欧几里得距离。因此,有必要开发一种新的基于维度的预选方法,并提出一种更有效且高效的变异策略。
同时,许多自适应参数控制策略已被提出以增强差分进化(DE)的性能[39]。例如,Zhang等人[30]提出了一种自适应设置方法,其中每个个体被分配自己的缩放因子F和交叉概率CR,分别基于柯西分布和高斯分布,并且这些分布在搜索过程中根据历史成功值自适应更新。同时,Tanabe等人[40]通过引入历史档案,进一步开发了一种基于历史的参数自适应方法(SHADE)。值得注意的是,尽管已有许多参数设置方法并且其提高算法性能的有效性已得到验证,但大部分努力主要集中在缩放因子和交叉概率上。事实上,合理的种群规模设置也可以帮助增强算法性能。特别是,为了使算法在进化开始时优先探索,在结尾时转向开发,Tanabe等人[41]开发了一种具有线性缩减的种群规模调整策略,并提出了一种著名的DE变体(LSHADE)。同时,为了保证算法在搜索过程初始阶段的探索能力,Meng等人[42]进一步设计了一种新的动态种群调整机制。种群规模在早期迭代过程中保持不变,在剩余迭代中执行线性缩减策略。遗憾的是,种群的搜索状态仅通过迭代来衡量,这可能无法精确捕获其实际搜索需求。针对这一局限,Xia等人[43]通过充分利用种群的适应度改进,提出了一种基于适应度改进的动态种群调整策略。此外,Chen等人[44]通过引入与问题维度相关的加速因子,进一步提出了一种改进的动态种群缩减机制。随着问题维度的增加,种群规模缩减得更快。尽管这些方法可以进一步增强算法的适应性,但搜索状态仍然通过简单和预先设定的规则来表征,这可能无法精确衡量迭代过程中的动态搜索需求。因此,仍然需要一种更有前景的种群调整机制。
基于上述分析,本文将通过设计一种新的基于维度的预选方法和一种基于状态的自适应种群调整机制,提出一种新颖的基于维度的多策略自适应DE变体(DMDE)。首先,为解决当前复合多搜索策略中遇到的子代选择准确性问题,开发了一种新的基于维度的预选方法,该方法充分考虑了每个候选解在每个维度上的最近邻信息。对于每个候选解,首先从种群中逐维度确定其最近邻个体,然后由于其对中位数的统计稳定性,利用这些邻居适应度值的中位数作为其性能指标。其次,为了动态调整种群在进化过程中的搜索能力,进一步设计了一种基于状态的自适应种群调整机制,以合理改变种群的缩减速率。在这种新机制中,记录优秀个体和较差个体的适应度改进以衡量优化过程的挑战性,并在不同的优化场景中分别采用两种不同的种群缩减策略。与当前相关的DE变体相比,所提出的算法可以更精确地选择合适的候选解作为子代,并在优化过程中更准确地调节探索与开发,从而增强其整体搜索能力。特别是,本文的主要工作如下。
(1)创建了一种基于维度的预选方法,用于为每个目标个体确定多个候选解中的子代。该方法充分利用了每个候选解关于每个维度的最近邻信息,并利用这些邻居适应度值的中位数作为评估其性能的标准。选择中位数而非平均值和最优值作为评估指标的原因是,中位数受维度邻域信息中离群值的影响较小,而平均值和最优值可能对偶尔的极端观察值较为敏感。因此,中位数可以提供更稳定的评估特征。这种新方法不仅减轻了欧几里得距离造成的估计偏差,还节省了算法的计算成本。
(2)设计了一种基于状态的自适应种群调整机制,以动态调整算法的搜索能力。在该机制中,通过记录优秀个体和较差个体的适应度改进来持续跟踪进化状态,一旦遇到搜索困境,将相应地切换合理的种群缩减模块。所提出的机制能够更精确地调节种群的搜索能力,从而自适应地满足算法在进化过程中不断变化的搜索需求。
(3)将上述两种方法整合,提出了一种新颖的基于维度的多策略自适应DE变体。与先前的相关工作不同,这种新算法从维度视角估计候选解的性能,并以基于状态的自适应方式进行种群调整。
这使得在变化的搜索过程中能够更有效地增强算法的有效性和适应性。(4)为了评估DMDE的功效,我们在CEC'2017测试套件上对12种著名的DE算法和9种其他代表性智能方法进行了比较分析,涵盖不同维度[45]。同时,还使用了两个不同的实际应用实例——扩频雷达多相码设计[46]和无人机路径规划[47]——作为测试平台,以展示其实际应用潜力。比较和统计结果表明,该新型算法相较于其他对手展现出更具竞争力的性能。本文的组织结构如下:第2节概述了基本的差分进化算法以及与本文密切相关的DE变体。第3节描述了所提出算法(DMDE)的框架。第4节设计了数值比较实验并对其结果进行了分析。最后,第5节进行了总结。章节摘要相关工作在此,分别介绍了传统DE算法以及与本文密切相关的一种DE变体。所提出的算法如引言所述,为了提高DE的性能,人们已经开发了许多后代预选方法和种群大小调整策略。然而,这些方法仍然存在一些局限性。具体来说,对于当前的后代预选方法,通常要求设计合理的代理模型和/或特殊的选择规则,这往往过于具有挑战性且依赖经验。同时,对于大多数种群大小调整策略,其调整过程仅仅是数值实验本节致力于通过一系列实验来测试DMDE及其各模块的有效性。为了确保统计结论的可靠性,本研究采用CEC'2017基准测试套件[45]作为评估平台,该套件包含29个基准函数($f_1$和$f_3$-$f_{30}$)。对于每个测试问题,算法独立运行51次,并通过平均函数误差(Mean Error)和标准差(Std Dev)来评估其性能。对于每种算法,结论本文提出了一种新的基于维度的多策略自适应DE变体(DMDE),该方法从基于维度的视角估计候选解的潜在性能,并根据种群的搜索状态动态调整种群大小。具体而言,为了避免先前复合变异策略中因欧氏距离而导致的不足,首先提出了一种基于维度的预选方法来估计潜在。CRediT作者贡献声明朱宇航:撰写—初稿、方法论、概念构思。田梦南:撰写—初稿、监督指导、方法论、形式分析、概念构思。严学清:撰写—审阅与编辑、监督指导、方法论。王新端:撰写—审阅与编辑、形式分析。利益冲突声明作者声明不存在可能影响本文所报告工作的已知的竞争性经济利益或个人关系。致谢我们非常感谢主编和四位匿名审稿人对本文早期版本的宝贵意见和建议。本研究得到国家自然科学基金(批准号12101477)、陕西省自然科学基金计划(编号2025JC-YBMS-079)以及陕西省教育厅科研计划基金(编号25JK0487)的支持。朱宇航|田梦南|严学清|王新端西安工程大学理学院,陕西西安710048,中国
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号