《Knowledge-Based Systems》:Supervised learning-guided individual-level operator selection in differential evolution for constrained optimization
编辑推荐:
差分进化中的自适应算子选择已通过强化学习和启发式信用分配方法得到广泛研究。然而,尚无先前工作将监督机器学习应用于约束优化问题中个体级别的变异算子预测与分配。研究人员提出了SL-MODE,一种用于约束优化的监督学习引导的多算子差分进化(DE)框架。与需要奖励工程
差分进化中的自适应算子选择已通过强化学习和启发式信用分配方法得到广泛研究。然而,尚无先前工作将监督机器学习应用于约束优化问题中个体级别的变异算子预测与分配。研究人员提出了SL-MODE,一种用于约束优化的监督学习引导的多算子差分进化(DE)框架。与需要奖励工程和策略网络的基于强化学习的选择器不同,SL-MODE在线训练一个轻量级监督分类器,直接利用种群反馈,无需离线预训练。在每一代,分类器根据当前搜索状态分别预测每个个体最有前景的变异算子。训练由连续改进指数指导,该指数同时编码目标进展和约束违反减少,为模型提供明确的可行性感知学习信号。该框架还通过两个支持性算法组件进一步增强:混合初始化技术,旨在平衡全局多样性与围绕有前景区域的适应性加密;以及自适应等式约束松弛。在CEC2006、CEC2010约束基准套件和来自CEC2020的33个实际问题上得到的结果表明,SL-MODE持续实现了高可行性率、高质量解,并且与若干竞争算法相比具有统计显著的性能优势。在CEC2006问题上,开展的敏感性分析证实了算法在广泛算法参数范围内的鲁棒性。
约束优化问题(COPs)广泛存在于工程设计、调度、资源分配等领域,差分进化(DE)因其种群搜索与鲁棒性而成为有效求解方法。然而,DE的性能高度依赖于变异算子与约束处理技术的选择,现有自适应方法如强化学习、启发式信用分配或多群体架构,存在计算开销大、奖励工程复杂、泛化能力差或仅能进行种群级适应等局限。针对这些不足,研究人员提出了SL-MODE,一种基于监督学习的单种群多算子DE框架,首次实现约束优化中面向个体级的变异算子预测与分配,无需离线预训练与额外奖励设计,显著降低计算负担并提升可行性感知能力。研究在CEC2006、CEC2010基准套件及CEC2020的33个实际问题上验证了其高性能、高可行性率与统计显著性,论文发表于《Knowledge-Based Systems》。
SL-MODE的核心方法包括:采用确定性初始化与组评分机制相结合的混合初始化策略,平衡全局多样性与局部加密;设计在线训练的随机森林(RF)分类器,以归一化适应度排名、约束违反量和到最优解距离为特征,依据连续改进指数加权样本,实现个体级算子指派;引入自适应等式约束松弛机制,动态调整约束容忍度并应对停滞;后期使用序列二次规划局部搜索增强开发能力。实验基于标准基准测试集,未涉及额外样本队列。
实验结果表明,SL-MODE在多个测试集上表现优越,具体分述如下:
**4.1 参数分析**:对初始化多样性率ρ
d、ML训练周期epoch、训练数据规模?、停滞限制stag
limit、Δ
stag及组评分权重进行敏感性分析。结论为ρ
d=0.25、epoch=100、?=100×PS、stag
limit=50、Δ
stag=10及默认权重(w
f=0.4, w
v=0.4, w
var=0.2)能获得最佳鲁棒性与性能平衡。
**4.2 组件分析**:对比局部搜索策略,发现不同应用策略统计上无显著差异,最终采用LS-rand-PS/2。比较RF、RUSBoost、逻辑回归(LR)和轻量神经网络(NN),所有分类器均能达到全局最优,但RF-5与NN在稳定性与开销间最佳,LR开销最低。采用ε-CHT较SFS能维持更高种群多样性,故选用ε-CHT。RF分类器的袋外(OOB)准确率从首轮约0.58持续上升至最终约0.88,验证了学习模块的有效适应性。
**4.3 CEC2006对比**:SL-MODE在22个问题上与10种先进算法比较,Friedman检验排名第一,Wilcoxon检验显示显著优于FROFI、LSHADE44、CORCO、CAL-SHADE、C2oDE和VMCH。
**4.4 CEC2010对比**:针对10D和30D共18个问题,SL-MODE在30D中排名第一,整体排名第一;在10D中排名第二(仅次于CCEF)。统计检验证实其显著优于多数对比算法,且能有效求解强等式约束问题。
**4.5 消融研究**:逐一移除混合初始化、约束松弛、局部搜索和ML模块后,性能出现明显退化,尤其在可行率与解质量上,证明各组件对整体性能的关键作用。进一步将监督学习替换为成功率自适应或随机分配,均无法达到同等可行性,凸显了监督学习的核心价值。特征消融表明,增加到质心距离特征无显著收益,故保留三特征设计。
**4.6 真实问题对比**:在CEC2020的33个实际约束优化问题上,SL-MODE在Friedman检验中平均排名最低(3.6061),显著优于FROFI、C2oDE、CORCO、DeCODE、CAL-SHADE和LSHADE44,且未被任何算法显著超越。
讨论指出,SL-MODE在强等式约束问题上表现突出,但在可分约束问题上存在一定挑战。额外加入第三个算子因行为重叠反而降低性能,说明算子互补性是关键。监督学习机制能有效学习个体级偏好,且计算开销可控。
研究结论:本文提出了一种基于监督学习的DE框架SL-MODE,通过个体级算子选择、混合初始化和自适应等式约束松弛,实现了高效且鲁棒的约束优化。实验证明其优于多种先进算法,且对参数设置不敏感,表明监督学习是无需奖励工程的自适应算子选择可行范式。未来研究将拓展至更多算子与参数、事件触发式更新及跨问题迁移。