由注意力增强型生成模型引导的昂贵多目标优化

《IEEE Transactions on Neural Networks and Learning Systems》:Expensive Multiobjective Optimization Guided by Attention-Enhanced Generative Models

【字体: 大 中 小 】 时间:2026年04月08日 来源:IEEE Transactions on Neural Networks and Learning Systems 8.9

编辑推荐:

  代理辅助进化算法通过生成模型和代理模型优化超参数,解决高维昂贵多目标优化问题。提出注意力增强的卷积残差网络生成候选解,结合Tchebycheff度量在线学习优化,在DTLZ、ZDT和地热能提取设计基准中优于传统算法和现有方法。

  

摘要:

替代辅助进化算法(SAEAs)在解决复杂的多目标优化问题方面受到了广泛关注。然而,大多数现有的SAEAs仍然依赖于传统的遗传操作符进行繁殖,这在生成有潜力的候选解决方案时效率较低。为了解决这一问题,本文提出了一种基于学习的生成模型,该模型替代了传统的交叉和变异操作,并能够针对复杂的多目标优化问题进行多目标搜索。其核心思想是在替代模型的辅助下,设计一个具有注意力增强功能的卷积残差网络来生成后代个体。所提出的框架利用生成模型根据Tchebycheff度量标准为每个分解后的子问题生成有潜力的解决方案,同时通过在线学习过程来优化生成模型的超参数。我们在DTLZ、ZDT和WFG基准函数集上验证了这种基于学习的多目标生成模型(LMOGM)的有效性,这些函数的维度从30到200不等;此外,还通过一个涉及地热能提取设计优化的实际应用进行了测试。实验结果表明,与传统进化算法及最先进的替代辅助多目标进化算法(MOEAs)相比,该方法具有更优越的性能。

引言

多目标进化算法(MOEAs)在实际应用中取得了显著进展,包括神经架构搜索[1]、材料设计与发现[2]以及石油水库生产优化问题[3]。这些多目标优化问题(MOPs)包含多个相互冲突的目标,并且具有由多个相关变量构成的参数空间[4]。MOEAs通过变异和交叉操作来演化种群,以接近Pareto前沿,特别是在处理复杂和非线性优化问题时展现出强大的搜索能力。然而,许多现实世界中的应用中的多目标优化问题需要资源密集型的实验或耗时的模拟,这些被称为“昂贵”的多目标优化问题。由于需要大量的函数评估(FEs),这些问题的计算负担给进化算法带来了挑战[5]。替代模型(如径向基函数(RBF)网络[6]、人工神经网络(ANN)[7]、支持向量机(SVM)[8]、高斯过程(GP)[9, 10]和多项式回归[11])被用作多目标函数或标量化函数的近似表示,大大减少了实际函数评估的需求[12]。基于近似的替代模型可以预测目标函数或标量化函数,从而为实际函数评估提供候选解决方案。在预测的目标函数的帮助下,可以计算出诸如超体积(HV)、加权求和、Tchebycheff和参考向量等标量化函数,以选择更有前景和信息量的解决方案。K-RVEA[13]采用GP作为替代模型来近似目标函数,并利用参考向量来指导进化搜索。Zhao和Zhang[14]将基于HV的预期改进与MOEA/D框架结合,以最大化加权HV和Tchebycheff改进指标。标量化函数也可以直接通过替代模型来近似。ParEGO[15]使用克里金模型来预测多目标优化问题的标量化函数。GP不仅能够预测目标值,还能提供预测的不确定性信息。MOEA/D-EGO[16]将多目标优化问题分解为多个单目标优化子问题,并使用预期改进指标来选择有潜力的解决方案。NSGAIII-EHVI[17]将NSGA-III与基于预期HV改进值的克里金替代模型相结合。然而,当面对高维多目标优化问题时,GP的预测性能会显著下降[18],且训练过程变得非常耗时。

相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号