基于代理的竞争优化方法，加速鲁棒多目标问题的收敛速度

《Swarm and Evolutionary Computation》：Surrogate-assisted competitive optimization for accelerated convergence in robust multi-objective problems

　　朱晨洪|潘安奇|任正云|冯学锋 中国上海201620，东华大学信息与智能科学学院 摘要：在制造和工业控制系统中，鲁棒优化问题十分常见，而在干扰条件下进行性能评估会带来巨大的计算成本。常用的两阶段优化方法首先解决称为确定性优化问题的辅助优化问题（即无干扰的多目标优化问题），然后再引导对鲁棒解的搜索，但由于阶段转换标准不明确，容易导致过早收敛或过度探索。而利用确定性优化问题与鲁棒优化问题之间的并行关系，有望进一步提升找到鲁棒解的效率。本文提出了一种基于辅助优化的替代模型辅助框架，旨在提高鲁棒解的收敛效率，同时降低计算资源消耗。首先，将辅助确定性优化问题和鲁棒优化问题视为两个竞争性问题，鲁棒优化问题采用两步填充采样策略，有效降低了其高计算成本。其次，充分利用问题之间的隐式知识传递，加快向鲁棒解的收敛速度。最后，设计了一种智能激励策略，用于动态分配两个问题之间的计算资源。通过在多种复杂的鲁棒多目标测试问题以及锂电池浆料干燥过程中能耗与干燥效率优化这一实际应用中的实验，证明了所提算法的有效性与优越性。引言：多目标优化问题在实际工业应用中十分常见，比如分布式装配流水线调度问题研究[1]、机器人监视任务[2]以及牲畜饲料配比优化[3]。这类问题通常涉及多个相互冲突的目标，需要同时进行优化。此外，多目标优化问题往往存在多种不确定性来源，可归纳为三类：决策变量中的不确定性、目标函数中的不确定性以及函数参数中的不确定性[4]。那些对决策变量中的不确定性具有抗扰性的解被称为鲁棒最优解[5]。近年来，人们开发出了许多多目标进化算法，用于解决各种多目标优化问题。在此背景下，那些旨在寻找鲁棒最优解的多目标进化算法被称为进化鲁棒优化算法[6]。进化鲁棒优化领域的研究大致可分为两大方向：开发优化技术以及量化鲁棒性。在鲁棒优化技术的发展过程中，出现了许多创新思路。例如，有人将鲁棒性作为约束条件纳入优化框架之中[7]；还提出了档案更新机制和鲁棒最优前沿构建策略，以实现鲁棒性与最优性的无缝结合[8]。交叉操作和变异操作会根据种群多样性进行动态调整，从而使鲁棒进化能够作为一种自我竞争机制发挥作用[9]。此外，常见的鲁棒性度量指标（如期望值或方差）也经常被用作额外的目标函数[10]。还有一些专门的鲁棒性度量指标被专门设计出来，用于指导进化过程。在多目标进化算法中，r-支配概念被引入优化搜索过程，用于识别鲁棒最优解[11]。支配鲁棒性通过根据决策变量与支配鲁棒性的相关性对它们进行分类，区分出相关性高低不同的变量，从而优化解的分布并加速向支配鲁棒最优解的收敛[12]。近年来，越来越多的研究致力于利用无干扰的优化技术来支持进化鲁棒优化。无干扰的多目标优化问题被称为确定性优化问题[13]。Ahrari等人[14]明确了确定性优化（不存在干扰和噪声）与鲁棒优化的区别，指出鲁棒优化问题既不同于确定性优化问题，也不同于存在噪声的优化问题，因为鲁棒优化器会对噪声的类型和强度十分敏感。EMO-MEOF/TS进一步强调了这一区别，认为确定性优化问题和鲁棒优化问题在解的评估要求上存在本质差异，因为鲁棒优化问题需要通过特定的鲁棒性度量指标来评估各个解对干扰的敏感性[15]。例如，Sousa等人[16]和Meneghini等人[17]就曾使用确定性最坏情况度量指标来模拟鲁棒优化问题中的不确定性。这种建模策略的有效性已通过理论分析并在TEDA-CMOEA/D中得到实验验证[18]。不过，由于确定性优化问题与鲁棒优化问题在目标函数和决策变量方面存在结构相似性，利用二者之间的相互依赖性，有望提升收敛效率并增强解的鲁棒性。例如，有人认为将确定性优化技术与鲁棒优化技术相结合，既可以无需干扰地识别全局帕累托最优前沿，也能识别鲁棒最优前沿，随后又提出了一种改进的两阶段算法，用于解决包含随机变量的鲁棒优化问题[19]。在第一阶段，该算法通过消除随机变量，为对应的确定性优化问题找出一组解；在第二阶段，通过不断对随机变量施加扰动，从第一阶段得到的解中筛选出一组鲁棒解。类似地，Du等人[20]也将鲁棒优化问题的求解过程分解为峰值检测阶段和鲁棒解搜索阶段。前者用于识别确定性优化问题适应度函数景观中的显著区域，后者则利用这些拓扑信息快速识别鲁棒最优解。通过将最优性搜索与鲁棒性搜索分开，这种协同方法有效地平衡了这两个目标。不过，两阶段优化方法可能存在阶段转换标准不明确以及阶段间信息丢失的问题，从而导致过早收敛到鲁棒解。另一种有前景的方法是协同进化框架，该方法利用两个不同的种群来解决鲁棒多目标优化问题：一个种群代表帕累托解，另一个种群代表干扰因素[17]。这两个种群朝着相反方向竞争性演化，有助于识别鲁棒最优解。Zhang等人[21]将协同进化方法应用于具有时滞的非线性系统的最优控制问题，通过将不确定性下的优化问题转化为最小-最大问题，提升了最优控制点的鲁棒性。进化鲁棒优化研究的另一个重要方向是鲁棒性的量化，这一领域也可分为两种先进方法：（1）专门的蒙特卡洛采样方法，如拉丁超立方采样、瓦瑟斯坦距离度量[22]以及隐式平均法[6]；（2）替代模型辅助采样方法。在很多情况下，这两种采样方法会同时使用。例如，在那些适应度函数评估计算量大或耗时较长的复杂多目标优化问题中，通常会用拉丁超立方采样来初始化替代模型的训练集[23]。同样，无论采用何种鲁棒性量化方法，进化鲁棒优化都需要在决策变量的不同不确定性范围内反复评估目标函数，这样的重复评估会大幅增加适应度函数评估的次数，进而提高计算成本。将替代模型引入这一优化过程，可以通过近似计算昂贵的目标函数评估结果，有效降低计算需求[24]。常见的替代模型包括高斯过程[25]、[26]、人工神经网络[27]、支持向量机[28]、多项式回归模型[29]、多项式混沌展开法[30]以及径向基函数模型[31]。大量研究已经证明了替代模型辅助采样方法的效率。例如，替代模型辅助的积分差分进化算法利用生态位划分机制，结合决策空间和目标空间信息，将深度卷积神经网络的超参数景观分解为易于处理的子区域，然后在每个子区域内高效搜索[32]。根据搜索环境是无约束、弱约束还是强约束，该算法会构建三个具有不同更新规则的档案，用来生成约束替代模型，并引导以种群为对象的混合搜索，从而大幅提升对小可行区域的探索能力[33]。在进化鲁棒优化中，还会采用自适应克里金模型来处理多目标鲁棒问题中混合的分类变量和连续变量[34]。实时更新的样本数据可用于提高克里金模型在考虑制造误差时对电机设计可靠性评估的准确性[35]。普通克里金方法被用来构建替代模型，同时还会引入累积置信度指标，用于量化基于该替代模型得出的可靠性估计的准确性[36]。正交分解法与多项式混沌展开法相结合，可用于在涉及众多输出物理变量的复杂声波问题中高效进行不确定性量化[37]。最近，人们开始关注自适应采样策略，以解决替代模型辅助采样中样本量不足的问题。有人提出了动态径向基函数的元模型，该元模型所具有的随机不确定性可作为自适应采样的有效指标[38]。人们对比了多种替代模型，选出性能最佳的模型，用于高效且自适应地量化解的鲁棒性能[39]。基于自适应双指标策略，克里金模型被用来近似表示基准平均视角和最差视角下的聚合函数[40]。尽管进化鲁棒优化领域已经取得了不少进展，但仍有若干方面需要进一步研究。首先，由于适应度函数评估的次数有限，许多基于替代模型的多目标进化算法中使用的填充采样标准，往往会限制每一代中使用真实目标函数评估的候选解的数量，这会严重影响预测精度，进而降低鲁棒优化的收敛性能。反之，如果不对候选解的数量设置限制，则可能在进化初期造成计算资源的浪费。因此，研究合适的采样标准约束对于实现高效的资源优化至关重要。其次，现有的协同进化方法通常将确定性优化问题和鲁棒优化问题视为独立问题，忽视了二者之间可能存在的有益信息交流。与以往的研究不同，本文着重解决了在进化鲁棒优化中如何找到真正鲁棒解的问题，特别关注了使用替代模型后由于近似误差所带来的搜索偏差。虽然鲁棒优化问题与确定性优化问题可能共享一些设计变量，甚至具有类似的结构性约束，但二者在性能评估方式上存在根本差异：鲁棒优化目标是在不确定性条件下综合评估性能，而确定性优化目标则是在理想条件下进行评估。因此，鲁棒解所在区域通常与确定性帕累托前沿并不重合，原本为其他场景（如传统约束优化）开发的策略无法直接应用于鲁棒优化场景。为了加快向高质量鲁棒最优解的收敛速度，因此有必要构建一个合适的辅助优化问题，并设计出能够有效利用跨问题信息且以鲁棒性为优先的资源配置策略。正是出于这些考虑，本文提出了一种新的加速鲁棒优化收敛策略。该策略明确将确定性优化问题定义为辅助优化问题，用以辅助目标鲁棒优化问题。在进化过程中，每一代中只会有一个优化问题根据历史信息通过竞争机制被选中。具体而言，每个优化问题内部的进化效率以及问题之间的信息传递效果，共同决定了问题被选中的概率分布。总体而言，所提出的替代模型辅助竞争型鲁棒进化算法的主要贡献如下：•将确定性优化问题定义为辅助优化问题，并在竞争框架下与鲁棒优化问题一起求解。这种设计不仅能够充分利用确定性搜索和鲁棒搜索各自的优点，还能实现两种优化形式之间的有效知识传递，从而加快向鲁棒帕累托解的收敛速度，同时减少由替代模型不准确带来的搜索偏差。•利用替代模型辅助优化过程，降低了所需的计算资源。此外，鲁棒优化问题采用了两步填充采样标准，能够灵活应对，避免计算资源的浪费。•基于候选解的贡献程度，设计了智能激励策略以及隐式传递概率机制，实现了计算资源的动态分配。•通过在一系列基准问题以及锂电池行业中的实际案例研究中，对SACREA算法的有效性进行了实证验证。本文的其余部分结构如下：第2节正式定义了研究问题，并介绍了克里金模型。第3节详细阐述了所提出的方法。第4节给出了测试实例的实验结果与分析。第5节研究了锂电池浆料干燥优化问题。最后，第6节总结了研究成果并探讨了未来的研究方向。相关工作：本节首先简要定义了确定性多目标优化问题和鲁棒多目标优化问题。接着介绍了SACREA算法中使用的关键模块——克里金模型。为避免歧义，本文统一将通过替代模型辅助的进化过程得到的解称为候选解。此外，被加入新种群的候选解被称为有效候选解。提出的算法本节中提出了用于鲁棒多目标优化的SACREA算法。首先介绍了SACREA的框架，随后详细阐述了其关键组成部分，即定制化的CMTO、基于替代模型的进化方法以及AIS。实验研究本节中进行了敏感性分析，重点关注两个关键参数：两步填充采样标准中使用的切换阈值，以及问题选择时预定的迭代次数。之后，通过将SACREA与六种先进的算法进行对比，以验证其性能。此外，还比较分析了多种算法的计算复杂度，并详细研究了各算法关键组件的有效性。能耗与干燥效率优化案例研究锂电池是新能源汽车及众多电子产品中的重要组件。降低锂电池成本并提升其整体性能的关键策略在于优化电极制造工艺，尤其是电极（薄膜）的干燥步骤。在电极涂覆由活性材料、导电剂、粘结剂和溶剂组成的浆料后，会进行干燥处理，在此过程中溶剂会被去除。结论本文将鲁棒优化问题与确定性优化问题（无干扰的多目标优化问题）视为两个独立的问题。通过利用两者之间的隐性知识传递，构建了一个竞争性优化框架，从而加速鲁棒优化的收敛速度。克里金模型被用来为每种问题定义特定的填充采样标准。特别是，ROP采用了两步采样法。CRediT作者贡献声明洪菊辰：撰写——初稿、可视化、验证、软件、方法论、资金获取、数据整理、概念设计。潘安琪：撰写——审阅与编辑、资金获取、概念设计。任正云：撰写——审阅与编辑、指导。冯雪：验证、指导。利益冲突声明作者声明不存在任何可能影响本文所述工作的已知财务利益或个人关系。致谢本研究得到了中国国家自然科学基金项目62303108以及中国中央高校基本科研业务费项目CUSF-DH-D-2025034的支持。