一种用于进化多任务优化的增强型显式知识转移方法

《Swarm and Evolutionary Computation》：An enhanced explicit knowledge transfer method for evolutionary multi-task optimization

　　彭天|赵亚东|连雷|王东
中国辽宁省大连市大连工业大学控制科学与工程学院，教育部工业设备智能控制与优化重点实验室，116024

**摘要**
进化多任务优化（EMTO）通过利用任务间的协同作用来提高解决复杂优化问题的效率，但现有方法常常受到负面迁移和适应不同任务特性能力有限的制约。鉴于此，本文提出了一种改进的显式知识迁移方法EMEA-ADMM，以实现不同任务解决方案之间的更好映射关系。设计了一种新的重构损失函数，该函数结合了L1-L2范数混合保真项和核范数正则化。L2范数用于捕捉全局差异以保持整体一致性，而L1范数则用于建模任务间的局部差异或显著偏差。低秩约束挖掘了共享的低维结构，减少了分布不一致性。为了高效优化，基于增广拉格朗日法（ALM）和交替方向乘子法（ADMM）开发了一种迭代方案，通过分解问题和交替变量来降低复杂性并确保快速收敛。EMEA-ADMM算法在两个EMTO基准测试集和一个实际应用中与最先进算法进行了比较，实验结果表明其性能优于其他算法，证明了其有效性。

**引言**
随着实际优化问题复杂性的增加，研究人员一直在探索能够处理多样化和复杂问题的先进优化方法。其中，多任务优化（MTO）作为一种有前景的范式逐渐受到关注[1]、[2]、[3]。它旨在通过利用任务间的潜在协同作用同时解决多个优化问题。这种方法基于知识迁移的概念，即在一个任务的优化过程中获得的信息可以积极影响其他任务的优化，特别是当这些任务具有共同特征或关系时。

近年来，进化多任务优化（EMTO）因能够利用进化算法（EAs）的优势而受到越来越多的关注，进化算法在处理复杂、非线性和非凸问题方面表现出色[4]。作为MTO的一个子领域，EMTO利用任务间的潜在协同性和相关性来提高解决复杂优化问题的效率和效果。这在实际应用中特别有益，因为通常存在多个相关任务，例如车辆路径问题[5]、分类中的特征选择[6]和灵活的作业车间调度[7]。通过跨任务探索和迁移知识，EMTO展示了与独立解决问题相比，使用更少的计算资源就能获得更好的性能。

最近，在EMTO的研究中取得了显著进展，包括自适应知识迁移机制[8]、动态辅助任务策略[9]和基于替代模型的方法[10]。这些技术在处理任务难度不平衡和任务维度差异方面表现出显著效果。例如，张等人[11]引入了基于领域适应和统一搜索空间的知识迁移技术，动态调整概率以提高在EMTO基准测试集和实际问题中的性能。李等人[12]发现各种优化器具有不同的特点，因此开发了一种基于当前种群特征动态分配最合适优化器的自适应方法。江等人[13]使用块级知识迁移技术解决了MTOPs问题，利用任务内部或跨任务的相似维度共享知识。张等人[14]提出了一种基于约束放松的领域适应技术和协同进化策略，以增强知识迁移和多样性，在CMTO问题上优于最先进算法。此外，设计针对实际问题特定特征的定制EMTO算法也受到了广泛关注。刘等人[15]提出了一种基于片段的知识迁移遗传算法，用于容量限制的车辆路径问题，通过融合多个任务的路线段来提高解决方案质量。对于分布式异构焊接流水线调度问题（DHWSP），李等人[16]引入了一种增强的竞争性群体优化器作为主要任务，并辅以从主要任务的小种群中采样的辅助任务，通过知识迁移显著提高了收敛性和多样性。

一般来说，EMTO领域面临的关键问题可以总结为确定要迁移什么知识、如何迁移以及何时迁移。本文重点关注第二个关键方面，探讨了在多样化解决方案空间中实现知识迁移的方法。具体来说，EMTO中的知识迁移可以分为隐式知识迁移和显式知识迁移。隐式知识迁移通过统一搜索空间在任务间实现知识共享，无需显式建模或转换任务关系。这种方法适用于具有相似特征和一致搜索空间的任务，但在应用于异构任务时可能会产生负面迁移。相比之下，显式知识迁移涉及设计特定的映射或转换，如仿射变换[17]或子空间对齐[18]，以显式调整任务间的知识，从而适应任务间的特定差异并减少负面迁移。这种方法更加透明，有助于更好地理解和分析任务之间的相似性和差异，从而指导优化器更有效地共享知识。冯等人[19]提出的具有显式遗传迁移算法的进化多任务方法（EMEA）是显式知识迁移中最具代表性的算法之一。它通过去噪自编码器显式构建任务解决方案之间的映射，将一个任务的解决方案视为另一个任务解决方案的“损坏版本”。在去噪过程中，建立了两个任务空间之间的联系，实现了跨任务知识迁移，并直接揭示了不同任务之间的内在关系。对于EMEA算法，自编码器的性能直接影响两个任务解决方案空间之间的知识迁移效果。

本文的主要内容也将基于EMEA中的显式知识迁移框架展开。在此之前，为了便于比较，我们进一步在表1中简要介绍了现有EMTO算法的特点和主要局限性。现有EMTO文献在上述领域做出了重要贡献，但仍存在一些挑战：（1）在异构任务之间共享知识时，负面迁移仍然频繁发生，尤其是在可行域不重叠的情况下，导致优化性能下降。（2）显式知识迁移的潜力尚未得到充分探索，加上对任务特征利用不足，限制了知识共享的精度、可控性、效率和质量。（3）某些算法的高计算复杂性带来了显著负担，使其不适合需要高实时性能的场景。

因此，开发EMEA-ADMM算法的动机在于提高知识迁移的鲁棒性并减少EMTO场景中负面迁移的可能性。所提出的方法侧重于构建任务解决方案空间之间的有效映射，在保持任务特定特征的同时实现相对精确的领域对齐。通过采用显式知识迁移框架，该方法提供了透明的知识转换过程，使优化器能够以更有针对性的方式共享知识，从而提高适应性和减少负面迁移的可能性。

为了应对上述限制，我们将解决方案空间分布的不一致性与去噪自编码器中的噪声叠加问题进行了类比，例如高斯噪声和脉冲噪声的结合。解决方案空间中的全局偏差可以视为高斯噪声，而局部突变或离散差异类似于脉冲噪声。这种类比为解决由分布差异引起的优化挑战提供了更直观的理解和有针对性的方法，特别是非重叠域中的负面迁移。具体来说，为了减轻负面迁移并提高知识共享的精度，根据不同噪声分布的特点设计了保真项。例如，L1范数在处理异常值和捕捉数据稀疏性方面有效（解决了对任务特征利用不足和局部突变的问题），而L2范数为高斯噪声提供了平滑效果，防止过度稀疏导致信息丢失（解决了全局偏差并提高了鲁棒性）。基于这些属性，本文采用L1-L2范数混合保真项来有效处理高维任务解决方案中的冗余特征和噪声，从而提高对稀疏数据分布的适应性和减少负面迁移的可能性，与隐式方法相比。与仅依赖L2范数并忽略稀疏或局部噪声的EMEA不同，我们的混合项能够处理复杂分布，通过捕捉全局和稀疏差异来减少异构任务中的负面迁移。此外，为了有效利用任务特定特征并捕捉共享结构，本文采用核范数作为矩阵的低秩正则化。这有效地识别了数据的全局结构，在多任务学习中至关重要，因为任务通常共享潜在的低秩子空间。低秩正则化可以捕捉潜在的协方差结构或隐藏变量关系[23]、[24]，从而提高泛化性能并解决被忽视的显式迁移潜力。最后，为了降低高计算复杂性并确保适用于实时场景，所提出的EMEA-ADMM算法集成了ADMM框架，通过分解优化问题来加快收敛速度并降低资源需求。

基于上述分析，本文的主要贡献总结如下：
（1）为了解决处理具有不一致解决方案分布的异构任务时显式进化多任务优化中的过度平滑和负面迁移问题，提出了一种包含混合L1-L2保真项和核范数正则化的重构损失函数。L2范数捕捉全局差异以保持整体一致性，L1范数建模局部变化和异常值，低秩约束提取共享结构，从而实现更准确的跨任务映射。
（2）为了提高解决优化问题的效率，本文采用增广拉格朗日法（ALM）与交替方向乘子法（ADMM）框架相结合，设计了一种高效的变量分解方案。这种称为EMEA-ADMM的方法交替优化各个变量并迭代求解，显著降低了计算复杂性，同时确保算法快速收敛。
（3）通过CEC2017-MTSO和CMTO2022基准测试集以及全球轨迹优化问题（GTOP）数据库中的行星轨迹设计任务的实验验证了EMEA-ADMM算法的有效性。结果表明，EMEA-ADMM在优化性能方面与其他算法相比具有竞争力。

本文的其余部分组织如下：第2节介绍背景。第3节详细推导了所提出的EMEA-ADMM算法。第4节给出实验结果。最后，第5节总结本文。

**初步知识**
多任务优化（MTO）指的是在单个优化过程中同时优化多个相关任务。每个任务都有自己的目标函数，并在其特定的解决方案空间内进行优化。在多任务优化中，通常假设任务之间存在某种相互关系，可以利用这些关系来提高整体优化性能。具体来说，假设有K个任务，每个任务都有一个目标函数fi(x)。

**数学推导**
本小节提供了所提出的EMEA-ADMM方法的理论基础，重点推导损失函数和优化框架。为了建立这一基础，我们首先定义了后续推导中使用的关键变量和符号。在此内容中，两个任务的第i个样本解决方案分别用列向量pi∈Rm和qi∈Rn表示，m和n表示相应解决方案空间的维度。此外，由于m和n不同……

**基准实验**
为了验证所提出算法的有效性，本文将其与几种最先进的进化多任务算法进行了比较，包括EMEA[19]、MFEA-AKT[8]、MTEA-SaO[12]、MKTDE[21]、BLK-DE[13]、MFEA-DGD[22]、MTDE-ADKT[11]、CEDA-MP[14]。所有算法都在MTO平台[30]上进行了评估，该平台是一个专门为开发和验证EMTO算法设计的开源平台。该平台包括各种最先进的多任务算法……

**结论与未来方向**
本文提出了一种改进的显式知识迁移方法，用于进化多任务优化。该方法采用改进的损失函数，其中包含L1-L2范数混合保真项和低秩正则化，并通过ALM和ADMM框架高效求解。这种方法在解决全局偏差和局部差异的同时，最小化了任务解决方案映射错误，从而提高了映射准确性和知识迁移效果。

**CRediT作者贡献声明**
彭天：撰写——原始草稿、验证、形式分析、概念化。
赵亚东：撰写——审阅与编辑、验证、软件实现。
连雷：撰写——审阅与编辑、验证、软件实现。董旺：负责撰写、审稿与编辑工作，同时参与监督、调查及资金筹集。
利益冲突声明
作者声明不存在任何可能影响本文研究结果的已知财务利益冲突或个人关系。
致谢
本研究部分得到了中华人民共和国教育部的支持（项目编号：8091B02032305），部分得到了国家自然科学基金的支持（项目编号：62533005），还得到了辽宁省科技联合计划的支持（项目编号：2023JH2/1017003622 和 2023JH2/101300200）。