将贝叶斯优化方法转化为批量多目标贝叶斯优化方法的惩罚方法

《PLOS One》：Penalization method to convert Bayesian optimization methods into batch multi-objective Bayesian optimization methods

　　

贝叶斯优化（Bayesian optimization, BO）是一种基于代理模型的全局优化方法，日益应用于工程设计。然而，大多数方法设计为顺序执行，而在函数评估易于并行化的优化问题中，批量方法（batch methods）在减少实时计算方面更为有效。尽管现有的批量多目标贝叶斯优化（batch multi-objective Bayesian optimization, B-MOBO）方法表现出色，但它们通常从头开始专门构建，限制了在并行设置中利用大量经过验证的顺序采集函数库的能力。本文开发了一种可推广的变换方法，将兼容的单目标或多目标顺序贝叶斯优化方法转换为B-MOBO方法。关键创新在于一种基于欧几里得距离的复合采集函数，结合多目标惩罚平均，该函数组合多个顺序采集函数，同时纳入所有目标的按目标惩罚信息，并防止批量选择中的冗余采样。为展示该框架，研究人员将该方法应用于两种代表性的顺序采集策略：期望改进方法（单目标）和质量度量方法（多目标），开发了两种新的B-MOBO变体。然后，通过计算时间分析和实时分析，将这些新方法与其顺序对应方法以及已建立的B-MOBO方法进行比较。结果表明，新B-MOBO方法在求解质量方面与现有方法同样有效，并在考虑实时性时显示出改进。

论文解读：

**研究背景与问题**
贝叶斯优化（Bayesian optimization, BO）是一种基于代理模型（surrogate model）的全局优化方法，广泛应用于工程设计，尤其适用于评估耗时的黑箱目标函数。然而，大多数BO方法采用顺序采样策略，每次仅推荐一个候选点，这在函数评估可并行化（如通过高性能计算集群）时会显著增加实时计算成本。批量多目标贝叶斯优化（batch multi-objective Bayesian optimization, B-MOBO）方法通过同时推荐多个候选点来减少实时时间，但现有B-MOBO方法通常从头构建，无法直接利用大量已证明有效的顺序采集函数（acquisition function）库。因此，研究人员旨在开发一种通用变换框架，将兼容的顺序单目标或多目标BO方法转化为B-MOBO方法，从而在保持顺序方法优点的同时获得并行化的优势。

**研究内容与结论**
研究人员提出了一种基于欧几里得距离（Euclidean distance）的复合采集函数，结合多目标惩罚平均（multi-objective penalization averaging），将顺序单/多目标BO方法转化为B-MOBO方法。该框架应用于期望改进（Expected Improvement, EI）方法（单目标）和质量度量（Quality Metrics, QM）方法（多目标），生成两个新变体：EIMe和QM-BM。通过数值算例（ZDT1、ZDT2、ZDT3、FON、DTLZ2，输入变量维度n=3，目标数m=2~5）和工程算例（焊接梁设计，n=4，m=2），与顺序对应方法及现有B-MOBO方法（Ensemble、qEHVI）进行比较。计算时间分析（相同总评估次数）显示，批量方法的解质量与顺序方法相当；实时分析（并行资源预算下相同实时时间）显示，批量方法因可并行评估更多样本而获得更优的Pareto前沿近似。该工作发表于《PLOS One》。

**关键技术方法**
研究人员采用高斯过程（Gaussian process, GP）代理模型，核函数为Matérn 5/2，超参数通过最大似然估计（maximum likelihood estimation）优化（10次随机重启）。变换算法分两步：首先，为每个目标构建采集函数，并利用欧几里得距离组合形成单目标到多目标的转换；其次，基于González等人的局部惩罚方法，针对每个目标计算惩罚函数，取平均后与采集函数相乘，实现多目标批量转换。初始样本通过拉丁超立方采样（Latin Hypercube Sampling, LHS）生成30个点，样本队列来源为数值测试函数和工程问题（焊接梁设计）。

**研究结果**
- **Two-dimensional numerical examples**：对于ZDT1、ZDT2、ZDT3和FON问题（目标数m=2，输入变量n=3），计算时间分析表明，批量大小（batch size）为1、2、3时，新B-MOBO方法（EIMe、QM-BM）在Pareto点数（nP）、维度整体散布（dimensional overall spread, DOS）和积分超面积差（integral hyperarea difference, IHD）方面与顺序方法性能相近。实时分析中，批量大小增大时，所有方法在并行资源预算下获得更优的Pareto前沿，其中QM方法提升最显著。EIMe和QM方法比Ensemble和qEHVI方法更适应FON问题的复杂前沿。
- **Higher-dimensional numerical examples**：采用DTLZ2问题测试3目标和5目标（n=4）。计算时间分析中，EIMe方法表现最佳，QM和Ensemble方法次之，qEHVI在3目标以上失效。实时分析显示，EIMe方法在并行评估下进一步改善，QM和Ensemble方法略有提升。5目标时，EIMe仍优于Ensemble，且批量方法在实时分析中优势明显。
- **Engineering example**：焊接梁设计问题（n=4，m=2）中，计算时间分析显示批量大小2和3优于大小1；实时分析中批量大小间性能相当。qEHVI方法在批量大于1时因惩罚导致的近退化前沿而失败，凸显了变换方法在问题适应性上的优势。
- **Batch generation time analysis**：针对ZDT1问题，EIMe方法每样本计算时间随批量增大显著下降（p=0.004），QM和Ensemble方法无显著变化，qEHVI方法显著上升（p=0.010）。EIMe在批量大小1~10的测试中保持下降趋势，表明变换方法在大批量下具有计算效率优势。

**结论与讨论**
讨论部分强调，变换方法成功将顺序单/多目标BO方法转化为B-MOBO方法，且无需问题特定调整。通过计算时间与实时分析，证明了批量方法在并行化场景下的实用性，并指出不同问题需选择最优的BO方法。结论翻译如下：本文开发了一种将兼容的顺序单目标和多目标贝叶斯优化方法转化为批量多目标贝叶斯优化方法的方法。该方法在期望改进方法和质量度量方法上进行了演示，所得批量方法与顺序对应方法和已建立的B-MOBO基线进行了比较。在计算时间分析中，批量方法在测试设置下略逊于顺序方法但保持竞争力；在实时分析中（函数评估可并行化），批量方法在同一实时窗口内访问更多总函数评估，并在并行资源预算下产生更优的Pareto前沿近似。该趋势在2、3、4、5目标下均观察到。根据函数评估类型和问题特性，推荐使用不同的贝叶斯优化方法。由于新方法可将兼容的顺序贝叶斯优化方法转化为批量多目标方法，因此可针对给定问题选择最合适的方法并转换为批量方法。批量方法仅应在函数评估易于并行化时使用；对于必须顺序执行的函数评估，非批量方法更优。