在高成本贝叶斯优化中的悲观异步采样方法

《Digital Discovery》：Pessimistic asynchronous sampling in high-cost Bayesian optimization

　　

异步贝叶斯优化是一种近期实现的技术，允许在自主实验环境中并行运行实验系统和非连续工作流程。与串行贝叶斯优化（逐个选择实验，每完成一次测量后选择下一个实验）不同，异步策略在测量完成前按顺序分配多个实验，并持续评估新得到的测量结果。该技术能够加速数据生成，从而加快实验空间的优化。本研究将异步优化方法的能力扩展到先前研究之外，通过评估在训练数据集中引入悲观预测和随机预测的策略。研究人员在模拟环境中评估了传统的现实预测方法和五种额外的异步策略，并与串行采样进行了基准对比。在多数测试场景中，悲观预测异步策略在显著少于现有异步方法和串行策略的实验次数内达到最优实验条件，并且在高维空间中不易收敛到局部最优。若不考虑异步操作带来的更快采样速率，悲观异步算法可以在高成本实验空间中实现更高效的算法驱动优化。若考虑采样速率，所提出的异步算法可以在并行自主实验环境中实现更快且更稳健的优化。

### 论文解读：悲观异步采样在高成本贝叶斯优化中的应用

#### 研究背景与问题

在高成本实验环境中，例如自动化化学合成与表征流程，传统串行贝叶斯优化要求每次实验完全完成后才能选择下一个实验，导致设备闲置和效率低下。批处理采样虽能并行进行多组实验，但存在设备停机、数据利用率低以及对时间依赖性实验不适用等问题。异步贝叶斯优化通过持续分配新实验（即使先前实验尚未完成）提高了数据生成速率，但现有策略（如现实预测）在实验中可能过早收敛于局部最优，尤其在高维空间中。为此，研究人员引入了悲观预测、随机预测等非现实预测策略，旨在更有效地探索参数空间，减少重复采样，并提升优化效率。该研究发表在《Digital Discovery》期刊上。

#### 主要技术方法

研究人员采用基于上置信界（Upper Confidence Bounds, UCB）决策策略的异步贝叶斯优化框架，使用高斯过程回归器（Gaussian Process Regressor, GPR）作为信念模型，并以TriPeak函数（N维三高斯峰值函数）作为模拟地面真值函数。核心创新在于定义了六种异步采样缓冲区填充策略：现实预测（Realistic）、悲观预测（Pessimistic，将所有未完成实验的预测值设为最差结果0）、随机预测（Random，从均匀分布中采样）、上升悲观预测（Ascending Pessimism）、下降悲观预测（Descending Pessimism）以及下置信界预测（Lower Confidence Bounds, LCB）。此外，在实际应用中使用了随机森林回归器（Random Forest Regressor, RF）处理离散化学数据，样本队列来源于Ahneman等人（2018）关于Buchwald–Hartwig交叉偶联反应的公开数据集（1536孔板高通量实验）。

#### 研究结果

**1. 异步悲观与随机性能（Asynchronous pessimistic and random performance）**
在五维TriPeak函数模拟中，所有异步策略均能加速优化，但现实预测在缓冲区长度≥4时显著损失采样效率。悲观策略在所有缓冲区长度下均优于串行采样，且500次实验后的损失中位数低至串行采样的60%左右。悲观策略的内四分位距（IQR）比串行低一个数量级以上，表明结果更一致。下降悲观策略表现类似，而随机策略在9个缓冲区时失去优势。

**2. 维度与噪声的影响（Effects of dimension and noise）**
在2-4维空间中，串行策略按实验次数更优；但在5维和6维空间中，悲观异步策略显著优于串行，且随维度增加性能差距扩大。引入噪声（1%、2%、5%）后，低维条件下串行更优，但高维条件下异步策略与串行性能接近，且悲观策略优于现实策略。这表明悲观策略在高维、噪声环境下更具鲁棒性。

**3. 实际交叉偶联反应数据应用（Application in real-world cross-coupling reaction data）**
使用Buchwald–Hartwig反应数据库（约4000个样本，5个分类参数）进行优化，以随机森林回归器为信念模型。悲观异步策略（1个缓冲区）在达到最优产率时所需实验次数比串行少60%。随着缓冲区增大，效率有所下降，但9个缓冲区仍与串行相当。该结果表明悲观策略能有效导航离散和受约束的高维化学空间。

#### 总结与结论

讨论部分指出，悲观策略的核心机制在于强制避免对当前模型预测最优点的重采样，从而减少过早收敛，尤其在上置信界策略中。通过模型集成实现悲观预测，而非传统的惩罚区域方法，避免了高维空间下体积分数缩小的“维度诅咒”。此外，悲观策略对UCB探索常数具有鲁棒性：在低探索常数下优势明显，在高探索常数下差异缩小。动态探索策略的使用进一步削弱了悲观策略的相对优势，但整体仍优于现实策略。

**结论翻译**：本研究提出的异步采样策略为高成本实验的串行和现实异步贝叶斯优化提供了宝贵进步。虽然悲观异步采样在低维空间中性能稍逊，但在维度大于四的参数空间中，其表现显著优于串行或现实异步策略。随着参数空间维度增加，串行与悲观异步策略之间的性能差距似乎也在扩大。此外，研究人员已证明该方法在具有采样噪声和实际收集数据集的系统中具有鲁棒性。本工作引入了一种专门针对自主实验挑战（即高噪声特征的高维设计空间）的算法。忽略异步策略的加速采样速率，悲观策略可能在高成本采样系统中为贝叶斯优化算法提供更高性能。若考虑采样速率，悲观策略相对于现有现实异步和串行采样方法具有显著优势。为全面展示本工作中所提出方法的能力，需要采用类似策略进行额外的基准研究。本文所述方法的进一步实施和发展可带来更高效的算法驱动实验和更有效的实验流程并行化。