《Organic Process Research & Development》:Breaking the Boundaries of Bayesian Optimization Utilizing Continuous Chemistry Digital Twins
编辑推荐:
研究人员开发了一种新型化学优化方法学并将其应用于亲核芳香取代反应及制备抗生素环丙沙星中间体两步工艺的数字孪生(digital twin)模型中。贝叶斯优化(BO)已被证明是优化从机器学习到化学诸多问题的高度有效算法;然而现有所有方法均需专家针对目标问题提供先验
研究人员开发了一种新型化学优化方法学并将其应用于亲核芳香取代反应及制备抗生素环丙沙星中间体两步工艺的数字孪生(digital twin)模型中。贝叶斯优化(BO)已被证明是优化从机器学习到化学诸多问题的高度有效算法;然而现有所有方法均需专家针对目标问题提供先验知识方能使BO高效工作。本研究提出一种数据分析策略——Breaking-the-Boundaries(BtB),通过允许设计空间(design space)自主扩展来增强BO优势并降低对专家知识的需求。BtB在每轮BO迭代间隙分析数据集,判断哪个参数需进行边界扩展以使设计空间朝向真实全局最优点移动。研究人员将BtB-BO方法学应用于数字孪生,证明当给定仅为全设计空间0.55%的弱初始设计空间时,BtB-BO能获得传统BO永远无法触及的最优条件。BtB-BO保持BO的优化速率,在所有案例研究中以少于30次迭代为弱先验(weak priors)的复杂优化问题找到最优解。
论文解读:利用连续化学数字孪生突破贝叶斯优化(Bayesian Optimization, BO)边界的方法研究
一、研究背景与意义
传统化学反应优化常用单因素变换(one factor at a time, OFAT)和实验设计(Design of Experiments, DoE)。OFAT效率低且易得假最优;DoE虽能考察因子交互作用,但实验量随参数呈指数增长(Xk),在复杂多参数化学工艺中代价高昂。贝叶斯优化(Bayesian Optimization, BO)基于高斯过程(Gaussian Process, GP)代理模型和期望改进(Expected Improvement, EI)采集函数,能以较少实验迭代寻找全局最优,已广泛用于化学自优化平台。然而BO要求使用者预先指定合理的设计空间(design space)边界——过大会增加探索成本,过小则可能不包含全局最优点(weak design space problem),这依赖化学家经验与领域知识。已有边界扩展方法如各向同性体积加倍(isotropic volume doubling)、EI正则化去除边界、基于GP置信区间滤波及Thompson采样伸缩边界等,存在过度扩张或远离真值时不收敛等问题,且在昂贵化学品消耗场景下需尽量减少迭代次数。为此,研究人员提出Breaking-the-Boundaries(BtB)策略,在每轮BO迭代前插入数据分析步骤,依据观测数据自主判断并扩展特定参数边界,减少对专家先验设计空间的依赖。该研究成果发表于《Organic Process Research & Development》。
二、主要关键技术方法
研究人员采用两种基于动力学的连续流反应数字孪生(digital twin):①Summit库中亲核芳香取代(SNAr)反应——2,4-二氟硝基苯与吡咯烷在乙醇中连续流反应的数字孪生模型(目标函数Objective = STY/1000 ? E-factor/100,STY为时空产率space-time yield,E-factor为环境因子);②课题组自建环丙沙星(ciprofloxacin)中间体两步连续合成动力学数字孪生模型(优化目标为产物输出浓度)。所有BO使用Python Summit库(0.8.9)中单目标贝叶斯优化(single-objective Bayesian Optimization, SOBO),默认Matern 5/2核、EI采集函数、lfbgs优化器、GP代理模型。BtB模块在每轮BO建议新实验前执行:计算各参数边界阈值Ti,p= KT,p·Δbi,p(KT,p=0.25为输入参数阈值系数,Δb为当前参数范围)及目标阈值Ti,Obj= KT,Obj·(bObj,U?bObj,L)(KT,Obj=0.04);检查是否已近目标上限(满足则停);检查近n=5轮内有无发生过扩展(有则跳过);检验最近m=3个最优目标值是否收敛(未收敛则跳过);若当前最优未达预设目标且某参数最优建议点距上/下边界≤阈值,则按bi+1,p,U= bi,p,U+ Kb·Δbi,p,bi+1,p,L= bi,p,L? Kb·Δbi,p(Kb=1为扩展系数)扩展该参数边界,受硬边界(hard boundaries)约束防止超出数字孪生有效范围。初始筛选采用Latin Hypercube Sampling(LHS, n=10),随机种子固定保证对照公平,各案例重复5次。
三、研究结果
Digital Twin and Breaking-the-Boundary Bayesian Optimization Loop Setup
研究人员定义数字孪生的实验建模范围为硬边界,BtB扩展不得超过此限。BtB作为BO迭代前的数据分析步骤,含KT,p、KT,Obj、log扩展检查间隔n、收敛目标计数m及扩展系数等超参数。为充分比较,关闭自主停止条件。
Nucleophilic Aromatic Substitution Digital Twin(亲核芳香取代数字孪生)
全设计空间参数为:停留时间(residence time) 0.5–2.0 min,吡咯烷(pyrrolidine)当量1.0–5.0 equiv,2,4-二氟硝基苯浓度0.1–0.5 mg/mL,温度30–120 °C。设置三个受限初始设计空间案例:案例1限底物浓度0.1–0.3 mg/mL;案例2限停留时间1.25–2.0 min;案例3同时限底物浓度0.1–0.3 mg/mL和停留时间1.25–2.0 min(初始空间约全空间0.55%)。结果显示传统BO被困于初始边界无法达全局最优;BtB-BO在迭代前期识别并扩展受限参数边界(单参数一次扩展即恢复全空间,双参数分次扩展),恢复后BO正常寻优,在30次迭代内超越目标值0.75并趋近全局最优,五轮重复一致。表明BtB-BO可在简单受限空间自主恢复设计空间找到全局最优。
Ciprofloxacin Intermediate Digital Twin(环丙沙星中间体数字孪生)
全设计空间:丙烯酸酯流速(acrylate flow rate) 0.5–5.0 mL/min,氟代物流速(fluoro flow rate) 0.5–5.0 mL/min,环丙胺流速(cyclo flow rate) 0.5–5.0 mL/min,温度100–200 °C,优化输出浓度。显著参数为三个流速,温度不显著。案例1–3分别单独限制一个流速至0.5–1.0 mL/min(其余部分限制或非限制),需多次(≥2次)扩展方能达优;BtB-BO均能在20迭代内100%超越目标95 mg/mL,最终浓度接近全空间BO最优值(案例1: 112.61–113.28 vs 全空间123.49 mg/mL;案例2: 98.17–103.48 mg/mL;案例3: 104.27–115.20 mg/mL),传统受限BO仅~50–62 mg/mL。案例4–6限制两个流速至4.0–5.0 mL/min(需多参数多轮扩展),BtB-BO 30迭代内达100%成功率,终浓度接近全空间BO。案例7–9允许所有三个显著参数自由扩展(初始同案例4–6),因理想流速比近1:1:1,BtB-BO更快收敛——案例7在迭代14(去异常则迭代9)达100%成功,优于仅单/双参数扩展情形,说明允许多参数自主扩展可加速收敛。综上BtB-BO在单参数多次扩展、多参数联合扩展场景下均能突破初始弱设计空间限制,找到接近全空间BO的最优解,且部分场景(多参数自由扩展)优化速率不劣于甚至优于全空间BO。
四、讨论与结论翻译
研究人员开发了一种用于贝叶斯优化(BO)设计空间边界扩展的新方法——Breaking-the-Boundaries(BtB)。该方法使定义不良的设计空间对优化进程影响最小化,并能获得传统优化方法无法达到的最优值。文中描述了BtB工作流程及每轮BO迭代间数据分析步骤判断边界应扩展的方向与幅度的机制。相比现有BO方法,最显著的改进是降低了对精心构造设计空间所需专家知识的需求,使采集函数(期望改进Expected Improvement)能寻找真实全局最优点而非局限于初始设计空间。
BtB方法的发展通过减少领域专业知识需求增强了自优化算法能力。单个参数边界扩展防止设计空间过快过大扩张,避免BO探索不必要区域,进一步减少抵达最终最优条件所需实验次数。BtB不限于BO算法,可应用于任何需指定设计空间的优化策略,具备迁移至材料科学、配方及机器学习超参数优化等领域的潜力。降低专业知识需求通过提高设计空间选择的灵活性使自动化化学平台更为自主。
局限性包括:若某些边界被禁止扩展可能大幅增加所需迭代次数;因要求若干相似条件收敛才触发扩展且单次扩展不超过参数范围的100%,在极大设计空间需高迭代次数场景下可能存在欠优化,后续可改进工作流提升优化速率。