Large language models作为uncertainty-calibrated optimizers用于实验发现的研究

《Nature Machine Intelligence》:Large language models as uncertainty-calibrated optimizers for experimental discovery

【字体: 大 中 小 】 时间:2026年08月29日 来源:Nature Machine Intelligence 29.8

编辑推荐:

  从反应优化到分子设计,实验发现面临同样的昂贵问题:在时间和资源约束下下一步测试哪个候选。Bayesian optimization(BO,贝叶斯优化)提供有原则的答案,但依赖难以迁移的领域专长。Large language models(LLMs,大语言模型)

  
从反应优化到分子设计,实验发现面临同样的昂贵问题:在时间和资源约束下下一步测试哪个候选。Bayesian optimization(BO,贝叶斯优化)提供有原则的答案,但依赖难以迁移的领域专长。Large language models(LLMs,大语言模型)蕴含丰富科学知识,但缺乏高风险决策所需的不确定性校准估计。研究人员展示通过对语言模型施以Bayesian目标训练,可将其用作由自然语言引导的可靠优化器。该方法GOLLuM(Gaussian process Optimized LLMs)让LLMs从不确定性下的实验结局中学习,将其过度自信这一根本缺陷转化为精确的学习信号。该信号重塑LLM embeddings,使结局相似的实验聚在一起,揭示设计空间中的结构。从仅10个低性能实验起步,GOLLuM在有机合成、材料科学、过程化学与分子设计23项任务上泛化,平均排名居所有对比方法之首。它以少于40%的实验匹配传统Bayesian optimization,且较专家量子化学描述符与前沿LLMs将近翻倍发现高性能Buchwald–Hartwig反应(43%对24–25%)。更广泛地,GOLLuM指向专门化基础模型的不同范式:不是靠更多数据,而是靠更丰富、不确定性引导的信息。
研究背景方面,人工智能可数小时生成海量药物、材料与反应候选,但实验科学根本瓶颈仍是“下一步测谁”。Bayesian optimization(BO)以Gaussian process(GP)代理模型提供带不确定性的预测,平衡探索与利用,但依赖领域专用描述符,跨域难迁移。Large language models(LLMs)具通用先验知识却过度自信、会幻觉,缺校准不确定性,难直接用于高风险实验。现有LLM-BO工作多将语言模型与概率优化分离。为此,研究人员提出GOLLuM(Gaussian process Optimized LLMs),首次用BO可靠性来源的同款概率目标训练LLM,把文本接口与校准决策结合。论文发表于《Nature Machine Intelligence》。
主要关键技术方法上,研究人员构建联合优化循环:将自然语言描述实验经模板化为文本,送入LLM编码器得embedding,接入GP代理(Matérn-5/2核)构成deep kernel GP;通过GP边际似然对LLM参数(LoRA或投影层PLLM)与GP超参联合梯度优化,使LLM embedding几何平滑化。基准覆盖23项任务(有机合成12、分析/过程化学3、材料催化3、分子性质5),冷启动10个低于中位数初始点,固定超参、20种子重复,对比BoChemian、LAPEFT、DRFP、DFT描述符与传统GP-BO。
研究结果各节如下。Robust and efficient optimization across scientific domains:在23项异质任务上GOLLuM(PLLM?+T5)50次实验预算下top-5%覆盖率36.3%,平均排名第一;过程化学相对传统GP提升90%(13.4%→25.4%),有机化学+28%,混合变量与纯数值任务提升44%与35%;样本效率上以中位41%更少迭代追平传统BO。Static LLM embeddings underperform as chemical descriptors:Buchwald–Hartwig诊断显示固定LLM embedding仅发现15–26%高产反应,逊于DRFP指纹38%;T5Chem转SMILES输入提44%,说明静态嵌入几何未对齐目标。Representation geometry determines optimization success:GP学习长度尺度?与平均成对距dˉ之比?/dˉ与BO性能强相关(r=0.92),高于R2相关,证明平滑表征比代理精度更决定优化成败。Uncertainty-guided LLM fine-tuning enables efficient optimization:T5经GP边际似然微调使高产条件发现率24%→43%(+79%),Qwen-7B+61%、ModernBERT+42%、OpenAI embedding+31%(仅PLLM投影);证实任务适配重于化学预训练。Emergent chemical organization supports interpretable optimization:隐式对比学习使潜在空间渐进分离碘代(高收率)与氯代(低收率)芳卤,t-SNE投射成化学可释地图,未显式教反应规律。LLMs can be unreliable as direct optimizers:直接提示SOTA LLM作优化器,10%–80%建议无效(幻觉、越界、重复、不可解析),top-5%覆盖远低于GP-BO与GOLLuM。
讨论与结论部分,研究人员指出GOLLuM化解LLM知识广度和BO校准可靠性间的权衡,把GP不确定性反作为训练信号,使通用语言模型成样本高效、域感知优化器,在23基准免任务调参泛化;几何平滑度?/dˉ与搜索效率强相关解释机制。局限包括标准GP立方缩放需变分近似、纯文本接口在蛋白构象等无语言结构域受限。结论重申:科学LLM专业化路径不在更多数据,而在更富不确定性引导信息;不确定性从待缓和的缺陷变为丰富学习信号,优化目标由最佳预测转向校准预测。
作者名保留原文(如Rankovi? B.、Schwaller P.等),专业术语首现注记如Large language models(LLMs,大语言模型)、Bayesian optimization(BO,贝叶斯优化)、Gaussian process(GP,高斯过程)、deep kernel GP(深度核高斯过程)、LoRA(低秩适应)、Matérn-5/2核、top-5%覆盖率、?/dˉ(长度尺度与平均成对距离比)。全文未引文献标、未留HTML转义、上下标用。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号