综述：大语言模型在非均相催化中的应用

《WIREs Computational Molecular Science》：Large Language Models for Heterogeneous Catalysis

本综述系统阐述了大语言模型（LLMs）在非均相催化领域的创新应用，涵盖文献挖掘（NLP）、催化剂设计（如DFT与GNN结合）、实验自动化（如自主实验平台）及描述符解析（如吸附能预测）四大方向，并指出当前挑战（如领域适应性微调）与未来多模态融合的发展前景。

　　

大语言模型在非均相催化中的革命性应用

引言

非均相催化是气态或液态反应物在固态催化剂作用下发生化学转化的过程，广泛应用于哈伯-博世法合成氨、石油炼化催化裂化、接触法制硫酸等工业关键反应，亦是肥料、燃料和化学品制造的核心技术。传统研究依赖实验与计算方法（如密度泛函理论计算），但科学文献和数据量激增，使得系统捕获和处理新洞察变得日益困难。近年来，大语言模型（LLMs）凭借其自然语言处理与生成能力，成为催化研究各阶段的重要工具，能够从海量文本中提取信息、辅助催化剂设计、优化实验流程并解析复杂描述符。

LLMs：基础、工作流程与能力

2.1 大语言模型基础

LLMs最初为自然语言处理（NLP）设计，现已扩展至科学领域（如催化与材料科学），通过从化学文献和反应数据库中学习复杂模式，预测催化行为、识别反应趋势并优化合成流程。其核心能力在于将文本化学描述转化为离散标记，利用深度神经网络生成上下文感知的预测。

2.2 核心组件

分词（Tokenization） 是将原始化学文本转化为机器可处理标记的关键步骤，分为词级、子词级（如字节对编码）和字符级分词。子词分词在催化应用中占主导，因其平衡计算效率与化学表征能力。

Transformer架构 通过自注意力机制和前馈神经网络（FFNNs）捕捉化学信息的上下文嵌入，动态加权描述符重要性，并建模原子间长程依赖关系。相较于卷积神经网络（CNN）或循环神经网络（RNN），Transformer具备卓越的并行计算能力。

训练范式 包括预训练（无监督学习大规模化学文献）和微调（使用领域特定数据集，如强化学习人类反馈RLHF），以提升模型在特定任务（如催化性能预测）中的准确性。

2.3 详细工作流程

LLMs工作流程包含四个阶段：

1. 1.

   分词化：将化学结构与性质转化为标记；

2. 2.

   嵌入：将标记映射为连续向量空间，保留化学语义；

3. 3.

   注意力机制：通过查询-键-值向量计算权重，捕获化学依赖关系；

4. 4.

   预测输出：通过前馈网络非线性变换生成催化性质预测（如活性、选择性）或新结构设计。

2.4 与传统机器学习融合

结合传统机器学习（如回归算法、支持向量机）与LLMs，可整合显式化学描述符与文本语义信息，形成更精准的预测模型。例如，ML-LLM pipeline能自动探索催化机制与优化实验条件，显著提升研究效率。

非均相催化中的应用

3.1 文献挖掘与知识提取

非均相催化文献庞大且碎片化，LLMs能将非结构化科学文本转化为机器可读知识。例如：

• •

  Sheshera语料库 标注2000余条合成程序片段，训练实体识别模型；

• •

  CataLM模型（基于SciBERT）从电催化文献中提取催化剂组分、载体与性能指标，构建可定制筛选界面；

• •

  CO₂还原电催化剂挖掘流程 识别合成目标、前体及物理化学属性（如法拉第效率FE），支持人工与自动数据整理；

• •

  ChatGPT 虽未经专门训练，仍能提取金属-有机框架（MOFs）合成参数（如溶剂、添加剂），凸显其灵活性。

3.2 催化剂设计与发现

LLMs通过生成候选结构、解释合成指令及驱动数据高效优化，补充深度学习（DL）与贝叶斯优化（BO）：

• •

  CatGPT 将SMILES字符串或元素集直接转化为三维结构文件（如POSCAR/CIF），生成化学合理的沸石和钙钛矿拓扑；

• •

  MOFsyn系统（基于GPT-4）整合文本挖掘、代理模型与实验规划，从合成报告中提取金属负载量、还原态等描述符，通过XGBoost模型排名候选材料，并自动生成合成方案；

• •

  多模态学习 结合文本与图嵌入，提升吸附能预测精度（MAE降低7%~10%）。

3.3 实验自动化与工作流优化

LLMs嵌入实验工作流，实现自主操作与人类决策支持：

• •

  ChemCrow 采用“思考-行动-观察”闭环，结合18种化学工具（如逆合成引擎、分子编辑器）自主执行多步合成（如DEET合成）；

• •

  LLM-RDF 将研究分解为模块化子任务（文献综述、假设生成、合成规划），通过提示驱动代理部分自动化研究流程；

• •

  CoScientist 通过检索增强生成（RAG）整合文献库与实时交互，提出假设、提取文献并迭代优化方法。

3.4 高维描述符解析

LLMs增强催化模型可解释性，链接结构-反应性关系：

• •

  XbertAI 通过注意力权重对齐催化描述符，将非结构化文本映射为结构化的反应-性质对；

• •

  CatBERTa 分词化金属身份与配位几何等特征，预测吸附能（精度媲美图神经网络GNNs），并通过注意力得分揭示可解释模式；

• •

  LLM-GCE 结合LLM衍生化学语境（如氧化态）与DFT描述符，改进预测与机制对齐；

• •

  混合LLM-GNN模型 整合语言与结构输入，通过结构细节（如键长）与化学语言追踪预测依据。

局限与挑战

LLMs在非均相催化中面临多重挑战：

• •

  通用性局限：预训练模型缺乏物理化学约束（如电荷平衡、吸附覆盖度），易产生幻觉（hallucination），需人工验证输出有效性；

• •

  文本数据依赖：难以解析图谱、动力学曲线等非文本数据，限制其在结构生成与机制理解中的应用；

• •

  基础设施要求：需标准化数据库、专业仪器与机器人平台，成本高昂且反馈机制不完善。

  未来需聚焦领域自适应训练、多模态推理能力开发与标准化基础设施构建。

结论

LLMs通过融合文本知识、分子理解与实验执行，正推动非均相催化从经验探索向数据驱动创新转变。结合图神经网络（GNNs）、量子化学模拟与逆合成工具，可提升反应中间体描述、路径设计与自动化水平。领域专用模型（如CataLM、CatBERTa）和实验室集成平台将进一步增强术语理解、预测准确性及研究可重复性。跨学科合作与伦理规范将确保LLMs在催化研究中的科学完整性，加速下一代催化剂的理性发现。