机器学习方法用于估计多种量子化学计算的墙钟时间与资源分配

《ACS Omega》：Machine Learning Approach to Estimating Wall-Clock Times and Assigning Resources for a Wide Variety of Quantum Chemical Calculations

　　

本研究提出了一种人工神经网络（ANN）模型，即Jaguar Timer，用于估计量子化学计算（特别是密度泛函理论（DFT）和时间依赖密度泛函理论（TDDFT）计算）的墙钟时间（wall-clock time）。该ANN模型基于量子化学软件包Jaguar生成的数据进行训练和测试，但同一概念应适用于任何量子化学引擎产生的数据。研究人员证明，该模型能够准确预测DFT和TDDFT的墙钟时间，超过97%的测试案例误差在观测运行时间的4倍以内，77%的测试案例误差在2倍以内。Jaguar Timer设计用于支持多种Jaguar作业类型，并适用于从秒到天的广泛墙钟时间范围。该模型支持所有原子类型、基组以及Jaguar中可用的绝大多数交换相关泛函（exchange-correlation functional）。此外，还支持其他多种输入设置，包括伪谱法（pseudospectral，即半数值积分）和解析积分（analytic integrals）、自旋限制（spin-restricted）和自旋非限制（spin-unrestricted）行列式、真空和隐式溶剂模拟、单点能（single-point energy）和几何优化（geometry optimization）、振动频率计算（vibrational frequency calculation），以及TDDFT单点能和几何优化。Jaguar Timer还能够估计以批处理模式执行或使用多个CPU核心的作业的墙钟时间。该模型的广泛范围是其核心优势，显著拓宽了类似研究中支持的作业和输入类型。模型的通用性使Jaguar用户能够预测在大量常见和高级应用领域中给定作业集的时长。此类预测使用户能够精心优化其Jaguar作业和工作流程，以缩短总体运行时间。特别是，研究人员证明Jaguar Timer的估计结果可以整合到一种贪心计算资源分配算法（greedy computational resource assignment algorithm）中，从而在工作流程或作业批处理中自动减少运行时间。

**研究背景与问题**

密度泛函理论（DFT）是中小型分子体系中最流行的量子化学方法，其计算成本因分子体系大小和计算设置差异巨大，典型计算耗时从数秒到数周不等。计算化学家在设置计算时需要在模拟精度、墙钟时间和金钱成本之间权衡，但缺乏数据或工具指导决策。现有文献中的基准测试多关注精度指导，而非运行时预测。用户以往依赖经验或试算来估计成本，但前者即使对专家也易出错，后者则耗费额外时间和资源。此外，预测错误可能导致计算资源浪费或精度牺牲。因此，亟需一种在计算启动前就能准确估计各类DFT计算墙钟时间的方法，且不牺牲时间和精力。

**研究内容与意义**

研究人员开发了Jaguar Timer工具，基于人工神经网络（ANN）模型，用于估计Jaguar量子化学软件包中DFT和时间依赖DFT（TDDFT）计算的墙钟时间。研究在盲测试集上验证了模型的高准确性，并展示了其在优化CPU核心分配、减少批处理作业运行时间方面的实际应用。该论文发表在《ACS Omega》。Jaguar Timer的广泛适用性显著优于先前工作，支持多种泛函、基组、计算类型和设置，并能整合到贪心资源分配算法中自动降低运行时间，有助于提升计算效率、减少资源浪费。

**关键技术与方法**

研究人员主要采用以下关键技术：1）构建了前馈全连接多层感知机回归器（ANN），使用tanh激活函数和L2正则化，并通过网格搜索优化隐藏层结构（最终选择2层各100个神经元）。2）设计特征集：包括基于电拓扑状态（E-state）指数的分子指纹（经主成分分析降维至3个主成分），以及原子数、基函数数、CPU核心数、泛函编码（通过位串和苯环基准测试运行时间特征）、作业类型、溶剂模型等28个特征。3）训练数据集：包含12500个Jaguar计算，均匀采样66种化学结构（1-100个原子，涵盖有机、无机、药物分子和孤立原子）及随机计算设置。4）使用贪心算法基于Jaguar Timer估计优化批处理作业的CPU核心分配。

**研究结果**

**5. 结果（Results）**
研究人员在盲测试集（126个分子，786个Jaguar作业）上验证了模型准确性。结果显示，77%的预测误差在观测运行时间的2倍以内，97%的误差在4倍以内，均方根误差（RMSE）为0.87（log₂尺度，对应平均乘法误差约1.83）。模型在从秒到数天的宽动态范围内保持一致性。测试集包含训练中未见的泛函和基组，验证了迁移性。此外，模型准确再现了Amdahl定律预期的CPU核心数亚线性加速以及基组大小增长导致的耗时多项式增长趋势。

**6. 讨论（Discussion）**

**6.1 明智选择设置与调度（Informed Choice of Settings and Scheduling）**
Jaguar Timer的估计使用户能快速平衡精度与运行时间，避免浪费资源。用户可基于估计设定更准确的队列时间限制，有利于调度器进行最优回填（backfilling），减少等待时间。

**6.2 优化CPU核心分配（Optimized CPU Core Assignments）**
研究人员设计了贪心算法，基于Jaguar Timer估计为批处理作业动态分配CPU核心（最多8核/作业）。在50个批处理（4-36个作业）的测试中，优化分配相比均匀分配（每作业2核）实现了3-5倍加速（节省66-80%时间），且CPU小时成本仅小幅增加（与批处理异质性相关）。仅一个同质批处理未获得加速，表明均匀分配已接近最优。

**6.3 案例研究：天然产物大优化批处理（Case Study: Large Optimization Batch of Naturally Occurring Products）**
对119个结构多样的天然产物分子（含训练中未见的特殊元素）进行B3LYP-D3/6-31G**几何优化批处理。使用238个核心，优化分配将总墙钟时间从57.2小时降至19.2小时（加速3.0倍），CPU小时成本仅从744.0增至891.7（增加20%）。这展示了模型对非训练分布分子的迁移性。

**讨论总结与结论翻译**

**讨论总结**：研究讨论了Jaguar Timer估计的实际应用，包括帮助用户平衡精度与时间、设置更准确的队列时间限制，以及通过贪心算法优化CPU核心分配以减少批处理总运行时间。优化分配在异质性批处理中效果显著，且仅适度增加计算成本。案例研究进一步验证了模型对复杂分子的迁移性。

**结论翻译**：本研究表明，利用简单ANN模型的Jaguar Timer工具能够高精度预测Jaguar量子化学软件包中DFT计算的墙钟时间。在盲测试集上，模型在log₂尺度上达到0.87的RMSE，能够准确估计从秒到数天的宽动态范围，且97%的测试案例误差在4倍以内，77%在2倍以内。Jaguar Timer的关键优势在于其对Jaguar计算类型的广泛覆盖，支持所有DFT泛函和基组组合，以及单点能、几何优化、TDDFT、振动频率等常用作业类型。此框架也可迁移至其他量子化学软件包。研究展示了如何利用估计值显著减少计算工作流程的时间与金钱成本，通过优化CPU核心分配在异质性批处理中实现3-5倍加速（节省66-80%时间），且仅适度增加成本。未来计划扩展模型以支持更多Jaguar设置和作业类型。