计算高效的LSTM-Euler混合模型框架：在工业规模发酵中的应用及实验验证

《ACS Engineering Au》：Computationally Efficient LSTM–Euler Hybrid Model Framework: Application to Industrial-Scale Fermentation with Experimental Validation

　　

工业规模发酵过程因原料质量波动、种子培养性能变化和环境干扰而面临显著变异性，这对静态参数第一性原理模型的假设提出了挑战。本研究引入了一种混合建模框架，该框架将第一性原理发酵模型与长短期记忆（LSTM）神经网络相结合，以实时动态估计动力学参数。LSTM接收一个包含生物量、底物、产物、溶解氧和进料流量的五时间步滚动窗口（虚拟或实验测量值），并输出随时间变化的动力学参数估计值，如生长速率、产率系数和抑制常数。这些参数随后被输入到第一性原理模型中，该模型使用Euler方法推进系统状态。与两个基线模型（即物理集成的前馈神经网络和LSTM–ODEint模型）的对比分析表明，所开发的模型具有更优的预测准确性和计算可行性。时间误差和运行时间分析证实，与传统的基于神经网络（NN）的混合模型相比，所提出的LSTM–Euler架构实现了更快的收敛、更平滑的训练和更低的损失。LSTM组件捕捉到了传统混合模型遗漏的批次间变异，而固定步长Euler求解器避免了自适应求解器引入的不稳定性，从而实现了稳定的梯度流和一致的参数更新。这种组合使得在降低计算开销的同时提高了预测准确性，带来了优于现有混合建模实现的性能提升。

**论文解读：基于LSTM–Euler混合模型的工业发酵过程动力学参数动态估计与实验验证**

**研究背景与问题**
工业发酵过程广泛应用于制药、酶、化学品和食品成分生产，其可持续性和温和操作条件使其优于传统化学合成。然而，实际生产中，原料质量波动、种子培养性能变化、环境干扰（如氧气水平、进料速率、pH控制波动）导致过程变量显著变异。传统第一性原理模型（First-Principles Model, FPM）基于静态参数假设，仅能捕捉特定校准条件下的核心动态，难以推广到不同操作场景。模型参数在批次间和批次内常表现出数量级差异，这凸显了开发自适应建模框架的必要性。混合建模通过将机理知识与数据驱动灵活性结合，可提升精度和适应性，但仍存在两个关键局限：一是模型复杂度高，训练需反复数值积分常微分方程组（Ordinary Differential Equations, ODEs），计算负担重；二是泛化能力不足，传统混合模型难以可靠地外推至不同批次或生产周期。为此，研究人员提出了基于长短期记忆（Long Short-Term Memory, LSTM）网络与Euler数值积分法的混合框架，旨在解决动力学不确定性、批次间变异性和高计算成本问题。该研究发表在《ACS Engineering Au》。

**研究内容与结论**
研究人员开发了LSTM–Euler混合模型框架，用于工业规模氨基酸发酵过程。该框架利用LSTM网络从过去五步时间窗口的传感器数据（包括生物量、底物、产物、溶解氧和进料流量）中实时估计时变动力学参数（如最大比生长速率、底物亲和常数、抑制系数），然后将这些参数输入第一性原理模型，采用显式Euler法推进系统状态。通过预训练和微调两阶段训练，模型在230个工业发酵批次（涵盖约两年连续生产，排除设备故障批次）上进行训练和验证，并与两个基线模型（前馈神经网络–ODEint模型和LSTM–ODEint模型）对比。结果表明，LSTM–Euler模型在预测精度（均方根误差RMSE降至0.001）、收敛速度（46.8秒内收敛至损失4.23×10^?5）和计算效率（物理前向和反向计算时间分别仅为21.5秒和22.8秒，比LSTM–ODEint模型快约40–60倍）上均显著优于基线。该框架成功捕捉了批次间变异和时变动力学行为，而无需重新校准。

**主要关键技术方法**
研究采用的关键技术方法包括：（1）第一性原理模型（FPM）构建，基于工业赞助商提供的230个批次数据，采用改进的Monod型生长动力学方程，引入氧气限制和产物抑制项，并包含物料平衡描述的常微分方程（ODEs）系统；（2）LSTM网络设计，包含两个隐藏层（每层64个单元），输入为五步滚动窗口的状态向量（生物量、底物、产物、体积、进料流量），输出为时变动力学参数；（3）Euler显式积分法，用于推进FPM状态更新，避免自适应求解器引起的梯度不稳定；（4）全局参数估计预训练，使用MATLAB的fmincon求解器基于加权最小二乘损失函数获得FPM的静态参数初始值，作为LSTM预训练目标；（5）微调阶段，将预训练LSTM与FPM耦合，通过PyTorch实现端到端优化，采用Adam优化器、梯度裁剪和L2正则化。

**研究结果**
**Comparison with Baseline Hybrid Models（与基线混合模型对比）**
通过与两个基线模型（前馈神经网络–ODEint和LSTM–ODEint）对比，LSTM–Euler模型在测试集上对生物量、底物S1、底物S2和产物浓度的预测均方根误差（RMSE）均降至0.001，显著低于基线模型（如LSTM–ODEint的RMSE分别为0.015、0.021、0.061、0.007）。训练与验证损失曲线显示，LSTM–Euler模型损失单调下降至10^?5量级，而基线模型因自适应求解器导致损失波动。训练时间上，LSTM–Euler仅需46.8秒，而NN–ODEint和LSTM–ODEint分别需1130.6秒和2324.9秒，体现了显著的计算优势。该模型还成功捕捉了实验曲线中的延迟期、饱和点和转折点，而基线模型常遗漏这些模式。

**Parameter Variation from the Hybrid Model（混合模型参数变化分析）**
通过分析LSTM–Euler模型估计的动力学参数在批次内和批次间的变化，发现关键参数（如μ_max,S2和K_S2）表现出显著时变特征。例如，在一个训练批次中，K_S2的变异幅度达16.18%，μ_max,S2达8.12%，而β、α₁和k_d等参数几乎无变化，表明模型识别出这些参数在结构上的稳定性。跨批次分析显示，μ_max,S2和K_S2随初始条件、操作条件和状态演化而变化，反映了底物限制、代谢抑制或运输效率改变等潜在生物学机制。该结果表明，模型并非黑箱学习，而是能够捕捉过程动态中的因果关系。

**讨论与结论**
讨论部分指出，该框架的局限在于：（1）固定步长显式Euler求解器在处理刚性动力学或快速瞬态时可能需极小步长，降低效率；（2）LSTM估计的时变参数若未约束在生物合理范围内，可能丧失物理可解释性。未来工作将包括系统外推测试、鲁棒性评估、不确定性量化，以及将模型集成到模型预测控制（Model Predictive Control, MPC）和数字孪生架构中。研究结论部分翻译如下：

本研究提出了一种基于LSTM–Euler的工业发酵混合建模框架，能够实时动态估计动力学参数。该框架通过结合LSTM网络的学习能力与机理模型的可解释性，解决了未建模干扰、批次间变异性和时变动力学等挑战。利用短滚动窗口的传感器数据生成随过程演化的有效动力学参数，这些参数随后被输入到采用显式Euler积分求解的第一性原理模型中。模型在230个工业批次上训练和验证，并与两个基线模型（前馈神经网络–物理耦合和LSTM–ODEint配置）对比。结果表明，所提出的模型实现了更高的预测精度、更强的稳定性和显著更低的计算成本。特别是，训练过程中避免使用自适应求解器使运行时间降低了一个数量级以上。对学习参数的分析进一步揭示，该框架捕捉了固定参数模型中未直接表征的潜在动力学特征，包括底物摄取和抑制在时间和批次上的有意义变化。这种适应性使模型能够反映过程波动（如接种质量变化、进料变异和氧气转移），而无需手动重新校准。总之，LSTM–Euler框架证明了以可扩展且计算高效的方式将机理一致性与数据驱动灵活性相结合的可能性。其跨批次适应能力以及提供可解释参数估计的特点，凸显了其作为工业发酵系统实时监测、优化和先进控制实用工具的潜力。