《Journal of Environmental Chemical Engineering》:Predictive and interpretable modeling of naphthenic acid removal by cellulosic adsorbents: random seed effect, normalization, and SHAP analysis
编辑推荐:
研究人员开发了机器学习(ML)模型,用于研究由漂白桉木纤维纤维素生物质制备的吸附剂对环烷酸(NA)模型分子的去除效果。除了预测吸附容量外,该工作还旨在严格评估在有限实验集中模型选择的可靠性,并确定最佳实验条件。研究人员系统分析了多个随机种子对数据划分为训练集和
研究人员开发了机器学习(ML)模型,用于研究由漂白桉木纤维纤维素生物质制备的吸附剂对环烷酸(NA)模型分子的去除效果。除了预测吸附容量外,该工作还旨在严格评估在有限实验集中模型选择的可靠性,并确定最佳实验条件。研究人员系统分析了多个随机种子对数据划分为训练集和测试集的影响,以及不同的归一化策略,这些方面在ML吸附研究中仍未得到充分探索。初始阶段,研究人员剔除相关变量以最小化多重共线性,然后在不同的预处理组合和多次随机划分下评估了多种算法。最具鲁棒性的模型基于综合标准选定,包括平均性能、种子间稳定性、泛化能力以及对数据归一化的敏感性。极端梯度提升(Extreme Gradient Boosting,XGB)模型表现最佳。使用SHAP(SHapley Additive exPlanations)方法进行的特征分析表明,溶液pH值和NA初始浓度是影响最大的变量,表明去除过程主要受溶液化学性质和吸附质形态控制。特征交互作用揭示了更有利于工艺性能的操作条件:pH 4、初始浓度50 mg L-1、接触时间240 min、热解温度900oC和实验温度25oC。因此,本研究既有助于理解NA去除过程,也有助于改进在有限实验基础上应用ML的方法论。
论文解读
**研究背景**
石油工业在其运营过程中产生大量油田采出水(Oilfield Produced Water, OPW),其中含有复杂的有机和无机化合物混合物,具有高环境污染风险。环烷酸(Naphthenic Acids, NA)是OPW中一类难降解的有机化合物,由于其溶解性和持久性,传统处理方法难以有效去除。吸附法因其操作简单、成本低、能处理大量废水以及吸附剂可重复使用等优点,成为处理OPW废水的有前景的替代技术。然而,传统的吸附过程优化依赖于批量实验,耗时且资源密集,且常通过经验和现象学模型分析数据,难以充分表征所有变量,特别是在复杂系统中。基于人工智能(Artificial Intelligence, AI)的模型,尤其是机器学习(Machine Learning, ML),能够直接从实验数据中学习,减少所需试验次数,并整合更多过程变量。然而,当前研究对数据归一化对模型的影响、以及数据划分中随机种子效应在小型实验数据集中的影响探索不足。此外,利用可解释性方法(如SHAP)分析模型特征也是提高模型可靠性的关键。因此,本研究旨在系统评估不同随机种子和归一化策略对ML模型在预测NA去除性能、稳定性和泛化能力方面的影响,并利用SHAP分析识别关键变量和最优操作条件。
**研究内容与结论**
研究人员利用漂白桉木纤维纤维素生物质在不同热解温度(700、800、900 °C)下制备了三种吸附剂(A1、A2、A3),以环己烷羧酸(Cyclohexane carboxylic acid)作为NA模型分子,通过批量吸附实验获取了包含228个实验点的数据集(包括动力学和等温线实验)。研究人员开发了六种ML算法(AdaBoost、Decision Tree、Random Forest、eXtreme Gradient Boosting、K-Nearest Neighbors),并系统评估了不同归一化策略(MinMax、Standard、Robust以及原始数据)和25个随机种子对模型性能的影响。通过综合比较平均性能、稳定性、泛化能力和对归一化的敏感性,研究人员发现XGB(eXtreme Gradient Boosting)模型表现最佳,并基于此模型进行SHAP分析。研究发现,溶液pH值和NA初始浓度是影响NA吸附容量的最关键变量,表明去除过程主要受溶液化学和吸附质形态控制。特征交互分析确定了最有利于吸附性能的操作条件:pH 4、初始浓度50 mg L
-1、接触时间240 min、热解温度900 °C、实验温度25 °C。该研究揭示了在有限实验数据集下模型选择的可靠性问题,并展示了ML结合SHAP分析在理解和优化吸附过程中的潜力。论文发表在《Journal of Environmental Chemical Engineering》。
**主要关键技术与方法**
1. **数据预处理**:通过皮尔逊相关系数分析,识别并剔除高度相关的变量(如吸附剂的物理化学特性参数),仅保留热解温度(TP)、接触时间(t)、初始pH(pH)、初始浓度(C
0)和实验温度(T
E)作为输入变量,以最小化多重共线性。
2. **机器学习模型开发与评估**:采用多种算法(AdaBoost、Decision Tree、Random Forest、XGBoost、KNN)进行建模。使用分层k折交叉验证(5折)防止过拟合,并通过贝叶斯优化器(Tree-structured Parzen Estimator)进行超参数调优。为评估模型稳定性,将数据按70%:30%比例随机划分为训练集和测试集,并重复25次(使用25个不同随机种子)。通过比较R、R
2、MSE、MAE、RMSE等指标,综合评估模型在平均性能、种子间稳定性、泛化能力和对归一化敏感性方面的表现。
3. **SHAP分析**:采用SHAP(Shapley Additive Explanations)方法对最优模型(XGB)进行特征重要性分析,包括全局重要性(Global importance)和局部重要性(Local importance),并利用交互解释仪表盘(Interactive explanatory dashboard)分析特征间的交互作用。
**研究结果**
**3.1 探索性分析(Exploratory analysis)**
通过相关性分析发现,初始变量中的热解温度(TP)、颗粒半径(PR)、表观密度(AP)、孔隙率(P)、比外表面积(SESA)、曲折度(TO)、比表面积(SSA)、总孔体积(TPV)之间存在高度共线性(相关系数接近±1)。研究人员决定仅保留TP作为代表变量,因为它能全面反映吸附剂的主要特性,并直接影响其物理性质。最终,用于预测模型的输入变量确定为:TP、t、pH、C
0和T
E,这些变量之间显示出低相关性,具备良好的统计独立性。
**3.2 模型性能与算法选择(Model performance and algorithm selection)**
所有模型均表现出较好的预测能力,但KNN模型性能较差,且对数据归一化高度敏感。基于树的模型(AdaBoost、DT、RF、XGB)对归一化策略的敏感性较低,在不同归一化条件下性能稳定。通过比较25个随机种子下的平均性能指标(R、R
2、MSE、MAE、RMSE),XGB和RF模型在测试集上表现最佳,且具有最高的稳定性和泛化能力。XGB模型在测试集上的平均R
2值在0.9637到0.9679之间,标准差在0.0190到0.0236之间,显示出高预测能力和低变异性。综合考虑平均性能、稳定性、泛化能力和对预处理策略的敏感性,研究人员最终选择XGB模型作为最优模型,并基于原始数据(Raw Data)以减少处理步骤。
**3.3 最佳模型评估(Best model evaluation)**
选定的XGB模型配置为77个估计器(n_estimators = 77),最大树深度为4(max_depth = 4)。残差图和实验值与预测值对比图显示,该模型在预测NA吸附动力学和等温线方面表现出强大的预测能力,能很好地代表研究系统的行为。
**3.4 最佳模型特征分析(Best model feature analysis)**
SHAP分析结果表明,变量对预测影响的重要性排序为:pH > 初始浓度(C
0)> 接触时间(t)> 热解温度(TP)> 实验温度(T
E)。局部SHAP分析显示:酸性pH条件(低于NA的pKa约4.9)有利于吸附,因为此时NA呈电中性,疏水性强;高初始浓度、长接触时间、高热解温度(如900 °C)和低实验温度(如25 °C)对吸附容量有正向贡献。这表明吸附过程主要受溶液化学和吸附质形态控制,而非吸附剂的物理结构特性。
**3.5 最佳模型特征交互(Best model feature interaction)**
特征交互分析揭示了更有利于吸附性能的联合操作条件。结果显示,在所有交互组合中,pH 4与高初始浓度(50 mg L
-1)、长接触时间(240 min)、高热解温度(900 °C)和低实验温度(25 °C)的组合最有利于提高NA吸附容量。例如,pH 4与初始浓度50 mg L
-1、pH 4与接触时间240 min、以及初始浓度50 mg L
-1与接触时间240 min等组合均表现出正向贡献。
**总结与讨论**
本研究证明,机器学习模型是预测和解释由漂白桉木纤维纤维素生物质制备的吸附剂去除NA过程的有力工具。研究强调,在有限实验数据集下,模型选择不能仅依赖单一数据划分,而需综合考虑平均性能、稳定性、泛化能力和对预处理的敏感性。XGB模型结合SHAP分析方法,成功识别出pH和初始NA浓度为控制过程的关键变量,并揭示了特征交互作用,指明了更有利于吸附的操作条件(pH 4、C
0 = 50 mg L
-1、t = 240 min、TP = 900 °C、T
E = 25 °C)。研究人员指出,本研究中确定的最优条件是基于模型预测的,尚未经过实验验证,因此建议进行实验验证以确认模型的应用性和可靠性。此外,该研究使用环己烷羧酸作为NA模型分子,在合成溶液中获得数据,因此模型结论适用于该模型系统,不能直接推广至含有复杂混合物的真实OPW。未来工作应通过实验验证模型预测的操作区间,并比较实验值与模型预测值。