一种基于特征交互与非线性优化预测焦炭热强度的方法

《Fuel》：A method for predicting the thermal strength of coke based on feature interaction and nonlinear optimization

　　杨克蒙|王一鸣|窦艳青|李伟杰|李金|陈良宇|刘守军|白亚东|杨松中国山西省太原市太原理工大学化学与化工学院，邮编030024摘要高炉生产中焦炭的炼焦热强度主要通过反应后焦炭强度（CSR）和反应性（CRI）来评估。由于传统评估方法往往耗时较长，本研究致力于开发快速、准确的预测模型。我们旨在利用基于XGBoost的框架优化CSR和CRI预测的机器学习模型，并通过SHAP分析提高模型的可解释性。我们构建了基础版和改进版的XGBoost模型，后者采用了高级特征工程技术，包括从模型树结构中生成叶节点指数特征以及后续的特征选择。改进版模型在CSR和CRI预测方面表现出更优异的性能，其R2值显著更高（例如RCSR2=0.916，RCRI2=0.853），RMSE和MAE值则低于基础版模型。SHAP分析为特征重要性及其贡献提供了重要见解，有助于识别影响这两种性质的关键因素。尽管两种性质的预测都很准确，但CSR模型的表现通常略好，这可能反映了这两种性质内在复杂性的差异。本研究展示了优化后的XGBoost模型具备强大的预测能力，为预测重要的焦炭质量参数提供了一种可解释、以数据为驱动的方法，从而有助于提升工业炼焦过程的管控效率和运行效率。引言化学工业是全球经济的重要组成部分。在生产工艺中，材料性能、工艺参数和生产环境之间往往存在复杂的非线性关系[1]、[2]、[3]。这些特性通常是多变量、非线性的，并且会随时间变化[4]、[5]、[6]、[7]、[8]。作为钢铁工业中的关键热载体，冶金焦的炼焦热强度[9]、[10]、[11]、[12]、反应性指数（CRI）以及反应后焦炭强度（CSR）直接影响到高炉的稳定运行和冶炼效率。炼焦热强度的形成受多种因素影响，包括煤种比例、煤的物理化学性质[13]以及炼焦条件。其内在机制具有强烈的非线性特征和高阶交互效应，而且不同样本之间存在显著差异，这对传统建模方法提出了严峻挑战。近年来，为提高炼焦热强度预测的效率，已有不少研究致力于构建焦炭质量预测模型。早期的研究采用了线性回归[14]、[15]、[16]、[17]以及多元线性回归[15]、[16]、[17]、[18]模型。例如，Dash PS等人[19]利用多元线性回归和主成分回归（PCR），根据焦炭成分与炼焦热强度之间的线性关系来估算CSR。Shcherbakova VI等人[20]则采用多元回归分析，预测焦炭在批次制备过程中与二氧化碳反应后的CSR强度。Hays D等人[21]通过回归方程找出抗拉强度与结构数据之间的关系，认为其与煤的成分密切相关。由于焦炭生产的复杂性，存在多种非线性机制，线性模型无法完全捕捉变量之间的复杂关系。因此，人们开始采用包括支持向量机（SVM）[22]、[23]、[24]、随机森林（RF）以及人工神经网络（ANN）[25]、[26]、[27]在内的非线性方法来预测焦炭质量。Dash PS等人[19]试图运用ANN技术预测CSR，而ANN确实展现出出色的非线性处理能力。Matin SS等人[28]则利用多元回归和RF方法分析煤样，他们发现通过RF筛选出的参数最适合预测总发热量，在复杂的煤质预测中表现优异。Wen等人[29]在其ldcTree方法中，通过将GBDT中每棵树的叶节点路径作为输入特征传递给下一层模型，有效提升了CTR/CVR的预测性能。Chen等人[30]则基于传统的单一煤种和煤岩指标，构建了一个经过实验验证的可行且有效的SVM模型。虽然现有方法具备较高的预测精度，但它们在样本分布敏感性以及复杂且耗时的超参数调整方面存在不足。此外，决策树和SVM等单个算法无法完全捕捉复杂的特征交互和非线性关系，这限制了它们在复杂工业场景中的应用。近年来，集成学习算法（如XGBoost和LightGBM）作为一种新的方法被用于预测炼焦热强度。XGBoost通过引入正则化项和加权缺失值处理机制，在复杂的工业场景中展现了出色的泛化能力和预测精度。Rzychoń等人[31]构建了一个混合煤结焦能力（RI）预测模型，其在多种煤样上的R2值达到了0.95，优于传统的加权平均方法。Homafar等人[32]则利用SHAP-XGBoost技术预测焦煤指标，该技术在处理复杂的多变量相关性方面效果显著，预测精度也相当高。不过，尽管基于SHAP的方法在量化特征重要性方面表现优异，但它们仍受限于原始特征空间，往往无法明确重构煤质数据中固有的潜在高阶非线性交互作用。现有模型往往忽视了这些复杂关系，这限制了它们的预测上限。与依赖原始特征输入的传统集成方法相比，有效地捕捉并将高阶交互信息转化为结构化表示，对于进一步提升预测精度至关重要。针对在精确建模炼焦热强度的复杂非线性关系方面存在的挑战，本研究旨在开发一种新的增强型建模策略。与以往利用SHAP进行特征选择或简单集成投票的研究不同，本研究通过聚焦于特征空间扩展来实现突破。为此，我们提出了一种先进的特征工程框架，该框架利用从初始XGBoost模型中得到的叶节点指数作为高维分类描述符，隐式地编码物理化学变量之间的复杂非线性交互作用。通过将这些新生成的“交互特征”与原始特征集相结合，我们构建了一个信息更为丰富的矩阵。随后，这些编码后的特征被纳入一个强大的第二阶段学习模型中，进一步优化预测能力。这种集成方法突破了传统SHAP-XGBoost框架的局限性，通过深入挖掘更底层的数据结构，不仅提升了焦炭质量模型的预测精度和泛化能力，还为复杂工业系统中的特征构建提供了一种可扩展且可解释的方法。框架概述如图1所示，本研究采用了一套全面的机器学习框架，首先通过对原始数据进行预处理和特征工程，得到优化后的数据集。接着，利用这些数据训练XGBoost模型，从中提取叶节点指数特征，并对其进行独热编码，从而生成一组新的丰富特征。这些新特征再与原始特征结合，形成用于两阶段模型的综合输入空间。模型性能评估模型在预测炼焦热强度方面的性能，是通过均方根误差（RMSE）、平均绝对误差（MAE）以及决定系数（R2）来衡量的。这些指标可用于评估模型在训练集和测试集上的表现。计算这些评估指标的公式如下：RMSE=1n∑i=1n(yi-y?i)2MAE=1n∑i=1n|yi-y?i|R2=1-∑i=1n(yi-y?i)2∑i=1n(yi-yˉ)2在此语境中，n表示数据样本的总数，yi为实际值，y?i为预测值，yˉ为平均值。结论本研究成功构建了一个集成机器学习框架，通过引入GBDT衍生的结构特征，实现了对CSR和CRI的准确且可解释的预测。本研究的主要结论如下：1. 更高的预测可靠性：通过引入GBDT衍生的结构特征，所提出的框架在预测性能上优于标准的XGBoost模型，其在CSR预测中的R2值可达0.916，RMSE值为0.0687。CRediT作者贡献说明杨克蒙：撰写——初稿，概念构思。王一鸣：方法论。窦艳青：数据整理。李伟杰：方法论。李金：软件应用。陈良宇：研究工作。刘守军：监督指导。白亚东：撰写——审稿与编辑，监督指导。杨松：监督指导，概念构思。利益冲突声明作者声明没有已知的财务利益或个人关系可能影响本文所述的工作。致谢本综述得到了中国山西省基础研究计划（202203021212245）、山西省专利推广资助计划（202306013）、2024年山西省大学生创新创业培养与孵化计划、山西省地质勘查局省级地质勘查建设与发展专项资金项目（2024 - 018）以及山西省教学改革与创新项目的支持。