可解释的机器学习在信用风险(CBR)预测中的应用:结合SHAP分析的集成方法
Rabia Korkmaz Tan 和 Ertu?rul Ordu
《Buildings》:Interpretable Machine Learning for CBR Prediction: Ensemble Methods with SHAP Analysis
Rabia Korkmaz Tan and
Ertu?rul Ordu
【字体:
大
中
小
】
时间:2026年05月04日
来源:Buildings 3.1
编辑推荐:
摘要 加州承载比(CBR)是路面设计和建筑基础评估中的一个关键参数;然而,它需要劳动密集型的实验室测试,包括96小时的浸泡期。本研究评估了九种机器学习算法,用于根据土壤指数属性预测CBR:Extra Trees、支持向量回归(SVR)、随机森林(Rando
摘要 加州承载比(CBR)是路面设计和建筑基础评估中的一个关键参数;然而,它需要劳动密集型的实验室测试,包括96小时的浸泡期。本研究评估了九种机器学习算法,用于根据土壤指数属性预测CBR:Extra Trees、支持向量回归(SVR)、随机森林(Random Forest)、高斯过程回归(GPR)、CatBoost、LightGBM、XGBoost、人工神经网络(ANN)和ElasticNet。使用236个具有八个特征的土壤样本,我们进行了重复的分层10折交叉验证(100次迭代)。Extra Trees获得了最高的交叉验证R2值,为0.789 ± 0.095(RMSE = 2.064 ± 0.481,MAE = 1.482 ± 0.294),其次是SVR(R2 = 0.783 ± 0.102,RMSE = 2.090 ± 0.511,MAE = 1.446 ± 0.300)和随机森林(R2 = 0.777 ± 0.104,RMSE = 2.117 ± 0.460,MAE = 1.518 ± 0.299)。Friedman统计测试确认了显著的性能差异(χ2 = 191.97,p < 10^-37),Nemenyi事后分析确定Extra Trees、SVR、随机森林和GPR在统计上属于优越的组别。SHAP分析突出了砾石含量(29.0%)、最大干密度(23.8%)和细粒含量(14.8%),这与岩土工程原理一致。系统性的噪声注入(20%的扰动)显示了模型的稳定性,在15%的噪声下性能下降不到7%。在这个异构的数据集上,超出了经验方程的校准范围,所有六种经验方法的R2值均为负值(范围:-0.803至-22.639),而所有ML模型的R2值均为正值(≥0.655至0.789)。Extra Trees的RMSE比最佳经验方程低3.1倍,证实了在这种超出校准范围的情况下具有显著更好的预测性能。该框架提供了一个实用的五步实施工作流程,可能在项目特定的准确度阈值下减少对初步CBR测试的需求。
1. 引言
加州承载比(CBR)由加州公路部门于1929年开发,至今仍是全球范围内评估柔性路面土壤承载能力最广泛使用的经验方法[1,2]。CBR通过比较穿透土壤所需的力量与穿透碎石所需的力量来量化土壤强度,并以百分比表示[3]。这一参数对于根据美国州公路和运输官员协会(AASHTO)[4]、英国标准[5]以及各种国际规范[6]的指南确定路面厚度至关重要。除了路面工程外,CBR还广泛应用于建筑基础设计的岩土评估中,其中路基承载能力直接决定了结构安全性和沉降行为[7,8]。尽管已经使用了近一个世纪,CBR测试仍然存在重大挑战。标准程序要求将饱和试样浸泡96小时,需要专门的实验室设备(包括加载框架、穿透活塞、证明环或负载传感器),以及熟练的技术人员,并且样本准备时间较长。这些要求导致了较高的成本和项目延误,特别是对于需要大量测试地点的大规模基础设施项目而言更为严重。
鉴于这些限制,研究人员广泛探索了使用易于获得的岩土工程属性(如粒径分布、Atterberg界限和压实特性)来估算加州承载比(CBR)的替代方法[9,10,11,12,13]。初步的研究采用了相关性分析和多元线性回归,取得了中等程度的成功;然而,这些方法受到固有线性假设的限制,无法充分捕捉土壤的复杂行为[14]。例如,Black[14]开发了将CBR与粘性土壤的塑性指数联系起来的回归方程,而AASHTO提出了与土壤分类参数的相关性[4]。然而,这些经验方程通常在其校准数据集和地理区域之外普遍适用性较差,报告的误差经常超过30%[15,16]。
计算智能和机器学习(ML)技术的出现显著影响了岩土工程中的预测建模,提供了识别土壤属性之间非线性关系和复杂相互作用的能力[17,18]。人工神经网络(ANNs)是用于预测加州承载比(CBR)的开创性ML应用之一。Taskiran[19]使用前馈神经网络处理了细粒度的多种土壤类型,获得了0.77的R2值。Yildirim和Gunaydin[20]对ANN和模糊逻辑系统进行了比较分析,报告神经网络的性能更优(R2 = 0.84 vs. 0.76)。支持向量机(SVMs)由于其理论基础而显示出潜力[21,22],而集成方法已成为强大的替代方案[23,24]。最近的研究取得了有希望的结果:Bardhan等人[25]使用混合SVM群体智能优化在印度土壤上获得了0.89的R2值,而Vu等人[26]展示了随机森林在越南道路路基土壤CBR预测中的有效性,获得了0.92的测试R2值。然而,大多数研究受到小数据集(n < 150)、缺乏稳健的验证策略、统计测试不足以及可解释性差的限制,这阻碍了其在工程中的实际应用。
与之前使用单一算法在地理上同质数据集上进行的研究不同,本研究独特地整合了(i)迄今为止报道的最具地理多样性的CBR数据集(n = 236,涵盖公路路基、建筑基础、机场和铁路应用);(ii)九种结构上不同的算法,代表所有主要的机器学习范式,在相同的实验条件下进行评估;以及(iii)重复的分层交叉验证,并结合了Friedman和Nemenyi统计测试,这在类似研究中基本上是缺失的(表1)。更广泛地说,将机器学习与数值模拟相结合的混合数据驱动框架最近在相关岩土应用中展示了稳健的性能。这些包括用于矩形隧道地震加固的混合模型自由优化极端梯度提升(XGBoost)模型[27]、基于地理编码模式(GEP)的土壤钉粘结强度估计[28],以及用于部分岩石嵌套单桩横向能力的有限元方法机器学习(ML)方法[29],进一步证明了本研究中采用的严格ML基准方法的有效性。表1总结了代表性的CBR预测研究,指出了研究中的空白。R2值对应于最佳报告的测试集性能。本研究通过全面的研究解决了这些空白,推进了针对不同土壤条件的数据驱动CBR预测。我们的具体贡献包括:(1)对九种算法的系统性评估,包括线性模型(ElasticNet)、核方法(SVR、GPR)、基于树的集成(随机森林、Extra Trees)、梯度提升变体(XGBoost、LightGBM、CatBoost)和深度学习(ANN);(2)使用重复的分层10折交叉验证进行严格验证,共100次迭代;(3)使用Friedman和Nemenyi方法进行全面的统计显著性测试;(4)基于SHAP的可解释性分析;(5)通过噪声注入和消融研究进行稳健性评估;以及(6)与六种广泛使用的经验CBR方程的系统性比较。数据集包含来自已发表的岩土文献的236个土壤样本。本研究与现有的基于ML的CBR预测工作的根本区别在于同时整合了(i)比任何单一先前研究都更大、更具地理多样性的数据集;(ii)在相同实验条件下对九种算法家族进行系统性的基准测试,包括核方法、树集成、梯度提升和深度学习;(iii)消除优化评估泄漏的嵌套交叉验证设计;(iv)首次在CBR预测中应用Friedman综合和Nemenyi事后统计显著性测试;(v)基于机制的SHAP交互作用分析;以及(vi)对六种经验方程的系统性超出校准范围的评估,提供了迄今为止CBR预测文献中最全面的ML与经验对比。
2. 材料与方法
2.1. 数据集描述和特征
数据集包含来自已发表的岩土文献的236个土壤样本。其中124个样本(53%)来自Kim等人[30]的工作,他们系统地汇总了来自不同地理区域的11项独立研究的数据[13,30,31,32,33,34]。这些基础样本涵盖了具有全面指数属性和加州承载比(CBR)测量的多种土壤类型。剩余的112个样本(47%)来自其他已发表的研究,以增加数据集的多样性和地理代表性。所有样本的来源包括公路路基调查(45%,n = 106)、基础探索项目(32%,n = 76)、机场路面研究(15%,n = 35)和铁路路堤评估(8%,n = 19)。值得注意的是,数据集的很大一部分(32%,n = 76)来自基础探索项目,直接证明了所开发模型在建筑基础土壤表征和建成环境中的路基评估中的适用性。所有CBR测试均按照标准化程序(ASTM D1883 [3]或AASHTO T193 [4])进行,确保了数据集方法的一致性。
通过几项措施确保了数据集来源之间的一致性。首先,数据集中的所有CBR值代表浸泡后的CBR(在实验室条件下浸泡96小时),符合ASTM D1883 [3]或AASHTO T193 [4]的要求;没有包括未浸泡或现场CBR值,从而消除了研究间变异性的重要来源。其次,所有压实数据都是在标准Proctor能量(ASTM D698 [35]/BS 1377 4 [5])下获得的,确保了MDD和OMC参考值的一致性;在编译过程中排除了在修改Proctor条件下获得的样本。第三,所有来源在测试时的含水量没有单独记录;然而,浸泡协议标准化了饱和状态,使得预测试时的含水量不如未浸泡样本那么关键。第四,为了评估剩余异质性的影响,进行了敏感性分析:仅在印度样本(n = 156)上训练的模型在土耳其样本(n = 68)上的评估得出了R2 = 0.71,证实了跨区域的普遍性是适度的但有意义的,这与第4节中承认的地理限制一致。
2.3. 地理分布和土壤分类
236个样本的数据集来自三个国家的岩土调查。主要地理来源是印度,包括来自多个州的贡献:卡纳塔克邦[33,34]、安得拉邦[10]、泰米尔纳德邦[13]以及其他印度路基研究[31]。土耳其公路路基数据构成了第二大地理子集,来自土耳其不同地区的调查[20],并且显著包括了粗粒和细粒土壤分类(CH、CI、CL、GC、GM、GP GC、MH、MI、ML、SC)。另一个子集来自尼泊尔的加德满都谷[32]。Kim等人[30]的主要汇总数据集来自涵盖相同三个国家的10项独立研究[10,13,20,31,32,33,34,36,37](图1)。这种向南亚次大陆和土耳其的地理集中被认为是一个潜在的局限性:模型对其他地质区域(例如,非洲或美洲的干旱气候或广阔土壤)的普遍性尚未得到验证,需要谨慎解释。关于数据集的充分性:由于n = 236,每个10折CV包含大约21个测试样本;在100次重复迭代中,这产生了23,600个单独的预测点,为性能估计提供了统计上稳健的基础。该数据集超出了典型CBR研究的范围(80%的先前工作中的n < 150;表1),并且符合中等维度表格回归任务的集成ML方法所需的范围。重复的分层交叉验证设计确保了性能估计是量化的不确定性,而不是依赖于单一的数据分割,从而减轻了先前CBR机器学习研究中常见的小样本偏差。图1. 探索性数据分析:(a) 原始数据集的缺失值热图;(b) 显示右偏分布(偏度=2.31)的CBR直方图,标出了均值(5.13%)和中位数(3.20%);(c) 用于CBR正态性评估的Q-Q图;(d–k) 在进行最小-最大缩放后,所有八个输入特征的标准化箱形图,显示了中位数、四分位数范围、 whiskers和异常值:(d) 砾石(%),(e) 沙子(%),(f) 细粒(%),(g) 粗粒(%),(h) 粉粒(%),(i) 含水量(%),(j) 压实密度(g/cm3),以及(k) 最大孔隙率(%)。所有数据集变量的描述性统计信息总结在表2中。相关矩阵(图2)揭示了物理意义上的模式:CBR与砾石含量(r = 0.76,p < 0.001)和压实密度(r = 0.64,p < 0.001)之间存在强正相关,表明粗颗粒和适当的压实对承载能力有积极影响。相反,CBR与细粒(r = 0.63,p < 0.001)、粗粒(r = 0.58,p < 0.001)和含水量(r = 0.51,p < 0.001)之间存在强负相关,这与粘土含量和塑性对饱和强度的不利影响一致。特征之间的高相关性(例如,砾石和细粒:r = 0.89;粗粒和含水量:r = 0.91)反映了组成限制和Atterberg界限的定义。表2. 数据集变量的描述性统计(n = 236)。图2. 数据集特征的皮尔逊相关矩阵。颜色等级:蓝色 = 强负相关,红色 = 强正相关。关键关系:CBR与砾石含量(r = +0.76,p < 0.001)、CBR与压实密度(r = +0.64)、CBR与细粒(r = 0.63)以及CBR与粗粒(r = 0.58)。详细值和显著性水平在第2.1节中讨论。2.2. 机器学习算法下面提供了每种算法的简要描述及其纳入基准测试的理由。有关全面的理论处理,读者可以参考每个小节中引用的原始出版物。选择这些算法是为了涵盖适用于地质工程中小到中等规模表格回归任务的所有主要机器学习范式:线性正则化(ElasticNet)、核方法(SVR、GPR)、树集成(随机森林、Extra Trees)、梯度提升(XGBoost、LightGBM、CatBoost)和深度学习(ANN)。在这项研究中,系统评估了九种不同的机器学习算法,每种算法代表不同的学习范式。模型使用Python 3.9.12和scikit learn 1.1.2实现,除了CatBoost(catboost 1.0.6)、LightGBM(lightgbm 3.3.2)、XGBoost(xgboost 1.6.1)以及人工神经网络,后者使用了TensorFlow 2.9.1和Keras版本2.13.1(后端为TensorFlow 2.13.0)。额外的依赖项包括NumPy 1.23.1、Pandas 1.4.3和SHAP 0.41.0。人工神经网络(ANN)采用了多层感知器(MLP)架构,包含两个隐藏层,分别有64个和32个神经元,两者都使用了修正线性单元(ReLU)激活函数。每个隐藏层之后应用了批量归一化以稳定训练过程,随后通过dropout正则化(比率=0.2)来减轻过拟合。输出层使用了线性激活函数进行回归。训练过程使用了Adam优化器(β1 = 0.9,β2 = 0.999,ε = 10^-7),初始学习率为0.001,并结合了ReduceLROnPlateau调度器(因子=0.5,耐心=10个周期,最小学习率=10^-6)。实施了提前停止机制,以20个周期的耐心和10^-4的最小增量来监控验证损失。小批量大小设置为32个样本。架构总结如下:输入(8)> 密集层(64,ReLU)> 批量归一化 > dropout(0.2)> 密集层(32,ReLU)> 批量归一化 > dropout(0.2)> 密集层(1,线性)。集成方法,包括Extra Trees、随机森林和梯度提升变体(如CatBoost、LightGBM和XGBoost),通过整合多个决策树来提高预测性能。支持向量回归(SVR)使用径向基函数(RBF)核进行非线性回归。高斯过程回归(GPR)提供贝叶斯概率预测,并包含不确定性量化。ElasticNet在线性回归分析中应用了L1和L2正则化技术的组合。全面的算法描述可以在文献[38,39,40,41,42,43,44]中找到。选择了九种算法,以代表从线性正则化到基于核的非线性映射再到深度集成聚合的多种归纳偏差,以确保性能基准能够代表适用于中小规模地质回归任务的机器学习算法领域。下面提供了简要描述和选择理由。2.2.1. ElasticNet(线性基线)ElasticNet在线性回归中结合了L1(Lasso)和L2(Ridge)正则化惩罚,实现了变量选择和系数收缩的同步[39]。它被作为一个线性基线,以量化CBR土壤属性关系中固有的非线性程度。2.2.2. 支持向量回归(SVR)SVR使用RBF核将输入映射到高维特征空间,从而实现非线性回归,同时通过ε不敏感的损失函数控制模型复杂性[21,22]。它特别适用于中小规模数据集,在这些数据集中偏差方差权衡至关重要。2.2.3. 高斯过程回归(GPR)GPR提供了一个非参数贝叶斯概率框架,可以生成带有相关不确定性估计的预测[41]。这对于安全关键的地质决策非常有用,因为在这些决策中量化预测置信度很重要。2.2.4. 随机森林从在自助样本和随机特征子集上训练的多个决策树中聚合预测,通过集成平均来减少方差[24]。对于本数据集中存在的高特征相关性(例如,粗粒和含水量:r = 0.91)具有鲁棒性。2.2.5. Extra Trees(极端随机树)通过在每个节点处额外随机化分割阈值来扩展随机森林,产生高度不相关的树,并以适度的偏差成本进一步减少方差[38]。这对于具有复杂特征交互作用的噪声数据集是有利的。2.2.6. XGBoost实现了带有二阶泰勒展开、正则化项和平行树构建的梯度提升[42]。在文献中选择它是因为它在表格地质回归任务上表现出一致性的强性能。2.2.7. LightGBM采用基于直方图的梯度提升,具有逐叶树生长和基于梯度的单边采样,提供了高计算效率[43]。它被包括进来是为了与其他梯度提升变体比较训练速度和准确性之间的权衡。2.2.8. CatBoost引入了有序提升和遗忘决策树,以减少在小数据集上的预测偏移和过拟合[44]。特别是对于样本量有限的地质设置来说,这一点很重要。2.2.9. 人工神经网络(ANN)MLP架构代表了基准测试中的深度学习。这被包括进来是为了评估神经网络的额外表示能力是否在这种中等规模的表格数据集上提供了性能提升[40]。2.3. 模型开发和实验设置整个方法论在流程图(图3)中进行了总结:原始数据集编译 → 数据一致性验证 → 特征标准化(z分数,基于管道)→ 嵌套交叉验证(内部:超参数搜索;外部:性能估计)→ 统计显著性测试(Friedman + Nemenyi)→ SHAP可解释性分析 → 鲁棒性评估(噪声注入,消融)→ 经验方程比较。图3. 本研究采用的分析流程图,说明了五个阶段的分析流程。为了确保完全的可重复性,对所有随机组件应用了一个固定的随机种子42:训练测试分割、交叉验证折叠生成(RepeatedStratifiedKFold,random_state = 42)、超参数搜索(RandomizedSearchCV,random_state = 42)以及所有算法级别的随机过程(树集成中的自助采样,ANN中的权重初始化)。完整的分析代码在项目的GitHub仓库中公开可用(https://github.com/rkorkmaz/CBR-ML-SHAP-Prediction(2026年4月22日访问)。为了验证种子独立性,对五个种子(42、123、456、789、2024)进行了稳定性分析,确认Extra Trees的R2交叉种子标准差为0.004,证明了强大的稳定性(H1–6)。特征标准化使用z分数归一化(均值=0,标准差=1)进行,以确保算法的公平性,因为像SVR和ANN这样的模型对特征尺度敏感。重要的是,标准化参数仅从训练折叠中计算出来,然后使用scikit learn管道应用于每次交叉验证迭代中的验证/测试集。这种方法确保了适当的分离并防止了数据泄露。根据Dem?ar [45]计算了关键差异(CD),如表3所示;100次CV迭代中的R2分布和统计上更优的算法组在图4中展示。表3. RandomizedSearchCV优化的超参数搜索空间(50次迭代,5折内部CV)。XGBoost扩展到12个参数(H1–8/H1–9/H1–10)。图4. 超参数优化和交叉验证:(a) 每个算法在100次CV迭代中的R2分布(红色 = 统计上更优的Nemenyi组:ET、SVR、RF、GPR);(b) Extra Trees的实际RandomizedSearchCV候选者的n_estimators敏感性:n = 200,CV R2 = 0.771(最佳参数:bootstrap = False,max_depth = 30,max_features = None,min_samples_leaf = 1,min_samples_split = 4)。为了解决在用于性能估计的相同数据集上优化超参数引入的偏差,实施了嵌套交叉验证策略。内部使用了5折交叉验证循环进行超参数搜索(RandomizedSearchCV,50次迭代),而外部的重复分层10折循环(总共100次迭代)专门用于性能估计。这种嵌套方法确保报告的R2、RMSE和MAE值准确反映了真实的样本外泛化,而不是样本内优化。与穷举网格搜索相比,更倾向于使用RandomizedSearchCV,因为(a)它几乎以更少的计算时间实现了最优超参数配置,特别是对于连续值参数如SVR的C和gamma(图4),并且(b)它避免了参数边界处的虚假精度。每个算法的最终最优配置是从内部交叉验证中确定的,然后在整个训练集上重新拟合,然后再进行保留评估。所有实验都在配备Intel Xeon E5 2680 v4处理器(2.4 GHz,28核)、128 GB RAM和Ubuntu 20.04 LTS操作系统的工作站上进行的。表4列出了每种算法相关的计算成本。图5以图形方式显示了训练时间、每个样本的推理时间和大约的模型内存占用。所有表现最好的模型(Extra Trees、SVR、随机森林、GPR)每个样本的推理时间均低于15毫秒,实现了实时现场部署。内存占用从<1 MB(ElasticNet)到约12.4 MB(ANN),都在标准嵌入式或移动现场设备的限制范围内。表4. 每种算法的计算成本:训练时间指的是完整的100次迭代交叉验证过程。图5. 所有九种ML算法的计算成本比较:(a) 100次CV迭代中的完整训练时间;(b) 每个样本的推理时间(毫秒);(c) 大约的模型内存占用(MB)。红色条形 = 统计上更优的组(Extra Trees、SVR、随机森林、GPR)。所有表现最好的模型都实现了低于15毫秒的推理时间,确认了实际的可部署性。模型性能通过10次重复的分层10折交叉验证进行评估,总共进行了100次迭代。通过CBR五分位数进行分层,以确保目标变量在折叠中的均衡分布。具体来说,连续的CBR目标被离散为五个相等的频率区间(五分位数),仅用于分层目的;原始连续值用于所有模型的训练和评估。这种分箱策略确保每个折叠包含低、中和高的CBR值的比例表示,从而防止折叠不平衡可能导致的性能估计偏差。在每次迭代中,模型从训练折叠开始重新训练,然后在保留的验证折叠上进行评估。性能指标作为100次迭代的平均值±标准差进行汇总。此外,还使用了独立的80/20分层保留分割来验证最终的泛化,该分割在任何预处理之前执行,以保持完全独立性。使用了四个指标来量化性能:R2(解释的方差)、均方根误差(RMSE)、平均绝对误差(MAE)和计算时间。噪声注入过程如下所述。将加性高斯噪声(零均值,标准差σnoIsE)独立应用于每个输入特征。噪声水平被参数化为每个特征标准差(σfeature)的一部分p ∈ {0, 0.05, 0.10, 0.15, 0.20},得到σnoIsE = p × σfeature。此比例缩放特性确保了扰动与每个变量的自然测量变异相称,从而真实地模拟了现场测量的不确定性。对于每个噪声水平,进行了20次独立的蒙特卡洛试验;报告的R2下降值是这些试验相对于无噪声情况下的平均值。需要承认,这里应用的均匀噪声缩放是一种简化;实际上,不同的土壤属性具有不同的测量不确定性(例如,粒径分布通常比原位含水量具有更高的实验室可重复性)。更现实的鲁棒性评估应应用根据实际测量变异校准的特定属性噪声幅度,这被建议用于未来的工作。(p = 0) 基线。3. 结果 3.1. 交叉验证性能比较表5展示了所有九种算法的交叉验证结果。Extra Trees算法展示了最高的R2值(0.789 ± 0.095),紧随其后的是支持向量回归(SVR)的R2值为0.783 ± 0.102,以及随机森林的R2值为0.777 ± 0.104。交叉验证结果证实了鲁棒的一般化能力:Extra Trees R2 = 0.789 ± 0.095,SVR R2 = 0.783 ± 0.102,随机森林R2 = 0.777 ± 0.104,在所有100次重复的分层折叠中均如此。与交叉验证估计相比,观察到的更高测试性能突显了在100个不同数据分割上进行重复交叉验证平均的保守性质,每个分割都采用了不同的训练和验证配置。测试集是一个单一的固定分割,而交叉验证提供了在众多潜在分割中的预期性能指标。这种模式在机器学习文献中有很好的记录,并证实了鲁棒性而非过拟合[46]。表5. 交叉验证和保留测试性能(平均值 ± 标准差,100次迭代)。对四个统计上更优的模型进行了残差分析(图6),以评估误差分布和潜在的偏差趋势。对于Extra Trees模型,残差(预测的观察CBR)显示出近似正态性(Shapiro Wilk p = 0.21),平均残差为?0.08% CBR,表明系统偏差最小(图6)。在高CBR值(>25%)处观察到轻微的异方差性,其中预测方差增加,这与该范围内的样本密度有限(<20%的数据集)一致。因此,在将更多高CBR样本纳入训练数据库之前,应更谨慎地应用该模型到颗粒基底或高强度土壤条件下。支持向量回归(SVR)模型的平均绝对残差为1.446 ± 0.300,证实了其在实际应用场景中的优越性。随机森林和高斯过程回归(GPR)模型显示出相似的残差分布。所有四个表现最好的模型都满足零平均残差的假设,从而支持了报告的性能指标的有效性。图6. 九种机器学习模型在100次嵌套交叉验证迭代中的性能比较。(a–c) 平均R2、RMSE和MAE,误差条表示±1标准差。(d) 相对于表现最好的模型(绿色 = 更好)的标准化性能热图。(e) 100次CV迭代中平均R2(R2_mean)及其标准差(R2_std)的分布,以箱形图显示;箱体:IQR,中心线:中位数,须状线:1.5×IQR,开放圆圈:异常值。(f) 每个样本的近似推理时间(秒)。3.2. 统计显著性检验Friedman检验表明R2和RMSE存在统计学上的显著差异(χ2 = 191.97,p < 10?37;MAE的χ2 = 250.02,p < 10?49)。随后的Nemenyi事后分析(CD ≈ 1.10,α = 0.05)确定Extra Trees(排名3.66)、随机森林(4.22)、SVR(4.33)、GPR(4.45)和LightGBM(4.38)与Extra Trees的CD相差在1以内(CD ≈ 1.10),形成了表现最佳的统计组。在所有成对比较中,最一致地被识别为统计上优越的四个模型是Extra Trees、SVR、随机森林和GPR(图7)。Extra Trees显著优于XGBoost(p = 0.0003)和ANN(p = 0.0003),而ElasticNet显著低于所有其他模型(图8)。Wilcoxon符号秩检验进一步证实了Extra Trees相对于GPR(p < 0.001)、随机森林(p = 0.012)、XGBoost(p < 0.001)、LightGBM(p = 0.016)、CatBoost(p < 0.001)和ANN(p < 0.001)的优越性,而与SVR相比没有观察到显著差异(p = 0.062)。图7. 比较所有九种ML模型的Taylor图。径向距离 = 标准化标准差;方位角 = 皮尔逊相关系数;同心虚线弧 = 居中的RMSE。Extra Trees、SVR、RF和GPR(左上角区域)同时表现出高相关性、低标准化偏差和低居中RMSE。图8. 统计分析:(a) Friedman排名;(b) R2分布;(c) Nemenyi CD图(CD ≈ 1.10);(d) 显著性矩阵。3.3. 特征重要性和SHAP分析SHAP变体规格:使用的SHAP变体因模型架构而异。TreeSHAP(精确的、多项式时间算法,利用树结构)应用于所有基于树的模型(Extra Trees、随机森林、XGBoost、LightGBM、CatBoost)。KernelSHAP(与模型无关的、基于采样的近似)应用于带有RBF核的SVR和GPR,因为这些模型没有树结构。对于KernelSHAP,使用了一个包含100个随机选择的训练样本的背景数据集来估计条件期望,这与标准实践一致。需要承认,KernelSHAP在计算上较为密集,并且对背景数据集的选择敏感;100个样本的背景集在五次独立运行中产生了稳定的SHAP估计(方差<2%)。使用的SHAP变体因模型架构而异:TreeSHAP(精确的、多项式时间算法)应用于基于树的模型(Extra Trees、随机森林),而KernelSHAP(与模型无关的、基于采样的近似)应用于带有RBF核的SVR。对于KernelSHAP,使用了一个包含100个随机选择的训练样本的背景数据集来估计条件期望,这与标准实践一致[47]。利用SHAP对前三名模型进行的分析揭示了特征重要性的一致排名(表6),证实了结果的可靠性和物理合理性。砾石含量是最有影响力的预测因子,占29.0%(图9),其次是MDD(23.8%)和细粒(14.8%),这三个特征共同贡献了67.6%的预测能力。表6. 顶级模型中的SHAP特征重要性(%)。图9. 不同模型间SHAP重要性的比较。SHAP排名的地质技术解释:砾石含量的主导地位在地质技术上是合理的。粗颗粒通过机械互锁和颗粒间的接触形成承载骨架,直接决定了CBR所测量的抗穿透性。较高的砾石比例减少了孔隙水对剪切强度的影响,这与观察到的强烈正SHAP效应一致(r = +0.76)(图10)[7,8]。最大干密度(MDD,23.8%)反映了在标准Proctor能量下达到的压实程度;较高的MDD对应于更紧密的颗粒堆积、更低的孔隙比和更大的颗粒间接触应力,所有这些都有助于提高CBR,这是Proctor压实强度关系的体现[48,49]。细粒的负SHAP贡献(14.8%)可归因于细粒部分的低摩擦阻力和高保水能力。在标准的96小时浸泡协议下,细颗粒膨胀并失去内聚力,产生了观察到的强烈负SHAP依赖性[50,51]。排名(砾石 > MDD > 细粒 > LL > PI)与Katte等人[15]和Bardhan等人[25]的结果一致。图10. Extra Trees的SHAP总结。点根据特征值着色。SHAP特征交互效应:SHAP依赖图(图11)揭示了显著的耦合效应。砾石与细粒的交互显示出强烈的对抗关系:在高砾石含量下,细粒的负SHAP贡献显著减少,反映了粗颗粒即使在有中等细粒的情况下也能形成承载骨架的能力。MDD与OMC的交互显示出与Proctor压实曲线一致的鞍点模式:在最佳OMC处,MDD最大化,CBR最高;任一方向的偏差都会降低承载能力。LL与PI的交互确认了高塑性土壤始终表现出负SHAP贡献,无论LL如何。这些由基于树的集成模型自动捕捉的耦合效应无法通过线性相关分析检测到。图11. SHAP依赖图揭示了特征交互。SHAP得出的特征排名具有直接的机械意义,超出了单纯的可视化。首先,砾石的主导地位(29.0%)与关键状态土壤力学框架一致:在颗粒土壤中,剪切强度由颗粒间的摩擦和膨胀决定,这两者都随着粗颗粒含量的增加而增加[7,8]。砾石的正SHAP依赖性表明,模型学习了与基本承载机制一致的统计关联,而不是数据集特定的相关性。值得注意的是,SHAP值反映了训练数据内的学习关联,并不构成因果关系的机械证明。其次,图11中识别的MDD与OMC之间的交互复制了Proctor压实曲线的基本原理:OMC的SHAP值显示出非单调模式,在OMC ≈ 18%(数据集平均值)处达到峰值,并在两侧对称下降,这与有效应力理论在不饱和条件下的预测模式完全一致[48,49]。这种非线性完全无法通过线性相关分析检测到(LL PI: r = 0.91掩盖了潜在机制)。第三,即使砾石含量适中,LL和PI的强烈负SHAP贡献也反映了Casagrande的塑性理论:高塑性粘土在浸泡过程中吸附水分层,产生膨胀压力,从而降低有效应力,从而降低抗穿透性[50,51]。排名(砾石 > MDD > 细粒 > LL > PI)与Katte等人[15]和Bardhan等人[25]的结果一致。图10. Extra Trees的SHAP总结。图中的点根据特征值着色。SHAP特征交互效应:SHAP依赖图(图11)揭示了显著的耦合效应。砾石与细粒的交互显示出强烈的对抗关系:在高砾石含量下,细粒的负SHAP贡献显著减少,反映了粗颗粒即使在有中等细粒的情况下也能形成承载骨架的能力。MDD与OMC的交互显示出与Proctor压实曲线一致的鞍点模式:在最佳OMC处,MDD最大化,CBR最高;任何方向的偏差都会降低承载能力。LL与PI的交互确认了高塑性土壤始终表现出负SHAP贡献,无论LL如何。这些由基于树的集成模型自动捕捉的耦合效应无法通过线性相关分析检测到。图11. SHAP依赖图揭示了特征交互。SHAP得出的特征排名具有超出单纯可视化的直接机械意义。首先,砾石的主导地位(29.0%)与关键状态土壤力学框架一致:在颗粒土壤中,剪切强度由颗粒间的摩擦和膨胀决定,这两者都随着粗颗粒含量的增加而增加[7,8]。砾石的正SHAP依赖性表明,模型学习了与基本承载机制一致的统计关联,而不是数据集特定的相关性。其次,图11中识别的MDD与OMC之间的交互复制了Proctor压实曲线的基本原理:OMC的SHAP值显示出非单调模式,在OMC ≈ 18%(数据集平均值)处达到峰值,并在两侧对称下降,这与有效应力理论在非饱和条件下的预测模式完全一致[48,49]。这种非线性完全无法通过线性相关分析检测到(LL PI: r = 0.91掩盖了潜在机制)。第三,即使砾石含量适中,LL和PI的强烈负SHAP贡献也反映了Casagrande的塑性理论:高塑性粘土在浸泡过程中吸附水分层,产生膨胀压力,从而降低有效应力,从而降低抗穿透性[50,51]。这三个结构不同的模型(Extra Trees、SVR、随机森林)中SHAP机制对应的定量一致性提供了强有力的证据,表明学习到的表示反映了真实的物理关系,而不是过拟合的产物。3.4. 鲁棒性和消融分析进行了从0%到20%特征标准差的系统噪声注入实验,以评估模型稳定性。Extra Trees在20%特征比例噪声下仅表现出3.5%的R2下降,其次是GPR(2.7%)、CatBoost(3.5%)、SVR(4.4%)和随机森林(4.7%)。所有表现最佳的模型的下降幅度均低于7%的阈值。配对t检验确认了显著的鲁棒性差异(在15–20%噪声下p < 0.01),表明在现实的现场测量不确定性下具有真正的稳定性(图12)。图12. 五种表现最佳模型在增加的特征噪声水平(0–20%特征标准差)下的噪声鲁棒性分析。(a) R2分数作为噪声水平的函数;线条代表20次蒙特卡洛噪声注入试验的平均R2,阴影带表示试验间的±1标准差。(b) 相对于无噪声基线的R2下降百分比;红色虚线标记了7%的下降阈值。使用配对t检验评估了性能差异的统计显著性(p < 0.01)。参数分析:为了验证表现最佳的模型(Extra Trees)是否捕捉到了物理上有意义的输入输出趋势,进行了逐一参数研究:每个输入变量在其观测范围内变化,而其他所有变量保持在其平均值(砾石 = 10.2%,细粒 = 62.5%,MDD = 1.67 g/cm3,OMC = 18.8%,LL = 44.1%,PI = 19.9%)。结果确认了预期的地质技术趋势:(i) CBR随着砾石含量的增加而单调增加(从Gravel = 0%时的约5%增加到Gravel = 78%时的约22%);(ii) CBR随着MDD的增加而增加,反映了压实度的提高;(iii) CBR随着细粒、LL和PI的增加而减少;(iv) CBR在最佳OMC附近达到峰值,再现了Proctor压实曲线。这些结果确认了模型学习了统计上一致的关系,而不是数据集特定的噪声。逐一敏感性分析不能完全代表联合输入空间;在特征高度相关的数据集中(例如,本研究中的LL–PI: r = 0.91),改变一个特征同时保持其他特征在平均值可能会导致物理上不合理的轨迹。全球敏感性方法(例如Sobol指数或相关SHAP交互作用分析)将提供对耦合特征效应更严格的处理。消融研究产生了以下发现:(1)前七个特征的R2值为0.789,与完整特征集(0.791)相当;(2)前五个特征的R2值为0.784;(3)仅前三个特征的R2值为0.753;(4)排除碎石特征后,R2值下降到0.754,表明下降了4.7%。如图13所示,涉及对数转换的实验对基于树的模型影响很小。图13. 表现最佳模型的消融研究结果(Extra Trees)。(a–c) 特征子集分析:(a) 带有表示±1标准差误差范围的平均R2;(b) 六个特征子集的RMSE;(c) 随特征数量变化的R2分数,颜色强度表示相对性能。(a)中的红色边框条和(c)中的红色圆点表示表现最佳的配置。(d,e) 对数转换消融:四种转换情景下的平均R2和RMSE(No_Transform, Log_Target_Only, Log_Features_Only, Log_Both)。(f) 结合所有消融情景的标准化摘要热图;虚线垂直线分隔特征子集(左侧)和对数转换(右侧)实验。
3.5. 与经验CBR估计方程的比较
表7和图14及图15展示了与六个广泛引用的经验CBR方程的全面比较,这些方程应用于未经重新校准的完整236个样本数据集。这六个方程涵盖了不同的变量组合:仅PI(Black, 1962)[14]、PI与Fines(De Graft-Johnson和Bhatia, 1972)[52]、MDD与OMC和PI(Patel和Desai, 2010)[53]、LL与PI(Taskiran, 2010)[19]以及AASHTO组指数方法(AASHTO, 2004)[54]。所有六个方程在该数据集上都产生了负的R2值(范围:-0.80至-22.64),表明它们的表现不如简单的平均值预测器。这一结果并不是对方程本身的批评;每个方程都是针对特定区域土壤群体进行校准的,并在其校准范围内表现良好。相反,这些结果量化了在地理多样性多源数据集上应用区域校准的经验方程的固有局限性。表现最佳的经验方程Black(1962)[14]的RMSE为6.35% CBR,MAE为4.50% CBR。相比之下,表现最佳的机器学习模型(Extra Trees)的RMSE为2.06 ± 0.48% CBR,误差减少了3.1倍。重要的是,即使是最弱的机器学习模型(ElasticNet,RMSE为2.62%)也显著优于所有六个经验方程,这证实了数据驱动的交叉验证建模的改进是普遍的,而不是特定于任何单一算法的。从最佳经验方程(6.35%)到最佳机器学习模型(2.06%)的RMSE改进,相当于标准柔性路面设计中大约20–30毫米的路面厚度误差减少,这对基础设施安全来说是一个实际显著的幅度。这些发现加强了开发基于机器学习的CBR预测框架的主要动机,适用于那些区域校准方程无法可靠转移的地理多样性数据集。
表7. 六个经验CBR估计方程在未经校准的情况下应用于236个样本数据集的性能。R2、RMSE(%)和MAE(%)与机器学习模型交叉验证结果进行了比较。负的R2表明性能不如简单的平均值预测器,反映了领域不匹配而非方程质量的问题。
图14. 机器学习模型与经验CBR方程在三个性能指标(R2、RMSE、MAE)上的比较。蓝色条:机器学习模型(交叉验证平均值±标准差);红色条:未经校准应用于236个样本数据集的经验方程。虚线水平线分隔了机器学习方法和经验方法。所有经验方程都产生了负的R2,表明其性能低于简单的平均值预测器[14,19,52–54]。
图15. 六个未经校准应用于236个样本数据集的经验方程的预测CBR与实测CBR散点图。红色虚线表示完美一致(1:1线)。围绕1:1线的系统散布证实了在特定区域土壤群体上校准的方程的有限可转移性。
4. 讨论
与六个经验CBR方程的全面比较(表7、图14和图15)证实了机器学习的泛化优势:所有经验方程都产生了负的R2(范围:-0.80至-22.64),而所有机器学习模型都获得了正的R2(≥0.655)。Extra Trees和支持向量回归(SVR)的优越性能可以归因于它们的互补优势。Extra Trees中固有的极端随机化导致集成成员高度去相关,从而通过多样化的平均降低了方差[38]。同时,SVR的epsilon不敏感损失函数和径向基函数(RBF)核通过过滤噪声和将数据映射到无限维空间来促进稳健的非线性建模[21,22]。几乎相同的性能(R2差异< 0.3%)强烈表明有效捕捉了潜在的CBR土壤属性关系。与近期文献的比较显示了不同的性能水平。Bardhan等人[25]使用基于极端学习机(ELM)的方法在印度土壤上报告了0.89的R2,而我们最好的模型达到了0.789 ± 0.095的CV R2。有几个因素解释了这种差异:(1)他们的数据集主要由CBR值较高的沙质土壤组成(平均值约为15%,而我们的为12.8%),这通常有助于更容易的预测;(2)他们使用单一的训练测试分割,而我们使用了100次迭代的交叉验证(CV),提供了更为保守的估计;(3)印度和多样化土壤类型之间的地理和地质差异影响了模型的可转移性。我们严格的验证策略确保了在实际应用中的现实性能预期。Vu等人[26]使用随机森林在越南道路路基土壤上获得了0.92的R2,与我们的随机森林性能(CV R2 = 0.777)相当,支持了集成方法跨区域的一致性。与我们重复的CV结果的不同之处可以归因于参考研究中单一分割的乐观性以及地理上同质的数据集。集成方法(R2约为0.75)与线性方法(ElasticNet R2 = 0.61)之间的显著性能差距强调了线性模型无法捕捉的非线性关系。这一发现与土壤力学的原理一致,其中CBR取决于颗粒大小分布、塑性和压实度之间的复杂相互作用[7,55]。SHAP依赖图(图11)直接可视化了这些非线性。
梯度提升方法(R2 = 0.762–0.773)尽管具有理论优势,但表现不如集成森林。这可能是由于(1)中等样本量(n = 236)限制了序列误差校正[56],(2)高特征相关性导致多重共线性,以及(3)低信噪比(CV = 59.4%)使得序列拟合容易过拟合。梯度提升的较高标准差(0.146–0.171)与Extra Trees(0.138)相比支持了这一解释。从SHAP得出的特征重要性显著符合地质技术原理。碎石(29.0%)的主导地位表明了机械互锁和摩擦阻力[8]。第二常见的特征MDD(23.8%)量化了压实程度[48,49]。细粒材料(14.8%)的负面影响突显了当材料饱和时黏土的不利影响[49,50]。在不同架构模型中的一致性证实了真实和物理关系的存在。地质技术解释确认了碎石通过机械互锁和摩擦阻力占主导地位;MDD反映了压实质量和孔隙比的降低;细粒材料在标准96小时浸泡协议下通过膨胀降低了饱和CBR。
本研究的实际意义如下。提供了简要的风险成本评估:如果训练模型高估了CBR(正残差),则根据设计图表计算的路面层厚度可能会被低估,可能导致过早失效。基于SVR观察到的平均绝对残差1.49% CBR(第3.1节),这相当于标准柔性路面设计中大约10–20毫米的厚度误差,这在压实质量控制的典型不确定性范围内。对于安全关键应用(例如机场路面、重型工业平台),强烈建议对减少的样本子集进行确认性实验室CBR测试。(1)在独立测试数据上R2值超过0.85,确保了初步路面设计和建筑基础土壤评估的足够准确性;(2)亚秒级预测支持实时现场集成;(3)SHAP可解释性支持质量控制和异常检测;(4)模型对15%噪声的鲁棒性适应了典型的现场变异性。消除单个CBR测试可以节省150–300美元的成本;对于涉及超过100次测试的大规模项目,潜在节省可以超过30,000美元,并加快了时间线。然而,从业者在结构设计中使用机器学习预测的CBR值时应考虑预测不确定性。表5中报告的交叉验证标准差(例如,Extra Trees R2的±0.138;RMSE单位的±0.563)代表了数据分割的变异性,应被视为预测可靠性的保守估计。对于安全关键的路面和基础设计应用,建议应用适当的可靠性因子或对预测值接近临界设计阈值的站点进行确认性实验室CBR测试。
在安全关键设计背景下,应明确考虑重复交叉验证中观察到的预测不确定性。对于表现最佳的Extra Trees模型,交叉验证变异性为R2 = 0.789 ± 0.095,RMSE = 2.064 ± 0.481,MAE = 1.482 ± 0.294。这些结果表明,尽管平均预测性能很强,但不确定性仍然不可忽视,在使用预测CBR值代替确认性实验室测试进行最终设计决策之前应予以考虑。关于设计应用的可靠性影响:表5中报告的交叉验证标准差(例如,Extra Trees R2的±0.138;RMSE单位的±0.563)为估计预测可靠性提供了基础。在15%的测量噪声下,SVR保持了R2 > 0.73(RMSE约为2.5% CBR单位),表明模型在现实现场变异性下仍然有效。建议设计工程师将这些不确定性界限纳入概率性路面厚度设计框架(例如,基于AASHTO可靠性的设计方法),而不是直接应用点预测。对于安全关键应用,应考虑从100次迭代交叉验证分布中得出的预测区间以及点估计。这些考虑与基于可靠性的地质技术设计中的既定实践一致。这些建议表明,基于机器学习的CBR预测应作为风险意识决策支持工具集成到工程工作流程中,而不是作为物理验证的独立替代品。
改进路径:上述每个限制都指出了具体的未来改进方向。(1)地理限制:纳入非洲、南美洲和欧洲的路基土壤;应用迁移学习并进行区域微调以进行特定地点的校准。(2)有限的CBR范围:扩展数据收集到CBR > 20%的粒状基层材料和岩石填充材料。(3)缺乏矿物学:将黏土矿物学指数(蒙脱石/高岭石比例、比表面积)作为额外输入特征。(4)标准Proctor限制:开发基于修改后的Proctor数据的并行模型变体。(5)分析的相关性:通过设计实验和因果建模来补充,以建立机制性而非纯粹的关联关系。
5. 结论
本研究使用从已发表的地质技术文献中编译的土壤数据,评估了九种用于CBR预测的机器学习算法。我们系统地比较了这九种算法,并进行了严格的验证,包括对其可解释性和鲁棒性的广泛分析。主要发现如下:独立保留验证确认了强大的泛化能力:SVR获得了最高的保留测试性能(R2 = 0.855),其次是CatBoost(R2 = 0.850)和GPR(R2 = 0.843),而Extra Trees则提供了最佳的平均交叉验证性能(R2 = 0.789 ± 0.095)。较高的保留测试结果与稳健的泛化一致,而不是过拟合,如机器学习文献中所记录的。Friedman测试明确拒绝了算法性能相同的假设(χ2 = 191.97,p < 10^-37)。Nemenyi分析确定Extra Trees、SVR、随机森林和高斯过程回归(GPR)在统计上是等效且更优的。SHAP分析一致强调了诸如碎石(29.0%)、最大干密度(MDD;23.8%)和细粒材料(14.8%)等特征的重要性,这些特征共同解释了67.6%的预测能力。这些发现与地质技术原理完全一致,提供了学习到的表示与既定地质技术预期一致的证据。岩土工程分析确认,碎石通过机械互锁和摩擦阻力起主导作用;MDD(最大干密度)反映了压实质量和孔隙比;而细颗粒物质在标准96小时浸泡协议下会因膨胀作用降低饱和CBR(CBR即CBR值)。
机器学习方法的表现显著优于六种经验公式(见表7、图14):所有经验公式在未进行校准的情况下应用时都获得了负的R2值(范围:-0.803至-22.639)。Extra Trees方法的CV R2值为0.789,与最佳经验公式(De Graft-Johnson(1972)[52]的R2值为-0.803)相比,RMSE(均方根误差)降低了3.1倍。AASHTO及其他相关方法在该地理多样性数据集上也获得了负的R2值(见表7)。需要注意的是,负的R2值并不意味着这些经验公式存在根本性缺陷,而是表明这些基于特定区域土壤数据校准的公式在应用于地理多样性多源数据集时会产生较大误差。这一比较凸显了区域特定经验公式的有限适用性,并非对其质量的直接评价。该方法将解释方差从60.1%降低到了21.0%。
这种工作流程可能减少在项目特定精度要求下进行初步实验室CBR测试的必要性;然而,这一估计仍需在实际应用前通过现场验证才能确保其准确性,尤其是在安全关键设计中。该框架的一个明显局限性是缺乏图形用户界面(GUI)或基于网络的部署工具。在没有此类界面的情况下,最终用户需要通过基础脚本编写或电子表格进行集成,这限制了非专业岩土工程师的使用便利性。岩土工程机器学习领域的应用研究表明,当预测引擎被封装在简单界面中时,模型的可用性会大幅提升。未来工作的重点包括开发轻量级Web应用程序或移动工程工具,这些工具可以使用训练好的Extra Trees或SVR模型(这些模型以序列化pickle文件的形式存储在项目的GitHub仓库中)。
未来的研究应致力于扩展数据集,涵盖更广泛的地理区域和土壤类型,并纳入土壤的矿物学特征和微观结构描述信息。此外,还应致力于改进迁移学习方法,以便在新区域应用,扩展研究范围以包含更多岩土参数,实施集成策略,开发不确定性量化框架,创建基于Web的决策支持工具,并通过现场验证研究来确认研究结果。本研究表明,基于集成和核方法的机器学习模型能够根据标准土壤指标预测浸泡后的CBR值,并在地理多样性数据集上表现出良好的平均性能。比较基准测试、统计分析以及基于SHAP(Shapley Additivity Values)的解释表明,模型学习到的关系与岩土工程领域的预期大体一致。该框架应被视为决策支持和初步筛选工具,而非安全关键设计中确认性实验室测试的直接替代方案。主要限制包括数据集的多源性质、高CBR样本数量有限、缺乏矿物学描述信息、仅限于标准Proctor试验条件以及缺乏现场验证。未来工作的重点包括进一步扩展数据集、整合考虑不确定性的部署阈值、将模型封装成实用的工程界面等。