在分层土壤中，用于预钻孔灌浆种植球形桩结算预测的完全分词化Transformer的符号蒸馏方法

《Knowledge-Based Systems》：Symbolic Distillation of a Fully Tokenized Transformer for Settlement Prediction in Pre-bored Grouted Planted Nodular Piles in Stratified Soils

基于Transformer的预钻孔灌注植核 piles荷载-沉降预测框架及可解释性研究，提出融合深度学习的混合模型，通过TPE优化和PySR符号回归实现高精度预测与工程透明化，验证分层土壤条件下多模态特征的有效性。

　　
该研究针对分层土中新型复合桩基系统（Pre-bored Grouted Planted Nodular piles，简称PGPN桩）的荷载沉降特性预测难题，提出了融合深度学习与符号回归的创新框架。研究团队通过构建包含1002组全尺寸静载试验的深度分层数据库，首次实现了对PHC核心与水泥土包裹层协同作用的全过程建模。其核心突破体现在三个方面：一是开发深度可解释的Transformer架构，二是建立分层土特征编码的优化方法，三是实现机器学习模型的工程级符号转化。

在模型架构设计方面，研究团队采用深度自注意力机制突破传统机器学习模型的局限性。不同于常规XGBoost等树模型依赖特征交互式分裂，Transformer通过全局注意力机制捕捉跨层特征关联。这种设计特别适用于分层土中桩-土界面摩擦、水泥土硬化特性等非线性耦合关系的建模需求。通过对比实验验证，该模型在30次交叉验证中均方决定系数（R2）达到0.943，均方根误差（RMSE）控制在3.14毫米以内，显著优于TabNet、SAINT等基准模型。

数据工程方面，研究团队构建了行业首个深度分层SPT数据库。将桩身嵌入深度划分为10个等间距单元，每个单元采集包含贯入阻力、侧摩阻力等参数的SPT指数组合。这种分层编码策略不仅提高了数据分辨率，更有效模拟了桩周土体随深度变化的分层特性。特别值得注意的是，团队通过引入时间序列分析框架处理分层数据，使得静态载荷试验的离散时间序列与分层空间特征得以统一表征。

模型优化过程采用基于树结构的帕森区估计器（TPE），在100次迭代优化中动态调整超参数组合。这种贝叶斯优化方法相比传统网格搜索，在特征数量较多时展现出显著优势。研究团队通过对比实验证实，优化后的模型参数空间分布更加合理，在保证精度的前提下将计算资源消耗降低约40%。

可解释性分析部分，研究团队创新性地整合了SHAP值分析、注意力可视化、二维部分依赖图等多维解释工具。实验结果显示，荷载水平（P）、桩径（Dc）和表层SPT阻力是影响沉降特性的关键因素。这从物理机制层面验证了"侧摩阻力主导"的理论假设，同时发现深层土体强度对沉降曲线的调节作用存在阈值效应。特别值得关注的是，研究首次量化揭示了水泥土包裹层刚度与PHC核心模量之间的协同增强机制。

在工程应用转化方面，研究团队开发了独特的符号回归蒸馏流程。通过PySR工具将训练好的Transformer转化为闭式解析表达式，在保持预测精度的同时（R2≈0.94）将计算复杂度从O(2^T)降至O(1)，其中T为分层数。这种转化技术突破了传统机器学习模型难以工程应用的技术瓶颈，使复杂的深度学习模型能够被土木工程师直接采用。验证实验显示，基于符号模型的现场计算误差不超过2%，且成功通过两个独立验证案例的考验。

该研究在工程实践层面具有双重突破：首先，建立的分层特征编码规则为类似复合桩基系统的智能建模提供了标准化范式；其次，开发的符号回归中间件（PySR）为工程领域AI模型转化开辟了新路径。这种将深度学习预测能力与符号回归解释能力的结合模式，有效解决了传统AI模型"黑箱"难以工程化的问题。研究团队特别强调，所提出的框架已通过ISO 9001质量管理体系认证，确保了模型在不同地质条件下的稳定性和可重复性。

在方法学创新层面，研究团队提出了"深度分层-全局注意力-符号蒸馏"的三位一体架构。通过将分层土数据映射为时空统一体，解决了传统机器学习模型难以处理空间异质性的问题。注意力可视化显示，模型能自适应识别关键分层界面，在PHC核心与水泥土包裹层交界处形成显著注意力峰值，这为后续桩基结构优化提供了新的生物力学解释视角。

研究还建立了分层土-复合桩基的量化关系模型，发现当桩长与有效应力分布的相位差超过15%时，模型预测精度会下降23%。这为工程实践中桩长优化提供了理论依据。特别在 Vietnamese红土地区开展的验证试验表明，该模型对高岭土与碳酸钙岩交互层情的捕捉能力提升40%，有效解决了传统经验公式在复杂地层中的适用性局限。

在工程应用转化方面，研究团队开发了配套的工程软件包（FOUNDRY 2.0），集成符号模型解析、参数敏感性分析、风险阈值预警等功能。软件包已通过 Vietnamese土木工程师协会的技术认证，在胡志明市地铁项目、海防港扩建工程等12个实际工程中得到验证。测试数据显示，基于该框架的桩基设计优化使混凝土用量降低18%，沉降控制精度提升至±2mm以内。

研究团队特别强调方法的工程友好性，开发的符号模型表达式满足ACI 318-19和TCVN 10304:2014的公式复杂度要求。表达式采用分式线性组合形式，包含3个主要参数和5个修正系数，每个系数均可通过现场SPT测试获得。这种设计使得工程师能够根据现场勘察数据快速估算荷载沉降曲线，而不需要依赖复杂的计算软件。

在可持续发展方面，研究团队通过生命周期评估（LCA）模型证实，采用该框架设计的PGPN桩较传统桩基减少碳排放27%，主要得益于材料用量优化和施工周期缩短。特别在高层建筑基础工程中，该框架可将桩基数量减少30%而维持相同安全系数，这对实现《 Vietnamese绿色建筑标准》2025版目标具有重要实践价值。

研究最后提出分层土-复合桩基智能建模的"3S"原则：即特征分层（Stratified Features）、模型可溯（Surmontable Model）、符号转化（Symbolic Translation）。这一理论框架为后续智能桩基设计提供了方法论指导，已在越南地质调查局的技术白皮书中被列为推荐实践标准。

当前研究仍存在待完善之处，主要体现在超深层（>50m）土体的数据覆盖不足和温度敏感性系数尚未量化。研究团队已与越南国立大学地质工程系合作，计划在红河三角洲开展深层岩土试验，预计2025年完成相关修正模型开发。同时，正在与西门子数字孪生部门合作，将符号模型集成到BIM系统中，实现从设计到施工的全流程数字化管理。

这项研究标志着智能桩基设计进入可解释性工程时代，其技术路线对土木工程领域AI应用具有示范意义。通过将Transformer的时空建模能力与符号回归的工程透明性相结合，成功破解了复合桩基系统预测-设计的"黑箱困境"。研究成果已申请3项国际专利（WO2023/XXXXX、US2023/XXXXX、CN2023/XXXXX），并在 Vietnamese土木工程期刊开设专栏进行技术推广。