《Results in Engineering》：Multimodal Prediction of Elastic Modulus in Recycled Concrete Driven by Semantic Enhancement and Interpretable Learning
编辑推荐：
再生混凝土的弹性模量受再生骨料变异性的显著影响。现有预测研究主要依赖于结构化数值变量，而常常忽略描述骨料来源、加工方法和预处理过程的文本信息。为解决这一问题，研究人员提出了一种整合数值与文本数据的多模态预测框架。构建了一个包含764个真实实验案例的数据集，涵盖
再生混凝土的弹性模量受再生骨料变异性的显著影响。现有预测研究主要依赖于结构化数值变量，而常常忽略描述骨料来源、加工方法和预处理过程的文本信息。为解决这一问题，研究人员提出了一种整合数值与文本数据的多模态预测框架。构建了一个包含764个真实实验案例的数据集，涵盖再生混凝土的数值参数和再生骨料的文本描述。使用双向编码器表示转换器（BERT）作为语义特征提取器，并开发了两种多模态预测模型——深度神经网络（DNN）-BERT和分类提升（CatBoost）-BERT，用于弹性模量预测。结果表明，所提出的模型在统一数据集上显著优于传统经验公式、单一机器学习模型及以往研究中的代表性模型。其中，DNN-BERT取得了最佳性能，决定系数（R2）为0.90，相比基线模型最大提升14%。此外，基于沙普利加法解释（SHAP）和注意力机制的可解释性分析表明，文本特征捕捉了与骨料加工和物理化学性质相关的关键信息，从而提升了预测性能。本研究为将语义信息纳入建筑材料的数据驱动建模提供了新视角，并为提高再生混凝土性能预测精度提供了一种有前景的方法。
**再生混凝土弹性模量多模态预测研究解读**
**一、研究背景与问题**
再生混凝土（Recycled Concrete, RC）的弹性模量（Modulus of Elasticity, MOE）是衡量其抵抗变形能力的关键参数，直接影响结构设计中的变形行为与使用性能。然而，再生骨料来源多样，包括再生混凝土骨料（Recycled Concrete Aggregate, RCA）、再生砖骨料（Recycled Brick Aggregate, RBCA）和混合再生骨料（Mixed Recycled Aggregate, MRCA），其表面附着旧砂浆，形成多重薄弱界面过渡区（Interfacial Transition Zone, ITZ），导致RC性能劣化。现有研究主要依赖结构化数值变量（如组分、强度、水灰比）建立预测模型，但忽略了描述骨料来源、加工方法和预处理过程的文本信息，这些信息直接影响ITZ、级配和吸水率等关键特性。传统经验公式仅适用于特定条件，泛化能力差；而单一机器学习模型虽能捕捉非线性关系，却无法利用定性文本描述。因此，本研究旨在融合数值与文本数据，构建多模态预测框架，以提升RC弹性模量预测精度。
**二、研究内容与结论**
研究人员基于公开文献收集了764个真实实验数据，涵盖57篇论文，来源包括中国知网（CNKI）及《Construction and Building Materials》等期刊。采用双向编码器表示转换器（BERT）作为文本特征提取器，结合深度神经网络（DNN）和分类提升（CatBoost），分别构建了DNN-BERT和CatBoost-BERT两种多模态预测模型（Multimodal Prediction Model, MPM）。在统一数据集上，DNN-BERT取得了最佳性能，决定系数（R2）达0.90，比基线模型（仅数值输入）提升14%；CatBoost-BERT的R2为0.87。SHAP（SHapley Additive Explanations）和注意力机制的可解释性分析表明，文本特征捕捉了骨料加工和物理化学性质的关键信息，有效补充了数值变量的不足。本研究表明，语义信息的引入显著提升了预测精度，为建筑材料数据驱动建模提供了新视角，论文发表在《Results in Engineering》。
**三、关键技术方法**
研究人员采用以下主要技术方法：首先，构建包含15个数值特征（水泥用量、水胶比、粉煤灰、硅灰、天然粗细骨料、再生粗细骨料、再生骨料品质指标、纤维类型及含量等）和文本特征（骨料来源、加工方法、预处理）的数据集。其次，使用预训练BERT模型（参数冻结）提取文本语义向量，并经主成分分析（PCA）降维（DNN-BERT降至64维，CatBoost-BERT降至10维）。然后，将数值特征与文本语义向量拼接，分别输入DNN（含两个隐藏层，ReLU激活，Dropout率0.2）和CatBoost（1,000次迭代，树深6，学习率0.05）进行回归预测。采用5折交叉验证和网格搜索优化超参数，使用R2、MAE、MSE、RMSE评估模型性能，并基于SHAP和注意力权重进行可解释性分析。
**四、研究结果**
**4.1 基于经验公式的预测结果**
研究人员收集了6个传统经验公式，在测试集上所有公式的R2均低于0.2，表明经验公式无法捕捉RC弹性模量的复杂非线性关系，尤其是在样本参数分布广泛的情况下。
**4.2 现有机器学习模型**
将文献中已有的机器学习模型（如Ref [111]和Ref [112]）在相同数据集上评估，R2分别为0.79和0.87，表明现有方法已具备一定预测能力，但均未利用文本信息。
**4.3 单模态预测结果**
单独使用DNN和CatBoost（仅数值输入）进行预测，CatBoost的R2为0.84，优于DNN的0.79，且在残差分析中表现出更小的离散度和更好的稳定性，说明梯度提升树在捕捉非线性关系上更具优势。
**4.4 多模态预测模型**
DNN-BERT和CatBoost-BERT分别达到了R2=0.90和0.87，显著优于单模态模型。DNN-BERT的残差更集中于零线，表明融合文本特征后预测精度和稳定性均提升。DNN-BERT的优异性能归因于其端到端非线性融合数值与语义特征的能力，而CatBoost-BERT受限于特征分区方式，对高维语义特征利用效率较低。
**5. 可解释性分析**
**5.1 CatBoost-BERT可解释性**
基于SHAP的特征重要性分析显示，天然细骨料、水胶比和再生粗骨料是影响预测的最重要因素，而纤维相关特征贡献较小。部分依赖图揭示水胶比与减水剂之间存在协同效应，且再生骨料品质指数（RCQ、RFQ）与弹性模量正相关。
**5.2 DNN-BERT可解释性**
通过提取BERT最后层的注意力权重，发现模型对描述骨料来源（如“梁”、“材料”、“橡胶”）和加工方法（如“破碎”、“清洗”、“筛分”）的词语赋予较高权重，而对无意义词关注度低，表明文本特征有效捕捉了骨料预处理的关键信息。
**6. 可视化界面开发**
研究人员基于DNN-BERT模型开发了图形用户界面（GUI）预测工具，用户输入数值和文本描述即可快速获得弹性模量预测值，代码已开源。
**五、讨论与结论**
**讨论部分总结：** 可解释性分析一致表明，再生骨料来源、加工方法和预处理是影响弹性模量的关键因素，文本信息提供了数值变量无法表征的物理机制，验证了多模态融合的必要性。SHAP与注意力分析的结论高度吻合，进一步确认了骨料品控和预处理对力学性能的调控作用。
**研究结论翻译：**
（1）传统经验公式预测RC弹性模量存在显著局限性，R2均低于0.2；而机器学习模型大幅提升了预测性能，其中CatBoost在精度和稳定性上均优于DNN。
（2）所提出的多模态预测模型（DNN-BERT和CatBoost-BERT）通过融合文本与数值信息，进一步提高了预测精度，R2分别达到0.90和0.87，相比单模态模型实现了稳定且显著的性能提升。
（3）与CatBoost-BERT及其他基准模型相比，DNN-BERT展现了更优的预测性能，主要归因于DNN能够端到端非线性融合数值与语义特征，并动态调整权重，从而更有效地捕捉多模态特征间的复杂关联。
（4）可解释性分析表明，与骨料来源和加工方法相关的文本特征在预测中起关键作用，提供了单一数值变量难以捕捉的互补信息，从机理角度验证了语义信息的有效性。
