单模态 vs 多模态学习:融合策略与模型设计对分子性质预测与不确定性量化的系统评估

《Journal of Chemical Information and Modeling》:Unimodal vs Multimodal Learning: A Systematic Evaluation of Fusion Strategies and Model Design for Molecular Property Prediction and Uncertainty Quantification

【字体: 大 中 小 】 时间:2026年08月19日 来源:Journal of Chemical Information and Modeling 6.4

编辑推荐:

  分子性质的准确预测是环境化学的基础,然而在实验数据有限的情况下仍具有挑战性。多模态融合为整合互补的分子表征提供了一种有前景的策略;然而,分子表征、融合策略和学习算法对预测准确性与不确定性的相对贡献仍知之甚少。研究人员采用早期融合与晚期融合策略,结合四种学习算法

  
分子性质的准确预测是环境化学的基础,然而在实验数据有限的情况下仍具有挑战性。多模态融合为整合互补的分子表征提供了一种有前景的策略;然而,分子表征、融合策略和学习算法对预测准确性与不确定性的相对贡献仍知之甚少。研究人员采用早期融合与晚期融合策略,结合四种学习算法(LightGBM、随机森林RF、AttentiveFP和DMPNN),评估了五种分子模态(RDKit描述符、Mol2Vec嵌入、图神经网络嵌入、SMILES表征和MS2碎片谱)。在14种物理化学性质上,多模态模型相对于最优单模态模型表现出微弱的数值改进,但这些差异通常不具有统计显著性。相比之下,不确定性量化揭示了建模策略之间更清晰的区分。多模态融合显著改善了预测误差与估计不确定性之间的一致性。融合策略对认知不确定性(epistemic uncertainty)的影响较为温和,仅在选定的模态组合中观察到早期与晚期融合的显著差异,而元学习器(meta-learner)的选择对不确定性校准(uncertainty calibration)的影响最大。消融(ablation)、分组SHAP(Grouped SHAP)和RDKit描述符缩减分析表明,尽管描述符大幅缩减,RDKit描述符仍保持信息性,而Mol2Vec、SMILES、GNN嵌入和MS2则以性质依赖和部分冗余的方式贡献。计算成本随多模态复杂度显著增加,而预测准确性呈现边际递减,表明中间多模态配置通常在计算效率、预测性能和不确定性可靠性之间提供最有利的平衡。总体而言,结果表明成功的多模态学习取决于互补分子表征、融合策略和学习算法的协调选择,而非简单地增加整合模态的数量。多模态融合可能通过提高不确定性估计的可靠性来提供特别的价值。
**论文解读:单模态与多模态学习在分子性质预测与不确定性量化中的系统评估**

**研究背景**
分子性质预测是环境化学与工程领域的核心任务,支撑着污染物归趋评估、毒性筛选、反应性估计及处理工艺设计等应用。然而,实验数据通常成本高昂、获取困难,导致许多与环境相关的分子数据集规模小、异质性高且噪声大,限制了机器学习模型的可靠部署。环境系统本身具有多模态特性,整合结构、物理化学、质谱及过程级信息有望从有限数据中提取最大信息。尽管多模态融合引起了广泛关注,但关于融合何时有益、不同模态如何贡献独特信息、融合如何影响模型可靠性与置信度等基本问题仍不明确。为此,研究人员开展了系统评估,旨在回答四个核心问题:多模态融合是否一致提升预测性能;早期融合与晚期融合哪个更优;常用分子表征是否提供互补信息或仅重复已有信号;融合如何影响认知不确定性及校准。该研究发表在《Journal of Chemical Information and Modeling》。

**关键技术方法**
本研究使用了14个回归数据集,其中10个来自PHYSPROP数据库(涵盖辛醇-水分配系数LogP、蒸气压VP、水溶性WS、亨利定律常数HL、熔点MP、沸点BP、鱼类生物转化半衰期KmHL、生物富集因子BCF、土壤吸附系数Koc、生物降解半衰期BioHC),另外4个来自Zhong等人研究(描述污染物对二氧化氯ClO2、次氯酸HClO、硫酸根自由基SO4•–和臭氧O3的反应性)。主要技术方法包括:1)五种分子表征模态:RDKit描述符、Mol2Vec嵌入、基于图神经网络(GNN)的嵌入(AttentiveFP或DMPNN)、SMILES序列表征(BiGRU编码器)以及MS2碎片谱;2)两种融合策略:早期融合(特征级拼接)和晚期融合(预测级堆叠,元学习器);3)四种学习算法:LightGBM(LGBM)、随机森林(RF)、AttentiveFP和DMPNN;4)不确定性量化:基于3个独立训练模型的集成,以预测标准差作为认知不确定性估计,并采用皮尔逊相关性、回归式预期校准误差(ECE)和误校准面积等指标评估。

**研究结果**

**3.1 多模态融合对模型性能的影响**
通过R2、RMSE和MAE评估所有回归任务,性能差异系统性但依赖于模态组成与融合策略。GNN+RDKit+Mol2Vec(早期融合)取得最优整体性能(R2=0.773±0.136),其次为GNN+RDKit+SMILES(晚期融合,R2=0.763±0.145)和GNN+RDKit(晚期融合,R2=0.760±0.154)。四模态模型在早期与晚期融合下性能相当,表明增加第四种表征的增量收益有限。早期融合与晚期融合的直接比较显示模态特异性趋势:GNN+RDKit中晚期融合略优;GNN+RDKit+SMILES中晚期融合显著提升R2;而GNN+RDKit+Mol2Vec则偏好早期融合。元学习器选择影响显著:早期融合下LGBM表现最佳,晚期融合下AttentiveFP在高维组合中表现突出。通过Wilcoxon符号秩检验(Holm校正)发现,多数比较在统计上不显著,性能差异主要源于分子表征、融合策略与学习算法的交互作用,而非模态数量。

**3.2 多模态融合对不确定性量化与校准的影响**
认知不确定性(σ)随表征复杂度增加,特别是加入Mol2Vec后。最高σ出现在GNN+RDKit+Mol2Vec+SMILES(早期融合,σ≈0.196),最低为GNN+RDKit(晚期融合,σ≈0.107)。融合策略影响温和,早期融合σ略高。校准分析显示更高的不确定性不意味着更差的可靠性:四模态早期融合的误校准面积最低(≈0.476),而GNN+RDKit+SMILES早期融合最高(≈0.564)。误差-不确定性相关性(Corr(|error|,σ))最强见于GNN+RDKit+Mol2Vec早期融合(≈0.234)。元学习器显著影响不确定性:AttentiveFP产生最高σ(≈0.242)但最佳校准(误校准面积≈0.434),RF产生最低σ(≈0.074)但最差校准(≈0.587)。统计检验表明不确定性幅度主要受学习算法影响,而误差-不确定性关联在策略间无显著差异。

**3.3 不同模态对模型性能的贡献**
通过消融实验和分组SHAP分析,RDKit描述符是最一致必要的模态,移除后导致R2下降最大(早期融合ΔR2=-0.041±0.033)。GNN嵌入影响最小,移除后R2变化近乎零。Mol2Vec和SMILES呈性质依赖且部分冗余。分组SHAP显示早期融合中Mol2Vec和RDKit贡献最高,晚期融合中Mol2Vec主导。RDKit的强贡献不单纯源于特征维度(208维),而与其编码的物理化学和拓扑信息相关。

**3.4 质谱碎片谱作为另一模态的评估**
在三模态(GNN+RDKit+MS2)设置中,移除MS2导致R2轻微上升(ΔR2=+0.014±0.019),表明其非普遍必要。五模态(GNN+RDKit+MS2+Mol2Vec+SMILES)中MS2贡献进一步减弱。分组SHAP显示MS2在模型内被积极使用,但贡献次位于RDKit,且呈性质特异性。

**3.5 计算成本-效益分析**
计算成本随模态复杂度持续增加,晚期融合耗时显著高于早期融合。预测准确性呈现边际递减,加入SMILES时常降低性能。不确定性指标(相关性、校准)随模态增加逐步改善。综合来看,中间多模态配置在计算效率、预测性能和不确定性可靠性之间提供最佳平衡。

**3.6 多模态与单模态模型性能比较**
AttentiveFP与DMPNN作为GNN嵌入提取器比较:DMPNN在预测误差上显著优于AttentiveFP,但AttentiveFP在不确定性校准上显著更优。多模态模型相对于最佳单模态模型在预测准确性上呈微小数值提升(R2平均提升+0.0244,p=0.101),但未达统计显著。然而,多模态融合显著提升了误差-不确定性相关性(平均Δ=+0.1533,p=0.0046),表明多模态增强了误差感知能力。校准指标也有数值改善但未达显著。最佳模型配置因性质而异,多模态模型在多数指标上占优,但无单一配置普遍最优。

**总结与讨论**
研究表明,多模态建模的价值在于如何组合数据而非增加数据数量。RDKit描述符是最可靠且必要的表征,而学习型表征(Mol2Vec、SMILES、GNN嵌入)和MS2碎片呈性质依赖且部分冗余。融合策略对性能影响大于模态数量,多模态融合对不确定性行为的改善比预测准确性更一致且显著。元学习器的选择是关键设计要素。研究局限性包括仅使用3个模型集成估计认知不确定性,未来工作应探索更大集成。结论:成功的多模态学习需要平衡表征质量、融合策略与模型架构,特别是在可解释性和不确定性至关重要的应用中。多模态融合可能通过提高不确定性估计的可靠性来提供特别价值。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号