《SLAS Technology》：Molecular absorption and fluorescence property prediction via a multimodal consensus model: Winning solution for the Transmittance category of the 2nd EUOS/SLAS Joint Challenge
编辑推荐：
研究人员在第2届EUOS/SLAS联合挑战（EUOS/SLAS Joint Challenge）的透射率（Transmittance）类别中获得第1名。研究人员提出了一种使用1/2/3D分子表示（molecular representation）的多模态共识模
研究人员在第2届EUOS/SLAS联合挑战（EUOS/SLAS Joint Challenge）的透射率（Transmittance）类别中获得第1名。研究人员提出了一种使用1/2/3D分子表示（molecular representation）的多模态共识模型（multimodal consensus model）。基于骨架分割（scaffold-split）的交叉验证（cross-validation）有助于在盲测（blind test）集上泛化。该集成模型（ensemble model）在每个子任务（subtask）上均达到或超过最佳单个模型。
研究背景与问题：在高通量筛选（High-Throughput Screening，HTS）中，化合物库分子常具有吸光和荧光性质，吸光化合物引起的内滤效应（inner filter effect）以及化合物自身荧光均是光学检测HTS分析的主要干扰来源，可导致假阳性和假阴性。准确预测化合物的光学性质有助于减少假阳性与假阴性并优化分析设计。第2届EUOS/SLAS联合挑战旨在对光学性质预测的计算方法进行基准测试，数据来自EU-OPENSCREEN bioprofiling program，约100,000个化合物，实际数据集为98,392个化合物，包含溶解度、氧化还原性质、荧光和吸光度/透射率测量。竞赛包括透射率（Transmittance）和荧光（Fluorescence）两个类别，分别独立排名；参赛者基于化学结构建立二分类模型，并以盲测集上的ROC AUC（受试者工作特征曲线下面积，Area Under the Receiver Operating Characteristic Curve）评价。透射率类别中，子任务1a预测340 nm处透射率≤70%，子任务1b预测450–679 nm范围内平均透射率≤70%；荧光类别中，子任务2a预测340 nm激发/450 nm发射下有无荧光，子任务2b预测480 nm/525 nm/560 nm激发下有无荧光。训练数据正例率分别为1a 5.64%、1b 1.47%、2a 16.69%、2b 0.24%，其中1b和2b存在极端类别不平衡。竞赛规则要求仅使用结构信息预测测试集化合物，禁止使用板/孔信息或分子标识符进行预测，但允许板/孔信息用于训练数据归一化；疑似存在问题的特定孔和板数据仅存在于训练集。
研究开展、结论与意义：研究人员提出一种多模态共识策略，分别训练使用1D、2D和3D分子表示的异质模型，并通过加权集成整合预测。该方法在透射率类别盲测中获得第1名；在荧光类别中最终排名第5。最终提交在公共和私有排行榜上的ROC AUC显示，所有子任务私有分数均高于公共分数，提示模型未过拟合公共排行榜，基于骨架分割的交叉验证可能反映了泛化性能。该研究支持结合多样分子表示和异质模型以提高光学性质预测中对模型选择的鲁棒性，并认为该多模态集成策略有望作为超越光学性质的通用分子性质预测方法，促进药物发现研究等应用。
关键技术方法：研究使用EU-OPENSCREEN bioprofiling program提供的98,392个化合物，训练集68,972个，测试集29,420个，其中14,766个用于公共排行榜。预处理采用RDKit和datamol，依次进行最大片段提取、盐和溶剂去除、SMILES标准化。构建三类模型：LightGBM和CatBoost实现的梯度提升决策树（Gradient Boosting Decision Trees，GBDT）；ChemProp和CheMeleon实现的消息传递神经网络（Message Passing Neural Network，MPNN）；以及Uni-Mol2-84M和Uni-Mol2-310M的3D预训练模型。输入表示包括1D ChemBERTa嵌入、2D扩展连通性指纹（Extended-Connectivity Fingerprint，ECFP）ECFP6、RDKit 2D描述符、Mordred描述符和CheMeleon嵌入，以及3D RDKit构象。训练采用Bemis–Murcko骨架（Bemis–Murcko scaffold，用于分子分组的结构骨架）5折交叉验证、嵌套交叉验证和Optuna调参，并以焦点损失（focal loss，降低易分类样本损失权重的损失函数）或正类权重处理类别不平衡；最后按交叉验证分数选择模型并优化加权集成。
研究结果：
3.1 透射率结果（Transmittance results）：在29,420个测试化合物中，公共排行榜分数在竞赛期间可用，盲测标签在竞赛结束前未公开。最终提交中，子任务1a在公共和私有排行榜的ROC AUC分别为0.857和0.871，子任务1b分别为0.670和0.708。所有子任务私有ROC AUC均超过公共分数，且未在私有集下降，提示未过拟合公共排行榜。研究人员方法在子任务1b取得盲测参与者中的最高ROC AUC。透射率类别最终集成权重显示，子任务1a中CheMeleon及使用CheMeleon特征的模型贡献较大；子任务1b中Uni-Mol2-84M和Uni-Mol2-310M的焦点损失模型各占0.222，LightGBM焦点损失模型等占较大权重，ChemProp多任务模型未被选入1b集成，焦点损失模型在1b权重中占很大份额，是该方法在透射率类别优势的主要因素之一；焦点损失带来的改进局限于低正例率的LightGBM任务，对ChemProp或CheMeleon并不一致。
3.2 荧光结果（Fluorescence results）：荧光类别中，最终提交的私有ROC AUC也均高于公共分数，子任务2a公共和私有分别为0.883和0.897，子任务2b分别为0.655和0.668。研究人员认为无证据表明过拟合公共排行榜，基于骨架的交叉验证可能反映了泛化性能。但荧光类别最终排名为第5，与透射率类别相比竞争力相对较低。荧光类别集成组成中，两个子任务均包含两个Uni-Mol2模型；子任务2a还包括ChemProp和CheMeleon相关模型；子任务2b中除多任务ChemProp外，ChemProp模型未被选入。
3.3 单个模型分析（Analysis of individual models）：研究人员利用竞赛后公开的公共测试标签事后评估单个方法，盲测真实标签尚未公开。子任务1a和2a中方法间差异较小，表明任务相对容易；子任务2a中CheMeleon是明显例外，分数显著较低。相反，子任务1b和2b中有效模型不同，预测更困难。单个模型的测试性能在不同任务间不一致，没有单一模型始终占优。基于5折交叉验证的单个模型排名与公共测试ROC AUC排名不一致：所有四个子任务中，交叉验证领先模型均不同于公共测试领先模型；交叉验证领先模型仅在子任务1b中保持公共测试第2，在1a和2a中降至第32，在2b中降至第31；公共测试领先模型按交叉验证排名仅在第18至第26之间。最终提交的集成模型在每个子任务的公共测试中排名第1至第5。ChemProp多任务模型除荧光子任务2b外，在所有子任务中优于单任务ChemProp，但2b中多任务学习导致性能退化，可能因不平衡任务的学习信号被多数任务掩盖。LightGBM使用CheMeleon嵌入作为输入，在除子任务2b外的所有子任务中与使用Mordred特征的方法相当或更好；ChemProp常优于微调后的CheMeleon MPNN，提示预训练收益在CheMeleon作为嵌入时更明显。TreeSHAP（Tree SHapley Additive exPlanations，树模型解释方法）分析显示，除子任务2b外，RDKit 2D描述符在所有任务中占平均绝对SHAP值的主要部分，而子任务2b中ECFP6贡献更大；Uni-Mol模型在子任务2b中取得相对较高性能。
讨论：
4.1 荧光类别挑战（Challenges in the fluorescence category）：研究人员方法在荧光类别排名第5，与获胜团队Team microsomes存在明显性能差距。与荧光类别获胜方案不同的两个主要因素为：使用量子力学（Quantum Mechanical，QM）描述符，以及显式建模吸收与荧光之间的因果关系。研究人员方法限于基于结构的描述符，未显式纳入电子态信息；获胜团队利用电子态特征作为QM描述符，包括最高占据分子轨道–最低未占分子轨道能隙（HOMO–LUMO gap）。此外，荧光获胜团队建模了从透射率到荧光的因果通路，即光吸收是荧光发射的前提。直接使用ChemProp多任务学习导致子任务2b性能尤其退化，可能因任务间不平衡使不平衡任务学习信号被多数任务掩盖。研究人员认为，反映任务间物理关系的结构化知识迁移等更精细多任务学习方法可能有效。
4.2 孔/板偏倚影响（Influence of well/plate bias）：竞赛中允许使用板/孔信息归一化训练数据，因为特定孔和板疑似存在数据质量问题。阳性样本计数在板间的分布与随机打乱标签所得分布不一致，尤其在透射率任务中显示板间正例计数偏倚。初始解释可能是测量问题导致的板/孔特异系统误差，但现有数据无法区分阳性样本集中反映的是系统误差还是化学相似分子被放置在同一板上。以Plate C1096为例，该板350个化合物中有56个为子任务1b阳性，阳性率约为总体数据集1.47%的十倍，但这些阳性化合物共享相似骨架；相邻ID化合物之间的平均Tanimoto系数（Tanimoto coefficient，分子相似性度量）为0.22，随机对照为0.14，在100次重复置换检验中p<0.01。因此，化合物在板上的放置并非相对于化学结构随机，板特异系统误差与化合物组成差异混杂。在此混杂下，将观察到的偏倚作为系统误差校正无法判断是在校正测量误差还是化学趋势；因此本研究未应用基于板/孔的归一化。该放置偏倚也影响性能解释：光学性质可能仅从孔/板信息或化合物ID预测而无需分子结构，这会削弱竞赛基于结构预测的目标；研究人员模型未将这些标识符作为输入，因此没有此类直接泄漏。阳性化合物因相似骨架聚集在同一板也可自然解释为这些骨架倾向阳性，但由于结构与板分配相关，不能排除训练和测试数据中化学相似分子共现或结构模型捕捉板级测量效应导致性能膨胀。研究人员建议实验设计策略，如确保化学相似分子不集中于特定板、防止从测试化合物ID识别孔/板，或将测试数据限制在训练集中未出现的板，以更适当评价泛化性能。
4.3 局限与未来方向（Limitations and future directions）：本研究存在若干局限。第一，依赖大量异质模型带来训练和推理的显著计算成本；敏感性分析显示，移除最终集成中约一半模型后性能常可基本维持，但减少后性能取决于保留哪些模型，子任务1b和2b差异尤其大；系统前瞻剪枝和集成蒸馏仍有待未来研究。第二，评价仅限于竞赛数据，未在独立外部数据集上验证；尽管盲测是不可用于模型选择的留出集，但在不同测量系统或化合物库等域外（out-of-distribution，OOD）条件下的鲁棒性仍未测试。第三，可解释性分析仅限于代表性LightGBM模型的TreeSHAP，未覆盖集成中其他模型。未来方向包括引入荧光任务获胜团队使用的HOMO–LUMO gap等量子化学描述符，以及开发反映吸收和荧光物理因果关系的结构化多任务学习或堆叠模型。
5 结论（Conclusions）：本文详细描述了在EUOS25挑战透射率类别中获得第1名的多模态集成方法。所提出模型基于由骨架交叉验证分数驱动的加权集成，整合了跨越1D、2D和3D分子表示的多样模型。本研究关键发现如下：在交叉验证中表现最佳的单个模型未必在公共测试中最优，而加权集成在所有四个子任务中均保持接近顶部性能。这一结果支持结合多样分子表示和异质模型以提高光学性质预测中对模型选择的鲁棒性。LightGBM中的焦点损失对极端类别不平衡任务在一定程度上有效。相反，ChemProp多任务学习对类别不平衡任务导致性能退化，提示需要更精细方法。此外，采用Bemis–Murcko骨架分割的交叉验证有助于适当评价模型泛化性能并在盲测集上取得强性能。本研究提出的多模态集成策略有望作为超越光学性质的通用分子性质预测方法，为药物发现研究和其他应用提供贡献。
