《Neurocomputing》：Tabular implicit deep neural networks ensembles for the prediction of pathogenic genetic variants in Mendelian diseases
编辑推荐：
孟德尔遗传疾病包含大约描述过的疾病，但其中约一半的遗传基础已知，且分子诊断通常仍然困难或未解决。在这种情况下，机器学习方法扮演关键角色。然而，识别人类基因组非编码区域中的致病变异特别具有挑战性，因为这些变异远多于中性变异。这种极端不平衡导致标准机器学习方法对多
孟德尔遗传疾病包含大约描述过的疾病，但其中约一半的遗传基础已知，且分子诊断通常仍然困难或未解决。在这种情况下，机器学习方法扮演关键角色。然而，识别人类基因组非编码区域中的致病变异特别具有挑战性，因为这些变异远多于中性变异。这种极端不平衡导致标准机器学习方法对多数类表现出强烈的预测偏差，显著限制了它们的敏感性。基于近期在不平衡感知和集成学习方法方面的进展，研究人员提出了两种新的深度学习模型，用于预测孟德尔疾病中的致病非编码变异。第一个模型T-ResNet（表格型残差神经网络）采用具有残差连接的模块化架构，以及小批量平衡策略来解决类别不平衡。该设计简化了超参数优化，同时减轻了梯度消失效应。第二个模型TIDE-Var（表格型隐式深度神经网络集成用于变异预测）利用TabM和BatchEnsemble模型构建一个隐式深度神经网络集成，通过最小化共同目标函数联合训练，并部分共享学习参数。学习器特定的适配器参数促进了隐式基学习器之间的多样性，同时保持集成计算高效。全基因组实验表明，T-ResNet实现了平均精确率-召回率曲线下面积（AUPRC）为，与最先进方法HyperSMURF相当。相比之下，TIDE-Var的结果显著优于HyperSMURF（AUPRC），并略优于XGBoost（表格数据分类的顶级方法之一）。消融研究证实，具有部分共享和基学习器特定适配器学习参数的正则化联合集成学习是实现高预测性能的关键因素，这对于提高罕见遗传疾病患者的诊断率至关重要。
孟德尔疾病（Mendelian diseases）约有一万种，但仅约半数已知遗传病因，且分子诊断常困难或未明确。非编码区域的致病变异预测尤为关键，但因致病变异远少于中性变异，极端类别不平衡导致标准机器学习方法偏向多数类，灵敏度受限。现有方法如CADD（Combined Annotation Dependent Depletion）、HyperSMURF、XGBoost等虽有所进展，但仍需改进。为此，研究人员提出两种深度学习模型：T-ResNet（Tabular Residual Neural Network）和TIDE-Var（Tabular Implicit Deep neural network Ensembles for Variant prediction）。T-ResNet采用模块化残差架构和小批量平衡策略，简化超参数优化并缓解梯度消失；TIDE-Var基于TabM和BatchEnsemble，通过共享权重矩阵和学习器特定适配器参数构建隐式集成，实现联合优化并保持计算效率。在全基因组数据集（约1400万变异，仅约5000致病，26个特征，来源Smedley et al. [26]）上，与HyperSMURF、XGBoost、CADD比较。TIDE-Var平均AUPRC显著优于HyperSMURF，略优于XGBoost，T-ResNet性能与HyperSMURF相当。消融研究表明，隐式集成、参数共享和适配器多样性是性能关键。TIDE-Var精确率高，适合减少假阳性；T-ResNet和HyperSMURF灵敏度更高，适合探索性场景。所有模型仍难以区分部分致病与中性变异，表明特征空间相似性限制。该研究发表在《Neurocomputing》，有望提升孟德尔疾病非编码区域变异的诊断能力。
**研究结果**
**3.1 数据集**：使用Smedley et al. [26]公开数据集，包含约1400万个非编码区域单核苷酸变异（SNV）和小插入/缺失，仅约5000个致病变异，类别不平衡比约为1:2800。每个变异由26个数值特征描述，包括保守性、转录、调控和表观遗传特征（如DNase、组蛋白修饰、转录因子结合位点等）。
**3.2 实验设置**：采用十次分层外部训练/测试保留（80:20分割），通过第一次保留的5折交叉验证网格搜索优化超参数，固定后应用于其余保留。
**3.3 超参数优化**：T-ResNet和TIDE-Var经分层优化，确定最佳架构（如T-ResNet：5组，每组3块，每层128单元；TIDE-Var：8个隐式基学习器，嵌入维度32，采用分位数基分段线性嵌入（PLE））。HyperSMURF和XGBoost也经网格搜索优化。
**3.4 泛化性能评估**：十次保留测试集上，TIDE-Var平均AUPRC最高，显著优于HyperSMURF和T-ResNet，略优于XGBoost（Wilcoxon检验差异不显著）。T-ResNet与HyperSMURF差异显著。CADD表现最差（AUPRC低两个数量级），因其设计为全基因组无偏评分。
**3.5 预测与学习行为表征**：TIDE-Var精确率极高，假阳性率低，灵敏度略低于HyperSMURF和T-ResNet。概率直方图显示TIDE-Var将多数中性变异预测概率限制在0.2以下，避免假阳性。嵌入空间可视化（PCA+UMAP）显示两类仍显著重叠，说明任务内在困难。消融研究：减少隐式基学习器数量（从8降至2）使AUPRC下降；隐式集成（参数共享、联合优化）优于独立训练的标准集成，且内存效率更高；小批量平衡对验证性能无显著影响，因大批量（8192）已保证每批至少含一个阳性样本。
**结论讨论**：识别非编码基因组致病变异是开放的计算生物学挑战，极端类别不平衡和深度集成学习进展促使研究人员设计两种模块化深度神经网络系统。T-ResNet通过模块化残差和小批量平衡达到与HyperSMURF相当的性能。TIDE-Var基于隐式基学习器参数共享和适配器多样性，显著优于现有方法，并略优于XGBoost，证明深度集成在高度不平衡表格遗传数据上可达到与正则化提升树集成相当的结果。消融表明隐式集成、联合优化和适配器多样性是关键因素。TIDE-Var精确率极高，适合降低假阳性；HyperSMURF和T-ResNet灵敏度更高，适合探索性筛选。所有模型仍难区分部分致病与中性变异，特征空间重叠是主要限制。未来可扩大特征集和阳性样本，并设计多模态集成（如合并序列上下文）。TIDE-Var可潜在集成到Genomiser中，提高非编码区域突变导致的孟德尔疾病诊断率。
