HSTXGB：一种整合前处理与后处理的超参数自调优XGBoost方法用于基因调控网络推断

《Frontiers in Genetics》：HSTXGB: a hyperparameter self-tuning XGBoost method integrating pre- and post-processing for gene regulatory network inference

　　

中文摘要翻译：阐明基因调控网络（gene regulatory networks, GRNs）仍是系统生物学的核心挑战之一，对于阐明发病机制和治愈疾病至关重要。多种机器学习技术已被开发用于基因调控网络推断，但识别复杂的相互作用仍然是一个基本问题。在此，研究人员提出了一种网络结构细化方案，称为HSTXGB（一种整合前处理与后处理的超参数自调优XGBoost方法），通过利用XGBoost的非线性建模能力，同时整合先验知识（如敲除数据）和后验统计信息（如调控概率），从时间过程表达数据中推断基因调控网络。具体而言，HSTXGB首先使用自调优XGBoost模型计算调控关系置信度，该模型考虑了基因表达中的时间依赖性。随后，设计了两种新策略来整合来自先验数据的信息和纳入统计信息，分别对应于敲除实验中的波动以及调控频率和强度。在DREAM挑战赛的基准数据集以及大肠杆菌（E. coli）数据集（共8个网络）上的验证实验表明，与八种其他最先进方法相比，HSTXGB方案取得了显著更优的性能。

论文解读文章：

一、研究背景与问题

基因调控网络（Gene Regulatory Networks, GRNs）由相互作用的分子调控因子组成，决定特定细胞情境下基因的激活与沉默。阐明GRNs有助于理解生物发育、功能和病理机制，例如解释细胞如何执行多样功能、如何响应环境变化调节基因表达，以及非编码遗传变异如何导致疾病。因此，GRN推断已成为生物信息学的基本任务。随着RNA-Seq和DNA微阵列等高通量实验技术的发展，从基因组尺度的表达数据推断GRN成为可能。现有计算方法主要分为四类：基于模型的方法（如布尔模型、贝叶斯网络和微分方程模型）、基于边重要性的方法（如皮尔逊相关系数PCC、欧氏距离ED、偏相关PC和互信息MI）、基于网络拓扑的方法（如PCA-CMI、CMI2NI、RWRNET、NSCGRN、NSRGRN）以及基于特征选择的方法（如GENIE3、dynGENIE3、NIMEFI、MMFGRN）。尽管这些方法各有优点，但仍存在局限：基于模型的方法难以设定稳定的方程参数；基于边重要性的方法无法推断调控方向；基于网络拓扑的方法常产生冗余边且无法输出调控排序；基于特征选择的方法如GENIE3可能保留高排名冗余调控关系，而NIMEFI和MMFGRN涉及大量可调参数，增加了预测不确定性。因此，开发一种能够自动调参、整合多源信息并准确推断GRN的新方法具有重要意义。

二、研究内容与结论

研究人员提出了HSTXGB（hyperparameter self-tuning XGBoost method integrating pre- and post-processing），一种基于特征选择的GRN推断方法，利用XGBoost的非线性建模能力，整合前处理（敲除数据先验信息）和后处理（调控统计信息），并采用超参数自调优策略。在DREAM4 in silico size-100挑战数据集（5个网络）和大肠杆菌数据集（冷、热、氧化应激3个网络，共8个网络）上，与八种最先进方法（GENIE-lag、Jump3、BiXGBoost、iRafNet、HiDi、PFBNet、NSRGRN以及DREAM4挑战赛优胜者）进行比较。实验结果表明，在不使用敲除数据时，HSTXGB在DREAM4全部5个网络上取得最高AUROC，改善幅度为0.5%–5.5%；在AUPR上，除网络3和5略低于PFBNet外，其余网络均取得最高值，改善幅度为9.4%–35.6%。整合敲除数据后，HSTXGB在网络1和4上与PFBNet并列最高AUPR（0.64和0.52），在AUROC上除网络1并列最高（0.935）外，网络2–5分别比次优方法提高1.8%、1.4%、2.2%和3.7%。在大肠杆菌数据集上（无敲除数据），HSTXGB在三种应激条件下AUROC均最高（比次优方法提高4.2%–5.4%），平均AUPR分别比次优算法高38.6%、36.2%和19.9%。这些结果证明HSTXGB在合成基准网络和真实时间序列数据上均具有显著<｜begin▁of▁sentence｜> The proposed method achieves superior performance and robustness.

三、关键技术方法

HSTXGB方法主要包括以下几个关键步骤：（1）利用XGBoost（eXtreme Gradient Boosting）作为基础模型，构建集成回归树，通过正则化目标函数平衡预测准确性与模型复杂度；（2）采用超参数自调优策略，为每个目标基因单独优化超参数（如max_depth、learning_rate、subsample、colsample_bytree、alpha、lambda、min_child_weight、gamma），其中max_depth的自调优范围通过实验确定为randint(5,7)；（3）整合前一时间点信息，将时间序列数据建模为目标基因在时间t的表达受候选调控因子前k个时间点累积影响，累积函数定义为带衰减因子δ的加权和；（4）整合敲除数据先验信息，通过L2范数归一化使不同子问题的权重可比，再利用敲除实验中基因表达偏离均值的程度计算先验置信度，并与XGBoost特征重要性权重相乘；（5）利用统计信息后处理，基于候选调控因子调控多个靶基因的权重方差σ2_j放大其调控置信度，最终全局排序得到GRN。样本数据来源为DREAM4挑战赛（5个100基因网络，含时间序列和敲除数据）和E. coli数据集（冷、热、氧化应激条件下，163个转录因子、1484个靶基因），金标准来自DREAM5挑战赛和RegulonDB数据库。

四、研究结果

3.3.1 无敲除数据时的DREAM4性能评估：在DREAM4全部5个网络上，HSTXGB的AUROC均高于其他方法（GENIE-lag、Jump3、BiXGBoost、PFBNet），改善幅度为0.5%–5.5%；AUPR上，HSTXGB在3个网络中超过次优方法（改善22.6%、35.6%、9.4%），在网络3和5略低于PFBNet（差异2.2%和8.7%）。该结果表明，仅使用时间序列数据时HSTXGB已具较强竞争力。

3.3.2 含敲除数据时的DREAM4性能评估：与iRafNet、HiDi、PFBNet、NSRGRN和DREAM4挑战赛优胜者比较，HSTXGB在网络1上与PFBNet并列AUROC最高（0.935），网络2–5分别提高1.8%、1.4%、2.2%和3.7%；AUPR上，网络1和4与PFBNet并列最高（0.64和0.52），网络2和3比次优方法分别提高8.2%和5.0%，网络5略低于PFBNet（0.413 vs 0.448）但仍排第二。对比含与不含敲除数据的结果，说明整合先验信息能显著提升推断性能。

3.4 大肠杆菌数据集性能评估：在无敲除数据的E. coli冷、热、氧化应激数据集上，HSTXGB AUROC均最高，比次优方法提高5.3%、5.4%、4.2%；AUPR分别比次优算法高38.6%、36.2%、19.9%。这验证了HSTXGB在真实大规模时间序列数据上的有效性和泛化能力。

五、讨论与结论

讨论部分指出，HSTXGB通过自动超参数调优为每个靶基因定制最佳配置，优于对所有基因使用单一参数配置的做法；先验敲除数据与后验统计信息的融合是性能提升的关键。研究结论为：提出了HSTXGB，一种基于特征选择的GRN推断方法，利用XGBoost非线性建模能力，通过超参数自调优整合先验知识（如敲除数据）和后验统计（如调控概率），在DREAM挑战赛和E. coli基准数据集上显著优于八种最先进方法。未来工作可探索无偏梯度提升决策树（UnbiasedGBM）以增强正则化和特征选择，并采用两步策略（先筛选近零置信度调控因子，再对缩减候选集重新评分）以减少假阳性并提高效率。论文发表在《Frontiers in Genetics》。