Logistic主成分分析与lasso惩罚逻辑回归在高维二元预测因子诊断评分构建中的比较研究

《BMC Medical Research Methodology》：Logistic principal component analysis for combining binary predictors: a comparative study based on area under the receiver operating characteristic curve performance

　　

摘要

背景

将二元预测因子组合为单一诊断评分是临床研究中的常见挑战。传统方法如logistic回归和未加权总分（USS）被广泛应用，但在高维设置中可能不稳定或无法考虑相关性。Logistic主成分分析（Logistic PCA）是一种针对二元数据的降维技术；然而，其相对于传统基准的比较性能尚未得到系统评估。

方法

我们进行了一项Monte Carlo模拟研究，以比较Logistic PCA、凸Logistic PCA、USS、未惩罚logistic回归和lasso惩罚logistic回归在不同样本量（\(n = 100\)、200、400）、预测因子相关性（\(\rho = 0.1\)、0.5、0.9）和维度（\(p = 10\)、50、100；共27个场景）下的分类性能。每个场景重复1000次，计算受试者工作特征曲线下面积（AUC）及其95%置信区间，同时计算每种方法在Youden最优点处的准确度、敏感度、特异度、阳性预测值和阴性预测值，每次重复的平均计算时间，每种方法预测概率的Brier评分和校准斜率，以及每种方法估计的AUC相对于人群水平参考AUC的偏差和均方误差。还记录了由于不收敛或完全分离导致的logistic回归失败情况。这些方法还被应用于一个包含10个二元临床和实验室预测因子以及233个完整病例的真实世界慢性肾脏病（CKD）数据集。

结果

在模拟中，Logistic PCA、凸Logistic PCA和USS在所有设置和样本量下均显示出稳定的AUC。在\(\rho =0.5\)和\(\rho =0.9\)时，凸Logistic PCA的AUC与标准Logistic PCA的AUC在统计上无显著差异（95%置信区间重叠，差异\(\le 0.002\)）；然而，在\(\rho =0.1\)时，凸Logistic PCA相对于标准Logistic PCA获得了小幅但具有统计学意义的AUC优势（置信区间不重叠，在所有九个n-by-p组合中差异为0.011-0.033），表明凸重新表述的益处（如果存在）仅限于低相关性领域。未惩罚logistic回归在低维设置中获得了更高的AUC，但在高p值下由于完全分离表现出严重且非单调的不稳定性，根据n、p和\(\rho\)的具体组合，在从百分之几到100%的模拟重复中未能收敛。Lasso惩罚logistic回归在所有27个场景的所有重复中均收敛，并且始终获得比三种PCA/USS-based方法更高的AUC。除AUC以外的分类指标在方法可靠收敛的场景中保持了与AUC相同的方法排名。相对于人群水平参考AUC的偏差/均方误差分析确认，USS、Logistic PCA和凸Logistic PCA基本无偏（平均绝对偏差\(\le 0.002\)），lasso显示出小的正偏差（平均偏差0.044），而未惩罚logistic回归显示出最大的偏差，在收敛不可靠的场景中最为严重（平均偏差0.235）。在\(p=100\)时，Logistic PCA每次重复的计算速度始终比未惩罚logistic回归慢一到两个数量级，并且在\(p=100\)时的大多数（但并非所有）n-by-\(\rho\)组合中，其速度也比lasso慢，最多慢约24倍；在一种组合（\(n=400\)、\(\rho =0.9\)）中，lasso的交叉验证开销使其成为两者中较慢的一方。凸Logistic PCA始终比标准Logistic PCA快，但在大多数场景中仍比lasso慢。根据审稿人对校准的要求，我们通过对结果进行二次logistic重新校准，获得了USS、Logistic PCA和凸Logistic PCA的预测概率，并计算了所有五种方法的Brier评分和校准斜率；在几乎所有场景中，USS、Logistic PCA、凸Logistic PCA和未惩罚logistic回归的校准斜率接近1，这是使用同一评估数据进行无惩罚最大似然拟合的概率的预期特性，而lasso显示出系统性地更高的斜率（中位数1.70，在所有27个场景中范围为1.10–3.40），表明收缩导致的欠自信；Brier评分反映了基于AUC的排名，在收敛重复中未惩罚logistic回归最低（最佳），而Logistic PCA、凸Logistic PCA和USS最高。在CKD数据集中，所有五种方法——包括根据审稿人反馈添加的凸Logistic PCA——产生了相同的AUC 0.985，尽管未惩罚logistic回归触发了完全分离警告。

结论

Logistic PCA和lasso惩罚logistic回归都为高维、相关的二元预测因子设置提供了未惩罚logistic回归的稳定替代方案，在后者因分离而变得不稳定的情况下。由于Logistic PCA是一种无监督技术，而（lasso）logistic回归是有监督的，它们的AUC无法在同等条件下直接比较；在我们的模拟中，lasso在每个场景中都获得了比Logistic PCA更高的判别能力，同时也能可靠收敛，计算成本略高于未惩罚回归，但在高维时远低于Logistic PCA。凸Logistic PCA根据审稿人的要求进行了评估，在低预测因子相关性（\(\rho =0.1\)）时相对于标准Logistic PCA提供了小幅但具有统计学意义的判别优势，在中等到高相关性时无差异，并且在大多数场景中更快。因此，Logistic PCA提供了一种以稳定性为导向、与结果无关且基本无偏的选项，用于将二元预测因子组合为单一可解释的诊断评分，而不是作为正则化有监督回归的普遍更高判别能力的替代方案。