编辑推荐：
临床机器学习（ML）中与性别（sex）和性别相关（gender）的偏倚可能导致神经退行性疾病诊断预测的不公平，其中人口学因素可能混杂疾病相关模式。研究人员开发并评估了用于阿尔茨海默病（AD）分类的性别去偏倚ML模型及其对模型性能、公平性和可解释性的影响。研究人
临床机器学习（ML）中与性别（sex）和性别相关（gender）的偏倚可能导致神经退行性疾病诊断预测的不公平，其中人口学因素可能混杂疾病相关模式。研究人员开发并评估了用于阿尔茨海默病（AD）分类的性别去偏倚ML模型及其对模型性能、公平性和可解释性的影响。研究人员分析了来自阿尔茨海默病神经影像学倡议（ADNI）的757名个体，其中轻度认知障碍（MCI）患者600名（女性269名），AD患者157名（女性68名）。性别（sex）被定义为受保护属性。研究人员使用四种监督ML算法，基于人口学、遗传学、神经心理学和MRI衍生特征训练分类器。为缓解偏倚，研究人员采用了IBM AI Fairness 360框架中的方法。在缓解前后评估公平性和模型性能，并使用LIME和SHAP评估特征归因的变化。偏倚缓解降低了样本偏倚，统计平均差从?0.017降至0.004。在缓解模型偏倚方面，两个模型展现出分类性能与公平性的有利组合：采用Disparate Impact Remover的逻辑回归（LR）将平衡准确率从85.16%提升至88.08%，同时降低了均等赔率差（EOD）（原始=?0.036，去偏后=?0.003），并产生了最多数量的先前被误分类而后被正确分类的患者。LIME分析显示缓解后特征归因模式发生改变，包括性别相关变量的贡献增大。在保持有利公平性指标的同时达到最高平衡准确率（88.91%）的模型使用了Adversarial Debiasing。Adversarial Debiasing通过降低受保护属性对模型决策的影响来实现缓解。SHAP识别出简易精神状态检查（MMSE）和功能评估问卷（FAQ）的总分是AD的最强预测因子，表明临床相关的疾病特征在偏倚缓解后仍然重要。这些发现表明，公平感知ML可以在不损害分类性能的情况下减少AD分类中的性别相关偏倚。两个模型的互补优势凸显了根据临床目标定制偏倚缓解策略的价值。整合可解释性有助于开发和负责任地部署更透明、更公平的AI系统，用于神经退行性疾病诊断。
阿尔茨海默病（AD）是一种以记忆丧失、认知功能下降和神经改变为特征的进行性神经退行性疾病。性别（sex）差异日益被认为是AD风险和临床表现的重要方面。女性终生罹患AD的风险高于男性，且可能经历不同的认知衰退轨迹。尽管女性在言语记忆方面具有相对优势，但在相当的海马神经退行性变水平下可能表现出更严重的认知损害，这可能促成轻度认知障碍（MCI）诊断的延迟以及诊断后衰退表观速率的差异。生物学因素，包括载脂蛋白E（APOE）ε4状态和与绝经相关的激素变化，可能进一步促成AD风险和进展中的性别特异性差异。心理社会因素，包括抑郁、照护负担、社会隔离和社会参与差异，也可能影响认知表现和疾病表现。在此背景下，性别相关因素（sex-related factors）主要指生物学机制，而心理社会和社会文化因素可能反映性别（gender）相关影响对认知表现、疾病表现和临床结局的作用。这些性别相关差异不仅与临床诊断相关，也与AD机器学习（ML）模型的开发相关。ML算法从观测数据中学习模式，人口学、临床、遗传和影像特征可能包含在女性和男性之间存在系统性差异的信息。因此，模型可能学习到反映疾病生物学真实差异、临床表现差异或作为受保护属性代理变量的人口学和社会因素的性别相关模式。这些模式可能导致组间诊断性能差异，尤其是在病理和临床特征重叠的疾病早期阶段。尽管基于AI的方法在AD分类中表现出高性能，特别是在区分AD与认知正常对照方面，但对MCI的性能通常较低，临床转化仍面临泛化性有限、类别不平衡和可解释性等挑战。模型性能存在性别相关差异的证据，包括女性早期AD敏感性较低，进一步凸显了在评估总体分类性能的同时评估公平性的必要性。尽管对AD中性别差异的认识日益增加，但公平性在AD聚焦的AI研究中受到的关注相对有限。现有调查人口学差异的研究已报告了跨性别的模型性能差异，但系统性评估和正式偏倚缓解策略的应用仍然有限。特别是，很少有研究在不同ML模型家族之间比较多种偏倚缓解方法，同时考察去偏倚如何影响模型可解释性。这代表了一个重要空白，因为减少群体差异不应独立于分类性能或模型所用特征的临床相关性来考虑。公平感知ML提供了多种互补方法来处理此类差异。偏倚可以在模型训练前通过修改输入数据来缓解，在训练期间通过将公平性目标纳入学习过程来缓解，或在训练后通过调整模型预测来缓解。这些方法可能根据底层模型和数据结构的差异对公平性和分类性能产生不同影响。可解释人工智能（XAI）可以通过考察偏倚缓解是否改变模型所依赖的特征来进一步补充公平性评估。特别是，SHAP和LIME可以提供关于模型预测的互补的全局和局部见解。在此背景下，本研究通过在一个单一分析框架内整合公平性评估、分类性能和模型可解释性，对AD分类中的性别相关偏倚缓解进行系统性评估，以填补这一空白。具体而言，研究人员比较了五种互补的偏倚缓解策略，涵盖预处理（Reweighing和Disparate Impact Remover [DIR]）、处理中（Adversarial Debiasing和Prejudice Remover）和后处理（Reject Option Classification），跨越四种常用ML模型家族：逻辑回归（LR）、支持向量分类（SVC）、随机森林（RF）和XGBoost。选择这些方法是为了在ML流程中提供方法学多样性，涵盖数据层面的重加权和变换、公平性约束的模型训练、对抗学习、基于正则化的去偏倚和决策层面的调整。这使研究人员能够考察不同机制缓解性别相关偏倚是否对公平性、预测性能和模型可解释性产生不同影响。重要的是，研究人员不仅从群体层面性能差异的角度评估公平性，还使用互补的可解释性技术SHAP和LIME考察去偏倚如何影响模型特征依赖。这种方法使研究人员不仅能够评估偏倚缓解是否减少性别相关差异，还能评估此类变化是否伴随分类性能和模型预测所依据特征的变化。通过在多个模型家族和缓解阶段联合评估公平性、预测性能和特征依赖，本研究提供了对AD分类中公平感知ML潜在益处和权衡的整合评估。研究由三个假设指导：H1：性别相关差异——AD表现的性别差异可能反映在观测数据集中并随后被ML模型学习。因此，研究人员假设ADNI样本在样本层面表现出性别相关不平衡（H1a，使用标准化均数差[SMD]评估），且AD分类模型在模型层面表现出性别相关差异（H1b，使用差异影响[DI]和均等赔率差[EOD]评估）。H2：偏倚缓解的效果——公平感知方法可以通过修改训练数据、模型学习或预测来减少差异，尽管可能与分类性能产生权衡。因此，研究人员假设偏倚缓解将减少DI和EOD的模型层面差异而不损害平衡准确率。H3：特征依赖的变化——如果模型部分依赖人口学模式或性别的代理变量，减少这些影响可能改变性别和性别相关特征归因，同时保留临床相关信息。因此，研究人员假设去偏倚将改变特征归因模式，增加对临床和性别相关及疾病相关特征的依赖。这些假设共同提供了评估样本层面不平衡、模型层面公平性、分类性能和偏倚缓解后模型可解释性变化的框架。
研究方法方面，本研究数据来自ADNI数据库，使用横断面数据集包含757名参与者（337名女性），其中MCI患者600名（269名女性），AD患者157名（68名女性），年龄55至108岁。未纳入认知正常对照，因为主要目标是研究区分MCI与AD中的性别相关公平性而非AD与健康衰老的区分。最终数据集包含129个变量。受保护属性为原始数据集中记录的性别（sex）。数据预处理后，使用SMOTE仅在训练数据中处理类别不平衡，数据集按70%训练集和30%测试集随机划分。评估了四种监督ML算法：LR、SVM、RF和XGBoost，使用五折分层交叉验证和GridSearchCV进行超参数优化。偏倚在样本层面使用SMD评估，在模型层面使用DI和EOD评估。评估了五种偏倚缓解方法，涵盖预处理（Reweighing和DIR）、处理中（Adversarial Debiasing和Prejudice Remover）和后处理（Reject Option Classification）。Adversarial Debiasing使用种子0–99训练，最终模型基于bA、EOD和DI的联合考虑选择。偏倚缓解算法使用IBM AI Fairness 360工具包实现。次要分析中，使用LIME对去偏倚前误分类而去偏倚后正确分类的参与者进行局部可解释性分析，使用SHAP进行全局可解释性分析。所有分析在Python 3.11中进行。
研究结果方面，样本偏倚量化显示原始数据集SMD为0.017，偏倚缓解后SMD变为0.004。基线模型性能范围为85.16%至88.32%，RF模型达到最高准确率但偏倚指标最高（EOD=?0.194，DI=0.949）。基线模型中LR表现出最低偏倚（DI=0.997，SPD=?0.017，EOD=?0.036）。在预处理方法中，SVM联合DIR纠正了最多数量的先前误分类参与者，但其DI超过1表明可能存在过度校正。LR联合DIR正确重分类了8名参与者，同时将分类准确率从85.16%提升至88.08%，公平性指标维持或改善（DI从0.997增至1.02，SPD从?0.017增至0.010，EOD从?0.036降至?0.003）。基于预测性能和公平性指标的综合评估，LR/DIR模型被选用于后续可解释性分析。处理中Adversarial Debiasing模型（种子=49）达到88.91%的准确率，DI=0.997，SPD=?0.001。LR/DIR模型的LIME分析显示，去偏倚前校正女性和校正男性之间的显著特征贡献无差异；去偏倚后，照护技能在两群体中均成为显著贡献因素，婚姻状况在男性中成为显著保护因素，言语记忆、全局痴呆评分和帕金森症在两群体中均为显著风险因素。Adversarial Debiasing模型的SHAP分析识别出MMSE总分、FAQ总分、旅行和住房情况为平均绝对SHAP值最大的特征。SHAP蜂群图显示低MMSE评分与更高的AD分类概率相关，高FAQ评分和住房情况也与更高的AD分类概率相关。
讨论部分指出，研究发现即使在底层数据集性别相对平衡的情况下，AD分类中的性别相关差异也可能发生。SMD在缓解前后均接近零，而基线模型特别是RF表现出可测量的模型层面公平性差异。这表明仅代表性平衡不能保证公平的模型行为，支持在模型开发过程中进行显式公平性评估的必要性。重要的是，LR/DIR和Adversarial Debiasing在无明显分类性能损失的情况下实现了平衡准确率和公平性指标的有利组合。公平性指标捕捉模型行为的不同方面，不应孤立地解释为临床公平性的证据。DI和SPD主要描述预测率的差异，而EOD捕捉错误相关率的差异。此外，公平性标准可能相互冲突，没有单一指标提供临床预测公平性的普遍适当定义。LIME结果为去偏倚如何改变模型行为提供了进一步见解。LR/DIR后，若干特征在女性和男性中均对预测有贡献，包括言语记忆、全局痴呆评分和帕金森症。这种趋同可能表明对性别特异性决策路径的依赖减少，以及对跨群体相关特征的更多使用。然而，趋同不应被解释为性别特异性机制在临床上无关的证据。性别可以影响AD病理、生物标志物、脑萎缩和认知轨迹，因此抑制所有与性别相关的信息可能构成过度校正而非成功的去偏倚。去偏倚后性别相关变量贡献增加说明了这一区别。照护和婚姻状况可能提供关于功能状态、社会环境、知情者可用性或疾病表现的临床相关信息，但也可能作为社会经济或医疗相关因素的代理变量。LIME和SHAP分析提供了互补视角。SHAP识别出MMSE、FAQ、旅行和住房情况为平均绝对贡献最大的特征，表明去偏倚模型继续大量依赖认知和功能信息。这些发现支持将公平性评估和可解释性整合到临床AI开发中。研究存在若干局限性：评估的公平性指标未捕捉临床公平性的所有维度；数据集记录了性别（sex）但未直接测量性别认同（gender identity）或性别相关社会影响；ADNI是 selected 研究队列，人口学和临床多样性有限；LIME分析涉及相对较少的校正参与者。研究结论指出，在本研究中，公平感知机器学习方法在维持ADNI队列诊断性能的同时大幅减少了AD分类中的性别相关差异。这些发现强调数据集层面相对平衡的性别代表性不一定确保公平的模型行为，因此公平性应与预测性能一起被显式评估。可解释性分析为去偏倚效果提供了互补见解。偏倚缓解后，选定校正病例中的特征贡献显示女性和男性之间更大的趋同，而全局SHAP分析表明继续依赖临床有意义的认知和功能变量。同时，性别相关变量贡献增加凸显了区分临床相关信息与残余偏倚潜在代理变量的必要性。因此，公平性缓解不应简单地移除与性别相关的信息，而应旨在减少不合理差异的同时保留临床有意义的预测因子。这些发现支持在临床AI的开发和评估全程整合公平性审计和可解释性，而非将其视为独立的事后评估。然而，这些发现应在所选的相对同质的ADNI队列、性别的二元表示以及所用公平性和可解释性方法的局限性的背景下解释。在更多样化和独立队列中的外部验证以及纵向和交叉分析对于确定这些发现是否推广到常规临床人群将很重要。总体而言，公平感知机器学习为开发更公平的AI辅助决策支持提供了有前景的框架，用于神经退行性疾病。未来的临床转化应将公平性视为一个持续过程，需要在人群、模型和实施阶段进行持续评估，而非作为模型开发过程中实现的单一性能标准。
