《Bioengineering》：Pre-Deployment Audit of Actionability and Equity in Severe Tooth Loss Prediction Using Constrained Algorithmic Recourse and Temporal Validation
编辑推荐：
背景：预测性能并不能确定模型识别的风险是否对应可行且公平的路径。研究人员使用约束算法反事实（constrained algorithmic recourse）和同源时间验证（same-source temporal validation）评估了一个重度牙齿缺失
背景：预测性能并不能确定模型识别的风险是否对应可行且公平的路径。研究人员使用约束算法反事实（constrained algorithmic recourse）和同源时间验证（same-source temporal validation）评估了一个重度牙齿缺失预测模型的可操作性与公平性。
方法：研究人员使用2022年行为风险因素监测系统（Behavioral Risk Factor Surveillance System, BRFSS）中433,772名成人的数据训练了一个可解释提升机（Explainable Boosting Machine, EBM）。高风险成人接受了反事实审计，该审计包含不可变锁定（immutability locks）、行为方向性（behavioral directionality）、生理安全下限（physiological safety floors）以及最多三次特征改变。反事实表示模型空间内的假设移动，而非治疗建议、因果风险降低或牙齿缺失的逆转。主要可达性（primary reachability）定义为冻结引擎识别到可行路径的未加权分析队列比例；一项BRFSS调查加权领域敏感性分析使用了最终权重、分层和初级抽样单位（primary sampling units, PSU）。审计将可达性与可达成人中的条件负担（conditional burden）区分开。研究人员使用Oaxaca–Blinder分解在社会差异指标（Social Indicators of Disparity Index, SIDI）和收入分层中评估公平性。冻结规范在2022年留出集和2024年BRFSS队列（N = 448,213）中未经重新训练进行了评估。
结果：2022年完整队列、2022年留出队列和2024年队列的调查加权受试者工作特征曲线下面积（area under the receiver operating characteristic curve, AUC）分别为0.858、0.855和0.858。主要未加权可达性分别为10.61%、10.54%和9.82%；相应的调查加权估计值分别为12.69%（95%设计感知置信区间，12.33–13.07%）、12.31%（11.54–13.12%）和11.30%（10.95–11.65%）。因此，两种估计量下的可达性均有限。高SIDI组显示出较差的校准。在预设定的主要SIDI中性加性成本规范下，SIDI分层间的残差条件成本差异较小；替代负担指标具有方向依赖性。收入残差从2022年留出集到2024年有所衰减，尽管其置信区间为固定管道行自助法区间，而非完全基于设计的区间。
结论：稳定的预测性能掩盖了有限的模型空间可操作性。整合明确标记的可达性估计量、条件负担、公平性和时间迁移可加强部署前评估。由于重度牙齿缺失不可逆，反事实路径应被解释为对模型隐含可改变因素的应激测试，而非可逆性的证据。
研究背景：医疗系统越来越多地采用人工智能（AI）和机器学习（ML）风险模型支持筛查、分诊、预防和人群健康管理。然而，区分度、校准和时间验证等预测性能指标并不能确定高风险分类能否转化为可行、公平且具有操作意义的行动。这一部署就绪性缺口促使在面向
