《Biometrical Journal》:Choosing an Appropriate Outlier-Detection Method When Comparing Institutional Performances in Clinical Audits
编辑推荐:
临床审计对于监测和改善医疗质量至关重要,统计异常值检测用于识别绩效偏离预期标准的医疗单元。两种常用异常值检测方法是共同均值模型(Common Mean Model, CMM)和随机效应逻辑回归(Random Effects Logistic Regressio
临床审计对于监测和改善医疗质量至关重要,统计异常值检测用于识别绩效偏离预期标准的医疗单元。两种常用异常值检测方法是共同均值模型(Common Mean Model, CMM)和随机效应逻辑回归(Random Effects Logistic Regression, RELR)。然而,当应用于同一数据集时,这些方法可能将不同的医疗单元识别为异常值。错误地将某一单元标记为异常值可能带来严重后果,包括声誉损害、员工士气下降、不必要的监管审查、资源转移和公众信任丧失。本文通过模拟研究评估CMM和RELR在一系列情景下的表现,以探究这些差异的原因。结果表明,异常值检测的差异主要由每种方法的正态性假设满足程度所驱动。当这些假设被违反时,对于一种或两种方法,两种方法可能产生显著不同的异常值检测结果。为给定数据集选择最合适的方法,研究人员建议通过结合视觉诊断(如QQ图(Quantile–Quantile plots))与定量指标(如Lin一致性相关系数(Lin's concordance correlation coefficient, CCC))来评估每个正态性假设。
论文解读:临床审计中机构绩效比较的异常值检测方法选择
研究背景与问题:临床审计用于评估医院、全科诊所或临床医生等医疗单元的诊疗过程或结局是否符合既定临床标准,并通过基准比较识别表现偏离多数单元的异常值。异常值识别有助于支持安全、有效、高质量的 patient care,影响卫生政策、专业发展和资源配置;错误标记异常值则可能造成声誉损害、员工士气下降、不必要的监管关注、资源错配和公众信任下降,漏检真正低绩效单元也会持续威胁患者安全与照护质量。临床审计数据常具有患者嵌套于医疗单元的聚类结构,结局可为二分类(如存活/死亡),并存在单元间异质性和病例组合差异,因此需要处理聚类并进行风险调整。常用方法包括共同均值模型(Common Mean Model, CMM)和随机效应逻辑回归(Random Effects Logistic Regression, RELR)。CMM多基于单元聚合数据、概率尺度并常配合过离散校正,RELR基于患者水平数据、logit尺度并纳入随机效应。两者均为标准工具,但同一数据中可能识别出不同异常值。错误标记后果严重,且CMM因易实施和可视化而更常用,因此需要研究两种方法差异的原因,并为临床审计中异常值检测方法选择提供循证建议。
研究开展、结论与意义:研究人员通过模拟研究比较CMM和RELR在多种情景下的异常值检测性能,并提出QQ–Lin方法,即依据Lin一致性相关系数(Lin's concordance correlation coefficient, CCC)选择正态性假设更受支持的方法;随后将两种方法应用于英国经皮冠状动脉介入治疗(percutaneous coronary intervention, PCI)后30天风险调整死亡率真实数据。研究结论表明,两种方法异常值检测差异主要源于其正态性假设分别位于概率尺度和logit尺度;由于概率与logit值关系在概率接近0或1时高度非线性,两种正态性假设不能在整个概率范围内同时成立。当结局发生率低或单元间变异大时,方法不匹配可导致好异常值过度检测和坏异常值检测不足,反向情形亦然。研究人员建议结合QQ图和Lin's CCC评估正态性假设,以选择更适合给定数据集的方法。该研究的意义在于为临床审计异常值检测提供可操作的方法选择依据,减少因方法不当导致的错误分类,并促进更准确的审计决策。
关键技术方法概述:模拟研究按ADEMP框架设计,设置CMM-DGM与RELR-DGM两类数据生成机制(data-generating mechanism, DGM),变化单元数(50、100、200)、单元规模(500、1000、2000)、异常值比例(0%、4%、8%)、结局发生率(0.02—0.50)、过离散因子(2、4、8)和组内相关系数(intraclass correlation coefficient, ICC;0.03、0.05、0.10),每情景模拟500次;以假阳性率(false positive rate, FPR)、敏感度、方法间一致率和QQ–Lin正确选择比例评价。QQ–Lin依据Lin's CCC选择CMM或RELR。实例使用英国88家医院2015年4月至2018年3月PCI患者262,035例的30天风险调整死亡率数据,风险预测采用英国心血管介入学会(British Cardiovascular Intervention Society, BCIS)逻辑回归模型,估计过离散因子4.45、ICC 0.033;分析在R 4.4.1中完成。
研究结果:
2 常用方法:研究人员回顾CMM和RELR的建模框架,指出CMM基于单元聚合数据和概率尺度,RELR基于患者水平数据和logit尺度随机效应;两者均假设某些检验统计量服从正态分布,但尺度不同。
2.1 共同均值模型(CMM):CMM假设各单元共享共同真实绩效,观察值变异来自随机二项变异,并常采用乘法过离散校正处理聚类和风险调整不足导致的额外变异;通过检验统计量与临界值比较识别异常值,结果可用漏斗图及控制限可视化。
2.2 随机效应逻辑回归(RELR):RELR通过单元特异随机效应处理聚类和单元间异质性,在患者水平拟合二分类结局,并可直接通过协变量纳入风险调整;采用经验贝叶斯(Empirical Bayes, EB)预测随机效应,结合诊断标准误构造检验统计量识别异常值。
3 CMM和RELR方法正态性假设评估:CMM假设概率尺度检验统计量正态,RELR假设logit尺度检验统计量正态;概率与logit值的非线性关系使两种假设不能在整个概率范围同时成立,低发生率或大单元间异质性时更可能产生不同检测结果。研究人员建议用QQ图和Lin's CCC共同评估正态性,Lin's CCC越高表示与正态性一致性越好。
4 模拟研究:研究人员通过模拟比较CMM、RELR和QQ–Lin的FPR、敏感度和一致率,并评估QQ–Lin选择正确方法的比例。
4.1 数据生成机制(DGM):设置对应CMM和RELR的两类DGM,并分别在有、无异常值情景下生成数据;异常值均值相对在控分布偏移2.3个标准差,对应双侧显著性水平2%,并限制异常值与在控单元重叠。
4.2 方法:对每个模拟数据集分别应用CMM、RELR和QQ–Lin;QQ–Lin选择Lin's CCC更高、即正态性假设更受支持的方法。
4.3 模拟性能指标:以总体及好、坏异常值分别的FPR和敏感度评价方法有效性,并计算CMM与RELR总体及异常值分类一致率,以及QQ–Lin正确选择与给定DGM一致方法的比例;每情景500次模拟。
4.4 结果:无异常值时三种方法总体FPR均接近名义水平0.05;但分别考察好、坏异常值时,若检测方法与DGM不匹配,FPR会偏离名义水平。低发生率下,将RELR用于CMM-DGM数据会过度检测好异常值并欠检测坏异常值,反向应用时相反;发生率接近1时因logit函数形状出现反向模式,单元间变异越大越明显。QQ–Lin的总体和分侧FPR与敏感度接近与DGM匹配的方法。异常值比例增加会使三种方法FPR低于名义水平且敏感度下降,原因是异常值膨胀过离散因子或单元间方差估计。QQ–Lin正确选择比例受单元数和单元规模影响较小,低发生率下至少为0.73;发生率接近0.5时正确选择比例下降,同时两种方法异常值分类一致率升高。
5 实例:经皮冠状动脉介入治疗(PCI)后30天死亡率:在88家英国医院PCI数据中,CMM识别4个异常值(医院10和13为显著较低死亡率,医院12和44为显著较高死亡率);RELR额外识别5个好异常值(医院33、36、46、58和86),仅识别1个坏异常值(医院44)。QQ图和定量指标显示CMM检验统计量更接近正态(Lin's CCC为0.99,RELR为0.97;CMM偏度?0.07、峰度3.03,RELR偏度?0.70、峰度3.28),提示该数据中CMM更合适,使用RELR会过度检测好异常值并欠检测坏异常值,与模拟结果一致。
6 讨论:CMM易实施、可视化和软件支持较好,但基于单元聚合数据;RELR可患者水平风险调整并通过随机效应处理聚类,但大数据计算成本较高,罕见结局或小单元较多时可能出现收敛问题。两者分别通过过离散校正和随机效应处理单元间异质性,但正态性假设分别位于概率尺度和logit尺度,不能同时在整个概率范围成立。研究人员指出,据其所知,方法假设违反对CMM和RELR性能的影响尚未在文献中探讨;模拟和实例均显示方法不匹配时会产生方向性误分类。QQ–Lin结合QQ图和Lin's CCC,实施直接,可纳入标准异常值检测流程;单元数少时Lin's CCC不确定性可通过置信区间量化。发生率约0.5且单元间变异小时方法区别影响较小,但仍建议使用正态性诊断支持有原则且一致的方法选择;若仅能获得单元水平数据,CMM是可行方法,但仍需评估正态性假设,若正态性可疑应谨慎解释结果。局限性包括仅研究两种常用方法、未评估稳健估计方法对异常值膨胀方差估计的影响、模拟未纳入风险调整质量差异,以及多单元比较时多重检验问题未纳入但可作为后处理步骤处理。
研究结论翻译:总之,研究人员的发现表明,应在CMM和RELR方法之间谨慎选择,因为这可直接影响到哪些单元被检测为异常值,尤其是在结局发生率较低的临床环境中。应关注支撑两种方法的正态性假设,并评估这些假设是否适合手头数据。这种考虑应有助于更准确的异常值检测,并最终更好地为临床审计决策提供信息。