《Diagnostics》:Does Lower Regression Error Mean Stronger Forensic Evidence? Machine Learning Regression Versus Demirjian and Willems Methods for Dental Age Estimation at 12- and 15-Year Legal Thresholds
编辑推荐:
背景/目的:牙齿年龄估计在临床和法医学实践中具有重要意义,尤其在骨骼指标不可用或受损的情况下。机器学习模型通常比传统牙科方法获得更低的回归误差;然而,这是否能转化为在法律相关年龄阈值上更好的分类性能尚不清楚。本研究比较了Demirjian和Willems方法与
背景/目的:牙齿年龄估计在临床和法医学实践中具有重要意义,尤其在骨骼指标不可用或受损的情况下。机器学习模型通常比传统牙科方法获得更低的回归误差;然而,这是否能转化为在法律相关年龄阈值上更好的分类性能尚不清楚。本研究比较了Demirjian和Willems方法与多种机器学习模型在总体准确性和阈值特异性性能上的表现,针对12岁和15岁两个司法管辖区特定年龄阈值。方法:回顾性评估了1384名年龄在8.00–15.99岁个体的全景X光片。使用七颗左侧下颌恒牙的发育阶段和性别作为模型输入。采用线性回归、决策树、随机森林、支持向量回归、多层感知器、梯度提升和XGBoost进行交叉验证训练,并在内部分留测试集上评估。性能通过回归误差、年龄组特异性偏差、敏感度、特异度、平衡准确度和似然比进行评估。结果:机器学习模型总体上比传统方法产生更低的误差。在分留测试集中,支持向量回归和梯度提升的最低平均绝对误差为0.512年,XGBoost为0.519年,而Willems和Demirjian方法分别为0.649年和0.654年。然而,较低的回归误差并未持续改善阈值特异性性能。在12岁阈值处,机器学习模型相对Willems方法提高了敏感度,但降低了特异度和阳性似然比。在15岁阈值处,线性回归和随机森林未产生阳性预测,而表现较好的模型结果与Willems方法相似。结论:较低的回归误差并不一定表明更好的法医阈值特异性分类性能。因此,牙齿年龄估计模型应使用阈值特异性似然比、分类指标和年龄组特异性偏差进行验证,而不仅仅是总体预测误差。
牙齿年龄估计在临床和法医学中至关重要,尤其当骨骼指标不可用或受损时。传统方法如Demirjian和Willems方法基于牙齿发育阶段,但存在系统偏差(如年龄高估或低估)。近年来,机器学习(ML)模型在降低总体回归误差方面表现出潜力,但较低的误差是否意味着在法定年龄阈值(如12岁和15岁,根据土耳其刑法典)上更准确的分类仍不明确。为此,研究人员开展了一项比较研究,旨在评估Demirjian和Willems方法与多种ML回归模型在总体回归性能和阈值特异性分类性能上的差异,并确定人口特异性ML建模带来的预测误差降低是否能转化为更准确的法律年龄阈值定位。该研究发表在《Diagnostics》上。
研究人员使用来自土耳其Ni?de ?mer Halisdemir大学口腔健康研究与应用中心2022年至2026年间的1384例全景X光片,年龄范围8.00–15.99岁(女性725例,男性659例)。主要技术方法包括:将左侧下颌七颗恒牙的Demirjian发育阶段(A–H)转换为数值评分(1–8),并结合性别作为ML模型输入;训练七种回归模型(线性回归LR、决策树DT、随机森林RF、支持向量回归SVR、多层感知器MLP、梯度提升GB、XGBoost);采用5折分层交叉验证进行超参数调优(网格搜索),内部分留20%数据作为测试集;评估指标包括总体回归误差(平均误差ME、平均绝对误差MAE、均方根误差RMSE、决定系数R
2)和阈值特异性分类性能(敏感度、特异度、平衡准确度BA、阳性似然比LR+、阴性似然比倒数LR
below),并辅以Bland–Altman分析、年龄组误差分析和Bootstrap置信区间比较。所有样本来自同一机构,且仅使用手动评分的发育阶段,而非图像特征。
研究结果如下:
3.1 样本特征:共1384例,平均年龄11.68±2.29岁,年龄8.00–15.99岁,女性725例,男性659例。训练集1107例,内部测试集277例。
3.2 观察者一致性:组内加权Cohen’s kappa为0.961(95%CI: 0.943–0.977),组间为0.861(95%CI: 0.834–0.886),表明一致性良好。
3.3 模型性能:在测试集中,ML模型MAE范围为0.512–0.656年,最低为SVR和GB(0.512年),而Willems和Demirjian分别为0.649年和0.654年。RMSE方面,ML模型为0.680–0.817年,传统方法为0.832–0.887年。Demirjian方法呈现显著正ME(0.242年),而LR和Willems为负ME(-0.146和-0.122年)。Bland–Altman分析显示GB类模型协议限最窄,Willems和Demirjian最宽。
3.4 ML模型与传统方法比较:在测试集中,所有ML模型(除LR外)的MAE均显著低于Willems和Demirjian方法,ΔMAE为0.09–0.14年。
3.5 年龄组分析:ML模型在低龄组(8.0–8.9岁)呈现正ME(高估),在高龄组(15.0–15.9岁)呈现负ME(低估),Willems方法年龄组误差更均衡,Demirjian持续高估。
3.6 12岁阈值特异性性能:在测试集中,Willems方法敏感度0.82,特异度0.96,BA 0.89,LR+ 17.32;ML模型敏感度0.91–0.93,特异度0.91–0.94,BA 0.91–0.92,LR+ 9.86–13.62。ML模型敏感度提高,但特异度和LR+低于Willems;与Demirjian相比,ML模型特异度和LR+提高。
3.7 15岁阈值探索性分析:在测试集中,LR和RF未产生阳性预测(敏感度0.00,BA 0.50),而DT、SVR、GB、XGBoost和MLP给出敏感度0.79,特异度0.96,BA 0.87–0.88,LR+ 16.96–18.58,与Willems方法(敏感度0.79,特异度0.96,BA 0.87,LR+ 16.96)相似,但优于Demirjian(敏感度0.83,特异度0.91,BA 0.87,LR+ 8.65)。
3.8 与Willems方法的阈值比较:在12岁阈值,ML模型Δ敏感度正(0.08–0.10),Δ特异度负(-0.02至-0.04),Δlog10LR+负,Δlog10LR
below正。在15岁阈值,LR和RF的Δ敏感度-0.79,ΔBA -0.37,其余模型与Willems相似。
3.9 与Demirjian方法的阈值比较:在12岁阈值,ML模型Δ特异度正(0.04–0.06),Δlog10LR+正;在15岁阈值,LR和RF亦然无阳性预测,其余模型Δ特异度正,Δlog10LR+正。
讨论部分总结:研究证实ML模型(尤其SVR、GB、XGBoost)降低了总体回归误差,但并未转化为一致的阈值分类优势。12岁阈值下,ML模型提高敏感度但降低特异度和LR+,反映了敏感度-特异度权衡;15岁阈值下,部分模型无法产生阳性预测,这是由回归向均值偏差(年龄模仿效应)所致,即高龄组低估。研究强调,仅报告总体误差不足以满足法医需求,必须同时评估阈值特异性敏感度、特异度、似然比和年龄组偏差。研究结论翻译如下:在本研究中,ML回归模型(尤其SVR、GB和XGBoost)产生的MAE和RMSE低于Demirjian和Willems方法。然而,这些总体回归性能的改善并未转化为阈值特异性分类性能的一致优势。在12岁阈值处,ML模型在某些比较中提高了敏感度,但特异度和LR+值降低。在15岁探索性分析中,一些模型未能产生阳性预测,而其他模型的表现与Willems方法相似。这些发现表明,仅凭较低的平均预测误差不应被解释为在法律相关年龄阈值上具有更好性能的证据。在法医实践中,主要问题往往不是精确的年龄点估计,而是个体是否低于或高于法律相关年龄阈值。因此,基于ML的年龄估计模型在投入使用前,不仅应使用总体回归指标(如MAE、RMSE、R
2)进行验证,还应使用阈值特异性敏感度、特异度、平衡准确度和似然比进行验证。尽管ML回归模型是牙齿年龄估计的有前景工具,但在法律后果严重的年龄阈值上应谨慎使用,并仅在充分的阈值级验证后才能纳入法医决策。因此,本研究结果应被视为基于阶段的ML建模的基线评估,而非牙齿年龄估计的最终图像型ML解决方案。