运用知识蒸馏与增量学习技术进行膝关节X光片骨质疏松检测

《Scientific Reports》：Utilizing knowledge distillation and incremental learning for osteoporosis detection on knee X-ray images

　　

摘要

骨质疏松症是一种骨骼疾病，主要影响营养不良和老年人，它会降低患者的骨密度，从而增加骨折的风险。这类骨折往往难以治愈，有时甚至会致命。为了检测这种疾病，医生可能会要求进行骨密度检测，以判断是否存在骨质疏松或骨密度过低的情况。通常采用双能X射线吸收测定法（DXA）来进行检测，该方法利用多束低能量X射线来测量骨骼的骨密度。定期对骨质疏松症进行筛查是一项耗时且繁琐的工作，还需要专门的设备，而农村地区往往缺乏这些设备。根据美国医学协会在2024年进行的调查，约有66%的医生使用计算机辅助诊断技术来确保及时确诊疾病，这一比例比上一财年即2023年高出28%。然而，目前可供训练的公开X射线骨质疏松症数据集并不多。本文提出了一种自动化系统，该系统能够从膝关节的X射线图像中检测出骨质疏松症，并运用知识蒸馏和增量学习技术，提升深度学习模型在两个公开数据集上的泛化能力。知识蒸馏技术用于将教师模型所学的模式传递给较小的学生模型，而增量学习技术则用于解决在多个数据集上训练时出现的灾难性遗忘问题。不过实验表明，经过知识蒸馏处理的模型并没有带来显著效果，而在类别增量学习方面，使用“无遗忘学习”方法训练DenseNet-121模型取得了最佳性能，准确率为62.6%，与直接在3类数据上训练时的准确率92.9%相比，存在30%的性能差距，这表明直接训练对于获得高准确率仍然至关重要，而类别增量学习仅适用于数据量有限的环境作为一种基础方法。