光声器件特征指纹会引入深度学习模型中的偏差

《Scientific Reports》：Photoacoustic device fingerprints induce bias in deep learning models

　　

摘要

针对传统医学成像技术开发的深度学习模型，由于不断优化，其性能和可靠性不断提升。而针对光声成像等新兴成像技术的模型开发则仍面临数据稀疏性的挑战，这限制了模型的泛化能力，还增加了模型出现偏差的风险。尽管近期有研究开始探讨与受试者相关的干扰因素，但与硬件相关的干扰因素的影响尚未得到研究，这在多中心应用场景中构成了重大风险。我们首次对光声成像中由硬件引起的偏差进行了多中心分析。我们分析了来自四种不同设备以及两项外周动脉疾病研究中的图像所具有的设备特性，并训练深度学习模型来识别设备的来源以及疾病类型，同时考虑数据中设备状态与健康状况之间的不同关联程度。研究表明：1）同一类型的光声成像设备在不同实例下会在图像中留下可识别的特征；2）深度学习模型可以利用这些特征实现\(100\,\%\)的设备检测准确率；3）当设备实例与健康状况之间存在关联时，用于疾病诊断的模型会利用这些设备特有的特征作为快捷方式，从而产生有偏差且具有误导性临床预测结果。这项研究强调了在忽视此类干扰因素时高估算法性能的风险，凸显了进行偏差评估以及使用可解释人工智能方法识别潜在问题路径的重要性，进而为多中心光声成像研究奠定基础。