综述:皮肤病变分类的可解释人工智能:方法与挑战的全面综述

《Technologies》:Explainable Artificial Intelligence for Skin Lesion Classification: A Comprehensive Review of Methods and Challenges

【字体: 大 中 小 】 时间:2026年06月26日 来源:Technologies 5.2

编辑推荐:

  机器学习与人工智能(AI)的快速发展为提升皮肤科尤其是初级保健环境中的诊断准确性创造了新的机遇。计算机辅助诊断(CAD)系统已显示出支持全科医生(GPs)的潜力,能够实现皮肤疾病的更早、更一致识别。本综述批判性地审视了关于皮肤疾病分类的可解释人工智能(XAI)

  
机器学习与人工智能(AI)的快速发展为提升皮肤科尤其是初级保健环境中的诊断准确性创造了新的机遇。计算机辅助诊断(CAD)系统已显示出支持全科医生(GPs)的潜力,能够实现皮肤疾病的更早、更一致识别。本综述批判性地审视了关于皮肤疾病分类的可解释人工智能(XAI)文献,特别关注可解释性框架的演变以及数据集选择的方法学影响。对2020年至2025年间发表在多个学术数据库上的关于皮肤病变检测、分类和监测的研究进行了全面综述。分析表明,深度学习架构,特别是利用迁移学习结合EfficientNet、ResNet和Xception等模型,经常报告高分类准确率——在单一基准数据集上评估时通常超过90%。然而,采用多个数据集的研究一致表现出更稳定且可泛化的性能,尽管报告的准确率略有降低,这突显了性能优化与现实世界鲁棒性之间的关键权衡。该综述进一步确定了XAI技术采用的时间进展。早期研究依赖于更广泛的后验可解释性方法,而后期工作日益集中于Grad-CAM、SHAP和相关归因技术,随后逐渐多样化到更专业的框架,如TCAVs(Testing with Concept Activation Vectors)和基于原型的网络(Prototype-based Networks)。尽管取得了这些进展,但缺乏临床依据的解释、伦理考虑的有限整合以及对非临床图像的依赖仍然制约着临床适用性,研究人员使用GRADE风格的叙事对此进行了探讨。值得注意的是,有证据表明CAD系统可以提高全科医生对黑色素瘤和脂溢性角化病等疾病的诊断准确性;然而,持续的临床采用仍然取决于透明、可靠和情境感知的可解释性机制。
  1. 1.
    引言
    皮肤状况是初级保健中最常见的就诊原因之一,每年在英国造成超过一百万次皮肤科转诊。其中约50%涉及疑似皮肤恶性肿瘤,但最终仅6%确诊为恶性。这种差异凸显了全科医生面临的诊断挑战,其有限的皮肤科培训可能导致诊断不确定性和不必要的转诊。准确评估皮肤病变需要理解原发性与继发性病变的分类。目前初级保健中常用的ABCD规则(不对称、边界、颜色、直径)在部分黑色素瘤不表现典型特征时难以准确诊断。人工智能的进步为皮肤科计算机辅助诊断(CAD)提供了新机遇,研究表明AI系统可以支持临床决策,在某些情况下甚至优于经验较少的临床医生。然而,大多数研究使用回顾性图像数据集和离线验证,前瞻性临床部署探索有限。尽管高诊断准确性至关重要,但成功的临床采用需要AI系统透明且可解释。许多高性能模型尤其是深度学习架构作为“黑箱”运行,导致临床医生难以理解决策过程。这引发了可解释性-性能悖论:模型复杂性与理解决策过程能力之间的权衡。因此,可解释人工智能(XAI)旨在提供可解释的模型决策解释,提高透明度、问责制和临床信任。但信任悖论指出,解释可能被对抗性输入操纵,因此有效的临床使用需要校准的信任,即临床医生理解AI系统的优势和局限性而非不加批判地依赖。本文献综述综合了分类架构、皮肤图像数据集和可解释性框架三个相互关联的组成部分,应用GRADE启发的叙述性评估框架评价XAI文献的证据质量和强度。
  2. 2.
    材料与方法
    本研究遵循结构化六步全面叙述性综述方法学以确保严谨性和可重复性。研究问题依据FINER标准(可行、有趣、新颖、符合伦理、相关)制定,聚焦于皮肤病变分类中的数据集、可解释性技术和方局限性。检索策略涵盖IEEE Xplore、Science Direct、Scopus、PubMed和Google Scholar等多个数据库,结合“可解释人工智能”、“皮肤病变分类”和“皮肤成像”等关键词及布尔运算符。研究筛选遵循PRISMA指南,从最初超过750条记录中最终纳入113篇相关论文,筛选过程由主要作者执行并经所有作者审核以确保一致性。
  3. 3.
    皮肤癌与诊断挑战
    皮肤癌主要分为黑色素瘤、基底细胞癌(BCC)和鳞状细胞癌(SCC)。黑色素瘤是最致命的形式,其诊断通常依据大小、形状和颜色变化等标准,并采用加权评分系统决定转诊。BCC和SCC统称为非黑色素瘤皮肤癌,与累积日晒相关。诊断面临病变变异性、与良性条件相似性、方法局限性和就医机会不一致等挑战。脂溢性角化病尤其容易误诊为黑色素瘤导致过度切除。全科医生常用ABCDE规则(不对称、边界不规则、颜色变化、直径大于6 mm、演变),但该规则可能导致过度诊断和假阳性。因此,需要更细致准确的评估方法和改进的诊断支持。
  4. 4.
    皮肤癌检测技术
    4.1. 医学影像中的机器学习和深度学习
    当前开发皮肤癌检测系统采用广泛的机器学习和深度学习方法。卷积神经网络(CNN)是最常用的架构,擅长从皮肤镜图像中提取分层视觉特征进行分类、检测和分割。算法可分为固有透明(绿色)、中等可解释性(橙色)和黑箱模型(红色)。人工智能定义为计算机系统执行通常需要人类智能任务的能力,其中机器学习(ML)从数据学习生成模型,深度学习(DL)利用人工神经网络处理结构和非结构化数据如医学图像。
4.2. 可解释人工智能
黑箱问题限制了机器学习在高风险医疗领域的应用。XAI旨在通过内在与后验方法、局部与全局解释提高透明度。内在可解释模型如回归或决策树设计透明,但可能牺牲准确性。后验方法如Grad-CAM、LIME和SHAP分析训练后模型,提供视觉或特征重要性解释。Grad-CAM生成类激活映射突出重要图像区域;SHAP基于合作博弈论分配特征贡献值;LIME局部近似可解释模型。评估解释可靠性需考虑忠实性、定位和人类中心测量等指标。
  1. 5.
    讨论
    5.1. 分类算法
    分类准确率与数据集大小、类别数量的关系复杂。使用较大数据集和更多诊断类别的研究常报告更高准确率,但这可能反映数据集结构和整理质量的影响。CNN架构占主导地位,集成或混合深度学习框架在大型多数据集设置中表现出更好鲁棒性。HAM10000和ISIC数据集主导实验环境,多数研究依赖皮肤镜图像,而临床图像使用较少。数据集偏差和方法同质性问题突出,需要更多样化评估框架反映真实临床变异。
5.2. 可解释AI模型
2020至2025年间XAI方法应用呈现明显进展。早期研究依赖CA-Net、概念激活向量(CAVs)和LIME,但解释临床意义有限。2021年后Grad-CAM、LIME和SHAP成为主流,但存在过度依赖狭窄后验工具的问题。2022至2023年方法逐渐多样化,SHAP因其模型无关设计受关注但计算成本高。2024至2025年出现Grad-CAM++、遮挡敏感性、Score-CAM、显著性图和t-SNE等技术,表明领域转向更异质的方法生态。
5.3. 皮肤癌检测XAI的定性比较评估
多种XAI技术如Grad-CAM、Grad-CAM++、CAM、SHAP和LIME均提供热图可视化,但缺乏对病变恶性的深入文本解释。ABELE方法结合文本和视觉输出,但可能产生多个竞争解释导致混淆。CAVs提供高层次概念文本解释和元数据,但分类机制仍不够透明。研究人员采用GRADE启发框架评估鲁棒性、合理性、保真度、有用性和完整性。结果显示基于显著性的方法多依赖定量指标,而基于概念、原型或规则的方法更注重人类中心验证,但临床医生参与正式验证的研究仍然很少。
5.4. 应用于皮肤癌模型的可解释性技术
ExAID框架利用CAVs和概念定位图提供多模态概念解释,在六个数据集上取得较好结果。另一项研究使用ResNet-18和LIME在ISIC 2019上达到94.47%准确率,但仅依赖单一数据集和单一架构,泛化性受限。
5.5. 伦理与法律障碍
XAI引入伦理、法律和监管挑战。英国将AI诊断软件作为医疗器械监管,但缺乏统一AI法律,责任归属不明确。过度依赖AI可能导致临床技能退化,因此系统应增强而非取代临床医生判断。开发应以人为中心和用户设计为重点,培养校准信任。
  1. 6.
    差距与挑战
    关键挑战包括有限和不平衡数据集导致的过拟合、公共数据集偏重黑色素瘤和痣且肤色代表性不足、定性评估解释缺乏定量指标、单一数据集训练和测试导致泛化性差、外部验证缺乏、CNN架构易学习虚假关联和对伪影敏感。此外,XAI技术评估标准化不足,解释输出随模型和参数变化不稳定。未来需开发更大更多样数据集、强调外部验证、建立标准化解释评估框架、整合临床元数据并向临床集成决策支持工具发展。
  2. 7.
    结论
    当代皮肤病变检测研究主要由少数基准皮肤镜数据集驱动,单一数据集评估导致数据集偏差和性能高估。多数据集研究虽准确率略低但鲁棒性更好。XAI整合缓慢且不均,从早期基础后验方法发展到Grad-CAM、SHAP和LIME主导,近期出现多样化但仍碎片化。真正临床采用需要超越像素级显著性的解释,用皮肤科推理语言如不对称、边界不规则等表达。大多数系统仍以图像为中心,缺乏临床元数据,XAI评估定性为主。未来研究必须优先考虑跨数据集验证、更丰富的上下文解释以及在真实临床环境中严格评估可解释性技术。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号