《Sustainability》:Sustainable Renovation Assessment of Historic and Contemporary Railway Stations: A Comparative Analysis of Sivas Train Stations
编辑推荐:
背景与目标:在真实临床环境中,皮肤病变分类仍具挑战性,因为诊断相关信息分布于不同成像模态,类别不平衡往往严重,且整体性能可能掩盖模型行为的重要弱点。本研究提出一种双视角元感知模型,称为DVM-SLC,用于在MILK10k数据集上进行多类皮肤病变分类。方法:该模
背景与目标:在真实临床环境中,皮肤病变分类仍具挑战性,因为诊断相关信息分布于不同成像模态,类别不平衡往往严重,且整体性能可能掩盖模型行为的重要弱点。本研究提出一种双视角元感知模型,称为DVM-SLC,用于在MILK10k数据集上进行多类皮肤病变分类。方法:该模型联合处理配对的临床图像与皮肤镜图像,并通过专用元数据分支整合患者级上下文信息。跨视角信息通过门控融合机制集成,在保留模态特有表征的同时允许两视角间自适应交互。模型不仅从比较分类性能方面评估,还针对校准、常见图像腐蚀下的鲁棒性以及专家支持的可解释性进行评估。结果:在使用合并袋外预测的所评估配置中,门控DVM-SLC取得了最高准确率(0.7002)和最高观测宏平均AUC(Macro-AUC,0.8774),而无门控双视角含元数据模型取得了最高宏平均F1分数(Macro F1-score,0.4174)。门控模型与皮肤镜单模态基线(其提供了最高的非提出方法准确率)之间的准确率差异具有统计显著性,而观测Macro-AUC差异无统计显著性。这些发现表明存在依赖于指标的权衡,而非单一融合策略的均匀优越性。原始置信度估计已与经验正确性合理对齐,温度缩放仅提供适度的、依赖于折数的聚合校准改进。在鲁棒性分析中,高斯噪声下退化最强,而在模糊、JPEG压缩、亮度变化、对比度变化和颜色偏移下模型保持相对稳定。可解释性分析由结构化皮肤科医生评审补充。临床与皮肤镜分支的梯度加权类激活映射(Grad-CAM)输出被检查以确定高亮区域是否定位病变并对应于临床有意义的形态学或皮肤镜特征。该评估是定性的,不旨在作为定量定位验证。结论:总体而言,这些发现将DVM-SLC呈现为一种广泛评估的方法,具有依赖于指标的优势和明确局限,尤其在少数类识别中。其贡献在于将比较性能分析与校准、鲁棒性和结构化定性可解释性评估相结合。
研究背景方面,皮肤癌是全球最常诊断的恶性肿瘤之一,2022年全球新发超150万例,其中恶性黑色素瘤约33万例、死亡近6万例,早期准确检测至关重要。常规皮肤科依赖临床宏观照片与皮肤镜图像两种互补模态,前者提供部位与全局形态上下文,后者揭示色素网络、血管模式等微结构,但现有深度学习多基于单模态,难以在样本层面平衡整合双视角信息;且真实场景存在光照、设备、肤色、解剖部位差异及严重类别不平衡。MILK10k数据集含5240个独特病变的10480张配对图像、11类诊断标签、95.7%组织病理确认,类别不平衡与标注不确定性突出。已有双视角、多模态研究较少同时联合配对图像、患者元数据并系统评估校准、鲁棒性与可解释性。因此研究人员开展此项研究,在失衡11类设定下受控集成双视角表征、结构化元数据与多阶段评估协议。
该研究发表于《Sustainability》(原文题头误植为铁路车站可持续性评估,正文实为皮肤病变分类),核心贡献不在于新主干或融合基元,而在于系统级集成与分析。
主要关键技术方法概括(不超250字):研究人员采用MILK10k多中心配对临床与皮肤镜图像队列(5240病变/10480图,11类,95.7%组织病理确认),以病变级3折分组交叉验证防泄漏并保留原生不平衡。视觉端用两个独立EfficientNet-B3主干分别提取临床与皮肤镜特征,全局平均池化后经样本自适应门控融合(两层感知机+sigmoid得标量门控系数重加权拼接);元数据端将年龄、肤色分(数值z标准化)与性别、解剖部位(类别可学习嵌入)经专用子网络投至64维,与融合视觉向量拼接入全连接分类头,交叉熵训练(AdamW、余弦退火、批次16、224×224、随机裁剪翻转增强)。评估覆盖宏/微指标、ECE/NLL/Brier校准与温度缩放、六种腐蚀三级严重度鲁棒性、Grad-CAM分支可视化与SHAP元数据归因、单皮肤科医生11类各一例定性评审。
研究结果部分,各小节结论如下:
4.1 比较分类性能:门控DVM-SLC在合并袋外预测中准确率0.7002、Macro-AUC 0.8774最高;无门控双视角+元数据Macro F1 0.4174最高。门控版比皮肤镜单模态准确率显著高0.0128(Bootstrap/置换/McNemar均显著),但Macro-F1/AUC差不显著,证明指标依赖权衡。头部6类(AKIEC、BCC、BKL、MEL、NV、SCCKA)平均F1 0.5743,尾部5类(BEN_OTH、DF、INF、MAL_OTH、VASC)仅0.1379,BEN_OTH与MAL_OTH F1为0,说明聚合指标掩盖少数类失效。元数据消融(无门控基线上)全四变量使Macro-F1由0.4079升至0.4174、Macro-AUC由0.8370升至0.8685,单变量中年龄Macro-AUC最高0.8617、部位Macro-F1最高0.4062,元数据主要提升类平衡判别而非整体准确率。
4.2 真实扰动下可靠性与鲁棒性:原始袋外预测ECE 0.0365、NLL 0.9653、Brier 0.4344已较校准;折内温度缩放后降至ECE 0.0349、NLL 0.9504、Brier 0.4297,但折1略劣、中置信段更欠自信,故仅为适度折依赖细化。鲁棒性上高斯噪声致各指标最强且一致退化,模糊/JPEG/亮度/对比度/色偏下退化明显较轻,模型非均匀脆弱,弱点在强随机噪声。
4.3 专家支持可解释性分析:11类各1例由15年经验皮肤科医生R.?.K.审Grad-CAM。皮肤镜分支注意力更紧凑居中,临床分支更广边界松;恶性例中AKIEC临床图未覆上极、BCC临床支几乎漏病变、MEL临床图漏突起部;良性例中NV临床图覆盖不均、VASC临床图弱但皮肤镜捕冠状血管。部分热图视觉合理但定位不全,证明视觉合理≠临床充分,单评审定性结论不可作定量定位验证。
4.4 计算效率:皮肤镜单模态最省;门控DVM-SLC 2693万参数、每病变对1.990 GFLOPs,比无门控双视角+元数据参数量少约15%、检查点小15%、峰值显存少4.6%,但批1延迟29.98ms略高于后者26.68ms,门控减参存不增算力却微增延迟。
讨论部分总结:Accuracy与Macro-F1背离源于失衡——门控利总体正确、无门控利类平衡,融合策略属目标依赖选择而非普适优。头部尾部鸿沟反映少样本与类间重叠双重作用,零F1尾类说明聚合AUC/Accuracy不能证全谱可靠。校准低ECE受分箱与类分布影响,不可推至各类。鲁棒性选择性退化比“稳定”宣称更具部署价值。Grad-CAM分支差异印证双模态互补,但定性单医生评审限结论强度。局限含单数据集内验证、未与Transformer/跨注意力/MedSigLIP等匹配基准比对、元数据消融未做逐对显著检验、XAI无像素级掩膜与多评审者一致性。
结论部分翻译:本研究通过病变级协议(含判别、校准、鲁棒性、定性可解释性)评估配对临床与皮肤镜图像的多类皮肤病变分类,提出双视角元感知框架DVM-SLC集成模态特有视觉表征与患者元数据,支持判别、校准、鲁棒与专家支持可解释分析。结果显示融合策略效果依赖评估准则:门控DVM-SLC获最高Accuracy与观测Macro-AUC,无门控元数据模型获最高Macro-F1与Weighted F1;门控模型比最强匹配对照Accuracy优势显著,但Macro-AUC显著优势未立,证明整体正确与类平衡性能间权衡而非任一策略均优。聚合分类分仅部分刻画行为,头尾分析显少样本远难于主导类,校准显原始置信已合理对齐、温度缩放仅适度折依赖改进,鲁棒分析显非均匀脆弱而尤畏强高斯噪声、对常见采集扰动相对稳定。BEN_OTH与MAL_OTH零F1限其于需可靠罕类识别场景的适用性。Grad-CAM经皮肤科医生结构化评审示皮肤镜支更居中、临床支更广,但部分热图覆盖不全,定性单评审不作定量定位验证。工作贡献在透明评估框架而非断言架构普适优,未来需外验证、尾类策略与大规模专家XAI协议。