关于合成多样性与真实多样性之间差距的思考：计算方法在解决表征偏差问题上的局限性

《Journal of Computational Science》：Reasoning on the gap between synthetic and authentic diversity: The limits of computational solutions to representation bias

合成数据集在减少皮肤颜色多样性不足的AI偏见中可作为补充，但不能替代真实数据，实验显示模型在 darker skin 训练后泛化能力更强。

　　

Tommaso Ruga|Ester Zumpano|Eugenio Vocaturo|Luciano Caroprese

DIMES - 卡拉布里亚大学，伦德（CS），意大利

摘要

皮肤医学培训数据集中深色皮肤类型的严重代表性不足，加剧了黑色素瘤检测中的医疗差异。主要基于浅色皮肤数据集训练的皮肤医学人工智能工具在处理深色皮肤类型时表现显著下降，黑色素瘤的诊断准确率从92%降至56%。Ruga等人（2025年）提出的Pipsqueak数据集显示，在所有公开可用的数据集中，来自Fitzpatrick皮肤类型V-VI的黑色素瘤诊断质量图像不足20张。理想的解决方案是收集真实数据，但这需要多年时间；在此期间，同质化的算法仍将继续在临床中使用。本文介绍了HAM-SyntheticDarker数据集（通过控制颜色和亮度生成的人工数据集）和HAM-HybridEquity数据集（结合真实数据和合成数据的数据集），以促进公平性。本研究扩展了Ruga等人（2025年）的研究，并使用MultiExCam框架（Ruga等人，2026年）进行了一系列实验，记录了合成多样性的优势与局限性，以及它如何克服偏见并促进公平性。实验结果表明：合成多样性无法替代真实多样性。论文还揭示了在深色皮肤上训练的模型比在浅色皮肤上训练的模型具有更好的泛化能力，这揭示了方向性表示偏见，并提供了实证证据，证明合成多样性是补充性的而非替代性的，尽管它只能带来适度的临时改进。因此，伦理上的迫切需求仍然是：开发能够代表人类皮肤多样性的皮肤医学成像数据集。

引言

人工智能在检测黑色素瘤方面取得了令人印象深刻的准确率，尤其是在浅色皮肤人群中，但在深色皮肤类型上的诊断性能存在巨大差异。主要基于浅色皮肤数据集训练的皮肤医学人工智能系统在处理深色皮肤类型图像时表现较差，准确率从92%降至56%。这种下降远非统计异常，而是全球几十年来的公共皮肤医学数据集中存在的一种系统性偏见。

皮肤医学数据集存在严重的人口统计失衡：全球用于训练黑色素瘤检测算法的主要数据集中，与Fitzpatrick皮肤类型V和VI相关的图像不到5%。最近的研究清楚地表明，如果算法主要基于浅色皮肤类型个体的图像进行训练，那么在深色皮肤患者中的应用效果会显著下降[1]，从而导致诊断延迟和死亡率增加，而这些人群本身就常常面临严重的医疗差异[1]、[2]、[3]。

Ruga等人[4]提出的Pipsqueak数据集量化了这种差异的程度。通过对主要公共皮肤医学数据库进行系统的手动筛选，研究人员在全球最大的皮肤医学数据库（ISIC档案（33,000多张图像）、HAM10000数据集（10,000张图像）、DermNet数据集（23,000多张图像）和Fitzpatrick17k数据集（16,577张图像）中仅发现了16张高质量的黑素细胞病变图像，这些图像属于Fitzpatrick皮肤类型V和VI。Pipsqueak数据集不仅为科学界提供了一个免费且经过整理的深色皮肤黑色素瘤图像资源，用于评估偏见，也反映了全球皮肤医学研究基础设施中存在的表示危机的程度。

显然，对于全球皮肤医学研究社区来说，一个理想的状况是拥有一个代表不同皮肤类型多样性的真实数据集——这需要跨地理和经济差异较大的地区进行罕见的协调努力，可能需要多年的国际合作以及严格的质量标准。虽然长期的数据收集工作正在进行中（希望如此！），但这些障碍并不容易克服！与此同时，皮肤医学人工智能系统仍然基于同质化数据进行训练，这就产生了推动临时改进的伦理需求。因此，一个基本的研究问题是：鉴于真实多样化数据的稀缺性，研究社区如何在短期内开发出更加公平的算法？合成数据生成能否在有意义地补充真实数据的同时，保持对其局限性的透明度？

本研究探讨了计算合成多样性作为解决表示偏见的一种临时方案。在[4]中对数据集偏见的基础分析基础上，我们引入了三个互补的数据集，用于理解表示偏见并评估不同策略的有效性。这些数据集分别是：Pipsqueak（真实的深色皮肤黑色素瘤图像）、HAM-SyntheticDarker（计算生成的深色皮肤近似图像）和HAM-HybridEquity（结合真实和合成数据的数据集）。我们的提议并不声称能够解决表示偏见问题，而是采取了一种诚实且科学严谨的方法，确定了计算方法所能实现的定量界限，并证明了真实多样化数据收集的必要性。

使用MultiExCam架构[5]进行的实验旨在为评估未来的多样性增强策略建立实证基准，同时严格遵循方法论原则。我们的结果展示了四个关键发现：首先，研究表明，在HAM10000数据集上训练的模型在HAM-SyntheticDarker数据集上的表现显著下降；其次，即使合成数据足以教会模型一些新模式，它也无法完全替代真实数据的需求；第三，模型在深色皮肤图像上的训练比在浅色皮肤图像上的训练具有更好的泛化能力，这表明了数据集表示中的方向性偏见；第四，在原始数据和合成数据结合上进行训练可以提高模型的鲁棒性，但在领域内的准确率却有所下降，远低于真实多样化训练的效果。

本提案扩展了Ruga等人[4]的工作，有助于理解合成多样性方法的本质和局限性，并提供了实证证据，证明在医学人工智能中收集真实多样化数据的必要性。我们通过确定计算方法所能实现的定量界限，并精确说明为什么真实多样化数据收集仍然是必要的，从而推进了皮肤医学人工智能领域的公平性讨论。

本文的结构如下：第2节全面回顾了主要皮肤医学数据集中的系统偏见，定量说明了表示失衡如何转化为性能差异，并将我们的工作置于现有的合成多样性增强方法框架内。第3节介绍了三个互补的诊断数据集：Pipsqueak（用于记录表示危机）、HAM-SyntheticDarker（用于研究光度偏见的受控转换）和HAM-HybridEquity（用于探索实用的临时解决方案），解释了每个数据集构建的动机、设计原理和方法论基础。第4节概述了所有实验中使用的MultiExCam混合可解释架构，并展示了八个包含详细结果和混淆矩阵的补充实验研究。第5节综合了不同关键维度的发现，第6节提出了结论和未来的研究方向。

部分摘录

主要皮肤医学数据集中的系统偏见

多项独立分析指出，在公开可用的皮肤医学数据集中，深色皮肤类型的代表性严重不足。全球最大和最广泛使用的皮肤成像数据库显示出一致的排斥模式，这阻碍了公平诊断人工智能系统的开发。

ISIC档案[6]包含来自不同国际机构的33,000多张皮肤镜图像，其中56.3%的图像来自主要白人人群

Pipsqueak数据集：揭示的偏见

Pipsqueak数据集最初由Ruga等人[4]提出，是一个精心策划的数据集，旨在量化并记录皮肤医学图像数据集中深色皮肤类型的严重代表性不足。Pipsqueak的数据集目的不是提供解决偏见问题的高级技术解决方案，而是通过实证方式展示全球皮肤医学数据集中持续存在的表示差距的大小，并为偏见评估领域提供了一个资源。

MultiExCam作为偏见评估的工具

文献中有多种方法和技术可用于评估偏见。在这项工作中，我们采用了一种比较策略，评估了MultiExCam架构在不同数据集上的性能：HAM10000（该框架最初在其上进行了训练和评估）、HAM-SyntheticDarker和HAM-HybridEquity。研究结果清楚地表明，数据集的组成限制了模型有效处理数据的能力

讨论

根据进行的实验，表4提供了所有评估配置的性能指标的简要概述。

结论性意见和未来方向

本研究在Pipsqueak的基础上，通过系统性的实验研究，扩展了对皮肤医学人工智能数据集偏见的初步分析，探讨了合成多样性方法的效用和局限性。通过八个使用MultiExCam架构[5]的补充实验，我们获得了关于计算解决方案在解决表示偏见方面的实用性和局限性的基本见解。

我们的发现首先表明，特定于

CRediT作者贡献声明

Tommaso Ruga：撰写 – 审稿与编辑、撰写初稿、验证、软件开发、资源提供、方法论设计、研究实施、形式分析、数据整理、概念构建。Ester Zumpano：撰写 – 审稿与编辑、撰写初稿、验证、监督、资源提供、项目管理、方法论设计、研究实施、形式分析、数据整理、概念构建。Eugenio Vocaturo：撰写 – 审稿与编辑、验证、监督、方法论设计、形式分析、数据整理

利益冲突声明

作者声明他们没有已知的财务利益或个人关系可能影响本文所述的工作。