一种统一的深度学习框架，用于跨多种细胞学染色方法进行实例分割

《Cytopathology》：A Unified Deep Learning Framework for Instance Segmentation Across Diverse Cytological Stains

　　**摘要**

**目标**
评估单一实例分割模型是否能够在多种细胞学染色方法中稳健运行，避免使用特定于染色的处理流程，同时不牺牲准确性。

**方法**
我们整合了三个由专家标注的数据集（Papanicolaou、Feulgen、AgNOR），标准化了它们的格式，并在两种模式下训练了Mask R-CNN、Mask2Former、YOLO11n和YOLO12n：针对每种染色方法单独训练以及统一的多染色方法。我们使用相同的训练和评估协议，报告了验证/测试阶段的AP50和AP75指标，以将检测容忍度与边界精度分开。

**结果**
在我们的基准测试中，Feulgen专家模型取得了最高的分数，YOLO11n的AP75达到了0.566，AP50达到了0.643。Mask2Former在复杂场景（AgNOR和Papanicolaou）中的几何精度（AP75）方面表现最佳，在综合数据集上取得了最佳性能。关键的是，统一训练的结果与特定于染色的模型相当或更优，保持了检测能力（AP50）同时提高了边界定义的准确性（AP75）。

**结论**
单一的多染色模型适用于细胞学实例分割，在多种染色方法中保持了检测能力并提高了边界精度。基于Transformer的Mask2Former在综合数据集上展示了最佳的AP75成绩，支持了一种统一的多染色方法，为人工智能辅助的细胞病理学和实际筛查工作流程提供了可行的解决方案。

**本月细胞病理学**
单一计算机视觉模型能否处理临床常规中发现的多种细胞学染色方法？本研究验证了一种统一的深度学习方法，该方法能够有效分割Papanicolaou、Feulgen和AgNOR协议下的细胞。结果表明，实验室可以部署简化的、不受染色方法影响的筛查工具，而不会影响诊断精度，从而克服了数字病理学互操作性的主要障碍。

**图形摘要**
基于Transformer的统一细胞学分割方法在Papanicolaou、Feulgen和AgNOR上实现了不受染色方法影响的性能。Mask2Former在综合数据集上最大化了边界精度（AP75），使得一个模型能够替代多个特定于染色的模型，同时简化了临床集成过程。

**1 引言**
细胞病理学对于筛查肿瘤性和传染性疾病至关重要，尤其是在宫颈和口腔领域[1, 2]。然而，常规评估仍然依赖于专家的视觉解读，这既耗时又需要经验丰富的病理学家[3]。观察者的变异性和疲劳进一步影响了结果的一致性，尤其是在细微的形态特征难以解读时[4, 5]。具有标准化精度的高通量自动化方法为提高诊断准确性和效率提供了有希望的替代方案[3]。实例分割已成为计算机视觉在生物医学图像分析中的关键应用，受益于模型架构和学习策略的最新突破。例如Mask2Former[6]、Mask R-CNN[7]和现代YOLO变体[8, 9]在划分复杂结构方面表现出了稳健的性能。最近的研究开始探索在多染色数据集上训练的统一或通用模型，作为多个特定于染色模型的可行替代方案[10, 11]。利用元学习和领域感知学习的方法表明，提取不受染色方法影响的表示可以实现跨不同组织学协议的稳健泛化，且只需少量微调[10-13]。虽然商业化的全切片成像生态系统已经成功整合了自动化筛查工具，但这些解决方案通常使用专有格式，这限制了互操作性，并且针对有限的常规染色方法进行了优化，从而阻碍了在异构工作流程中实施可适应的人工智能工具[14, 15]。

**2 目标**
我们研究统一的多染色训练是否能够在现实筛查约束下，在多种细胞学染色方法（Papanicolaou、AgNOR和Feulgen）中提供具有竞争力的分割效果。

**2.1 研究问题**
是否可以训练一个单一的实例分割模型，在多种细胞学染色协议中稳健运行？

**2.2 研究目标**
- 量化统一多染色训练与针对每种染色方法单独训练的效果。
- 评估在细胞学典型的异质颜色分布下的边界质量和检测鲁棒性。
- 分析与实际筛查和分类相关的准确性-延迟权衡。

**3 贡献**
为了回答研究问题并实现目标，我们提出了一个实用的细胞学实例分割多染色研究工具包。我们将跨染色方法的变异性视为训练信号，而不是干扰因素，具体内容将在后续章节中详细说明。我们证明了单一实例分割模型可以有效训练以处理用不同协议染色的细胞图像（Papanicolaou、Feulgen、AgNOR），从而克服了对特定于染色模型的传统需求。我们提供了最先进的卷积和基于Transformer的分割架构（Mask R-CNN、Mask2Former、YOLO11n、YOLO12n）在单独和综合多染色细胞病理学数据集上的系统比较。统一训练在多种染色方法中保持了或提高了分割准确性，表明了一种适用于异构临床环境的可扩展的人工智能辅助细胞病理学方法。我们还整合并公开记录了三个具有标准化协议的标注细胞学数据集，以支持未来关于通用医学图像分割的研究。

**4 材料与方法**
为了评估模型在多种细胞学协议中的泛化能力，我们整合了三个由专家标注的数据集：Papanicolaou（OCPap）、AgNOR（CCAgT）和Feulgen。这些统一资源共包含来自口腔和宫颈解剖部位的20,000多个图像片段。

**4.1 数据集**
本研究使用的数据来自圣蒂亚戈大学医院（HU/UFSC）的受试者。Papanicolaou和AgNOR切片使用配备Hitachi HV-F202SCL相机的Axio Scan.Z1切片扫描仪进行数字化，生成的空间分辨率为0.111 μm/像素。Feulgen切片使用Motic BA410显微镜和Motic Pro 285A相机捕获。Papanicolaou（OCPap）包含9797个图像片段（1200 × 1600像素），来自口腔细胞学。注释涵盖了七个类别，重点关注健康、反应性和异常上皮细胞之间的核差异。AgNOR（CCAgT）包含9339个片段（1600 × 1200像素），来自宫颈细胞学。该数据集针对核组织区（NORs），包含七个区分核、簇和卫星结构的类别。Feulgen包含1955个片段（1200 × 1600像素），来自用于DNA量化的宫颈样本。注释了八个类别，捕捉了染色质密度和细胞老化的变化。表1详细列出了每个染色方法的注释类别的生物学特征。图1展示了Feulgen、Papanicolaou和AgNOR数据集中的代表性片段，显示了不同核和细胞结构的真实掩膜。

**4.1.1 数据集策划和专家验证**
我们通过一个由资深细胞病理学家组成的多学科团队，通过严格的流程策划了高保真度的掩膜。为了确保跨协议的一致性，我们采用了Labelme[18]和Labelbox[19]等标准化工作流程。该流程包括四个关键阶段：

- **ROI选择**：病理学家筛选WSIs以选择包含临床显著细胞表示的感兴趣区域（ROIs）；
- **提取**：选定的ROI被裁剪为全分辨率，以保留形态细节；
- **注释**：专家使用多边形工具勾画核和亚核结构；
- **审查**：所有注释都经过了审查过程；模糊和未验证的注释被丢弃。这一劳动密集型过程确保了高质量的基线。平均每个片段的注释时间约为10分钟。Papanicolaou和AgNOR数据集的开发各耗时14个月。Feulgen数据集遵循相同的流程，但由于资源有限，仅用了8个月完成。我们的注释团队包括博士生、教授和一名接受过专门培训的本科生。为了确保质量和一致性，图像还经过了我们经验丰富的团队成员的二次审查。

**4.1.2 综合数据集**
在模型训练之前，我们实施了彻底的数据策划流程。移除了没有有效注释的图像（即空的分割数组），并将浮点注释值向下取整为最接近的整数。此外，在专家的支持下手动纠正了错误分类的注释。最后，清理后的数据集被合并并转换为COCO和YOLO格式。我们将这个数据集命名为Multi-Cyto[20]数据集。表2显示了训练集、验证集和测试集中所有类别的分布。总图像数为17,422张，总注释数为119,874个。训练集、验证集和测试集中的样本数量分别为12,502（71.76%）、2448（14.05%）和2472（14.19%）。

**4.2 模型**
为了评估模型在多种细胞学协议中的泛化能力，我们选择了四种实例分割架构：Mask2Former[6]、Mask R-CNN[7]、YOLO11n[8]和YOLO12n[9]。Mask2Former是一种基于Transformer的单阶段架构，采用掩码注意力机制来捕捉全局上下文；它在建模密集细胞等复杂场景中的边界和语义关系方面表现出色。Mask R-CNN是一种基于CNN的两阶段架构，首先使用区域提案网络（RPN）生成区域提案，然后预测精确的像素级掩膜，有效处理重叠对象并定义边界。YOLO11n是一种轻量级的单阶段架构，专为高吞吐量设计，能够在单次前向传递中同时预测概率和分割，优先考虑实时场景的速度和低延迟。YOLO12n是在YOLO框架中集成注意力模块的单阶段架构的进化版本，它在紧凑的结构中增强了特征提取，同时保持了高效的推理能力。

**4.3 实验设计和训练细节**
评估跨染色方法泛化的整体工作流程包括两个不同的阶段，如图2所示。首先，每个模型分别在三个独立的染色数据集上进行了训练和验证。随后，这些数据集被合并成一个统一的多细胞数据集，以检验单一模型是否能够在多种染色类型中有效泛化。图2：在图查看器或PowerPoint中打开

该工作流程比较了单染色模型与统一的多染色模型在Papanicolaou、Feulgen和AgNOR染色下的表现。这种策略能够全面评估每种架构的鲁棒性以及在不同细胞染色条件下的泛化能力。我们在所有模型中应用了OneCycle [21]学习率策略来优化收敛性。Mask R-CNN和Mask2Former（Detectron2）经过100个训练周期的训练，初始学习率为0.0001。配置信息见表3。所有实验均在NVIDIA DGX H100服务器[22]上完成。

表3. 每个模型的训练配置。

我们的工作提出了一种统一的分析流程，整合了多种染色协议，旨在评估单一模型是否能够在保持分割准确性的同时有效泛化到不同的染色类型。

5. 结果
性能通过AP50（检测）和AP75（边界精度）在单染色和组合多染色数据集上进行评估。表4展示了所有配置的验证和测试结果。Feulgen样本在这个基准测试中获得了最高的分数，其中YOLO11n表现最佳。AgNOR和Papanicolaou染色由于密集的伪影而具有更高的复杂性。Mask2Former以其几何精度脱颖而出，在AgNOR中达到了AP75（0.367），在Papanicolaou中达到了AP75（0.327），并且在组合的多细胞数据集中也表现优异（0.436）。重要的是，结果表明，在组合数据集上进行统一训练的结果与特定染色的专家模型在AP50上相当或超过了它们的性能，并且在AP75上也有提升。

5.1 计算效率
为了评估在高通量场景（如患者筛查或WSI分析）中的操作可行性，我们进行了推理效率测试分析（表5）。在这个实验中，我们对每个模型的测试集进行了推理，包括组合数据集。例如，Mask2Former由于其较低的吞吐量（15.0 FPS），被认为不太适合实时应用。相比之下，YOLO11n在测试模型中展示了最高的吞吐量（110 FPS）和最低的延迟。

5.2 定性评估
如图3所示，视觉检查确认统一方法产生的分割质量与专家模型相当，能够准确分辨小簇和重叠的伪影。统一方法（Mask2Former）在识别AgNOR样本中的小NORs方面表现突出，而Mask R-CNN和YOLO12偶尔会失败或合并相邻的信号。

6. 讨论
我们的结果表明，在Multi-Cyto数据集上训练的统一多染色模型可以匹配或超越特定染色的基线。它特别提高了边界精度（AP75），同时保持了检测灵敏度（AP50）。这些发现证实了染色不变方法的可行性，有效简化了数字病理工作流程。所选模型代表了不同的计算范式。YOLO11n提供了最佳的速度-精度权衡，而YOLO12n的表现较差，这可能反映了需要广泛的预训练[8]。Mask2Former始终提供了最高的几何精度（AP75），利用全局注意力机制来建模复杂的边界，尽管与其他模型相比它的速度最慢。

6.1 染色多样性作为正则化
我们选择了一个代表性的三元组，涵盖了不同的生化目标和染色协议，以反映现实世界的多样性。尽管标准的细胞病理学诊断通常包括Papanicolaou、苏木精和伊红（H&E）以及Romanowsky型染色[23, 24]，但染色协议的变异性仍然是AI自动化的重大障碍[14]。我们的选择作为一个严格的领域泛化压力测试。Papanicolaou[25]提供了常规的形态对比，Feulgen[26]提供了定量的DNA分析，而AgNOR[27, 28]引入了具有挑战性的颗粒模式。在这些目标上进行训练，迫使模型学习结构和空间特征，而不是特定染色的颜色模式，这表明跨染色的变异性起到了隐式的正则化作用[11]。

6.3 与分子细胞学的相关性
包含AgNOR解决了一个特定的计算挑战，因为AgNOR的密集模式在形态上类似于原位杂交（ISH）检测中看到的信号，如荧光（FISH）和显色（CISH），这些方法越来越多地应用于细胞学标本的生物标志物检测[29, 30]。从计算机视觉的角度来看，成功分割AgNOR簇为旨在量化数字细胞学中分子信号的算法建立了概念验证。因此，我们的统一方法展示了一个强大的基础，不仅能够扩展到像H&E这样的常规染色，还能扩展到复杂的分子量化任务[30]。

7. 局限性
虽然这些发现提供了有价值的见解，但仍需考虑一些局限性：
- 类别不平衡：数据集内类别分布不均可能导致模型性能偏差，特别是对于代表性不足的类别。从新的切片中收集更多注释并采用成本敏感学习等技术可以帮助减轻这些影响；
- 数据集扩展和多样性：当前数据集的范围有限，可能会限制模型在不同染色协议和临床环境中的泛化能力。未来的研究应该通过整合来自多个机构的额外样本和更广泛的组织病理学染色技术来扩展数据集。

8. 结论
在这项研究中，我们证明了单一实例分割模型可以有效地泛化到多种细胞学协议。我们在Papanicolaou、Feulgen和AgNOR数据集上进行了训练；统一方法的分割性能与特定染色的模型相当，同时简化了在异构临床环境中的部署。我们的基准测试显示，基于Transformer的架构，特别是Mask2Former，始终提供了卓越的边界精度（AP75），这对于细胞病理学定量分析至关重要。我们工作的主要发现包括：
- 统一模型降低了实现复杂性，同时保持了跨染色的性能（Mask2Former在AgNOR中的AP75为0.367，在Feulgen中为0.446，在Papanicolaou中为0.327）。Transformer架构在几何精度上优于CNN和混合模型，其中Mask2Former在组合多染色数据上达到了最高的AP75（0.436）。多染色训练提高了泛化能力，而没有牺牲特定染色的性能。