多尺度Transformer与多注意力机制网络细胞核分割中的创新应用

针对病理细胞核高密度、背景复杂及边界模糊导致的分割难题，研究人员提出基于多尺度Transformer(MSTA)和密集通道注意力(Dense-CA)的U-Net改进模型。通过Dense-CA模块增强目标特征提取，MSTA模块优化多尺度边界信息融合，在MoNuSeg/GlaS/CoNSeP数据集上Dice系数分别达80.44%/92.44%/79.36%，显著提升病理诊断自动化水平。

　　

病理细胞核的精确分割是癌症诊断和治疗的关键环节，然而高密度分布、复杂背景干扰以及模糊的细胞边界给自动化分割带来巨大挑战。传统方法如阈值分割和区域生长算法难以处理复杂场景，而基于卷积神经网络(CNN)的U-Net等模型又存在局部特征提取局限和全局信息丢失的问题。这些技术瓶颈直接影响病理诊断的准确性和效率，亟需开发新型算法突破现有局限。

中国华侨大学的研究团队在《Scientific Reports》发表创新研究，提出融合多尺度Transformer和多注意力机制的病理细胞分割网络。该研究通过两个核心模块实现技术突破：在编码器部分引入密集通道注意力(Dense-CA)模块，通过密集连接结构和通道注意力机制增强目标特征提取，显著减少下采样过程中的信息损失；在编码器-解码器连接部分设计多尺度Transformer注意力(MSTA)模块，利用通道交叉Transformer机制融合多尺度特征，结合通道交叉注意力优化边界识别。实验采用MoNuSeg(30训练/14测试)、GlaS(85/80)和CoNSeP(20/14)三个公开数据集，通过水平翻转、垂直翻转和随机旋转等数据增强策略防止过拟合。

关键技术方法包括：1)构建Dense-CA模块整合密集连接与通道注意力，通过特征重用和通道权重调整增强目标识别；2)设计MSTA模块包含多尺度特征嵌入、多头通道交叉注意力和多层感知机(MLP)，实现跨尺度特征融合；3)采用5折交叉验证(共15次)评估模型稳定性；4)结合Dice损失和交叉熵损失进行优化。

研究结果显示，在模块消融实验中，单独使用Dense-CA使MoNuSeg数据集Dice值从76.45%提升至78.77%，单独使用MSTA提升至78.88%，而联合两个模块后达到80.44%。可视化分析表明，传统U-Net在密集核区域存在明显误分割，而新方法能准确识别细胞边界。对比实验中，该模型显著Net(提升4.77%Dice)、Swin-Unet(4.28%)等现有方法，在GlaS数据集上更是达到92.44%的Dice值。值得注意的是，模型标准偏差低于0.09，表现出优异的稳定性。

研究结论指出，该方法通过Dense-CA和MSTA模块的协同作用，有效解决了病理细胞分割中的三大核心问题：Dense-CA通过特征重用和通道加权突出目标核区域，MSTA通过跨尺度特征融合增强边界敏感性。尽管模型参数量达122M且FLOPs为42.26G，略高于基准模型，但其在多个数据集上的稳定表现证明了临床实用价值。未来研究可探索模型压缩技术和生成对抗网络(GAN)进一步优化性能。这项研究为病理图像分析提供了新范式，对推动计算机辅助诊断系统发展具有重要意义。