面向3D医学成像的基于注释噪声感知的半监督与领域自适应学习方法

《Neurocomputing》：Annotation noise-aware semi-supervised and domain adaptive learning for 3D medical imaging

　　摘要：获取用于医学图像分割的标注数据是一项耗时且成本高昂的任务，因为需要为每个像素进行标注。半监督学习通过利用少量标注数据与大规模未标注数据，为解决这一问题提供了有效途径。然而，大多数半监督学习方法假设标注数据与未标注数据具有相同的分布特征，而在现实场景中，不同数据集之间的领域差异十分常见。此外，由标注错误导致的噪声标签也给医学图像分析带来了巨大挑战。尽管半监督学习、无监督领域自适应以及噪声标签处理对临床应用至关重要，但目前的方法通常都是单独处理这些问题。在本研究中，我们提出了一种统一框架，能够同时应对半监督学习、无监督领域自适应以及噪声标签处理问题。我们的方法包含两个关键模块：频率感知特征变换和自适应记忆交叉注意力。频率感知特征变换可将编码器特征转换为频域，将其分解为低频成分和高频成分。我们对用于捕捉物体边缘的高频成分引入可控噪声，并在标注数据与未标注数据之间交换这些成分，从而帮助模型学习出更稳健、对噪声标注不那么敏感的高频特征表示。为以统一方式提升半监督学习与无监督领域自适应的效果，我们采用了自适应记忆交叉注意力机制，该机制通过将未标注数据纳入学习过程来干预标注数据的训练。通过大量实验，我们证明了该方法在干净标签和含噪声标签场景下均具有更优异的性能。

引言：对于那些需要逐像素标注的任务，如图像分割，获取标注数据既耗时又昂贵。半监督学习通过利用少量标注数据并结合大规模未标注数据，为解决这一问题提供了有效方案。已有许多半监督学习技术被应用于医学图像的半监督分割任务中。然而，这些方法往往假设标注数据与未标注数据具有相同的分布特征，而现实中由于不同医疗中心使用不同的扫描设备，数据之间存在领域差异，这会影响模型的性能。通常，这类领域差异是通过无监督领域自适应技术来处理的。此外，现实中的医学图像还常常受到各种噪声和伪影的影响，比如运动模糊、电子噪声以及图像采集协议不一致等问题，这些因素都会降低图像质量，使得提取准确的诊断信息变得困难。因此，即便深度学习模型并非在质量较低的图像上训练过，也应具备足够的鲁棒性以应对这类缺陷。另外，在实际应用中，标签噪声不可避免，它可能源于系统错误或标注者的主观偏见。由于噪声标签会降低深度神经网络的泛化能力，因此在医学图像分析中，学习处理噪声标签已成为一项重要任务。现有的方法分别是针对上述问题独立设计的，但考虑到半监督学习与无监督领域自适应都依赖于混合标注数据与未标注数据的学习，开发一种能够整合两者的统一框架是合理的下一步。而且，实际应用还需要模型能够有效处理标签噪声，因为人工标注错误难以避免，同时在推理过程中处理质量较低的图像也同样重要。设计出能够在所有这类场景下都能表现出色的模型依然是一项挑战。近期，有研究者提出了一个用于体积数据半监督学习的通用框架，该框架通过聚合与解耦策略同时处理半监督学习与无监督领域自适应问题，但正如相关实验结果所示，这种方法在处理噪声标注和质量较低的图像方面存在不足。在本研究中，我们设定了一个宏伟的目标，即在一个统一框架内同时解决半监督学习、无监督领域自适应以及噪声标签处理问题。为此，我们提出了一种统一方法，其中包含了频率感知特征变换和自适应记忆交叉注意力两种机制。具体而言，频率感知特征变换会将学习得到的编码器特征转换为频域，将其分解为低频成分和高频成分。低频成分用于捕捉图像内容，而高频成分则用于编码边缘、边界等细粒度特征。我们在交换标注数据与未标注数据之间的高频特征之前，先优化低频成分，并在高频成分中引入可控噪声。由于标签噪声多出现在区域边界处，通过在标注数据与未标注数据之间交换高频特征，并对高频成分施加扰动，模型就能够观察到具有不同高频特性的同一物体的多种表现形式，这有助于模型学习出更稳健的高频特征表示，从而降低其对噪声标注的敏感性。为以统一方式提升半监督学习与无监督领域自适应的效果，我们采用了自适应记忆交叉注意力机制，该机制通过将未标注数据纳入学习过程来干预标注数据的训练。具体来说，它会从未标注数据的特征中提取某些通道，并将其存储在记忆库中。随后，会对标注数据与存储在记忆库中的未标注数据特征进行逐通道比较，那些相似度较高的通道会被重点利用，用来优化标注数据特征。在半监督学习与无监督领域自适应中使用这种机制的原理在于，标注数据的数量远远少于未标注数据。通过利用未标注数据的信息来重构标注数据特征，我们能够为标注特征空间引入更多多样性，从而构成更具挑战性的特征空间。在无监督领域自适应任务中，自适应记忆交叉注意力机制有助于让源领域（标注数据所在领域）与目标领域（未标注数据所在领域）的特征分布保持一致。由于领域差异会导致特征表示出现偏差，该机制通过基于相似度的重构，将目标领域的特征融入到源特征空间中。通过重点关注目标领域中最为相关的特征通道，自适应记忆交叉注意力机制能够让源领域适配目标领域，进而提升适配效果。我们的主要贡献可总结如下：我们提出了一种全新的统一框架，通过基于小波的跨分量交换机制，同时解决了医学图像分割中的诸多关键问题，包括标注数据不足、领域差异以及推理时的图像质量下降问题。本工作是在我们之前发表的会议版本基础上进一步扩展而来的，扩展版本的额外贡献还包括：我们提出了一种改进后的方法，除了能够处理半监督学习、无监督领域自适应以及推理时的图像质量下降问题外，还能在同一个统一框架内解决标签噪声问题。为减轻标签噪声的影响，我们设计了频率感知特征变换模块，该模块能够提升模型对噪声标注的抵抗能力，尤其是在物体边界处。此外，我们还提出了自适应记忆交叉注意力机制，该机制通过从存储在语义记忆库中的未标注数据特征中选取最相关的通道，来重构标注数据特征。这一设计不仅提升了半监督学习任务中的特征多样性，还有助于加强无监督领域自适应任务中的领域对齐效果。通过大量实验，我们证明了该方法在干净标签和含噪声标签条件下均具有更优异的性能，从而验证了其在各种现实场景中的有效性。