《Journal of Imaging》:An Adaptive Attention-Driven Quadruplet Deep Hashing Method for Retrieving Histopathological Images
编辑推荐:
检索组织病理学图像可以辅助识别和治疗多种疾病。然而,高维特征可能使这一过程复杂且低效。这些挑战可以通过利用深度哈希方法将特征域编码为不同长度的二进制码来解决。尽管如此,梯度消失问题在这些方法中仍然是一个关注点。根据多项研究,四元组深度哈希模型在从多类别数据集中
检索组织病理学图像可以辅助识别和治疗多种疾病。然而,高维特征可能使这一过程复杂且低效。这些挑战可以通过利用深度哈希方法将特征域编码为不同长度的二进制码来解决。尽管如此,梯度消失问题在这些方法中仍然是一个关注点。根据多项研究,四元组深度哈希模型在从多类别数据集中检索图像时展现出有前景的性能。此外,将注意力模块添加到卷积神经网络架构中可以提升特征提取的效率。因此,研究人员引入了一种自适应四元组深度哈希模型来检索组织病理学图像。利用四个具有匹配结构和参数的深度哈希模型来生成哈希码。生成的码根据一种新颖的自适应四元组损失函数进行训练。自适应结构能够提升检索性能。所提出的方法还针对梯度消失问题提出了一种新颖的哈希层。此外,实现了一个简单而有效的注意力模块来增强特征提取性能。该模型在三个公开可用的组织病理学数据集上进行了评估:Kather、Kimia Path960和Kimia Path24C。结果表明,所提出的方法在相应数据集上分别达到了约0.9940、0.9983和0.9968的最高平均精度均值(MAP)。基于在数据集上进行的实验,该模型超越了当前的哈希技术。
**论文解读文章**
### 研究背景与问题
组织病理学图像检索在辅助疾病诊断(如多种癌症)中具有重要价值。然而,传统检索方法依赖高维特征进行相似性排序,计算复杂且耗时。哈希技术通过将特征域映射为二进制码来缓解这一问题,但传统哈希方法性能有限。深度哈希方法(如成对、三元组结构)虽表现更优,但面临梯度消失挑战,且在多类别数据集上精度不足。注意力机制可增强卷积神经网络(CNN)的特征提取能力,但将其与深度哈希结合的研究尚不充分。现有模型在组织病理学图像检索中准确率不高,亟需一种高效、精确且复杂度低的方法。
### 研究工作与结论
研究人员提出了一种基于注意力的自适应四元组深度哈希方法(HAQDH),用于检索组织病理学图像。该方法利用四个结构参数匹配的深度哈希模型生成哈希码,并通过一种新颖的自适应四元组损失函数进行训练。同时,设计了一个简单有效的注意力模块以提升特征提取性能,并引入一种新型哈希层解决梯度消失问题。模型在三个公开数据集(Kather、Kimia Path960、Kimia Path24C)上进行了评估,平均精度均值(MAP)分别达到0.9940、0.9983和0.9968,显著优于LSH、ITQ、HashNet、ATH、DSH、DPSH、DTQ、OCAM、IDHN等现有哈希方法。该研究发表于《Journal of Imaging》,其意义在于为组织病理学图像检索提供了一种高精度、低复杂度的解决方案,有望辅助早期疾病诊断,减少活检需求。
### 主要关键技术方法
研究人员采用以下关键技术方法:
1. **深度哈希模型框架**:以MobileNet为基础网络,替换softmax层为全连接层(M个节点),并引入参数化Softsign激活函数生成哈希码,解决梯度消失问题。
2. **自适应四元组损失函数**:基于四元组结构(anchor、positive、negative1、negative2),结合余弦相似度与欧氏距离,并加入量化损失项,通过反向传播优化参数。
3. **注意力模块**:改进自高效通道注意力(ECA)模块,利用标准差和平均池化全局聚合特征,通过可训练参数融合后经一维卷积层处理,提升特征提取效率。
4. **检索阶段**:利用符号函数直接计算查询样本的二进制码,与训练集码进行比对。
数据集来源为公开的Kather、Kimia Path960和Kimia Path24C,均按70%训练、30%测试划分。
### 研究结果
**4.1 数据集**:使用三个公开组织病理学数据集(Kather、Kimia Path960、Kimia Path24C),图像均经归一化处理。
**4.2 实现细节**:采用Adam优化器,学习率0.001,批量大小64,与多种哈希方法进行公平比较。
**4.3 评估指标**:采用平均精度均值(MAP)和Precision@r作为评估指标。
**4.4 结果**:HAQDH在所有哈希码长度下均优于现有方法,在Kather、Kimia Path960和Kimia Path24C上MAP分别提高约8-10%、3-5%和5-8%(与OCAM相比)。Precision曲线显示模型在不同检索数量下均保持高精度。
**4.5 消融研究**:
- 自适应损失函数超参数β和γ对性能有影响,最佳值因数据集而异(如Kather:β≈0.6,γ≈0.5)。
- 替换损失函数为文献[5]和[22]中的函数(HAQDH-V1、HAQDH-V2),所提损失函数性能更优。
- 替换注意力模块为ECA、CBAM、SRM(HAQDH-V3、HAQDH-V4、HAQDH-V5),所提注意力模块提升MAP约5%。
- 替换哈希层为HashNet和文献[43]中的层(HAQDH-V6、HAQDH-V7),所提哈希层提升MAP约3-5%。
- 替换注意力CNN为MobileNet或VGG19(无注意力模块,HAQDH-V8、HAQDH-V9),所提注意力模块提升MAP约3.5-6.5%。
**4.6 讨论**:HAQDH在训练和检索速度上表现快速,且通过交叉验证、数据增强等避免过拟合。所提激活函数(参数化Softsign)在零处可导,有效解决梯度消失问题。研究限于小块组织病理学图像,未涉及全切片图像,且未与临床医生直接合作。
**4.7 可视化检索结果**:比较HAQDH与OCAM的检索结果,HAQDH在视觉上表现更优。
### 讨论与结论
**讨论部分总结**:HAQDH通过自适应四元组结构更准确地区分相似与不相似图像,注意力模块简单有效,哈希层解决梯度消失并生成精确二进制码。参数选择基于数据集和目标进行优化,超参数通过初始值并在学习过程中调整确定。模型在训练和检索时间上具有优势,但研究仅关注小块图像,未涉及全切片图像,且未与病理学家直接协作,未来需进一步扩展。
**结论部分翻译**:
本文提出了一种基于注意力的自适应四元组深度哈希方法,用于检索组织病理学图像。利用四个具有匹配结构和参数的深度哈希模型生成哈希码,通过新开发的自适应四元组损失函数进行训练。此外,设计了一个简单而有效的注意力模块,集成到CNN模型架构中,以提升特征提取过程的准确性。在三个组织病理学数据集上进行的研究表明,HAQDH优于最先进的哈希方法。该模型在Kimia Path24C、Kimia Path960和Kather数据集上的最高MAP分别约为0.997、0.998和0.994。这些有前景的结果表明,该模型有助于早期诊断疾病,最终挽救患者生命。此外,该模型可开发用于组织病理学图像以外的其他模态,在多种应用中具有价值。本文设计了一个用于组织病理学图像检索的深度哈希模型,通过减少活检需求及相关成本,为医生和患者带来益处。但需注意,本研究纯属学术性质,聚焦于医学背景下机器学习方法,主要目标是引入新颖的机器学习技术。本研究使用了已知的公开组织学数据集以避免复杂性,但未来可考虑更大规模和更多数量的数据库。由于大学限制及缺乏合适数据集和专家,本研究侧重于模式识别和机器学习方面,遵循类似研究使用已准备数据集而未直接与临床医生合作,这一问题将在后续研究中加以关注。