深度属性感知哈希技术在零样本图像检索中的应用

《Expert Systems with Applications》:Deep Attribute-aware Hashing for Zero-Shot Image Retrieval

【字体: 大 中 小 】 时间:2026年04月25日 来源:Expert Systems with Applications 7.5

编辑推荐:

  本文提出深度属性感知哈希框架DA2H,通过属性感知Transformer和视觉语义交互网络,缓解跨数据集偏差,增强视觉特征可迁移性,并精准定位属性相关区分区域,显著提升零样本图像检索性能,实验验证在AWA2、CUB和SUN数据集上达到最优效果。

  
王洪|傅永月|秦启兵|张文峰|黄磊
中国潍坊市潍坊大学计算机工程学院

摘要

深度哈希算法在大规模图像检索领域已被广泛证明是高效的。然而,由于概念迁移的问题,传统哈希方法在零样本场景中面临性能瓶颈。零样本哈希学习旨在通过将可见类别的语义知识迁移到不可见类别来实现跨类别检索。语义知识是通过类别之间的共享属性描述来学习的。这些属性作为强先验,有助于定位具有区分性的区域特征,并促进视觉空间和语义空间之间的对齐,从而有效增强零样本哈希的语义迁移能力。尽管现有的零样本哈希方法可以学习区域特征,但它们通常忽略了视觉特征的迁移性和区分性属性定位的问题。为此,本文提出了一个深度属性感知哈希(DA2H)框架用于零样本图像检索。该框架主要由两个核心部分组成:属性感知变换器和视觉语义交互网络。对于属性感知变换器模型,引入了语义增强编码器来减轻跨数据集偏差并减少区域特征之间的几何纠缠,从而提高可见和不可见类别之间视觉特征的迁移性。随后,在语义属性信息的指导下,语义感知解码器明确定位给定图像中最具区分性的属性相关区域。最后,视觉语义交互网络将位置增强的视觉特征和语义向量映射到共享嵌入空间,实现视觉和语义信息的对齐。大量实验结果表明,我们提出的DA2H在三个公共基准数据集上取得了令人满意的检索性能。我们的DA2H框架实现代码可在以下链接获取:https://github.com/QinLab-WFU/DAH。

引言

哈希方法将高维数据映射成紧凑的二进制代码,同时保留了数据之间的成对相似性,从而显著降低了存储和计算成本。因此,它们被广泛应用于大规模图像检索任务中。近年来,受到深度神经网络(Rohani Bastami, Aasi, & Arghand, 2019)在各种计算机视觉任务(如图像分类(Chen, Zhan, Tian, He, Zou, 2019, Krizhevsky, Sutskever, Hinton, 2012)、目标检测(Shao, Wang, Wang, Du, Wu, 2019, Sun, Chen, Wang, Tang, 2014, Zhou, Wang, Luo, Xiong, 2019)和语义分割(Long, Shelhamer, Darrell, 2015, Zou, Zhang, Li, Qi, Wang, Wang, 2018)中显著成功的启发,越来越多的研究人员将它们集成到监督哈希框架中,在多个基准数据集上取得了显著的性能提升(Liu, Wang, Shan, Chen, 2016a, Yan, Gong, Wei, Gao, 2020)。然而,监督哈希方法严重依赖于大规模标记数据集进行训练,这既耗时又费力(Cao, Long, Wang, & Yu, 2017)。此外,随着在线视觉内容的快速增长,新的和以前未定义的概念不断出现,使得手动注释和模型重新训练变得不切实际。因此,传统的监督哈希方法在遇到未见类别时难以有效泛化。
受到零样本学习(ZSL)(Ji, Yu, Pang, Guo, Zhang, 2017, Lampert, Nickisch, Harmeling, 2013, Long, Liu, Shao, Shen, Ding, Han, 2017)成功的启发,提出了零样本哈希(ZSH)。其核心思想是将哈希学习与ZSL的知识迁移能力结合起来(Long et al., 2018)。通过仅使用在可见类别上训练的哈希函数对不可见类别的图像进行编码,从而实现跨类别检索。ZSH学习通常使用语义嵌入(如属性向量或词向量)来弥合可见和不可见类别之间的语义差距(Guo, Ding, Han, Gao, 2017, Yang, Luo, Chen, Shen, Shao, Shen, 2016)。例如,在基于大规模文本语料库(如维基百科)的文本领域中,基于嵌入空间中相似词的词嵌入可以捕捉分布相似性。因此,这种知识迁移可以用来捕捉可见和不可见概念之间的关系,并帮助在监督学习中处理不可见的图像。可迁移的监督知识是ZSH的开创性方法之一,其中语义向量被用作从可见类别到不可见类别传递可用监督的桥梁(Akata, Perronnin, Harchaoui, Schmid, 2013, Lampert, Nickisch, Harmeling, 2009)。此外,语义增强哈希(Zhong, Chen, Min, & Xia, 2020)引入了类级语义嵌入作为视觉特征和二进制哈希代码之间的中间语义空间,从而通过特征对齐实现从可见类别到不可见类别的知识迁移。为了进一步提高复杂语义场景中的泛化能力,基于掩码图的特征哈希(Huang12 et al., 2020)结合了掩码注意力机制和语义相似性图,以增强模型的鲁棒性和跨语义泛化能力。
尽管现有的零样本哈希方法在跨类别检索任务中取得了一定的进展(Chen, Hong, Liu, Xie, Sun, Li, Peng, Lu, You, 2022a, Shen, Liu, Shen, Shao, 2018, Yang, Luo, Chen, Shen, Shao, Shen, 2016),但它们的整体性能仍受到几个限制的约束。具体来说,大多数现有的零样本哈希方法引入了预训练的卷积神经网络(CNN)来提取全局语义特征以进行哈希表示学习(Dong, Long, Zhou, Wang, Zhu, Luo, Wang, Wang, Zhou, 2024, Li, Long, Zhou, Zhang, Ning, Zhu, Zhou, Wang, Xiao, 2025, Zou, Cao, Zhang, Chen, Wang, 2020),而很大程度上忽略了与特定属性相关的区分性线索(如局部纹理、形状或结构模式)的语义信息。然而,在零样本场景中,不同类别之间的区分性线索通常集中在少数几个关键属性相关区域。仅依赖全局特征难以充分捕捉这些属性相关特征之间的差异。如图1-a所示,这一限制不仅限制了视觉表示的表达能力,还削弱了视觉空间和语义空间之间的有效交互,从而降低了模型在未见类别上的泛化能力和检索性能。为了解决这些问题,如图1-b所示,通过引入属性感知变换器,所提出的框架有效减轻了跨数据集偏差并减少了区域特征之间的纠缠。同时,该方法能够准确定位与特定语义属性高度相关的区分性图像区域,从而显著提高了视觉表示的可解释性和区分性。
为了解决上述问题,本文提出了一个深度属性感知哈希(DA2H)框架,如图2所示。该框架学习的属性感知表示能够更好地实现从可见类别到不可见类别的迁移。最后,通过集成视觉-语义交互网络,在联合嵌入空间中建立了更一致的跨类别语义对齐关系,从而显著提高了零样本跨类别图像检索性能。
总结来说,本文的贡献如下。
  • 1.
    我们提出了DA2H,这是第一个将视觉变换器编码器-解码器架构引入零样本哈希的框架,实现了基于属性的条件化定位区分性区域,并提高了从可见类别到不可见类别的视觉特征迁移性。
  • 2.
    在属性感知变换器中,语义增强编码器(SAE)减轻了跨数据集偏差,并解开了网格区域之间的相对几何关系,而语义感知解码器(SAD)定位了每个属性最相关的图像区域,生成了位置增强的视觉表示。
  • 3.
    视觉语义交互网络(VSIN)将位置增强的视觉特征和语义向量映射到共享嵌入空间,实现了有效的跨类别检索。
  • 4.
    在三个公共基准数据集(AWA2、CUB、SUN)上的广泛实验展示了最先进的检索性能,定性可视化结果证实DA2H能够准确定位属性区分性图像区域。
  • 本文的其余部分组织如下。第2节介绍了代表性的零样本哈希和变换器网络。第3节详细介绍了DA2H方法。第4节通过综合实验验证了我们方法的有效性。最后,第5节总结了相关结论和未来的工作。

    相关文献

    相关工作

    随着对搜索效率和存储成本要求的不断提高,哈希学习已成为图像检索中最广泛应用的技术之一。近年来,深度学习的快速发展推动了该领域的重大突破。许多研究人员将研究重点从监督哈希转向了零样本哈希,并通过这种方法在实现图像检索任务方面取得了显著成功。在本节中,我们将简要介绍零样本

    方法论

    DA2H的详细介绍见小节3.2。属性感知变换器在小节3.3中介绍。详细内容如下:模型优化部分在小节3.4中详细说明。本节包括两部分:视觉语义交互网络和目标函数。DA2H算法的总结和分析见小节3.5。

    实验

    为了验证我们提出的DA2H框架的有效性,我们在三个标准数据集(AWA2、CUB和SUN Attribute)上进行了全面的图像检索实验。在这些实验中,使用开源的PyTorch框架实现了DA2H,并在配备了RTX 4090Ti GPU的Linux服务器上进行了训练和测试。
    为了验证我们提出的DA2H框架的有效性,我们在三个标准属性数据集(AWA2、CUB)上进行了全面的图像检索实验

    结论与未来工作

    本文提出了一个深度属性感知哈希框架,以解决零样本图像检索任务中视觉特征迁移性不足和区分性属性定位不准确的问题。属性感知变换器和视觉语义交互网络实现了深度集成和视觉与语义信息的显式对齐。在属性感知变换器模块中,语义增强编码器有效地减轻了

    CRediT作者贡献声明

    王洪:提出想法、进行实验、分析数据、撰写和修订;傅永月和秦启兵:对论文进行整体评估并提出修订建议;张文峰:对论文提出修订意见。黄磊:对论文进行修改。

    未引用引用

    缺少引用图9

    利益冲突声明

    作者声明他们没有已知的可能会影响本文工作的竞争性财务利益或个人关系。
    作者声明他们没有可能被视为潜在竞争利益的财务利益/个人关系:
    相关新闻
    生物通微信公众号
    微信
    新浪微博
    • 搜索
    • 国际
    • 国内
    • 人物
    • 产业
    • 热点
    • 科普

    热点排行

      今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

      版权所有 生物通

      Copyright© eBiotrade.com, All Rights Reserved

      联系信箱:

      粤ICP备09063491号