哈希方法将高维数据映射成紧凑的二进制代码,同时保留了数据之间的成对相似性,从而显著降低了存储和计算成本。因此,它们被广泛应用于大规模图像检索任务中。近年来,受到深度神经网络(Rohani Bastami, Aasi, & Arghand, 2019)在各种计算机视觉任务(如图像分类(Chen, Zhan, Tian, He, Zou, 2019, Krizhevsky, Sutskever, Hinton, 2012)、目标检测(Shao, Wang, Wang, Du, Wu, 2019, Sun, Chen, Wang, Tang, 2014, Zhou, Wang, Luo, Xiong, 2019)和语义分割(Long, Shelhamer, Darrell, 2015, Zou, Zhang, Li, Qi, Wang, Wang, 2018)中显著成功的启发,越来越多的研究人员将它们集成到监督哈希框架中,在多个基准数据集上取得了显著的性能提升(Liu, Wang, Shan, Chen, 2016a, Yan, Gong, Wei, Gao, 2020)。然而,监督哈希方法严重依赖于大规模标记数据集进行训练,这既耗时又费力(Cao, Long, Wang, & Yu, 2017)。此外,随着在线视觉内容的快速增长,新的和以前未定义的概念不断出现,使得手动注释和模型重新训练变得不切实际。因此,传统的监督哈希方法在遇到未见类别时难以有效泛化。
受到零样本学习(ZSL)(Ji, Yu, Pang, Guo, Zhang, 2017, Lampert, Nickisch, Harmeling, 2013, Long, Liu, Shao, Shen, Ding, Han, 2017)成功的启发,提出了零样本哈希(ZSH)。其核心思想是将哈希学习与ZSL的知识迁移能力结合起来(Long et al., 2018)。通过仅使用在可见类别上训练的哈希函数对不可见类别的图像进行编码,从而实现跨类别检索。ZSH学习通常使用语义嵌入(如属性向量或词向量)来弥合可见和不可见类别之间的语义差距(Guo, Ding, Han, Gao, 2017, Yang, Luo, Chen, Shen, Shao, Shen, 2016)。例如,在基于大规模文本语料库(如维基百科)的文本领域中,基于嵌入空间中相似词的词嵌入可以捕捉分布相似性。因此,这种知识迁移可以用来捕捉可见和不可见概念之间的关系,并帮助在监督学习中处理不可见的图像。可迁移的监督知识是ZSH的开创性方法之一,其中语义向量被用作从可见类别到不可见类别传递可用监督的桥梁(Akata, Perronnin, Harchaoui, Schmid, 2013, Lampert, Nickisch, Harmeling, 2009)。此外,语义增强哈希(Zhong, Chen, Min, & Xia, 2020)引入了类级语义嵌入作为视觉特征和二进制哈希代码之间的中间语义空间,从而通过特征对齐实现从可见类别到不可见类别的知识迁移。为了进一步提高复杂语义场景中的泛化能力,基于掩码图的特征哈希(Huang12 et al., 2020)结合了掩码注意力机制和语义相似性图,以增强模型的鲁棒性和跨语义泛化能力。
尽管现有的零样本哈希方法在跨类别检索任务中取得了一定的进展(Chen, Hong, Liu, Xie, Sun, Li, Peng, Lu, You, 2022a, Shen, Liu, Shen, Shao, 2018, Yang, Luo, Chen, Shen, Shao, Shen, 2016),但它们的整体性能仍受到几个限制的约束。具体来说,大多数现有的零样本哈希方法引入了预训练的卷积神经网络(CNN)来提取全局语义特征以进行哈希表示学习(Dong, Long, Zhou, Wang, Zhu, Luo, Wang, Wang, Zhou, 2024, Li, Long, Zhou, Zhang, Ning, Zhu, Zhou, Wang, Xiao, 2025, Zou, Cao, Zhang, Chen, Wang, 2020),而很大程度上忽略了与特定属性相关的区分性线索(如局部纹理、形状或结构模式)的语义信息。然而,在零样本场景中,不同类别之间的区分性线索通常集中在少数几个关键属性相关区域。仅依赖全局特征难以充分捕捉这些属性相关特征之间的差异。如图1-a所示,这一限制不仅限制了视觉表示的表达能力,还削弱了视觉空间和语义空间之间的有效交互,从而降低了模型在未见类别上的泛化能力和检索性能。为了解决这些问题,如图1-b所示,通过引入属性感知变换器,所提出的框架有效减轻了跨数据集偏差并减少了区域特征之间的纠缠。同时,该方法能够准确定位与特定语义属性高度相关的区分性图像区域,从而显著提高了视觉表示的可解释性和区分性。
为了解决上述问题,本文提出了一个深度属性感知哈希(DA2H)框架,如图2所示。该框架学习的属性感知表示能够更好地实现从可见类别到不可见类别的迁移。最后,通过集成视觉-语义交互网络,在联合嵌入空间中建立了更一致的跨类别语义对齐关系,从而显著提高了零样本跨类别图像检索性能。
总结来说,本文的贡献如下。
1.我们提出了DA2H,这是第一个将视觉变换器编码器-解码器架构引入零样本哈希的框架,实现了基于属性的条件化定位区分性区域,并提高了从可见类别到不可见类别的视觉特征迁移性。
2.在属性感知变换器中,语义增强编码器(SAE)减轻了跨数据集偏差,并解开了网格区域之间的相对几何关系,而语义感知解码器(SAD)定位了每个属性最相关的图像区域,生成了位置增强的视觉表示。
3.视觉语义交互网络(VSIN)将位置增强的视觉特征和语义向量映射到共享嵌入空间,实现了有效的跨类别检索。
4.在三个公共基准数据集(AWA2、CUB、SUN)上的广泛实验展示了最先进的检索性能,定性可视化结果证实DA2H能够准确定位属性区分性图像区域。
本文的其余部分组织如下。第2节介绍了代表性的零样本哈希和变换器网络。第3节详细介绍了DA2H方法。第4节通过综合实验验证了我们方法的有效性。最后,第5节总结了相关结论和未来的工作。