Condense损失函数：在行人重识别训练中利用向量模长优化特征压缩与分类稳定性

《Pattern Recognition》：Condense Loss: Exploiting Vector Magnitude During Person Re-Identification Training Process

本文提出一种创新的Condense损失函数，通过负欧氏距离替代传统softmax内积运算，有效利用特征向量模长（magnitude）优化行人重识别（Re-ID）任务。该损失函数在权重更新时产生负径向梯度，推动特征向量压缩（condense），同时提供单调递减的切向梯度以增强训练稳定性。引入边际（margin）参数进一步扩大类间距离，在多个基准测试中达到与最先进方法相当的性能。

　　

Highlight

我们提出用于Re-ID任务的Condense损失函数，其优势包括：

• 采用负欧氏距离形式，在训练阶段利用向量模长提供自适应梯度

• 引入边际参数扩大类间距离，帮助模型学习更具判别性的特征

• 通过数学分析证明其有效性，并在Re-ID任务中展现出优于其他软最大化损失变体的性能

• 在两个Re-ID基准测试和人脸识别任务中开展广泛实验，验证Condense损失的实际效果

Person Re-Identification（行人重识别）

由于Re-ID是复杂的特征学习任务，许多研究专注于从图像或视频中学习高判别性特征。基于度量学习的方法如对比损失（Contrastive loss）、三元组损失（Triplet loss）和四元组损失（Quadruplet loss）已发展得较为成熟。

部件级特征学习框架是显著提升Re-ID性能的先驱方法。Wu等人[9]引入了基于深度注意力的比较器模块来学习配对图像的相对部件。

Proposed Method（提出的方法）

本节详细介绍Condense损失函数，并通过与其他分类损失的数学分析对比展现其优越性。

Datasets and Evaluation Protocol（数据集与评估协议）

Re-ID：使用Market-1501和MSMT17数据集。Market-1501包含6个摄像头采集的1,501个行人，训练集含751人的12,936张图像，测试集含750人的19,732张图像。MSMT17是Re-ID领域最大数据集，包含15个摄像头拍摄的4,101个行人的126,411张图像。

Face Verification（人脸验证）：我们还在人脸验证任务上进行了实验，以证明Condense损失的有效性。

Conclusion（结论）

本文首先讨论了人脸识别与Re-ID任务的异同。两者训练过程的核心都是缩减向量长度，但数据集结构的差异使人脸识别采用L2归一化软最大化损失（L2 normalized softmax loss），而Re-ID采用朴素软最大化损失（Naive softmax loss）。我们从两者的共性推断：训练中需要利用特征向量模长。随后基于朴素软最大化损失的精度曲线提出Condense损失，其通过负欧氏距离形式在Re-ID任务中实现竞争性结果。