基于合成虚拟类的大间隔Softmax损失函数(SV-Softmax)在视觉识别中的动态边界优化研究

【编辑推荐】本文提出创新的动态边界自适应合成虚拟Softmax损失函数(SV-Softmax)，通过特征嵌入与原型向量合成虚拟原型，实现基于样本空间分布的自适应边界调整。该方法突破传统角度间隔方法需特征/权重归一化的限制，结合难样本挖掘策略，在视觉分类和人脸识别任务中展现优越性能（优于9种SOTA方法），具有即插即用、免超参调优的优势。

　　

亮点

当前主流大间隔学习方法可分为：(1) 基于类别间隔的损失函数（Class margin-based loss），(2) 基于归纳偏置的方法（Inductive bias-based methods），(3) 基于虚拟实例/原型的方法（Virtual instance/prototype-based methods），(4) 基于难样本挖掘的损失函数（Hard mining-based loss）。

基于类别间隔的损失函数

早期开创性工作如对比损失（Contrastive Loss）和三重损失（Triplet Loss）通过最小化同类样本的欧氏距离和最大化异类样本距离，建立了"类内紧凑、类间分离"的优化范式。

预备知识

标准卷积神经网络（CNN）分类模型可视为特征学习组件与Softmax损失函数的组合。给定包含N个样本的数据集D={(x_i,y_i)}_i=1^N，其中x_i为输入数据，y_i∈{1,...,C}为对应标签，特征表示z_i=Φ_θ(x_i)∈R^d通过...

实验

本节评估SV-Softmax在视觉物体分类、细粒度视觉分类和人脸识别任务上的性能，展示大量实验结果。

结论

我们提出动态边界自适应的合成虚拟Softmax损失SV-Softmax，通过嵌入特征与对应类原型合成可调节的虚拟类原型。SV-Softmax通过可调参数m动态调整虚拟原型与特征嵌入间的间隔，并提出强调误分类难样本优化的边界自适应框架。