《Symmetry》:Classical Versus Deep Mirror-Symmetry Scoring: A Benchmark of Thirteen Methods
编辑推荐:
量化一幅图像关于给定轴的镜像对称程度(对称评分)是视觉美学到医学影像等众多应用的基础,然而已有评分方法从未在统一的、具有统计基础的协议下进行比较。研究人员在四个单轴数据集与五个多轴数据集上,采用反射精确(reflection-exact)协议并以机会锚定、显著
量化一幅图像关于给定轴的镜像对称程度(对称评分)是视觉美学到医学影像等众多应用的基础,然而已有评分方法从未在统一的、具有统计基础的协议下进行比较。研究人员在四个单轴数据集与五个多轴数据集上,采用反射精确(reflection-exact)协议并以机会锚定、显著性检验的判别技能(discrimination skill)为指标,对13种评分方法(9种来自文献,4种为本文提出)进行基准评测,方法涵盖从经典特征到冻结深度特征(frozen deep features)。深度骨干网络在单轴及较难的多轴协议上表现最佳;但经典的有向梯度直方图(Histogram-of-Oriented-Gradients, HOG)描述子仅以较小(但显著)的差距落后于最优冻结网络读数,与亚军(一种CNN滤波器度量)无统计可分性,且在CPU上快约300倍。结果表明,判别力集中于中尺度定向特征,深度骨干在网络低或中层达到峰值,HOG在中等单元格尺寸达到峰值。在现有方法中,冻结深度特征相比调优后的经典描述子在测量对称性上优势有限;任务训练的深度评分器能否做得更好仍属开放问题。研究人员在imgsym中发布了评分器与测试架,这是一个用于图像对称检测与测量的开源工具包。
研究背景方面,双侧(镜像)对称是自然与人工图像中最显著的图案之一,人类视觉系统可快速检测并利用其作为显著性、图形—背景组织与审美偏好的指示。将这种感知转化为标量(即关于给定轴的对称程度,或偏离对称的程度)支撑了从医学影像中解剖不对称量化、生物学发育不对称量化到视觉美学与设计的应用。现有文献常将“检测”(定位对称轴)与“评分”(量化给定轴下内容的对称程度)混为一谈,而实际应用消费的是后者。过去三十年间提出了从基于梯度、滤波器组、频率系数或像素相关的手工度量,到读取深度网络特征的现代度量等多种评分方法,但这些方法从未在相同日常图像上、以统一且带显著性检验的协议进行头对头比较。核心科学问题是:哪些方法能较好度量镜像对称,以及以何种计算代价;并借此回应领域向学习特征偏移时反复出现的问题——从冻结预训练特征读取对称是否值得其相对于经典描述子的成本。
为开展研究,作者构建了统一开源库imgsym,将13种评分器(9种重实现自文献、4种新提出)改写为单一“表示—比较—聚合”模板实例,在反射精确提取下,以机会锚定的配对Bootstrap协议,在4个单轴数据集(symComp17_s、NYU_s、PIX2PER-nat、PIX2PER-art,约650轴单元)和5个多轴数据集(含symComp13多轴部分、NYU多轴、PIX2PER全轴、DENDI-COCO反射子集等,约3300轴单元,总计约3950轴单元)上评测。负轴包括位移与旋转扰动负轴及全局结构负轴;指标采用机会锚定技能S=2·AUC?1(AUC为图像内判别曲线下面积,宏平均),0为随机、1为完美。两把“钥匙”方法为:HOG(单元格16、18 bin、无符号梯度,在单轴消融集上调优)与DeepFeat(MambaOut-Base stage-1冻结ImageNet特征,在单轴消融集选调)。
研究结果部分,按原文小节叙述如下。
在“哪种表示最能判别镜像对称”中,研究人员通过领导板(leaderboard)与配对Bootstrap(Holm校正)发现:DeepFeat均值单轴技能领先(约0.78),AlexNet-C2(约0.76)与HOG(约0.75)紧随且三者中仅DeepFeat对HOG的优势小而显著;其下Gabor(约0.68)、Grad(约0.66)等手工家族居中,EROS(约0.55)垫底。多轴协议下排序不变,DENDI上HOG(约0.49)与DeepFeat(约0.51)差距同单轴。扰动幅度扫描显示所有方法在极细扰动近随机,在1–5%位移/1°–5°旋转带分离最大;DeepFeat上升最快,EROS对旋转近盲。
在“排序是否为协议假象”中,固定裁剪范围重测、多轴协议泛化、局部vs全局负轴分层、输入退化(高斯模糊、加性噪声、JPEG重压、均值填充遮挡)四重检验均支持排序稳健。退化实验中顶层三法始终居前;噪声是HOG唯一弱点(DeepFeat优势由0.03扩至0.06),模糊使PHOG近随机、Gabor降档,遮挡使DeepFeat与AlexNet-C2趋同。
在“胜者为何胜:中尺度定向特征原理”中,两条独立消融指向同一结论。其一对17个骨干网各阶段扫描:层次化网络在低/中层峰值(MambaOut-Base、ConvNeXtV2-Base在stage-1达约0.78),最深语义层下降;列状ViT(16px令牌)无中阶峰,但ViT-Base/8细令牌控制在硬集回升至约0.72,说明中尺度空间结构可达性而非层级本身关键。其二HOG单元格扫描:cell 4技能约0.68,cell 16峰值约0.75,cell 32回落;无符号定向在全分辨率优于有符号(峰值差约0.03),因镜像保无符号定向而翻有符号方向。PHOG因金字塔粗格+有符号bin反向验证该原理,落后HOG约0.07。
在“评分的实践代价”中,CPU单裁时间:HOG约0.5ms,AlexNet-C2约10ms,DeepFeat(MambaOut-Base stage-1)约170ms;HOG落后DeepFeat仅约0.03技能但快约300倍,与AlexNet-C2技能无统计分离但快约20倍。互补性上DeepFeat与HOG逐图成功相关仅0.41,二者秩组合池化技能升至约0.80,加AlexNet-C2达约0.81,全13法集成反降至约0.77。
讨论部分指出,冻结深度特征对多数用途不值其价:最优冻结读数仅以小而显著优势胜调优HOG,而HOG快300倍且与AlexNet-C2无统计分离;但池内无一法为任务训练,任务训练头部能否扩大差距未测。代表机制是中尺度无符号定向结构可达性,而非容量;该结论与感知文献中对称判别在中层涌现、不敏感到对比极性一致。基准只证图像内相对判别(哪轴更对称),不证跨图校准对称度;且几何判别不等同人类对称评分,后者需评级验证。检测侧前沿为等变大模型,与本文冻结评分不冲突。局限含两赢家配置在单轴子集选调(但HOG外推稳定、PIX2PER-nat上DeepFeat仍领)、近机遇法有约0.8SE正向偏、多轴bootstrap以轴为单元致区间略窄、域仅自然照与艺术品(医学灰度图可能利EROS/PatchNN)、时序为单机CPU。
结论部分译文:在机会锚定、显著性检验协议下对13种从手工到冻结深度的对称评分器基准评测,将镜像对称判别归为单一属性——存于中尺度、无符号、定向特征。深度骨干在低/中层达峰,HOG描述子在中等单元格尺寸达峰,列状ViT在粗16px令牌下落后但细令牌部分恢复,表明效应在于空间结构而非模型容量。实用结论是:调优经典HOG以约1/300 CPU代价逼近最优冻结网络读数(技能差极小);在待测方法中,冻结深度特征相对调优经典描述子测量对称性收益有限。任务训练评分器能否拓宽此差未测,为自然下一步。研究人员于imgsym发布评分器、反射精确测试架与分析脚本以供复用扩展。