PSRNet:一种相位引导的频域结构重建网络用于RGB-T显著目标检测

《Frontiers in Neurorobotics》:PSRNet: a phase-guided frequency-domain structure reconstruction network for RGB-T salient object detection

【字体: 大 中 小 】 时间:2026年07月06日 来源:Frontiers in Neurorobotics 3.5

编辑推荐:

  引言:RGB-T显著目标检测仍然具有挑战性,因为可见光和热特征常显示出结构偏移、弱热边界和背景干扰。方法:本研究提出PSRNet,一种相位引导的频域结构重建网络。研究人员在傅里叶域中将RGB和热特征分解为振幅(amplitude)和潜在相位(latent-ph

  
引言:RGB-T显著目标检测仍然具有挑战性,因为可见光和热特征常显示出结构偏移、弱热边界和背景干扰。方法:本研究提出PSRNet,一种相位引导的频域结构重建网络。研究人员在傅里叶域中将RGB和热特征分解为振幅(amplitude)和潜在相位(latent-phase)分量。通过振幅加权相位一致性(amplitude-weighted phase consistency)对齐可靠的跨模态结构线索,并在自适应相位调制融合(adaptive phase-modulated fusion)和多尺度监督(multi-scale supervision)之前,利用有界高斯高通门(bounded Gaussian high-pass gate)重建与边界相关的高频响应。结果:在VT1000数据集上,PSRNet在阈值0.80时达到S度量(S-measure)为0.903,平均绝对误差(MAE)为0.028,F度量(F-measure)为0.794,边界交并比(boundary IoU)为0.862。讨论:结果表明,在具有挑战性的RGB-T条件下,结构保持和边界恢复得到改善。
RGB-T显著目标检测中的相位引导频域结构重建网络研究解读

**研究背景、现存问题与研究动机**

显著目标检测(Salient Object Detection, SOD)旨在从图像中识别视觉上突出的物体,并为下游任务(如自动驾驶、智能监控、人机交互与目标定位)提供紧凑的前景表示。传统的基于RGB的SOD方法依赖丰富的纹理与颜色线索,但在低光照、遮挡及杂乱背景下可靠性显著下降。热红外成像提供基于辐射的互补线索,对可见光退化不敏感,因此RGB-T SOD成为鲁棒多模态视觉感知的重要方向。然而,现有方法在跨模态交互与特征聚合方面虽有进展,但在复杂场景中稳定的结构表示与精确的边界恢复仍存在困难。

困难源于模态异质性与结构退化。RGB特征在低光照区域可能失去判别性纹理,而热特征常包含粗糙物体轮廓与模糊边缘。两种模态在成像机制、空间响应与特征分布上存在差异,融合时可能引入跨模态不对齐。当无显式结构约束地融合冗余背景响应时,显著边界变得难以分离,目标形态可能不完整。因此,RGB-T SOD不仅需要语义融合,还需要一种能跨模态保持边界拓扑的结构感知机制。

现有方法可分为卷积融合、注意力融合、Transformer交互、边缘引导细化与关系建模等类别。卷积融合方法简单聚合双模态特征,但可能忽略模态特定结构差异;注意力与Transformer模型可加强长程依赖与自适应权重,但下采样后精细边界细节可能减弱;边缘引导与频率增强方法显式强调轮廓,但依赖在热图像或噪声背景下不稳定的边缘图。这些局限表明,跨模态结构应在更本质的表示层次建模,而非仅通过空间域聚合。

受傅里叶相位与空间排列及轮廓信息密切相关的经典观察启发,研究人员提出PSRNet,一种用于RGB-T SOD的相位引导频域结构重建网络。PSRNet将RGB与热特征分解为振幅与相位分量,通过振幅加权相位一致性对齐可靠跨模态结构线索,并通过有界高斯高通门重建边界敏感的高频响应,最后通过自适应相位调制融合将重建结构注入空间流,提升前景完整性并减少背景干扰。

**主要关键技术方法**

PSRNet的核心技术包括:频域解耦与相位表示建模(使用二维离散傅里叶变换将特征映射到频域,分离振幅与相位分量);跨模态相位一致性约束(通过振幅加权的正弦距离损失对齐双模态相位,并引入轻量注意力分支产生模态自适应权重,减少不可靠模态贡献);结构重建与融合机制(利用有界高斯高通门增强高频边界响应,并通过相位调制融合单元将重建结构注入空间特征);多尺度监督(从解码器多尺度输出施加像素级交叉熵损失、结构梯度一致性损失与振幅加权相位一致性损失)。所有方法均在公开RGB-T SOD基准数据集(VT821、VT1000、VT5000等)上进行训练与评估,使用ResNet-50作为骨干网络,采用AdamW优化器,输入尺寸为352×352,共200个训练周期。

**研究结果**

**4.1 总体性能分析**
在VT1000上,PSRNet在召回率为0.940时达到0.703的精度,高于第二名CSRNet的0.661;在阈值0.80时F-measure为0.794,S-measure为0.903,MAE为0.028。在VT821与VT5000上,S-measure分别为0.881与0.892,MAE分别为0.038与0.034,表明在结构相似性与误差减少方面有稳定提升。

**4.2 结构保持能力分析**
在边界F-measure随边缘阈值变化曲线中,PSRNet在所有阈值上保持较高值(从阈值0.1时的0.941下降至0.9时的0.804);随背景复杂度从1级增至5级,S-measure从0.942降至0.872,退化幅度小于对比方法;边界IoU为0.862,全局S-measure为0.903,表明边界恢复与区域级结构保持协调发展。

**4.3 跨模态融合效果分析**
PSRNet在融合策略比较中达到平均SSIM为0.89,标准差0.015,优于简单融合(0.80)、仅RGB(0.73)与仅热(0.70);峰值相位一致性误差从无相位约束时的约0.45降至PSRNet的0.22;边界F1曲线在100个周期后达到0.920,而基线无重建时为0.757,表明潜在相位建模有助于深度特征的结构对齐。

**4.4 模块有效性分析**
去除频域解耦模块(w/o FD)后F-measure降至0.902;去除相位一致性约束(w/o PC)后降至0.890;去除相位结构重建模块(w/o SR)后F-measure降至0.880,IoU降至0.815,表明有界高频结构重建对边界恢复至关重要。完整模型在1-MAE、S-measure、F-measure、E-measure与IoU上分别达到0.972、0.903、0.921、0.935与0.865,各模块均贡献显著。

**4.5 鲁棒性分析**
相对照度从1.00降至0.10时,PSRNet的S-measure从0.903降至0.795,优于CSRNet(0.695)、ADFNet(0.652)与CAVER(0.684);遮挡比例增至50%时,PSRNet的F-measure为0.793,比ADFNet高0.151;高斯噪声标准差达0.05时,PSRNet的MAE为0.085,而CAVER为0.157,表明对低光照、遮挡与噪声均具有较强抵抗能力。

**结论与讨论**

本研究提出PSRNet,一种用于RGB-T显著目标检测的相位引导频域结构重建网络。该方法将双模态深层特征映射至频域,解耦振幅与潜在相位分量,通过振幅加权相位一致性约束对齐可靠跨模态结构线索,并通过有界高斯高通引导算子重建边界敏感的高频细节,再通过自适应相位调制融合将重建结构反馈至空间特征,在多尺度监督下优化。实验结果表明,在结构保持与边界恢复方面取得一致提升。在VT1000上,PSRNet达到S-measure 0.903、MAE 0.028,阈值0.80时F-measure 0.794;边界IoU为0.862,全局S-measure为0.903。跨模态融合分析显示平均SSIM为0.89,峰值相位一致性误差从0.45降至0.22。这些发现表明,有界潜在相位结构建模可在复杂背景、低光照、遮挡与噪声条件下改善RGB-T SOD。未来工作将进一步考察多次运行的统计显著性、自适应频谱滤波器以及更广泛的多模态感知任务。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号