《Optics and Lasers in Engineering》:A monocular high-quality 3D reconstruction combined SuperVessel with SLAM in endoscopic environment
编辑推荐:
针对内窥镜单目三维重建中纹理稀疏、尺度模糊及重建粗糙等痛点,本研究创新性融合血管特征提取网络SuperVessel与动态匹配模型LightGlue,结合EndoDAC深度估计与TSDF融合框架,构建了Vessel-SLAM系统。该系统在仿真与Hamlyn数据集上均实现更高定位精度与更优表面重建质量,为微创手术导航与增强现实显示提供了高质量可视化解决方案。
在微创手术的方寸之间,医生们往往只能透过内窥镜传回的二维画面“盲操”,就像在迷雾中摸索前行。虽然增强现实(AR)技术带来了将三维虚拟影像叠加于二维画面的可能,试图赋予外科医生“透视眼”般的能力,但内窥镜狭窄的视野、腔内纹理的极度匮乏、单目视觉天然的尺度模糊性,以及传统算法在弱纹理环境下的“水土不服”,始终是横亘在高质量三维重建面前的一道道高墙。尤其是单目内窥镜,受限于设备尺寸与成本,仍是临床主流,但其深度信息缺失导致的重建表面残缺、扭曲,让精准导航常常沦为空谈。如何在“无纹理”的复杂体内环境中,稳定地追踪镜头位置并还原出精细的解剖结构,成为推动手术导航从“可视化”走向“精准化”的关键瓶颈。
正是在这样的背景下,哈尔滨理工大学激光光谱技术与应用黑龙江省重点实验室的Kaiyang Xu、Haibin Wu等研究者,在《Optics and Lasers in Engineering》上发表了一项突破性成果。他们独辟蹊径,聚焦于人体内最稳定且易识别的解剖结构——血管,提出了一种名为Vessel-SLAM的单目高质三维重建方法,旨在攻克上述难题。
为了验证这一系统的有效性,研究人员并没有止步于传统的公开数据集。考虑到真实内窥镜场景中难以获取精确的位姿真值,他们利用3ds Max构建了高保真的仿真场景,通过参数化建模模拟血管特征与光学干扰,同时结合Hamlyn数据集进行了定性与定量的双重验证。在技术路线上,研究主要依托三大核心技术支柱:一是基于血管特征的视觉里程计前端增强,二是结合深度学习深度估计的后端稠密重建,三是针对内窥镜场景优化的隐式表面融合策略。
1. 基于血管分支点提取模型的构建
研究人员首先设计了名为SuperVessel的双分支解码网络(Det网络与Des网络)。该网络以U-Net为基础架构,专门负责血管内窥镜图像中的分支点检测与特征描述。为了解决传统上采样导致的模糊问题,团队创新性地引入了基于动态上采样的CBAM-DySample模块,以增强特征表现。同时,针对血管分支点这一微小目标,设计了一种加权Dice-Det损失函数LwightDice,使模型能够聚焦于关键的血管特征区域。此外,通过半监督训练算法与渐进式关键点扩展(PKE)方法,有效解决了标注数据稀缺的问题,确保了血管特征提取的稳定性与高精度。
2. SLAM框架与SuperVessel及LightGlue的融合
在前端视觉里程计(VO)环节,研究团队摒弃了传统依赖局部描述子的匹配方式,引入了具备Transformer上下文注意力机制的LightGlue模型。相比传统的ORB-SLAM3特征匹配,LightGlue能够根据输入图像的复杂度动态调整网络深度与宽度,不仅大幅提升了推理速度(2.5–4倍),还能在动态光照和低纹理条件下,优先匹配血管特征,实现了高精度的鲁棒性特征点对匹配。更重要的是,研究团队用LightGlue替换了原有的词袋模型(BoW),用于关键帧跟踪与重定位,显著提高了在大视角变换下的跟踪成功率。
3. 基于改进隐式表示的高质三维重建优化
后端重建是系统的核心。为了解决单目尺度模糊问题,团队引入了专门针对内窥镜场景优化的自监督深度估计模型EndoDAC。通过基于MapPoints深度统计的动态校准机制,将EndoDAC输出的相对深度与SLAM系统的绝对尺度进行对齐。随后,利用截断符号距离函数(TSDF)进行隐式表面重建。在此过程中,研究人员设计了动态截断距离策略,根据纹理显著性γ动态调整截断阈值,并结合双边滤波与亚像素插值技术,在保留隐式表示抗噪优势的同时,显著提升了几何细节的精度。最终通过Marching Cubes算法提取等值面,并利用纹理梯度一致性项优化网格平滑度。
实验结果与分析
在定位精度方面,通过在3ds Max构建的仿真器官场景中进行测试,Vessel-SLAM展现了卓越的性能。相较于ORB-SLAM3、GCN2-SLAM、TANDEM、ElasticFusion及SL-SLAM等先进方法,Vessel-SLAM在绝对轨迹误差(ATE)指标上表现最优。具体而言,其ATE的RMSE仅为0.005091±0.000349 m,相比同为特征点法的SL-SLAM降低了17.97%。在相对位姿误差(RPE)方面,Vessel-SLAM的旋转误差中位数(MEDIAN)降至0.140458°,较SL-SLAM优化了30.37%,有效抑制了尺度漂移现象,证明了血管特征在复杂腔体环境中的鲁棒性。
在三维重建质量方面,利用Hamlyn数据集进行的定性对比显示,BDIS-SLAM因低纹理区域跟踪丢失导致重建不连续;ElasticFusion则因伪深度输入质量不佳出现严重累积误差与表面扭曲;TANDEM虽视觉效果尚可,但在小尺度内窥镜环境中难以区分细微结构。相比之下,Vessel-SLAM重建出的模型失真最小、缺陷最少,组织轮廓完整且边缘清晰,尤其在血管分支和黏膜纹理等精细结构的还原上表现优异。定量指标上,在Hamlyn Rectified06数据集中,Vessel-SLAM的峰值信噪比(PSNR)达到13.87±0.38 dB,结构相似性指数(SSIM)为0.5466±0.0246,均优于其他方法。
讨论与结论
该研究的核心创新在于利用血管分支点的拓扑稳定性,构建了“几何+语义”的双重约束关联。这不仅解决了传统随机纹理在低纹理环境下易漂移的问题,还通过动态校准的深度估计与TSDF融合,实现了高质量的稠密表面重建。尽管研究取得了显著成果,但仍面临极端运动下旋转精度不足、单目尺度固有瓶颈以及真实临床场景中组织形变等挑战。未来的研究可结合惯性测量单元(IMU)硬件集成、几何先验引导的特征增强以及神经隐式表示(如NeRF、3D Gaussian)等技术,进一步提升系统的鲁棒性与临床适用性。
综上所述,Vessel-SLAM通过深度融合血管特征与视觉SLAM技术,成功突破了弱纹理内窥镜环境下的重建瓶颈,为微创手术导航与AR显示提供了一种高精度、高完整性的三维可视化解决方案,具有重要的临床应用潜力。