激光雷达与视觉深度融合技术在SLAM系统中实现鲁棒的循环闭合检测
刘炳卓、
吴盼龙、
陈荣婷、
郑一丹、
李梦宇
《Machines》:Lidar–Vision Depth Fusion for Robust Loop Closure Detection in SLAM Systems
Bingzhuo Liu,
Panlong Wu,
Rongting Chen,
Yidan Zheng and
Mengyu Li
【字体:
大
中
小
】
时间:2026年03月09日
来源:Machines 2.5
编辑推荐:
摘要
循环闭合检测(LCD)是同时定位与地图构建(SLAM)系统的关键组成部分,负责校正里程计漂移并保持定位和地图构建的全局一致性。然而,单一模态的LCD方法存在固有的局限性:基于LiDAR的方法受到点云稀疏性的影响,在非结构化环境中特征表示受限;而基于视觉的方法对光照和天气变化
摘要
循环闭合检测(LCD)是同时定位与地图构建(SLAM)系统的关键组成部分,负责校正里程计漂移并保持定位和地图构建的全局一致性。然而,单一模态的LCD方法存在固有的局限性:基于LiDAR的方法受到点云稀疏性的影响,在非结构化环境中特征表示受限;而基于视觉的方法对光照和天气变化敏感,降低了鲁棒性。为了解决这些问题,本文提出了一种LiDAR-视觉多模态融合LCD算法。通过外部校准和时间戳插值实现LiDAR点云与图像之间的时空对齐,以确保跨模态一致性。采用Harris角点检测和BRIEF描述符提取视觉特征,并利用LiDAR投影的稀疏深度图完成深度信息,将2D特征映射到3D空间。然后通过融合LiDAR几何三角形描述符和视觉BRIEF描述符构建混合特征表示,通过哈希索引实现高效的循环候选项检索。最后,改进的RANSAC算法进行几何验证,以提高相对姿态估计的鲁棒性。在KITTI和NCLT数据集上的实验表明,所提出的方法平均F1分数分别为85.28%和77.63%,优于单一模态和现有的多模态方法。当集成到SLAM框架中时,与仅使用LiDAR的方法相比,绝对误差(ATE)RMSE降低了11.2-16.4%,证明了在复杂环境中的循环检测精度和系统鲁棒性的提升。
1. 引言
随着移动机器人和自动驾驶系统不断扩展到复杂环境,对使用同时定位与地图构建(SLAM)系统进行长期自主导航的精度和鲁棒性的要求变得越来越严格[1]。里程计作为SLAM的基本姿态估计模块,容易受到传感器噪声、环境动态和数据关联误差的影响而产生累积漂移[2,3]。如果不及时校正,这种漂移可能导致地图失真和轨迹偏差,最终导致导航失败。循环闭合检测(LCD)通过识别机器人重新访问先前映射的位置来作为全局约束机制,使其成为纠正累积误差和保持地图与轨迹之间全局一致性的关键技术[4]。
现有的循环闭合检测方法可以根据传感器模态分为三类:基于LiDAR的、基于视觉的以及多传感器融合方法。基于LiDAR的方法依赖于高精度的3D几何信息,在不同光照条件下和纹理less场景中表现出较强的稳定性。例如Kim等人的Scan Context[5]、Kim等人的Scan Context++[6]以及Jiang和Shen的Contour Context[7]构建了全局描述符以实现快速匹配。然而,由于LiDAR点云的固有稀疏性,这些方法在远距离或非结构化环境中难以充分表示空间特征,可能导致循环检测遗漏[8]。基于视觉的方法,如Galvez-López和Tardos提出的DBOW2[9],利用图像的丰富纹理和颜色信息来区分视觉上相似的场景,但它们对光照变化和季节性变化非常敏感,在强光照、雨天或其他恶劣天气条件下匹配精度会显著下降[10]。
每种单一传感器模态在特定环境中都有其局限性。尽管如此,LiDAR和视觉传感器本质上是互补的:LiDAR提供稳定的、不受光照影响的3D几何结构,而相机捕捉细粒度纹理细节以区分相似结构[11,12]。大多数现有的融合方法在特征层面操作,其中图像和点云特征被独立提取,然后通过同态变换[13]、投影[14]或注意力机制[15]进行对齐或关联以实现跨模态集成。相比之下,决策级融合方法结合来自不同传感器的独立检测结果,以避免由单一传感器噪声引起的错误匹配,有效利用各自的优点来提高整体鲁棒性[16,17]。
为了解决这些挑战,本文提出了一种用于SLAM系统中循环闭合检测的LiDAR-视觉深度融合算法。该方法旨在通过集成时空对齐、视觉关键点的稀疏深度完成、混合几何-纹理特征融合以及改进的基于RANSAC的几何验证策略,紧密耦合几何结构和视觉纹理信息。通过建立可靠的跨模态几何关联并强制执行鲁棒的一致性约束,所提出的方法在复杂、长期以及室内外混合环境中提高了循环检测的精度和鲁棒性。
本工作的主要贡献总结如下:
- 时空对齐和深度完成框架:设计了一个统一的过程,通过外部校准实现LiDAR点云和相机图像的空间对齐,通过时间戳插值处理采样率差异,并使用邻域搜索完成视觉关键点的深度估计。这为跨模态融合构建了3D视觉特征的基础。
- 混合特征描述符构建:开发了一种融合描述符,结合了LiDAR几何三角形描述符(表示空间拓扑)和视觉BRIEF描述符(表示局部纹理)。通过哈希索引实现高效的循环候选项检索,平衡了匹配效率和区分能力。进一步引入了改进的基于RANSAC的几何验证方法来抑制噪声并减少错误匹配。
- 在公共数据集上的全面评估:在KITTI和NCLT数据集上进行了广泛的实验,验证了所提算法在城市、室内外混合以及季节性变化环境中的有效性,证明了其在SLAM系统中作为长期自主导航的鲁棒解决方案的潜力。
2. 相关工作
在本节中,我们回顾了与我们的工作密切相关的代表性研究,包括仅基于LiDAR的描述符、仅基于视觉的描述符以及基于LiDAR-视觉融合的方法。这些方法在传感器模态、特征表示和主要局限性方面的高级比较总结在表1中。
表1. 代表性循环闭合检测方法
2.1. 基于单一模态的循环闭合检测
基于LiDAR的循环闭合检测方法通常可以分为两类:直接点云匹配和特征描述符匹配。直接匹配方法如ICP[18]和NDT[19]通过迭代优化点对应关系来估计相对姿态,但由于计算成本高,不适合实时应用。基于描述符的方法提取全局或局部特征以减少数据维度,并已成为主流方法。在全局描述符方法中,Scan Context[5]将3D点云投影到方位-半径网格中,并编码每个单元格中的最大高度以实现旋转不变匹配。Scan Context++[6]通过引入子描述符来处理平移和旋转敏感性,但其对非球形LiDAR的适应性仍然有限。局部描述符方法如LinK3D[20]和BoW3D[8]使用词袋(BoW)框架进行快速检索,但它们对光照变化和季节性变化非常敏感,在强光照、雨天或其他恶劣天气条件下匹配精度会显著下降[10]。
每种单一传感器模态在特定环境中都有其局限性。尽管如此,LiDAR和视觉传感器本质上是互补的:LiDAR提供稳定的、不受光照影响的3D几何结构,而相机捕捉细粒度纹理细节以区分相似结构[11,12]。大多数现有的融合方法在特征层面操作,其中图像和点云特征被独立提取,然后通过同态变换[13]、投影[14]或注意力机制[15]进行对齐或关联以实现跨模态集成。相比之下,决策级融合方法结合来自不同传感器的独立检测结果,以避免由单一传感器噪声引起的错误匹配,有效利用各自的优点来提高整体鲁棒性[16,17]。
为了解决这些挑战,本文提出了一种用于SLAM系统中循环闭合检测的LiDAR-视觉深度融合算法。该方法旨在通过集成时空对齐、视觉关键点的稀疏深度完成、混合几何-纹理特征融合以及改进的基于RANSAC的几何验证策略,紧密耦合几何结构和视觉纹理信息。通过建立可靠的跨模态几何关联并强制执行鲁棒的一致性约束,所提出的方法在复杂、长期以及室内外混合环境中提高了循环检测的精度和鲁棒性。
本工作的主要贡献总结如下:
- 时空对齐和深度完成框架:设计了一个统一的过程,通过外部校准实现LiDAR点云和相机图像的空间对齐,通过时间戳插值处理采样率差异,并使用邻域搜索完成视觉关键点的深度估计。这为跨模态融合构建了3D视觉特征的基础。
- 混合特征描述符构建:开发了一种融合描述符,结合了LiDAR几何三角形描述符(表示空间拓扑)和视觉BRIEF描述符(表示局部纹理)。通过哈希索引实现高效的循环候选项检索,平衡了匹配效率和区分能力。进一步引入了改进的基于RANSAC的几何验证方法来抑制噪声并减少错误匹配。
- 在公共数据集上的全面评估:在KITTI和NCLT数据集上进行了广泛的实验,验证了所提算法在城市、室内外混合以及季节性变化环境中的有效性,证明了其在SLAM系统中作为长期自主导航的鲁棒解决方案的潜力。
2.2. LiDAR-视觉融合用于循环闭合检测
多模态融合方法结合LiDAR几何信息和视觉纹理来克服单一模态的局限性。根据融合层次,这些方法可以分为特征级融合和决策级融合。决策级融合方法如MSF-SLAM[16]通过逻辑运算(例如OR融合)整合LiDAR和视觉循环闭合结果。虽然这提高了鲁棒性,但未能充分利用跨模态特征相关性,仍然容易受到单一模态引起的错误匹配的影响。iBTC[27]引入了二进制视觉描述符来辅助LiDAR匹配,并实现了实时性能,但缺乏深度特征级的交互。
特征级融合方法受到了更多关注。CoRAL[12]从LiDAR数据生成高程图,并将其与投影的RGB图像特征融合,通过NetVLAD层聚合多模态表示。然而,这种方法严重依赖于深度学习和大量标记数据。MinkLoc++[28]设计了一个专门的特征提取模块,联合学习点云和图像特征以生成多模态描述符,但它对校准误差敏感。BEV Fusion[11]将图像特征投影到鸟瞰(BEV)平面上与LiDAR BEV特征融合,尽管在非平坦地形中可能会发生投影偏差。此外,一些方法结合了注意力机制[29]来建模跨模态依赖性,但其高计算复杂性限制了其在嵌入式平台上的使用。
总之,现有的融合方法仍然面临诸如跨模态对齐精度低、特征融合深度不足和鲁棒性有限等挑战。为了解决这些问题,本文提出了一种LiDAR-视觉深度融合循环闭合检测算法,该算法集成了时空对齐、深度完成、混合描述符构建和改进的基于RANSAC的几何验证,为提高循环闭合检测性能提供了新的解决方案。
3. 方法
图1展示了算法的工作流程。首先,使用BRIEF描述符从输入图像中检测Harris角点。通过LiDAR点云投影获得关键点的深度信息以生成稀疏深度图,然后完成无效深度以形成融合深度图,再将其反投影到3D空间。基于LiDAR和视觉关键点构建三角形描述符,其中LiDAR几何特征提供稳定的结构约束,而视觉纹理描述符补充了结构均匀场景中潜在的区分能力损失。对于匹配,当可以从相邻LiDAR关键点构建可靠的三角形结构时,使用LiDAR几何描述符。当这样的几何描述符不可用或不可靠时,使用视觉BRIEF描述符作为补充线索。应用改进的RANSAC算法进行几何验证,结合匹配误差加权机制以提高匹配精度和变换估计的鲁棒性。
图1. LiDAR-视觉融合循环闭合检测算法的框架
3.1. 视觉特征提取和深度完成
Harris角点检测通过分析局部窗口内的灰度变化来识别角点[30]。对于每个检测到的Harris关键点,在其邻域内采样N个随机像素对(????,????),并定义二进制测试为:
???(????,????)={1,???(????)??(????)0,???(????)≥???(????) (1)
其中???(??)表示像素p的灰度强度。所有N个二进制测试的连接形成了BRIEF描述符,它在存储上紧凑且能够实现高效匹配。
在将LiDAR点投影到图像平面上以获得稀疏深度图后,生成的深度图包含许多空白区域,需要对视觉关键点进行深度完成。这个过程从LiDAR和相机数据的时空对齐开始。由于LiDAR和相机的采样频率不同,对于每个图像帧,找到两个时间戳最接近图像的LiDAR扫描,并应用线性插值以获得图像时间戳处的插值LiDAR点云,确保时间一致性。给定外部校准参数,每个LiDAR点???? =[????,????,????]??转换为相机坐标系???? =[????,????,????]??:
????=???????·????+??????? (2)
其中???????和???????分别是LiDAR到相机的旋转矩阵和平移向量。
对于深度完成,应用邻域搜索:稀疏深度图记录每个像素的LiDAR导出深度。对于没有有效深度的关键点,在5 ×5窗口内找到最近的有效深度像素并分配给关键点;如果不存在有效值,则丢弃该关键点以防止错误匹配。
根据针孔相机模型,每个完成深度????的关键点被反投影到3D空间作为视觉关键点???? =[????,????,????]??:
????=(?????????)·????????,????=(?????????)·????????,????=???? (3)
其中(????,????)表示像素坐标,(????,????,????,????)是相机的内参。图2展示了使用针孔相机模型和深度信息将2D视觉关键点从图像平面提升到3D空间的反投影过程。值得注意的是,所提出的方法并不旨在恢复每个视觉关键点的确切物理深度。相反,深度补全和验证的设计目的是为后续的匹配和循环闭合检测提供可靠的几何基础,同时防止不可靠的深度值传播到后续阶段。没有有效深度的视觉关键点将被丢弃,最终的对应关系将通过几何一致性验证进一步过滤。这种保守的设计优先考虑循环检测的鲁棒性,而不是密集或精确的深度恢复。图2. 在针孔相机模型下将2D视觉关键点反投影到3D空间中。3.2. 多模态特征融合与匹配为了将LiDAR几何结构与视觉纹理线索紧密耦合,我们分别从LiDAR关键点和3D视觉关键点构建三角形描述符。如图3a所示,对于每个关键点,选择两个相邻的关键点形成一个三角形,并计算三个边长(l1, l2, l3)来编码其局部空间拓扑。对于LiDAR三角形,每个顶点还记录了一个从基于投影的表示中得出的高度编码,从而产生一个紧凑的几何描述符。对于视觉三角形,同样的三角形构建方法应用于3D视觉关键点,同时保留与三角形顶点相关联的BRIEF描述符来表示局部纹理信息。通过这种方式,几何和外观线索在一致的三角形拓扑下统一起来,以便后续的检索和匹配。图3. LiDAR关键点提取和三角形描述符构建的流程图。对于LiDAR关键点提取,我们采用了一种平面辅助投影策略,如图3b所示。具体来说,首先将连续的LiDAR扫描累积成子图并体素化,以提高鲁棒性和计算效率。然后根据平面点的比例识别平面体素,并将它们合并成更大的平面区域。对于剩余的非平面体素,将点沿着平面法线投影到相邻的平面上以生成投影图像。最后在这些图像中检测到LiDAR关键点作为局部密度最大值,得到的关键点表示为Lk。这种投影和密度方案产生了稳定且分布均匀的关键点,进一步支持了图3b中的高度编码和三角形描述符构建。这种设计使得所提出的方法在仅靠几何特征难以区分的场景中仍能保持匹配的鲁棒性。构建的LiDAR和视觉三角形描述符的哈希键计算如下:Hash(Lk) = Hash(l1, l2, l3) = Int(hash(?l1,?l2,?l3) = Mod([Mod(?l3·p +?l2)·p, B] +?l1·p) (4) 其中?l = l/0.1,p是一个大的素数,B表示哈希表的大小。对于当前帧中的每个三角形描述符,计算哈希键以从哈希表中检索相似的描述符。根据描述符的相似性(使用LiDAR的高度编码汉明距离和视觉的BRIEF汉明距离),选择前50个候选循环帧。3.3. 基于RANSAC的改进几何验证传统的RANSAC通过随机采样点对并使用固定阈值来确定内点来估计变换矩阵,这使得它对噪声和不匹配非常敏感[31]。为了提高鲁棒性,引入了一种加权误差机制。对于每对候选对应点(pi, qi) (i=1),找到最大化加权内点计数的变换T = [R|T] ∈ SE(3),即T* = argmax(Ti · 1 | ∥Ti(pi) ? qi∥ < θ) (5) 其中wi是一个权重函数,定义为wi = exp(?∥Ti(pi) ? qi∥2/2θ) (6),θ是一个控制误差大小对权重影响的衰减参数。这种软加权允许每个对应点按其残差的比例贡献,从而在噪声数据中提高稳定性。参数θ控制加权内点函数的敏感性。在这项工作中,θ是根据系统中几何误差的典型规模经验性选择的,并且选择与RANSAC内点阈值θ的量级相同。实际上,θ设置在0.2–0.3的范围内,并在所有实验中保持不变。最后,将验证过的循环约束纳入SLAM姿态图中进行全局优化。在图中,节点代表机器人关键帧姿态Ti ∈ SE(3),边代表里程计和循环约束。优化目标表述为min(Ti ∑(i, j) ∈ LDom∥eodom(Ti, TJ)∥2 + ∑(i, j) ∈ LLoop∥eloop(Ti, TJ, Ti·j)∥2 (7) 其中LDom和LLoop分别表示里程计和循环闭合边集,eodom和eloop是相应的误差项。这种优化纠正了累积的漂移,确保了SLAM系统内的全局姿态一致性。4. 实验 4.1. 实验设置和数据集我们在两个公开可用的数据集上评估了所提出的算法框架:KITTI数据集[32]和NCLT数据集[33]。对于KITTI数据集,选择了序列00、02、05和08,它们包含10 Hz 64线的LiDAR点云和10 Hz的相机图像数据。对于NCLT数据集,使用了序列NCLT1(2012-01-15)、NCLT2(2012-05-26)、NCLT3(2012-11-04)和NCLT4(2012-12-01),它们包含10 Hz 32线的LiDAR点云和5 Hz的相机图像数据。在实验中,我们将我们的方法与四种代表性算法进行了比较:基于密度图的Map Closure[21]、基于BEV轮廓的Contour Context[7]、基于词袋的DBOW2[9]和基于二进制特征的融合方法iBTC[27]。所有实验都在一台运行Ubuntu 20.04的消费者级台式计算机上进行,该计算机配备了Intel(R) Core(TM) i5-12400 CPU和16 GB RAM。用于评估循环闭合检测性能的评估指标包括精确度(Precision)、召回率(Recall)和F1分数(F1-score),分别定义为Precision = TP/(TP+FP)、Recall = TP/(TP+FN)和F1 = 2 ×(Precision×Recall)/(Precision+Recall)。这里,TP表示正确检测到的循环数量(真正例),FP表示错误检测到的循环数量(假正例),FN表示遗漏的循环数量(假负例)。4.2. KITTI数据集上的结果表2比较了各种算法在KITTI00、KITTI02和KITTI05序列上的F1分数。所提出的算法在所有三个序列上都取得了最高的F1分数,平均为85.28%,显著优于仅使用LiDAR的Map Closure和仅使用视觉的DBOW2。这归因于通过深度补全增强了跨模态特征相关性,利用多传感器优势提高了检测准确性和鲁棒性。图4a、b展示了每个序列的精确度-召回率(PR)曲线。在大多数情况下,所提出的算法在保持较高召回率的同时,具有更大的封闭区域,因此在循环闭合检测性能上优于其他算法。表2. 不同算法在KITTI序列上的F1分数比较。图4. KITTI和NCLT数据集上的PR曲线比较。表3展示了将视觉信息融入原始算法的影响。它显示,在融合视觉信息后,所提出的算法在所有四个序列上的检测数量平均增加了5.25%,最大相似性平均提高了0.38%。这验证了LiDAR-视觉融合增强了循环闭合检测的鲁棒性。例如,在KITTI02序列中,由于树木遮挡严重(导致LiDAR点云特征不完整),该算法通过补充视觉纹理成功检测到了更多的循环。表3. KITTI序列上循环闭合检测结果的比较。表4报告了在KITTI07序列中集成所提出的方法前后绝对轨迹误差(ATE)的比较。图5a、b分别展示了循环闭合校正前后的估计运动路径。校正后,估计路径与真实路径的对齐情况有所改善,特别是在循环区域,起点和终点重合的地方。从定量上看,累积漂移得到了有效抑制:校正前的端点偏移从大约0.8米减少到校正后的约0.4米。图5c、d进一步比较了KITTI07序列在循环闭合校正前后构建的局部地图。未校正的地图显示出明显的重影效应(例如,建筑物边界模糊),而校正后的地图呈现出更清晰、更一致的结构细节。表4. KITTI07序列在循环闭合校正前后的ATE比较(米)。图5. KITTI07序列在循环闭合校正前后的运动路径比较。子图(a,b)分别展示了循环闭合校正前后的估计运动路径。子图(c,d)展示了局部运动路径和映射结果的比较。在这些子图中,红线表示估计的运动路径,黄线表示帧与帧之间的匹配对应关系,包括正确和不正确的匹配。使用紫色边界框进一步突出了局部细节。此外,还提供了KITTI00序列的定性结果,以进一步证明所提出的循环闭合检测方法的有效性。图6a展示了循环闭合校正前的估计运动路径,以及三个放大区域突出显示了局部错位。图6b展示了校正后的运动路径,以及放大的相同局部区域。循环闭合校正后,累积的漂移显著减少,局部结构显示出更好的对齐和连续性,表明估计运动路径的全局一致性得到了增强。4.3. NCLT数据集上的结果NCLT数据集包括多样化的室内外混合环境(例如,校园走廊、室外草坪)和显著的季节性变化,这对循环闭合检测算法的鲁棒性提出了更大的挑战。表5比较了不同方法在NCLT1和NCLT2序列上的F1分数,而图4c、d展示了它们相应的精确度-召回率(PR)曲线。如表5和图4所示,所提出的算法在两个序列上都取得了最高的F1分数,平均为77.63%。这比仅使用LiDAR的Map Closure方法提高了10.16%,比仅使用视觉的DBOW2方法提高了47.75%。与多模态iBTC方法相比,所提出的算法平均F1分数额外提高了3.61%。这种性能提升主要归因于改进的基于RANSAC的几何验证和视觉纹理信息的互补使用,这两者共同在噪声和具有挑战性的条件下提高了鲁棒性。例如,NCLT2序列包含冬季雪景,其中LiDAR点云受到雪面反射的严重影响。在这种情况下,视觉纹理线索在验证过程中有效补充了LiDAR几何特征,有助于抑制错误匹配并提高检测可靠性。值得注意的是,所提出的方法在NCLT2序列上取得了0.7884的F1分数,显著优于所有其他方法。这一结果证明了在具有挑战性的场景中,视觉纹理线索的补充增强了循环闭合检测的鲁棒性。表5. 不同算法在NCLT序列上的F1分数比较。表6展示了在从所提出的算法中移除视觉信息前后NCLT数据集上循环闭合检测性能的比较。如图所示,集成视觉信息后,所有四个序列的检测数量平均增加了42.75个循环,最大相似性平均提高了0.56%。这些结果证实了该算法在复杂环境中的循环识别能力得到了增强。例如,在NCLT1序列中,由于树木密集遮挡导致LiDAR点云稀疏和几何特征不完整,所提出的方法通过结合视觉纹理线索成功识别了更多的循环闭合。这证明了LiDAR-视觉融合在改善检测完整性和鲁棒性方面的有效性。表6. NCLT序列上循环闭合检测结果的比较。表7比较了在NCLT4序列中循环闭合校正前后的ATE。图7展示了相应的运动路径比较。NCLT4序列包括长室内走廊(无纹理区域)和开阔的室外区域,这对循环闭合检测提出了重大挑战。通过利用LiDAR-视觉融合,所提出的算法有效地解决了室内无纹理区域缺乏LiDAR特征的问题以及室外强光照引起的视觉匹配错误。应用循环闭合校正后,室内走廊部分的运动路径偏差从校正前的大约1.2米减少到校正后的0.8米,表明所提出的方法显著提高了混合室内-室外环境中的姿态准确性和一致性。表7. NCLT4序列在循环闭合校正前后的ATE比较(米)。图7. NCLT4序列在循环闭合校正前后的运动路径比较。局部轨迹细节使用红色和绿色边界框突出显示。4.4. 运行时分析图8和图9分别展示了所提出的方法在KITTI00和NCLT4序列上的每帧运行时统计信息。在KITTI00序列上,描述符构建每帧大约需要15–25毫秒,而循环闭合检测每帧消耗约5–15毫秒。在更具挑战性的NCLT4序列中,描述符构建时间增加到每帧约30-60毫秒,而循环闭合检测时间与KITTI上的时间相当。图8显示了KITTI00序列上描述符构建和循环闭合检测的每帧运行时间分析。(a)展示了描述符构建和循环闭合检测的每帧运行时间随帧ID的变化趋势,而(b)则展示了相应的箱形图,说明了描述符构建和循环闭合检测的运行时间分布。图9显示了NCLT4序列上描述符构建和循环闭合检测的每帧运行时间分析。NCLT数据集上较高的平均计算成本可以归因于几个因素。首先,NCLT包含混合的室内-室外环境,平台速度较低,导致点云更加密集,局部结构更加复杂。其次,与主要由平面结构(如道路和建筑立面)组成的KITTI场景相比,NCLT环境包含了更多的非平面元素,如树木、植被和复杂建筑,这增加了有效点的数量并提高了描述符构建的难度。相比之下,循环闭合检测阶段的运行时间在两个数据集上相似,表明检索效率稳定。总体而言,所提出的方法能够满足实际SLAM系统中的实时要求。
5. 结论
本文提出了一种用于SLAM系统中循环闭合检测的LiDAR-视觉深度融合算法,解决了单一模态方法的局限性和现有融合方法的不足。本研究的主要发现总结如下:
- 开发了一个紧密耦合的LiDAR-视觉融合框架,通过时空对齐、深度补全、混合特征融合和改进的基于RANSAC的几何验证实现了有效的几何-纹理关联。
- 在公共数据集上的定量评估证明了所提出方法的有效性。在KITTI数据集上,所提出的方法平均F1分数达到了85.28%,优于仅使用LiDAR或仅使用视觉的基线方法以及代表性的多模态方法。
- 在更具挑战性的NCLT数据集上,该数据集具有长期运行、季节变化和混合室内-室外环境的特点,所提出的方法平均F1分数达到了77.63%,表明在仅依赖几何或视觉线索不可靠的情景中具有更好的鲁棒性。
尽管有这些优势,所提出的方法并没有明确建模动态对象,而是主要针对环境中稳定且可重复的结构元素进行循环闭合检测设计。动态对象通常引入不一致的几何对应关系,因此通过稀疏的几何描述符构建和鲁棒的RANSAC验证被隐式抑制。然而,在高度动态环境中的性能仍然是当前方法的一个限制。未来的研究方向包括:
- 研究动态特征过滤策略,以明确处理高度动态的环境。
- 探索自适应深度融合机制,以提高在稀疏或噪声深度观测下的鲁棒性。
- 优化计算效率,进一步提升实时性能,并便于在嵌入式机器人平台上部署。