《Journal of Imaging》:AI Model for Textile Materials Identification Using Hyperspectral Data
编辑推荐:
神经隐式表面表示在三维重建中已取得显著成果,但现有方法在平滑区域易引入噪声或在复杂区域难以捕捉精细细节,这主要是由于缺乏显式的空间结构建模。为解决这些限制,研究人员提出了一种基于Morton码的几何自适应表面重建方法。通过将三维空间映射到八叉树遍历路径上,该方
神经隐式表面表示在三维重建中已取得显著成果,但现有方法在平滑区域易引入噪声或在复杂区域难以捕捉精细细节,这主要是由于缺乏显式的空间结构建模。为解决这些限制,研究人员提出了一种基于Morton码的几何自适应表面重建方法。通过将三维空间映射到八叉树遍历路径上,该方法为重建过程提供了自然的空间结构先验。对于每个查询点,隐式八叉树生成一条从根到叶的唯一轨迹,产生空间自适应权重,用于调制多分辨率几何特征。具体而言,低频粗尺度特征在平坦区域占主导以抑制噪声,而高频细尺度特征在边缘丰富区域被激活以恢复复杂几何。实验结果表明,该方法在多个数据集上均具有竞争力的性能,尤其在重建尖锐特征和精细几何细节方面。
**论文解读:基于Morton码的几何自适应表面重建方法**
**研究背景与问题**
三维重建是计算机视觉与图形学中的核心研究问题,旨在从二维图像恢复三维几何,广泛应用于增强现实(AR)、虚拟现实(VR)、数字孪生、自主机器人及文化遗产保护等领域。神经隐式表示(如Neural Radiance Fields, NeRF)虽在新型视图合成中取得显著效果,但其通过体密度场建模场景,零水平集并不对应精确几何,导致重建结果存在噪声且难以捕捉锐利边缘和精细纹理。后续工作如NeuS和VolSDF将符号距离函数(SDF)与体渲染结合,以SDF零水平集定义表面,显著提升了重建质量。然而,神经网络的“频谱偏差”使其优先学习低频平滑函数,高频几何细节(如边缘、纹理)仍难以学习。位置编码虽被引入以缓解此问题,但固定频率的正弦编码缺乏空间自适应性,均匀增加频率会在平坦区域引入噪声。基于特征网格的编码方法(如Go-Surf)虽能学习粗到细的几何特征,但以固定权重融合所有分辨率特征,无法根据局部几何复杂度自适应分配表示能力。现有方法将三维点视为独立实体,仅通过坐标查询特征,缺乏空间邻接性或宏观结构上下文感知。为解决这些局限,研究人员提出一种基于Morton码的几何自适应表面重建方法,核心创新在于将Morton码(用于线性化根到叶路径并保留前缀依赖性)、基于门控循环单元(GRU)的循环编码器(沿路径建模跨层级依赖性)以及渐进式训练策略(与路径激活协同设计)进行原则性组合。
**主要关键技术方法**
研究人员采用八叉树结构组织多分辨率特征网格,并利用Morton码将三维空间点映射到粗到细的层级遍历路径上,保留空间局部性并显式编码父子依赖关系。设计了层级前缀循环编码器,基于GRU沿八叉树路径从粗到细递归聚合上下文信息,生成路径感知的全局特征表示。引入空间自适应掩膜网络,根据聚合特征动态预测不同层级特征的融合权重,使模型在平坦区域偏好低频粗特征,在边缘和纹理复杂区域激活高频细粒度特征。训练采用渐进式策略,逐步暴露更深层八叉树节点,引导网络先学习粗几何结构再逐步细化细节。优化过程中使用颜色损失、深度损失、SDF损失(包含截断区域损失、自由空间损失和曲率损失)联合训练。实验采用DTU数据集(真实世界多视图图像,分辨率160×120)和3D扫描数据集(29类常见物体,多视图图像和位姿数据,分辨率2448×2048)。
**研究结果**
* **定量与定性比较**:在3D扫描数据集上,研究人员提出的方法在所有场景中均获得最佳性能,包括精度、完整性、Chamfer距离、法向一致性和F-score指标,表明重建结果具有更好的完整性和精度,且更有效地恢复局部细节。在DTU数据集上,该方法在Chamfer距离上优于所有对比方法。可视化结果显示,在艺术品和浮雕的几何纹理(如胡须、图案细节)重建中,该方法更清晰准确;在门把手场景中,即使存在扫描角度造成的显著遮挡,该方法仍能实现更完整的重建。
* **自适应掩膜可视化**:不同八叉树层级(第5、7、9层)的空间自适应掩膜显示:第5层在平坦区域权重显著较高,而第9层在边缘和几何纹理丰富区域权重较高。随着网格分辨率增加,平坦区域掩膜权重逐渐降低,几何纹理区域权重逐渐升高,验证了自适应特征融合的有效性。
* **消融实验**:不含空间掩膜的变体性能最差;使用简单MLP生成掩膜带来了适度改进,但无法充分建模多分辨率特征间的层级依赖关系;完整模型(基于Morton码和前缀编码器)相比MLP-Mask变体在Chamfer距离上提升4.3%,法向一致性提升2.1%,证明了路径编码和层级循环聚合的关键作用。将Morton码替换为Hilbert曲线后,重建质量接近,但Hilbert编码计算耗时是Morton码的约160倍,且不能直接表示八叉树父子关系,因此选择Morton码作为默认编码方案。
**结论与意义**
为应对现有神经隐式表面重建方法中多分辨率编码缺乏空间自适应性、难以根据局部几何复杂度动态分配表示能力的问题,本文提出基于Morton码的几何自适应表面重建方法。该方法构建了空间结构先验引导的自适应重建框架:利用八叉树和Morton码将三维空间映射到层级遍历路径,为网络提供自然的多尺度空间结构先验;层级前缀循环编码器沿八叉树路径从粗到细聚合上下文信息,建模层级间依赖关系;基于聚合路径特征生成空间自适应掩膜,动态调整各分辨率几何特征对SDF解码的贡献,从而在平坦区域抑制高频噪声,在几何复杂区域激活细粒度细节。渐进式训练策略使模型从低频结构逐步过渡到高频细节,确保优化稳定性和收敛质量。该研究发表在《Journal of Imaging》。研究结论部分原文翻译如下:
**5. 结论**
为解决现有神经隐式表面重建方法中多分辨率编码缺乏空间自适应性、难以根据局部几何复杂度动态分配表示能力的局限性,本文提出了一种基于Morton码的几何自适应表面重建方法。该方法构建了一个由空间结构先验引导的自适应重建框架:使用八叉树和Morton码将三维空间映射到层级遍历路径,为网络提供自然的多尺度空间结构先验;一个层级前缀循环编码器沿八叉树路径从粗到细聚合上下文信息,建模层级间依赖关系;基于聚合的路径特征生成空间自适应掩膜,动态调整各分辨率几何特征对SDF解码的贡献,从而在平坦区域抑制高频噪声,同时在几何复杂区域激活细粒度细节。本文还引入了一种渐进式训练策略,使模型能够从低频结构进展到高频细节,确保优化稳定性和收敛质量。
**局限性**:首先,八叉树网格边界附近偶尔会出现边界伪影,表现为细微的表面不连续性。其次,尽管采用了基于八叉树的稀疏网格表示,节点数量仍随八叉树深度快速增加,导致内存消耗和计算开销显著上升。第三,目前的渐进式训练策略依赖于手动预定义的基于轮次的激活计划,而非适应场景的局部几何复杂度。
未来工作可从以下方向展开:在模型效率方面,将进一步优化八叉树存储结构,引入基于曲率或梯度幅值的节点剪枝策略,在保持重建质量的同时动态移除冗余节点,从而降低内存消耗和计算开销。在动态场景建模方面,将研究如何将时间信息和运动估计融入当前框架,以将其适用性扩展到非刚性运动物体,实现动态场景的高保真重建。在多模态融合方面,将结合神经渲染技术联合优化几何与外观,引入基于物理的渲染模型,增强对高光表面和透明物体等具有挑战性材料的重建鲁棒性,进一步扩展该方法在无约束真实场景中的适用性。