DEGC-TransUNet:一种基于双重编码器的TransUNet模型,通过全局上下文增强技术从网格DEM中提取山顶区域 周方斌、边俊伟、黄家民

《Applied Sciences》:DEGC-TransUNet: A Dual-Encoder TransUNet with Global Context Enhancement for Mountaintop Area Extraction from Grid DEMs Fangbin Zhou, Junwei Bian and Jiamin Huang

【字体: 大 中 小 】 时间:2026年05月09日 来源:Applied Sciences 2.5

编辑推荐:

  摘要 从网格数字高程模型(DEM)中准确提取山顶区域对于地形分析、地貌学研究、水文建模、自然灾害监测和紧急通信站选址至关重要。然而,现有的基于深度学习的方法往往在表示局部细节方面存在不足,并且全局上下文感知有限,导致在复杂的山区地形中边界模糊,分割精度降低

  摘要 从网格数字高程模型(DEM)中准确提取山顶区域对于地形分析、地貌学研究、水文建模、自然灾害监测和紧急通信站选址至关重要。然而,现有的基于深度学习的方法往往在表示局部细节方面存在不足,并且全局上下文感知有限,导致在复杂的山区地形中边界模糊,分割精度降低。为了解决这些问题,本研究提出了一种双编码器全局上下文增强的TransUNet框架,称为DEGC-TransUNet,用于自动提取山顶轮廓。该架构结合了一个卷积编码器来捕捉细粒度的局部地形特征,以及一个基于MaxViT的编码器来通过编码低维地形属性(如坡度和曲率)来模拟多尺度的全局上下文。一个专门的特征融合模块协调了来自两个编码路径的互补表示,同时在瓶颈处引入了基于BiFormer的策略来加强长距离依赖性和增强收敛性。实验结果表明,DEGC-TransUNet的性能显著优于基线模型(如TransUNet、DE-TransUNet和GC-TransUNet),在交并比(IoU)上提高了19.8%,在整体精度(ACC)上提高了10.4%,在F1分数上提高了10.9%。这些发现为山顶提取提供了一个稳健的解决方案,在分析地貌演变、模拟土壤侵蚀、模拟“天空岛屿”生态系统中的物种分布以及优化通信基站和风能基础设施的战略位置方面具有重大潜力。

1. 引言
数字高程模型(DEM)提供了地球表面的基本数字表示,广泛应用于地形分析、地貌学制图、水文建模和环境评估[1,2,3]。作为一种结构化地形表示形式,网格DEM使用规则间隔的网格单元描述地表高程,特别适合进行定量地形分析和空间建模[4]。作为关键的地形元素,山顶区域反映了山区景观的形态特征和空间结构,在山区划分、山脊-山谷结构分析和地貌演变研究中起着重要作用[5,6,7]。因此,从网格DEM中准确提取山顶区域对于理论地貌学和实际地理空间应用都具有重要意义。山顶区域通常以局部高程最大值及其周边区域为特征,表现出强的空间连续性、渐进的过渡,以及经常受到相邻地形影响的模糊边界[8]。这些特征使得山顶区域的提取成为一项具有挑战性的任务,尤其是在地形复杂或高程变化微妙的地区[9,10]。尽管方法经历了数十年的发展——从传统的基于规则的几何分析[11,12,13,14]发展到机器学习统计分类器[15,16,17,18,19],最近又发展到基于深度学习的语义分割[20,21,22,23,24]——但在有效平衡局部细节表示与全局上下文理解方面仍然是一个关键挑战。特别是,传统的和基于CNN的方法常常在边界模糊或复杂空间组织中的结构不连续性方面遇到问题。与此同时,纯Transformer模型在计算效率和细粒度特征保留方面面临障碍[25,26,27]。为了解决这些局限性,本研究提出了一种带有全局上下文增强的双编码器TransUNet(DEGC-TransUNet),用于从网格DEM中提取山顶区域。所提出的模型结合了一个卷积编码器来进行细粒度的局部特征提取,以及一个基于Multi-Axis Vision Transformer(MaxViT)的编码器来进行多尺度全局上下文建模[28]。为了有效协调局部粒度和全局语义,我们采用了一个融合模块,其中包含了坐标注意力(Coordinate Attention)和Squeeze-and-Excitation(SaE)机制[29,30],并在瓶颈层引入了基于BiFormer的增强模块[31,32]。本研究的主要贡献总结如下:

- 创新的混合双路径架构:通过协同集成CNN和MaxViT,我们的框架捕捉到了细粒度的局部纹理和长距离的空间依赖性,克服了传统卷积模型的感受野限制。
- 高效的全局上下文增强:在瓶颈处引入基于BiFormer的模块使模型能够在保持高计算效率的同时,明确强化广泛的地形关系。
- 提高的边界保真度和精度:我们的方法特别解决了复杂地形中山顶边界模糊的问题,实现了比当前最先进(SOTA)方法更优的分割精度和结构连续性。

为了评估所提出模型的有效性,我们在具有不同地貌特征的多样化山区进行了全面的实验。结果表明,与基线TransUNet模型相比,DEGC-TransUNet在分割精度和边界保真度上都有显著的提升[33],证明了其在复杂地形中的强大泛化潜力。

本文的其余部分将全面探讨我们提出的框架。第2节回顾了传统和基于深度学习的地形分析相关文献。第3节详细介绍了DEGC-TransUNP的架构设计和实现。第4节展示了实验设置、结果和比较分析。第5节对实验发现和模型局限性进行了深入讨论,第6节提供了结论性意见,并概述了潜在的未来研究方向。

2. 相关工作
2.1. 传统和基于机器学习的提取
山顶元素的识别传统上依赖于对网格DEM的基于规则的几何分析。早期研究人员提出了基于地形轮廓凸性的极值方法[34]和基于栅格邻域分析的窗口比较方法[10],用于快速提取峰值点[10]。其他方法引入了逆DEM水文模拟和空间划分策略[12,35]。尽管这些方法在概念上直观,但它们对分析窗口大小和高程阈值等参数非常敏感。Gu等人[36]和Liu等人[37]的研究表明,不适当的阈值设置会导致提取的峰值数量和位置出现显著偏差,特别是在边界定义不清的复杂地形中[11,12]。随着机器学习的进步,引入了支持向量机(SVM)和随机森林(RF)等统计分类器来克服显式规则的局限性。研究人员利用这些模型通过学习多个地形因素(如坡度、曲率和高程)来对微地形进行分类[38,39]。Li等人[18]报告称,基于RF的集成学习在丘陵地区的表现显著优于传统的基于规则的方法。然而,这些统计方法严重依赖于特征工程。正如Du等人[40]指出的,手工制作的特征在具有高度地貌异质性的地形中往往难以维持稳定的性能,导致在不同景观中的泛化能力下降[15,16]。

2.2. 深度学习和卷积神经网络
深度学习,特别是卷积神经网络(CNN),将范式转向了从高分辨率DEM中自动学习特征。基于CNN的架构,如U-Net、FCN和ResNet,已广泛应用于地形分类和山顶识别[41,42,43]。例如,Zhang[20]结合地形因素利用CNN进行地貌分类,而Li等人[44]提出了使用灰度等高线叠加的改进版Faster R-CNN进行峰值点识别。Zhou等人[22]进一步证明了CNN在分类特定山脉组成部分(如山肩和山峰)方面的有效性。尽管CNN在捕捉局部纹理方面取得了成功,但其本质上是受卷积操作局部性的限制。受限的感受野阻止了这些模型有效捕捉长距离的空间依赖性和全局上下文信息[24,25,45]。在以相互连接的山脊和山谷为特征的复杂山区,这一限制常常导致“盐粒状”噪声、碎片化的结构以及诸如山顶区域之类的区域实体的边界模糊[16,36]。

2.3. Transformer和混合架构
为了解决局部感受野的限制,引入了利用自注意力机制的基于Transformer的框架。这些架构可以明确地建模所有特征单元之间的关系,捕捉大尺度地貌结构。Chen等人[5]提出了一个基于地形知识的Transformer用于地貌映射,Wang等人[26]通过将地形先验纳入注意力机制来增强地貌编码。最近的趋势集中在混合CNN–Transformer模型上,以协调局部细节提取和全局上下文建模。例如,将Transformer集成到类似U-Net的编码器中[32,33],以及使用双注意力机制来融合空间和通道特征[46,47]。Wang等人[48]成功将此类混合模型应用于地震断层识别,展示了它们提取线性和结构性地理特征的能力。然而,混合模型在计算效率和自适应特征融合方面遇到重大挑战。标准Transformer的二次计算复杂性使得它们在处理大规模、高分辨率网格DEM时效率低下[25,47]。此外,平衡局部地形的细粒度与广泛的地形语义仍然很困难。过度的全局注意力可能会模糊关键的局部峰值,而整合不足则会导致结构碎片化[49]。大多数现有方法还难以实现跨区域泛化,并且严重依赖于大型标记数据集[23,27]。本研究通过提出DEGC-TransUNet来弥合这些差距,该模型利用动态稀疏注意力和多尺度融合来实现稳健高效的山顶区域提取。

3. 材料与方法
3.1. DEGC-TransUNet的整体框架
DEGC-TransUNet采用了U-Net风格的编码器-解码器架构[42],利用其多尺度特征聚合和空间细节保留能力。为了克服传统卷积架构在建模长距离空间依赖性方面的限制,我们引入了一种双路径编码策略(图1)。图1. 提出的DEGC-TransUNet用于从网格DEM中提取山顶区域的架构。箭头指示数据流的方向,不同颜色用于区分各种功能模块和特征图尺度。对于输入的单通道DEM,首先执行通道复制步骤将其转换为三通道表示,其中所有通道的高程值相同。这确保了与基于Transformer的架构的兼容性,同时保留了原始地形信息[50]。
在初始阶段(第1阶段),卷积编码器(Conv Encoder)处理数据以捕获基本的地形元素,如高分辨率边缘和初始高程梯度。从第2阶段到第4阶段,架构转变为双路径结构,其中卷积编码器与基于MaxViT的编码器[28]同时工作,以提取互补特征(图1)。这些双路径阶段的特征提取表示为:
(1) (2)
其中,保留了准确提取所需的局部结构细节,而另一个编码器通过多轴注意力机制[图1]捕获多尺度全局上下文信息。
为了协调这些表示,在每个双路径编码阶段(第2-4阶段,图1)实现了一个专门的特征融合模块(FFM):
(3)
其中表示通道间的连接。FFM有效地重新组织了融合特征,减少了冗余,同时增强了局部细节与全局上下文线索之间的协同作用。
在结构瓶颈处,引入了BiFormer模块[47]以进一步增强全局表示能力(图1)。最后,解码器通过对称上采样阶段重构分割图。来自第1阶段的卷积编码器和第2-4阶段的FFM的高分辨率跳跃特征与上采样的解码器特征在连接节点(图1中标记为‘C’)合并。这种融合过程确保网络同时利用宏观上下文线索和细粒度的结构保真度,以实现精确的山顶轮廓提取。

3.2. 双编码器架构和特征融合
双编码器架构旨在协调局部地形元素与全局上下文表示,以改进山顶轮廓的提取(图2)。
图2. 卷积编码器架构的示意图。
3.2.1. 卷积和MaxViT编码器
卷积编码器利用堆叠的残差卷积层的层次化下采样结构来捕捉局部空间模式[43],如图2所示。在每个阶段,局部特征提取表示为:
(4)
其中表示步长卷积,表示ReLU激活函数。
同时,基于MaxViT的编码器引入了Transformer风格的注意力机制来建模长距离空间依赖性,如图3所示。如第3.1节所提到的,三通道输入确保了与Transformer架构的兼容性。MaxViT模块通过多轴注意力[28]捕获全局关系,将过程分解为块级和网格级组件:
(5)
其中分别表示块级和网格级自注意力。这种机制允许模型通过考虑宏观地形结构来区分真实的山顶区域和在上下文中不相关的局部高程区域[49]。
图3. 基于MaxViT的编码器架构示意图。
3.2.2. Att-SaE特征融合模块
为了整合异构特征,使用了Att-SaE模块通过空间-通道细化过程来协调表示,如图4所示。首先,对连接的特征应用坐标注意力(CA)[29]:
(6)
其中通过沿水平和垂直轴聚合空间信息来重新调整特征图。随后,特征通过Squeeze-and-Excitation(SaE)[30]层进行细化:
(7)
其中表示全局平均池化,是sigmoid函数,表示元素级乘法。SaE层在特征传递给解码器之前自适应地重新加权通道,以提高融合表示的区分能力。
图4. Att-SaE特征融合模块的详细结构。通过瓶颈混合结构模块(Bottleneck MixStructureBlock)增强全局上下文为了在保持训练效率的同时加强长距离依赖性建模,我们在结构瓶颈处引入了一个名为MixStructureBlock的全局上下文增强模块(见图5)。该模块将改进的BiFormer [47]机制与快速傅里叶卷积(FFC)[51]集成在一起,通过多阶段残差精细化过程捕捉宏观地形结构。图5展示了基于BiFormer的全局上下文增强模块的结构,该模块通过稀疏注意力路由来建模长距离空间依赖性,并引入频域特征增强以补充空间表示。

3.3.1 分层残差精细化如图MixStructureBlock的主干结构所示,输入的瓶颈特征经历了三个连续的转换阶段。为了确保训练稳定性并防止梯度衰减,每个阶段都实施了层规范化(Layer Normalization,简称LN)和逐元素加法(在图5中用符号表示)来进行残差学习:
(8)
(9)
(10)
其中表示双向路由注意力(Bi-level Routing Attention),表示多层感知器(multi-layer perceptron)。这种顺序设计允许模型逐步整合光谱全局线索和稀疏注意力空间关系。

3.3.2 快速傅里叶卷积(FFC)与光谱变换MixStructureBlock中的FFC模块采用双分支架构,将特征图分为本地路径(Local path)和全局路径(Global path)。本地路径使用常规卷积来保留空间细节,而全局路径使用光谱变换(Spectral Transform)[51]在频域中捕捉特征(见图5)。根据实值地形信号的属性,光谱分支被定义为:
(11)
其中表示实数2D快速傅里叶变换(Real 2D Fast Fourier Transform)及其逆变换。表示空间预处理(Conv-BN-ReLU),表示频域中的卷积。通过考虑整个DEM网格上的全局上下文,FFC能够有效地识别一致的地貌结构。

3.3.3 双向路由注意力(BRA)为了补充光谱特征,BRA组件通过将查询路由到最相关的键值对来促进内容感知的稀疏注意力。路由索引矩阵是通过计算区域级查询和键之间的亲和力来确定的:
(12)
通过将注意力计算限制在路由区域内,BiFormer机制提高了山顶描边的全局表示能力,同时显著降低了计算成本,相比密集的自注意力机制更为高效。这种在瓶颈处的双路径建模确保了宏观地形上下文和细粒度结构保真度的同时保留。

3.4 解码器、损失函数和推理策略解码器使用基于双线性插值的对称分层上采样结构,遵循经典的U-Net设计[42]来重构高分辨率的分割图。在每个解码阶段,通过上采样之前的低分辨率特征并结合来自编码器的空间对齐特征来生成特征图。具体而言,融合了FFM中的编码器特征以增强空间细节的恢复和边界重建的准确性。每个阶段的解码过程可以表示为:
(13)
其中表示双线性上采样操作,表示用于弥合编码器和解码器之间语义差距的通道级连接。通过将低级空间原语与高级语义特征连接起来,解码器有效地恢复了山顶的细粒度地形边界。最终输出层采用了卷积 followed by Softmax函数来生成山顶区域的像素级分类图。为了解决山顶区域与背景区域之间的类别不平衡问题,在训练过程中使用了结合二元交叉熵(Binary Cross-Entropy,简称BCE)损失和Dice损失的混合损失函数[30,31]。基于Dice的损失函数[52]通常应用于类别分布不平衡的分割任务中,并已被证明能有效提高区域级一致性和边界描边效果。在推理过程中,使用全图像预测来避免基于滑动窗口的推理策略[53]常见的边界伪影。这种方法对于保持山顶区域的空间连续性尤为重要。

总目标函数表述如下:
(14)
二元交叉熵损失定义为:
(15)
其中表示样本总数,表示样本的真实标签,表示对应类别的预测概率。此外,Dice损失定义为:
(16)
其中表示像素(或数据点)的数量,表示像素的真实值,表示像素的预测值。添加平滑项是为了确保数值稳定性并避免训练过程中的除以零问题。具体来说,方程(14)中的权重参数和都设置为1。这种配置是在系统实验测试后确定的。我们通过改变和的比率(例如,1:0.5、1:1和1:2)进行了敏感性分析。结果表明,1:1的比率有效地平衡了和的梯度贡献,它们的数值大小相似。这种平衡防止了任何一种损失项主导优化过程,从而确保了最稳定的收敛性和更优越的分割性能。

4. 实验
4.1 研究区域和数据集
4.1.1 研究区域概述实验在中国陕西省北部黄土高原的五渡河流域中段,位于Jiuyuangou流域(东经110°11′52.8″–110°25′19.2″,北纬37°31′18″–37°38′16.8″)。研究区域大约覆盖250平方公里,其特征是典型的黄土丘陵-沟壑地貌[16]。该地区地形高度破碎,平均地表坡度为27°,沟壑密度为6.15公里/平方公里。海拔范围从807.632米到1198.60米,山顶和沟底之间的最大相对高差为390米。极端的地形复杂性——表现为严重的土壤侵蚀、完全发展的沟壑和破碎的地形——使得该地区成为评估在复杂地貌条件下山顶提取方法鲁棒性和适用性的理想场所。

4.1.2 数据集生成和划分本研究使用的主要数据源是来自中国国家基础地理信息数据库[54]的高分辨率DEM,空间分辨率为5米。为了构建可靠的监督信号,通过专家视觉解释手动划分了具有代表性的山顶区域,生成高质量的二进制参考掩膜。为了确保数据集的地形学严谨性并减轻传统基于阈值的分割方法的局限性,我们实施了基于专家知识的逐步注释协议。如图6所示,这种分层工作流程通过三个集成阶段从离散点识别过渡到连续物理实体的划分:
图6. 基于专家知识的山顶参考掩膜生成逐步注释协议。图中的箭头表示工作流程的逻辑顺序,连接连续的处理步骤。几何定位:通过滑动窗口内的邻域分析检测局部海拔最大值来识别初始候选山顶,这一步建立了目标特征的潜在质心。多特征约束下的形态学验证:为了消除伪峰和噪声,我们进行了双重验证过程。首先,我们分析坡向分布;一个真正的山顶必须表现出辐射发散的模式,作为所有坡向远离的中心。其次,应用空间脊线约束来确保候选点在地形骨架上对齐,有效抑制孤立噪声和错误极值。自适应边界划分:与任意固定半径的标记不同,参考掩膜的物理边界是使用阈值化的Profile曲率来确定的。通过隔离对山顶到坡度过渡敏感的曲率值,我们可以识别地形从凸形山顶过渡到稳定侧坡的地貌断点。这种自适应方法允许模型从高保真的监督信号中学习,这些信号本质上编码了复杂的地形特征,无需手动规范原始地形因素。总共生成了1264个有效样本,每个样本包括一个局部化的DEM片段及其对应的二进制山顶掩膜。为了增强模型的有效性和泛化能力,数据集被划分为训练集和测试集,比例为8:2。与纯粹的随机划分不同,采用了具有固定步长的空间系统采样策略来选择测试样本。这种方法确保了测试集在整个研究区域内均匀分布,并涵盖了多样的地形单元(如图7b所示),从而提供了对模型性能更严格和地理上更具代表性的评估。

4.2 实验设置实验平台配备了高性能计算资源,包括AMD EPYC 7325 CPU、256 GB系统内存和两个NVIDIA GeForce RTX 3090 GPU。所有模型,包括提出的DEGC-TransUNet、基线模型和消融变体,都使用这种双GPU设置在相同的超参数配置下进行训练,以确保公平和严格的比较。所有实验都使用PyTorch(版本1.10.0+cu113)深度学习框架[55]在基于Windows的平台上实现。Adam优化器[56]被用于网络优化,初始学习率设置为0.001。为了增强收敛稳定性并防止模型在训练过程中陷入局部最优,采用了多项式学习率衰减策略[57],其公式为:
(17)
其中表示初始学习率,和分别表示当前迭代次数和最大迭代次数。训练过程遵循基于迭代的方案,共进行了10,000次迭代,确保网络达到完全收敛。

4.3 评估指标为了严格评估模型性能,使用了几个标准定量指标来进行语义分割评估,包括精确度(Precision)、召回率(Recall)、F1分数(F1-score)、Kappa系数(Kappa)、整体准确率(Overall Accuracy,简称ACC)和交并比(Intersection over Union,简称IoU)[58]。这些指标提供了互补的视角,能够全面评估模型在各种地形下的预测能力。具体公式如下:
精确度量化了正确识别的正像素与所有预测为正的像素之间的比例:
(18)
召回率(或灵敏度)衡量模型捕捉所有实际正像素的能力:
(19)
F1分数是精确度和召回率的调和平均值,提供了一个平衡的分类性能指标:
(20)
Kappa系数[59]评估预测标签和观察标签之间的一致性,同时考虑了随机机会:
(21)
ACC衡量正确分类像素在总样本数中的比例:
(22)
IoU反映了预测区域和真实区域之间的几何重叠:
(23)
在这些方程中,分别表示真实正例、真实负例、假正例和假负例。这些指标共同促进了在地理多样性景观中对分割保真度的全面评估。除了上述准确性指标外,我们还引入了两个指标来评估模型的计算复杂性和效率:浮点运算次数(FLOPs)用于量化模型的理论计算成本。它代表了网络单次前向传递过程中所需的全部浮点算术运算次数,作为一个与硬件无关的模型复杂度度量。推理延迟定义为模型在推理阶段处理单个输入样本所需的平均时间。在本研究中,延迟是通过测试集中所有样本的平均时间来计算的,以确保稳定和具有代表性的实际部署效率测量。

4.4 训练收敛性分析所有模型在初始训练阶段都表现出训练损失的快速下降(见图8a),表明在早期迭代中有效优化。基线TransUNet显示出相对较慢的收敛速度,并在整个训练过程中保持较高的损失值。相比之下,DE-TransUNet和GC-TransUNet的损失值低于基线,表明引入双编码器架构或全局上下文增强模块可以在一定程度上提高优化效率。值得注意的是,提出的DEGC-TransUNet收敛速度明显更快,达到了最低的最终损失值,反映了更稳定的优化动态和更好的学习能力。这种行为表明,双编码器特征学习和基于BiFormer的全局上下文建模的结合有效地促进了梯度传播并降低了优化难度。

图8. 使用四种架构变体的山顶提取的收敛性和验证性能分析:(a) 训练损失,(b) 训练准确率,(c) 验证集上的目标类别F1分数,以及(d) 验证集上的目标类别召回率。图8b中的训练准确率曲线进一步证实了这些观察结果。虽然所有模型的准确率都随着训练的进行而稳步提高,但基线TransUNet的准确率提升较慢,最终准确率也较低。DE-TransUNet和GC-TransUNet的准确率都超过了基线模型,这表明增强局部-全局特征表示或长距离依赖性建模对分割性能有积极影响。所提出的DEGC-TransUNet在整个训练过程中始终优于所有对比模型,在较早阶段就达到了接近饱和的准确率,并在此后保持优异的性能,显示出更快的收敛速度和更强的特征学习能力。为了进一步证明测试过程的质量并评估模型在未见过的数据上的泛化能力,每1000次迭代就记录一次目标类别的验证F1分数和召回率(图8c,d)。与连续训练曲线不同,这些验证检查点提供了对模型实际分割性能的定期评估。例如,基线TransUNet和消融模型在2000次和7000次迭代时显示出明显的性能下降,表明它们对特定验证样本过于敏感或优化不稳定。而DE-TransUNet在2000次迭代时达到了较高的召回率峰值,但随后出现下降,表明在早期阶段出现了暂时性的过拟合。相比之下,所提出的DEGC-TransUNet在整个验证过程中始终保持最高的F1分数和召回率。尽管有轻微的波动,其性能轨迹总体呈上升趋势,并在7000次迭代时达到了0.8968的F1分数和0.9054的召回率。更重要的是,在最后阶段(8000至10000次迭代),DEGC-TransUNet展示了最稳定的性能平台,有效减轻了基线模型中观察到的剧烈波动。这种稳定的训练收敛与出色的泛化能力之间的对应关系,为DEGC-TransUNet框架的鲁棒性和卓越的泛化能力提供了有力证据。

总体而言,收敛性分析表明,所提出的DEGC-TransUNNet不仅实现了更高的分割准确率,还展示了改进的训练稳定性和效率。双编码器特征提取与全局上下文增强之间的协同整合,与单模块改进相比,实现了更有效的优化,为后续部分报告的卓越定量和定性结果奠定了坚实的基础。

4.5. 与基线方法的比较
为了评估所提出的DEGC-TransUNET的全面性能,进行了一系列与几种成熟基线模型的对比实验,这些基线模型涵盖了从轻量级架构到基于变压器的复杂网络。基线模型包括FCN [42]、FPN [60]、FCN-ResNet18 [43]、PSPNet [61]、DeepLabV3+ [62]和标准TransUNet。所有模型都在相同的数据集划分和评估协议下进行训练和测试,以确保公平比较。包括分割准确率、模型复杂性和计算效率在内的多个维度的定量结果总结在表1中。

4.5.1. 分割准确率分析
如表1所示,DEGC-TransUNET在所有与准确率相关的指标上都取得了最高的性能。具体来说,它的IoU达到了81.84%,F1分数达到了90.01%,与第二好的基线模型(PSPNet,IoU为74.37%)相比有了显著提升。精确度和召回率:所提出的模型的精确度为90.97%,召回率为89.07%,表明双编码器结构有效地减少了假阳性(错误识别的地形)和假阴性(遗漏的山顶)。边界和区域连续性:虽然像FCN-ResNet18和FCN这样的轻量级模型的IoU较低(介于72.15%到73.79%之间),但它们在复杂地形中经常面临预测碎片化的问题。相比之下,DEGC-TransUNet展示了出色的边界划分和区域连续性,证实了全局上下文增强的整合对于捕捉山顶的宏观地貌模式至关重要。

4.5.2. 模型复杂性和效率
这项比较的一个关键方面是提取准确性和计算开销之间的权衡。
计算成本(FLOPs):DEGC-TransUNet涉及57.95 GFLOPs,高于基于轻量级ResNet18的模型(例如FCN-ResNet18为2.53 GFLOPs)。然而,与标准TransUNet(43.4 GFLOPs)相比,考虑到IoU提高了13.55%,因此增加的计算成本是合理的。
参数数量:值得注意的是,尽管准确率较高,DEGC-TransUNet的参数数量(90.54 M)仍然低于原始TransUNet(109.07 M)。这表明所提出的架构修改,如DEGC模块,为地形特征学习提供了更高效的参数利用。
推理延迟:在实际应用中,DEGC-TransUNet的平均延迟为每张图像211.38 ms,略快于基线TransUNet(219.51 ms)。虽然像FCN和PSPNet这样的轻量级基线模型提供了接近实时的性能(大约1.8–1.9 ms),但它们显著的较低提取准确率限制了它们在需要高精度的地貌研究中的实用性。
总体而言,尽管DEGC-TransUNet在FLOPs和延迟方面比传统的基于CNN的基线模型更重,但它通过提供先进的准确率和可管理的计算成本,达到了最佳的平衡。结果证实,对于复杂的车顶提取任务,长距离空间依赖性和多尺度特征融合的整合提供了轻量级模型目前无法实现的精度水平。

4.5.3. 比较总结
结果表明,虽然轻量级模型在推理速度上有优势,但它们无法提供提取精细车顶所需的精度。DEGC-TransUNT在提供先进准确率的同时,还实现了可管理的计算成本,因此在提取质量和模型效率(更少的参数和延迟)方面超过了原始TransUNet。这证明了联合建模多尺度地形细节和长距离依赖性对于处理网格DEM数据非常有效。

4.6. 性能比较和消融研究
为了量化所提出的架构组件的个别和协同贡献,进行了一项结构级别的消融研究。我们评估了基线TransUNet、双编码器版本(DE-TransUNet)、全局上下文版本(GC-TransUNet)和完整的DEGC-TransUNet [63]。结果包括提取准确率、模型复杂性和计算效率,总结在表2中。双编码器机制(DE-TransUNet)的整合带来了显著的性能提升,IoU从68.29%提高到了76.68%。这种改进证实了双路径设计显著增强了模型从DEM数据中同时捕获细粒度地形细节和多尺度上下文特征的能力。然而,这种增强也带来了模型复杂性的增加;参数数量上升到了170.76 M,FLOPs达到了74.64 G,导致推理延迟增加到268.29 ms。这些结果表明,虽然双编码器机制对准确率至关重要,但简单的实现引入了显著的参数冗余。
GC-TransUNet仅包含全局上下文增强模块,其准确率也有适度提升,达到了69.71%的IoU。一个关键的观察是该模块的高效率:它保持了较低的延迟(203.25 ms)和较低的计算成本(48.56 GFLOPs),与基线TransUNet相比。这表明GC模块有效地模型了长距离依赖性,并在复杂地形中减少了局部误分类。完整的DEGC-TransUNet在所有指标上均取得了最高性能,IoU为81.84%,F1分数为90.01%。最值得注意的是,最终模型在性能和效率之间取得了最佳平衡:
复杂性优化:通过优化的架构整合,DEGC-TransUNet的参数数量(90.54 M)显著低于DE-TransUNet(170.76 M)和基线TransUNet(109.07 M)。
计算效率:该模型的FLOPs(57.95 G)低于中间的DE-TransUNet,其推理延迟(211.38 ms)甚至比原始TransUNet(219.51 ms)还要快。这些发现表明,联合建模局部地形细节和全局上下文不仅最大化了提取精度,还通过我们提出的整合策略优化了模型的结构效率,使其非常适合高精度的地貌任务。

实验结果表明,该模型在5折交叉验证框架下的所有实验运行中表现出一致的高性能。模型的平均F1分数为90.01%,标准差为±0.42%,平均准确率(ACC)为90.12% ± 0.38%。特别是对于代表性的折数(其结果详见表2),目标车顶区域的IoU和精确度分别达到了81.84%和90.97%。在不同数据分区上观察到的极低标准差证实了模型的高度鲁棒性,并有效缓解了关于过拟合或随机性能波动的潜在问题。这种高一致性的水平证明了模型在捕获研究区域中多样化和复杂地形单元的不变地貌模式方面的卓越泛化能力。

4.7. 基于地形类型的定性分析
为了对消融结果进行地貌学上连贯的解释,根据地形属性对山顶样本进行了定性分析[45]。采用Yang等人[6]提出的关于地形演化的分类框架,根据形状相关指数将山顶区域分为四种代表性类型:准圆形、椭圆形、线性和不规则丘陵。这些形态使用了一组广泛应用于景观空间分析的几何描述符[64,65]进行了定量表征,包括圆形度指数、周长-面积比和边界分形维度(表3),分别代表几何规则性、边界紧凑性和形态复杂性。

图9展示了不同模型在圆形度递减和形态复杂性增加的情况下山顶样本的定性比较。样本(a)和(b)对应于形状紧凑、边界平滑的准圆形丘陵。样本(c)和(d)代表椭圆形丘陵,表现出适度的拉长和边界不规则性。样本(e)对应于线性丘陵,而样本(f)代表边界高度复杂的不规则丘陵。从左到右依次为:带有颜色阴影的地形模型(DEM)、真实值以及TransUNet(基线)、DE-TransUNet(双编码器变体)、GC-TransUNet(全局上下文变体)和所提出的DEGC-TransUNet的预测结果。对于准圆形丘陵(图9a,b),所有模型都能识别出大致的车顶区域;然而,基线TransUNet倾向于在边界周围产生碎片化的预测或轻微的假阳性。双编码器架构提高了局部特征的敏感性,而全局上下文增强进一步稳定了区域完整性。所提出的DEGC-TransUNet取得了最紧凑且边界一致的结果,与真实标签非常匹配。
对于椭圆形丘陵(图9c,d),由于几何形状的拉长,边界划分变得更加具有挑战性。基线TransUNet表现出明显的欠分割和边界扭曲。双编码器TransUNet(DE-TransUNet)通过增强局部特征表示改善了边界连续性,而全局上下文增强的TransUNet(GC-TransUNet)更好地保持了整体形状的一致性。DEGC-TransUNet有效地结合了这两种优势,产生了同时准确捕捉拉长结构和保持边界平滑的预测。
对于线性丘陵(图9e),长距离空间依赖性变得关键。主要依赖于局部卷积特征的模型倾向于将结构分解成不连续的片段。引入基于BiFormer的全局上下文建模显著缓解了这个问题,捕获了大尺度地形连续性。因此,DEGC-TransUNet产生了连续且结构一致的预测,与参考标签非常吻合。
在最具有挑战性的不规则丘陵案例(图9f)中,由于边界复杂性和不规则的几何形状,所有消融变体都表现出不同程度的误分类。基线和单模块变体遭受了碎片化的预测和边界噪声。相比之下,DEGC-TransUNet展示了卓越的鲁棒性,有效地抑制了假阳性,同时保持了整体丘陵结构。这些结果凸显了双编码器特征学习和全局上下文增强在处理复杂地貌模式中的互补作用。随着山顶形态从规则形式转变为不规则形式,性能差距变得更加明显,这证实了联合建模局部地形细节和全局空间背景对于在复杂地貌环境中准确提取山顶区域至关重要。尽管基线模型通常能够识别出主要的山顶结构,但它们的预测往往存在边界破碎和不完整区域覆盖的问题,尤其是在地形复杂的地区(图10)。图10展示了不同地貌样本下的山顶区域提取结果的定性比较:(a) 准圆形丘陵1;(b) 准圆形丘陵2;(c) 椭圆形丘陵1;(d) 椭圆形丘陵2;(e) 线形丘陵;(f) 不规则丘陵。从左到右依次为:带有颜色阴影的DEM、真实地形以及Deeplabv3plus、Fcn-ResNet18、Pspnet和所提出的DEGC-TransUNet的预测结果。相比之下,DEGC-TransUNet生成了更加空间连续且形态一致的山顶区域。提取结果显示出更好的边界完整性和减少的局部误分类,这对于可靠的地貌解释至关重要。这表明所提出的模型更能捕捉全局地形背景和与海拔相关的局部特征,从而提供更稳定和准确的提取结果。

为了进一步评估所提出的DEGC-TransUNet框架的跨区域泛化能力,该模型被应用于几个独立的山区,使用了来自OpenTopography设施[66]的1米分辨率DEM数据。这些测试区域完全未包含在训练阶段中,涵盖了多个地理位置的多样化地貌环境,包括美国约塞米蒂国家公园和阿拉斯加、新西兰、巴基斯坦和中国。所提出的模型在广泛异质地形上表现出显著的适应性(图11)。值得注意的是,甘肃黄土高原的预测结果具有一致性和准确性最高,边界清晰且连续。这种出色的性能可以归因于训练区域和测试区域之间的地貌相似性。相比之下,新西兰和巴基斯坦的测试区域具有复杂的岩石结构和构造特征,显示出边界不确定性略有增加,突显了空间异质性[67]对模型泛化[68]的影响。图11显示了DEGC-TransUNet与经典语义分割模型在不同地理位置使用1米分辨率DEM数据时的泛化性能(颜色代表地形可视化的相对海拔值)。对于黄土高原以外的地区,由于地貌特征更为独特,DEGC-TransUNet成功地捕捉到了完整的学生结构,尽管在高度崎岖和切割严重的地形中存在轻微的边界偏差。总体而言,模型的预测与阴影轮廓生成的地形非常吻合,表明它有效地捕捉了内在的地形特征,避免了对特定区域模式的过拟合[69]。相比之下,经典模型虽然仍然有效,但在这些跨区域任务中显示出较低的一致性和精度,特别是在更复杂的地形中。这些结果强调,双编码器架构结合全局背景增强提供了跨区域和不同空间分辨率的强大泛化能力,进一步支持了其在大规模跨区域地形分析中的应用。

5. 讨论
5.1. 双编码器设计和全局背景增强的效果
实验结果表明,所提出的DEGC-TransUNet显著受益于其双编码器架构和全局背景增强策略的互补优势。与主要依赖于局部特征提取或部分全局背景的基线模型(如TransUNet和DE-TransUNet)相比,DEGC-TransUNet有效整合了局部和全局信息,从而实现了更好的边界划分和减少了误分类,尤其是在边界不规则的复杂地形中[42,43,60,61]。同时,基于MaxViT的编码器通过高效的注意力机制在早期阶段引入了多尺度全局背景信息。这一能力使网络能够更好地区分真实的学生区域与周围的高海拔地形,并减少由纯局部特征模糊导致的误分类。类似的观察也在最近的CNN–Transformer混合分割研究中得到报告,其中全局背景建模显著提高了结构完整性和空间一致性[28,42,69,70]。BiFormer基全局背景增强模块的加入进一步增强了长距离依赖性建模。与标准的自注意力机制相比,BiFormer通过稀疏注意力路由在全局表示能力和计算效率之间取得了良好的平衡[71]。这种设计对于山顶区域提取特别有利,因为需要捕捉延长的结构和大尺度地形关系。DEGC-TransUNet与其消融变体相比的卓越表现证实了全局背景增强和双编码器特征学习提供了互补的好处,而不是冗余信息。

5.2. 定性解释、局限性和未来展望
虽然基线模型(包括PSPNet和DeepLabV3+)在标准分割任务中表现良好,但在处理复杂山顶边界时显示出局限性,正如比较(图10)所观察到的。DEGC-TransUNet始终优于这些模型,尤其是在不规则和破碎地形中准确划分边界方面。这些改进与先前的研究结果一致,表明结合局部特征细化和全局背景建模可以提高分割性能[28,29,30,33,70]。尽管有这些优势,但仍存在一些局限性。首先,真实的学生区域是手动勾画的,这可能会引入主观性和不确定性,特别是在地形逐渐过渡的地区。其次,尽管基于Transformer的组件增强了表示能力,但与纯卷积方法相比,它们也增加了计算复杂性,正如先前的研究[33,42]所报告的。尽管本研究中进行了多国家泛化实验,但外部测试样本的数量仍然有限。仍需要在更多地貌环境和气候区域进行更广泛的验证,以全面评估其大规模操作适用性。未来的研究将致力于将所提出的框架扩展到多分辨率DEM数据集,探索轻量级的Transformer变体以提高效率,并整合额外的地形导数或多源地理空间数据。这些方向与当前基于DEM的深度学习研究趋势一致,有望进一步增强所提出方法的应用性[20,21,28]。

6. 结论
本研究提出了一种带有全局背景增强(DEGC-TransUNet)的双编码器TransUNet框架,用于从网格DEM中提取山顶区域。通过联合建模精细尺度的局部地形细节和多尺度的全局背景信息,所提出的方法有效解决了在复杂山区常见的边界模糊和长距离依赖性建模有限的挑战。实验结果表明,卷积编码器、基于MaxViT的全局背景建模以及基于BiFormer的增强模块之间的协同作用带来了显著的性能提升。具体来说,DEGC-TransUNet始终优于基线TransUNet及其消融变体,实现了更高的分割准确性和边界划分能力。与其他经典语义分割模型(包括PSPNet和DeepLabV3+)相比,DEGC-TransUNet在边界划分和交并比(IoU)方面始终表现出色,进一步证明了整合局部和全局特征学习的优势。这种改进强调了双编码器架构结合全局背景增强的有效性,它在多种地貌区域提供了更强大的泛化能力。DEGC-TransUNet的高精度提取能力为多个领域提供了坚实的科学基础。它可以直接应用于地貌演化分析、土壤侵蚀模拟和生物多样性建模。此外,该框架为工程任务提供了可靠的决策支持工具,例如在高海拔地区战略性地选择通信基站和风能基础设施的位置。尽管结果很有前景,但本研究仍存在一些局限性。实验集中在特定地貌环境和固定分辨率的网格DEM上。此外,模型复杂性的增加引入了更高的计算成本。未来的工作将致力于将框架扩展到多分辨率数据集,探索轻量级变体,并进行更广泛的跨区域验证,以进一步提升其在大规模地形分析中的操作适用性。未来的工作将重点在于将提出的框架扩展到多分辨率DEM数据集,探索轻量级模型变体以提高计算效率,并评估跨区域泛化性能。此外,整合额外的地貌约束并将该方法扩展到其他地形元素提取任务也是进一步研究的有希望的方向。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号