基于不确定性感知和拓扑结构的迁移学习方法,用于实现鲁棒的河流盐度预测
《Journal of Hydrology: Regional Studies》:Uncertainty-informed topology-aware transfer learning for robust stream salinity prediction
【字体:
大
中
小
】
时间:2026年05月02日
来源:Journal of Hydrology: Regional Studies 4.7
编辑推荐:
卡斯拉·霍德卡尔(Kasra Khodkar)|阿里·米尔奇(Ali Mirchi)|瓦希德·努拉尼(Vahid Nourani)|杰弗里·M·萨德勒(Jeffrey M. Sadler)|凯文·瓦格纳(Kevin Wagner)
美国俄克拉荷马州立大学生物系统与农业工程系,
卡斯拉·霍德卡尔(Kasra Khodkar)|阿里·米尔奇(Ali Mirchi)|瓦希德·努拉尼(Vahid Nourani)|杰弗里·M·萨德勒(Jeffrey M. Sadler)|凯文·瓦格纳(Kevin Wagner)
美国俄克拉荷马州立大学生物系统与农业工程系,斯蒂尔沃特,OK 74078
**摘要**
**研究区域**:美国德克萨斯-俄克拉荷马州的上红河流域(Upper Red River Basin)
**研究重点**:
本文提出了一种基于拓扑结构的迁移学习(Transfer Learning, TL)方法,该方法利用机器学习模型结合流域内的河流网络连通性和公开可获得的、具有不同时间频率的河流盐度数据,生成可靠的每日河流盐度预测。为确保模型参数稳定且性能不受潜在不确定性影响,采用了下限估计(Lower Upper Bound Estimation, LUBE)方法来量化生成的河流盐度数据的不确定性。通过约2年的连续次日现场盐度测量记录来验证预测区间。
**该地区的新的水文见解**:
美国上红河流域内各支流的河流盐度数据在时间和空间上的可用性存在差异,这给水资源管理带来了挑战。本研究为流域内的所有监测站点生成了可靠的河流盐度数据。基于拓扑结构的迁移学习框架将最佳拟合模型的均方根误差(RMSE)降低了6%,并将所有600个模型的平均噪声平方误差(NSE)提高了0.25。与局部模型相比,这种迁移学习模型的准确性在下游站点更为显著,同时增强了预测的稳健性并降低了不确定性。此外,迁移学习还使得在一个仅有26对观测数据的站点上能够拟合出NSE超过0.8的准确模型,而这是局部模型无法实现的。与最近的次日现场数据比较表明,该框架具有时空泛化能力,并验证了预测区间(Predictive Intervals, PIs)和生成的合成盐度数据的可靠性。
**1. 引言**
由于与连续水质采样、实验室实验和现场监测相关的各种限制,不同流域以及同一流域内不同支流的河流盐度数据在时间和空间上的可用性存在差异(Read等人,2017年)。虽然某些站点的数据一致性、频率和测量参数范围更广,但其他站点可能几乎没有或完全没有可用数据。这种河流盐度数据的不一致性使得基于过程的模型校准和准确性评估变得困难(Bailey等人,2022年),从而增加了模型不确定性,并在盐分敏感地区(尤其是干旱和半干旱地区)加剧了水资源管理的复杂性(Slaughter等人,2017年)。
机器学习(Machine Learning, ML)越来越多地应用于复杂的水文问题,包括盐度估计,这些问题不需要明确表示预测因子和目标之间的物理关系(Akbar等人,2025年;Attia和Tsai,2024年;Nourani等人,2023年;E等人,2023年)。尽管多站点建模通过结合地貌特征提高了建模精度,但对于数据稀缺的站点来说,仍然难以获得可靠的预测(Nourani和Komasi,2013年)。机器学习方法需要每个站点至少一定量的数据才能有效学习预测因子-目标关系,这取决于模型架构、规模和任务复杂性(Gauch等人,2021年;Lange和Sippel,2020年)。这一要求限制了机器学习在数据稀缺地区的应用。
迁移学习(Transfer Learning, TL)是一种有前景的方法,可用于解决数据可用性问题(Yang等人,2024年;Khodkar等人,2024年;Khoshkalam等人,2023年)。TL利用数据丰富站点(源域)的信息,在数据稀缺站点(即目标域)实现可靠预测(Chen等人,2024年)。在水文建模应用中,选择合适的源域并识别任务之间的相似性(即区域化)仍然是一个挑战(Razavi和Coulibaly,2013年)。然而,鉴于流域内河流的拓扑连通性以及相对统一的气候和地质条件,TL可以有效地在河流站点之间传递信息,确保传递数据的有效性(Chen等人,2021年;Jia等人,2021年)。
水文模型的稳健性主要基于模型内部的不确定性因素(Bárdossy和Singh,2008年;Fiering和Kuczera,1982年;Fiering,1982年)。在数据驱动的水文建模中,模型是基于数据构建的;因此,数据和模型产生的不确定性是不可分割的。机器学习模型的随机不确定性来源于数据中的噪声和异方差性。水盐度预测还包括认知不确定性,例如训练和验证子集的瞬时采样数据与每日平均值之间的差异,以及测试子集的次日15分钟数据。此外,迁移学习的水盐度预测还包括更多独特的主观不确定性来源,如模型结构选择、超参数选择、参数校准、训练算法中的随机项以及目标和源任务之间的不匹配(Sun等人,2024年)。这种预测任务中的巨大不确定性潜力要求对迁移学习建模框架进行不确定性量化。
机器学习模型的总预测不确定性(包括来自数据和模型的认知和随机不确定性)可以通过预测区间(Predictive Intervals, PIs)估计来评估,其中上限和下限被估计出来,以规定的概率包含未知值(Khosravi等人,2011年)。虽然Delta、贝叶斯(Bayesian)和Bootstrap方法是常用的PI估计方法(Nourani等人,2022年;Ho等人,2001年;Dybowski和Roberts,2001年;Heskes,1997年;Bishop,1995年),但下限估计(LUBE)方法特别有利,因为它不需要分布假设且计算效率高。LUBE方法直接估计PI,并基于为PI评估开发的不可导惩罚函数使用分割采样方法进行模型参数优化(Khosravi等人,2011年)。
尽管文献中已经证明了迁移学习在水质领域的应用价值,但以往的应用通常使用来自单一河流的相对较短且时间分辨率一致的数据,例如每月一次(Luo等人,2023年)、每周一次(Peng等人,2022年)或次日连续测量数据(Chen等人,2021年;Zhou等人,2021年)。Chen等人(2021年)使用来自单一河流多个站点的2年次日水质数据实施了迁移学习框架。Peng等人(2022年)使用来自多个流域的2年每周数据通过迁移学习预测水质参数。Luo等人(2023年)在迁移学习框架中使用了10年的每月水质数据,评估了河流的上下游关系。Khodkar等人(2024年)应用基于实例的迁移学习生成合成河流盐度数据,并根据单个站点不同时间段记录的两个数据集量化预测不确定性。使用来自流域内河流网络的更长时间分辨率的数据集进行迁移学习盐度建模,有助于提高预测的时空泛化能力。简单来说,我们的时间泛化能力涵盖两个主要方面:一是模型在比训练数据更细的时间分辨率上的适用性;例如,我们使用抓取采样和每日数据训练模型,但能够生成次日15分钟的盐度预测。二是准确预测盐度范围的泛化能力。关于时间范围泛化能力的一个好例子是预测站点观测数据中大间隙的盐度值。解释性稳健性定义为机器模型对初始化过程的低敏感性,包括随机权重分配和子采样(Panigrahi等人,2025年)。
本研究旨在通过以下方式解决流域内河流盐度数据不平衡的问题:
i) 提出一种新的基于拓扑结构的迁移学习框架,利用多个时间尺度的数据(从每日平均值到瞬时抓取采样数据)和流域内多个河流位置的河流拓扑信息,生成可靠的河流盐度预测;
ii) 通过预测区间(PIs)的预测估计,评估由河流盐度未测量日变化和多时间尺度数据可用性引起的不确定性;
iii) 通过连续的次日15分钟水盐度观测评估预测的稳健性。为此,整合了美国上红河流域(URRB)不同支流中十二个河流站点的数据,这些站点具有不同的记录长度和采样频率(瞬时抓取样本和每日平均值),并通过流域内的迁移学习框架将所有可用流域信息纳入预测。使用二进制编码将河流的拓扑连接纳入模型。然后,通过LUBE方法和元启发式优化技术估计PIs以量化建模不确定性。通过将估计的每日PIs与河流网络内两个站点的原始连续15分钟现场盐度测量数据进行比较,评估了该方法的稳健性,表明迁移学习框架在不同时间尺度上的泛化能力,特别是在更细的时间尺度上。本研究提供了一种可转移的方法,以克服时间和空间上的河流盐度数据稀缺问题,支持盐分敏感地区的水资源管理决策。
**2. 材料与方法**
**2.1 研究区域**
URRB(约33600平方公里)位于美国俄克拉荷马州西南部和德克萨斯州狭长地带(34°N, 102°W 至 35°30’N, 98°W)(图1)。该流域的四个主要支流是红河(Red River)、北叉红河(North Fork Red River)、盐叉红河(Salt Fork Red River)和榆叉红河(Elm Fork of the Red River)。北叉红河的年流量约为1.1亿立方米,是卢格特-阿尔图斯湖(Lake Lugert-Altus)的主要淡水来源,该湖泊的储水量约为1.9亿立方米。由于其相对较低的盐度水平(长期平均电导率为2500 μS/cm,见表1),这些水主要用于灌溉。盐叉红河的平均盐度为2600 μS/cm,在俄克拉荷马州阿尔图斯以南约15英里处与红河汇合。历史上,盐叉红河的水被直接从河流和下面的冲积含水层抽取,用于附近农场的灌溉。榆叉红河是北叉红河的主要支流,由于含有盐泉并流经高盐度土壤,因此天然含盐。这导致其长期平均电导率超过40,000 μS/cm,从而增加了北叉红河下游卢格特-阿尔图斯湖的盐度水平。这种较高的盐度沿俄克拉荷马-德克萨斯州边界传播到红河主干道。
**2.2 数据收集**
建模中使用的主要数据集包括河流流量(流量)和电导率(SC)(Khodkar等人,2024年)。选择这些数据是基于先前的观察结果,即其他潜在的预测因子(如气候数据)不如流量信息量大,且其对建模的附加值并不超过模型复杂性的增加(见第2.3节)。此外,数据结构尽可能简单,以专注于迁移学习在建模中的作用。流量数据来自美国地质调查局(USGS)进行的基于河段的水流测量。电导率数据包括三种类型:
i) 从USGS和俄克拉荷马州水资源委员会(Oklahoma Water Resources Board)获取的瞬时抓取采样实验室报告;
ii) 美国地质调查局连续监测数据的每日平均值;
iii) 俄克拉荷马州水资源中心(OWRC)记录的次日(15分钟间隔)电导率数据。瞬时采样电导率数据在时间和空间上都很稀疏。美国地质调查局连续监测数据的每日平均值能更好地反映水盐度的时间动态。然而,这种类型的历史河流流量盐度数据仅限于URRB内的三个站点,且时间覆盖范围较短。次日电导率数据集(2023年至今)仅来自两个站点(Carl和Headrick)。图2展示了本研究中包含的URRB监测站点的公开可访问的河流流量和电导率数据。URRB中大多数美国地质调查局的抓取样本数据记录于1960年至2000年期间。然而,所有美国地质调查局站点的监测工作大约在2010年停止。Headrick站点是迄今为止唯一一个由OWRB监测水质的站点。下载:下载高分辨率图像(317KB)下载:下载全尺寸图像
图2. a) 公开可用的流量和电导率(SC)数据;b) 公开可用的30分钟流量数据和OWRC为上红河流域(URRB)监测站点记录的原始15分钟次级日SC数据集,以及每个变量的数据点数量。虽然在同一天内跨多个站点获取SC测量值对于捕捉流域内的时空盐度动态是理想的,但这种情况是例外而不是常态。此外,当SC数据存在而没有相应的流量测量数据时,会阻碍流量和SC数据的配对。例如,Shamrock站点只有26对流量-SC记录。更极端的情况是Kelton站点,尽管该站点有大量的流量和SC值记录,但这些记录在时间上并不重叠,因此该站点只有一对流量-SC记录。因此,本研究使用了12个站点的数据(不包括Kelton站点)在TL框架中生成了所有具有流量记录的站点的可靠SC数据。
从USGS和OWRB获取的数据已经经过了各自机构的质量保证和质量控制流程,在数据预处理过程中没有检测到任何异常值。由于构建预测-目标对需要流量和SC值,且建模数据集包含流量和SC观测值的重叠实例,因此本研究没有应用任何缺失数据处理方法。值得注意的是,本研究使用的端到端建模和不确定性框架使模型能够适应数据源中的偏差,并包含来自观测数据误差的不确定性。下一节将详细介绍本研究中采用的TL框架。
2.3. 具有拓扑意识的迁移学习框架
鉴于可用数据点总数较少(<20,000),并且模型输入没有复杂的特征需要提取,因此使用了前馈神经网络(FFNN)进行盐度预测。FFNN模型已被证明是水文学应用中的有效工具(Xu和Liang,2021)。模型复杂性、参数化和Vapnik-Chervonenkis维度的增加(包括深度学习模型在内的其他高级模型也是如此)需要更丰富的数据集来进行建模,这与研究的主要目标——解决流量盐度数据稀缺问题相悖。此外,Khodkar等人(2024)证明了FFNN与其他替代数据驱动工具(如深度学习)在流盐度预测方面的有效性(附录表A.1)。FFNN本质上是多层回归器,每层包含多个神经元。神经元作为非线性核,数据通过这些神经元传递。在本研究中,使用了tansig作为非线性激活函数。为了实现多种微调技术,使用了两个隐藏层,每个隐藏层有20个神经元。这些超参数是通过使用50%的数据集(来自源域和目标域各50%)通过试错过程确定的。在初始训练和微调的两个阶段都使用了自适应动量梯度下降算法来训练模型。
图3展示了具有拓扑意识的TL框架。流拓扑指的是各种流通道的连接方式(Smart,1969)。低阶流量的流量和水质测量可以提供关于它们汇入的较大流量的流量和水质的重要信息,反之亦然。包括其他描述性数据作为预测因子(例如,流域面积、土壤特性)虽然不会产生预测价值,但可以为模型提供站点区分的信息。添加任何定性数据需要一组二进制输入,这会导致输入向量变大。在本研究中,使用了一种二进制编码方法来表示定性变量,从而隐含地将土壤特征、岩性、土地利用以及流网络的拓扑结构纳入模型中。为了预测站点n的目标值(即SCn),预测向量由目标站点的流量值(Qn)和流域中每个站点的二进制条目组成。对于我们的研究区域,这引入了12个新的辅助输入特征(每个站点一个)。如果n=m或站点m位于站点n的上游,则与站点m相关的辅助输入值设为1,否则设为0。例如,对于Headrick站点,McLean、Shamrock、Carter、Hobart和Headrick站点的辅助变量为1,其余站点的辅助变量设为0。由于在预测中只使用了一个预测变量,因此附录图A.2中提供了Headrick站点的简单响应曲线分析作为模型的敏感性分析。
下载:下载高分辨率图像(283KB)下载:下载全尺寸图像
图3. a) 具有拓扑意识的迁移学习(TL)框架的通用示意图;b) 包含5个站点的流域的流连接示例;c) 5个站点流域的机器学习(ML)模型输入数据结构,包括来自同一站点的流量值和用于预测电导率(SC)的二进制编码输入。
在数据预处理阶段解决了数据的时间异质性问题。每日平均SC值与每日平均流量测量值配对作为预测因子。由于在某些情况下没有记录抓取采样的确切时间,且旧记录中没有次级日流量测量数据,因此抓取采样的SC值也与每日平均流量值配对。虽然这些数据类型用于模型的训练和验证,但次级日SC测量值仅用于测试预测的稳健性。训练好的模型使用30分钟流量记录来预测30分钟SC值,这是由于用于评估框架的USGS站点流量测量的时间分辨率所致,详见第2.5节。随后,30分钟SC预测值被线性插值生成15分钟数据集,以便与15分钟连续监测数据进行比较。
为了实施本研究中的具有拓扑意识的TL框架,完成了以下步骤:首先,为所有符合条件的站点准备了预测-目标对。其次,选择了目标站点,并将其余站点的数据合并形成源域。第三,将目标域和源域的数据集分别以70-30的比例随机分为训练子集和验证子集。第四,在两个域的训练子集上训练所有模型,并最终选择在验证子集上误差最小的模型。最后,使用目标域的训练数据对最佳性能模型进行微调。在此步骤中应用了两种微调方法:1) 通过训练模型中的所有参数(权重和偏置)进行微调,即无层冻结的迁移学习(TL-NF);2) 冻结第一个隐藏层并微调模型的其余层,即有层冻结的迁移学习(TL-FR)。
2.4. 预测区间
预测区间(PIs)用于量化预测框架的潜在不确定性。PIs包括使用独立变量预测的上限和下限。估计PIs的目标是以一定的置信水平确保目标值落在这两个区间内。每个模型的PIs都是通过LUBE方法估计的。LUBE是一种直接的PI估计方法,与基于自助法和z分数的PI估计方法不同,后者是通过多次单独点预测统计计算PIs的。在LUBE方法中,首先使用复制的目标矩阵训练一个双输出模型来初始化模型。然后提取模型参数,并使用模拟退火算法优化模型,以最小化给定数据集上的覆盖宽度标准(CWC;见第2.6节)值(Khosravi等人,2011)。
在本研究中,模型首先通过训练子集进行预训练,然后在目标数据集的训练子集上进行微调,采用了冻结和不分层两种方法。接着对模型应用模拟退火算法。对于不分层情况,所有参数都进行了优化;而在分层冻结情况下,完全连接层被排除在优化之外。PIs的估计目标是80%的置信水平(μ=0.8),因此模拟退火算法从较大的步长开始,初始温度为1000,总迭代次数为300次。然而,在模型未能以80%的置信水平收敛的情况下,μ降低到70%。值得注意的是,为了防止合并上限和下限,分配了一个较高的零置信度惩罚值(η)(见第2.6节)。
2.5. 评估方案
为了评估实施TL的附加值,将所有模型与仅使用目标站点数据的模型(即本地模型)进行了比较。随机初始化权重、训练算法中的随机项以及训练/验证子集的重新采样可能会增加模型输出的不确定性(Narkhede等人,2022)。因此,单次训练尝试的准确性不一定能反映模型的泛化能力和可靠性。广泛使用的K折交叉验证和保留技术被用来解决这个问题(Xu和Liang,2021)。K折交叉验证通过确保K次模型训练中每次折叠都作为验证子集一次,而剩余的K-1次训练都使用相同的折叠作为训练子集的一部分,来估计模型的预期真实准确性。然而,这种方法报告的是平均准确性指标,无法提取单个模型来生成新数据。在本研究中,为了评估模型的稳健性,每个模型都进行了多次训练和测试(点预测模型50次,PI模型20次),使用不同的随机生成的训练和验证子集集来评估模型在每种情况下的准确性稳定性。为了评估模型的稳健性和确保稳定性,还探讨了每个站点和每种情况的最佳报告准确性指标以及所有训练尝试的分布。
在此阶段,所有训练和验证数据都来自每日流水SC数据集,该数据集主要由即时抓取采样结果组成。然而,可用的观测数据有限,受到先前讨论的不确定性的影响,并且主要记录在过去(2010年之前)。为了确保预测的稳健性,将点预测和估计的PIs与最近记录的来自Carl和Headrick两个站点的15分钟间隔数据进行了比较,为使用最新、一致且高质量的数据评估模型提供了基础。这两个站点的数据范围和分布不同,水源不同,数据的时间可用性也不同。Headrick站点的SC值较低(平均约为7100 μS/cm),波动较小(标准差为3600),而Carl站点的长期平均SC值较高(约41,000 μS/cm),波动范围更广(标准差为38,000 μS/cm)。此外,Carl站点所在的Red River的Elm Fork流来自上游的盐泉,而下游的Headrick站点还接收来自Lugert-Altus水库的淡水。Headrick站点有直到现在的抓取采样数据,而Carl站点在1997年之后只有少量记录。这种评估方法消除了基于过去事件和当前真实情况的模型性能偏差,因为USGS和OWRC数据集之间存在时间间隔。通过比较2023年和2024年的15分钟间隔SC数据,为不确定性量化提供了关键优势,从而验证了估计的PIs和模型报告的不确定性指标。
2.6. 评估指标
点预测模型的评估指标包括均方根误差(RMSE)和Nash-Sutcliffe效率(NSE)。预测区间(PIs)的性能评估基于预测区间覆盖概率(PICP)、平均预测区间宽度(MPIW)、标准化MPIW(NMPIW)和CWC值。由于研究中包含了多个具有不同目标分布的站点,因此NSE和CWC分别被用作点预测和PIs的主要惩罚标准。虽然报告了表现最佳模型和情景的所有误差度量,但也报告了所有模型运行的NSE和CWC的分布,以展示所设计模型的稳定性。RMSE是一种基于动量的惩罚函数,以观测值的单位显示误差(公式1)。尽管RMSE在单站点建模中很有信息量,但由于目标分布的不同,在包含多个站点或变量的任务中它无法提供足够的信息。NSE是一种无单位的误差度量,用于实现站点间、流域间或变量间的模型比较(公式2;Nash和Sutcliffe,1970)。
为了最大化观测值落在两个预测区间之间的概率,计算了一个称为PICP的惩罚函数(公式3),以表示PIs与观测值之间的覆盖率。(3)PICP=1/n∑i=1n(ci),其中ci是一个二进制变量,当观测值在估计的区间之间时为1,否则为0。除了覆盖概率外,PIs的宽度也很重要。PIs越宽,它们的实用性就越低。因此,还使用了其他标准,即MPIW(公式4)和NMPIW(公式5)来表示PIs的宽度:(4)MPIW=1/n∑i=1n(Ui?Li),(5)NMPIW=MPIW/R,其中Ui是PI的上界,Li是PI的下界,R是观测值的范围。为了确保模型之间的可比性,NSE公式的分母使用了整个观测数据集的方差。RMSE值与观测值的单位和尺度相同,而NSE值的范围是从-∞到1,1表示完美的建模。
由于本研究中使用的大部分数据是抓取样本结果,并且采样频率不规律,从每天多次采样到10年一次采样不等,因此任何统计假设和测试(如平稳性测试、分布分析以及偏差度量方法,如回归接收者操作特性方法)都不适用于验证目的(Poursaeid,2025)。
为了最大化观测值落在两个预测区间之间的概率,计算了一个称为PICP的惩罚函数(公式3),以表示PIs与观测值之间的覆盖率。(3)PICP=1/n∑i=1n(ci),其中ci是一个二进制变量,当观测值在估计的区间之间时为1,否则为0。除了覆盖概率外,PIs的宽度也很重要。PIs越宽,它们的实用性就越低。因此,还使用了其他标准,即MPIW(公式4)和NMPIW(公式5)来表示PIs的宽度:(4)MPIW=1/n∑i=1n(Ui?Li),(5)NMPIW=MPIW/R,其中Ui是PI的上界,Li是PI的下界,R是观测值的范围。为了同时考虑PI的质量度量,使用了CWC,这是一个复合惩罚函数,公式如下(Khosravi等人,2011):(6)μCWC=NMPIW(1+γPICPe?ηPICP?μ),其中μ是目标置信水平,η是对低于μ的PICP值的惩罚。η和μ被认为是PI模型的超参数,可以通过试错过程选择。此外,二进制变量γ(PICP)的定义如下:(7)γ=0,如果PICP≥μ;否则γ=1。CWC是一个[0,∞)范围内的指标,用于PIs,其中较低的CWC值表示更好的PIs。当PIs满足置信水平时,CWC简化为NMPIW,仅显示PIs与实际观测值范围的狭窄程度。相比之下,当PIs无法满足名义置信水平时,会根据上述参数的选择对CWC施加额外的惩罚。CWC公式包含非连续项,这阻止了基于梯度下降的训练算法的使用。因此,为了通过LUBE方法训练PI估计方法并使用CWC作为惩罚函数,需要元启发式优化算法,如遗传算法和模拟退火算法。在本研究中,由于先前研究报道的稳健结果(Zhu等人,2025),使用了模拟退火算法来优化LUBE方法。
3. 结果与讨论
3.1. 点预测结果
表2总结了每个站点和情景下50次尝试中训练最佳模型的点预测准确性指标。在12个站点中的8个站点上,TL模型的表现优于局部模型,其中4个站点的NSE差异大于0.05。在7个站点上,表现最佳的TL模型与局部模型之间的NSE差异小于0.04。在2个站点上,局部模型的NSE值较高,尽管差异可以忽略不计。在8个站点上,训练有素的TL模型的NSE高于局部模型,而在其余4个站点上,TL模型和局部模型的准确性分布相似(图4)。这表明,具有拓扑意识的TL提高了整个研究流域内准确SC预测的准确性和一致性。值得注意的是,通过实施具有拓扑意识的TL框架,利用源域的辅助信息显著提高了仅有27条记录的站点的建模准确性(即Shamrock站点),NSE值为0.83,而表现最佳的局部模型的NSE值为0.47。
表2. 上红河流域SC预测的预训练、局部模型以及有无层冻结的迁移学习的评估指标。
情景 预训练 局部模型 TL-NF TL-FR
站点 RMSE (μS/cm) NSE RMSE (μS/cm) NSE RMSE (μS/cm) NSE
Gainesville 154 0.09 113 0.51 111 0.53 108 0.55*
Burkburnett 199 0.32 188 0.39 189 0.38 187 0.39*
Childress 108 79 0.61 102 51 0.65 97 0.68*
Wayside 715 46 17 0.86 46 39 0.85 75 0.83
Headrick 348 10.4 29 51 0.57 29 46 0.57*
Hobart 60 60 0.14 52 80 0.35 49 0.43*
Carter 42 30 35 7 0.53 36 0.52 36 0.52
Shamrock 50 50 31 44 30 0.47 24 7 0.83*
Mangum >100 0 <-10 50 0 0.47 49 10.48 46 0.53*
Carl 143 0 86 12 54 30 0.89 11 19 0.91 10 0.92*
Wellington 54 40 25 32 0 73 29 0.77 29 0.78*
表2显示了每个站点上预训练、局部模型以及有无层冻结的迁移学习在SC预测方面的评估指标。
站点之间的建模准确性比较进一步证明了TL对SC建模的附加值。例如,位于流域西部的Wayside站点没有上游站点的流量和盐度数据。然而,来自50个模型的NSE分布显示TL模型的一致性更高,而局部模型的准确性范围更广,平均NSE较低(图4,附表A.3)。该站点上局部模型的性能对子集的随机重采样和模型初始化更为敏感。然而,TL模型利用了来自大型源数据集的信息,从而提高了训练阶段的有效性,改善了训练尝试的一致性和模型训练的不确定性。同样,TL模型在红河主干道沿线的所有站点(即Gainesville、Burkburnett、Childress和Wayside)的表现更为一致,而局部模型更容易受到随机性和训练子集局部最小值的困扰(图4)。
TL并没有改善Carter站点的SC预测,局部模型的表现略优于TL模型。Carter站点有较短的(2002-2008年)连续每日平均SC记录(图2),这可能无法很好地捕捉气候变异性和人为变化的影响。该地区的水资源抽取趋势发生了变化,例如由于地表水可用性的下降,越来越依赖冲积含水层。在这种情况下,虽然局部模型在相同的数据集上验证时表现更好,但由于信息较少,其准确性较低。然而,TL模型包含了更多关于该地区气候和人为变化的信息,因此其输出被认为更可靠。另一个TL未能提高建模准确性的例子是Headrick站点,该站点有最长的SC记录(1952年至今)。该站点的建模结果表明,目标数据集足以训练局部ML模型,而包含源域(即其他站点)的信息并没有改善预测结果。事后Dunn–?idák测试(García等人,2010)显示,与局部模型相比,TL-FR和TL-NF的NSE值均有显著改善(p = 0.039)。比较每个站点和模型的50次尝试的分布和平均值(图4和附表A.3)显示,TL-FR模型的准确性、鲁棒性和稳定性更高,只有2个站点的平均NSE值小于0,而TL-NF和局部模型有4个站点的平均NSE值为负。这一结果是由于源域中存储的信息没有被训练过程中的目标域覆盖。对所有层进行微调可能会覆盖预训练的信息。这反映在失败的模型训练尝试数量上。TL-FR有73个模型的NSE值小于0,而TL-NF和局部模型分别有113个和123个负NSE值。基于每个站点和所有2400点预测模拟(即每个站点50次重复)的NSE值分布的Violin图(Hintze和Nelson,1998;Bechtold和Bastian,2016)分别显示在图4和附表A.4中。
对于下游站点来说,准确的SC预测通常更具挑战性(图5),这可能是由于复杂性的增加。向下游移动时,排水面积增加,土地利用/土地覆盖变得更加多样化,更多的小支流增加了流量。此外,Lugert Altus水库的管理是一个重要的人为因素,影响着盐度动态。这反映在Lugert-Altus水库下游站点(即Headrick、Burkburnett、Gainesville站点)的SC预测准确性较低上,这可能是由于水库放水决策和未在模型中明确包含的未监测支流的影响。虽然Lugert-Altus水库的放水量平均只占Headrick站点测量流量的3%,但它们波动很大(放水量标准差=7 m3/s;平均放水量=1 m3/s)。
此外,Lugert-Altus灌溉区的灌溉活动也影响了模型的准确性。这些模型通常更擅长预测高流量-低盐度条件,而不是低流量-高盐度条件。SC与盐离子浓度直接相关。在低流量期间,流中的盐负荷的微小变化会导致盐浓度的较大波动,因为溶质-溶剂比率较大。例如,Burkburnett站点的SC数据主要在干旱期间记录,此时流量值始终很低,SC值有显著波动。在这种情况下,所有模型的NSE值在低流量-高盐度条件下保持在0.40以下。此外,低流量条件下的河流蜿蜒可能会影响流量测量的准确性,从而导致预测准确性下降。
3.2. 预测区间结果
表3显示了每个站点和情景下获得的最佳CWC值(表3),表明TL模型和局部模型估计的PIs在CWC(±10%)方面的稳健性相当(12个站点中的7个)。TL模型在其他三个站点的PIs上窄了10-20%。对于剩下的两个站点(即Hobart和Wayside),只有TL模型达到了名义的80%置信水平。虽然Hobart站点的两个TL LUBE模型都达到了80%置信水平,但只有TL-NF在Wayside站点达到了这一水平。此外,TL-FR模型在满足70%置信水平的同时,获得了更窄的PIs。附表A.5提供了关于PIs的惩罚标准(PICP、MPIW和NMPIW)的更多信息。对于Hobart站点,SC的点预测具有挑战性,TL模型取得了最高的准确性,但从50个模型的平均NSE来看,局部模型的表现更好。考虑到LUBE模型中模型初始化的重要性,初始训练中添加的信息是局部模型和TL模型之间的一个关键差异。尽管局部模型在Wayside的点预测上表现更好,但PIs表明不确定性更高,这也反映在点预测准确性的分布上(图4)。
表3.通过预训练、本地模型以及有无层冻结的迁移学习,对URRB中12个站点的估计SC预测区间进行了CWC值评估,置信水平为80%。
站点 | 预训练 | 本地模型 | TL-NFTL-FRG
--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|--------|
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号