《Water Resources Research》:Applying Transfer Learning for Street-Scale Nuisance Flood Forecasting in Coastal-Urban Environments
编辑推荐:
机器学习(Machine Learning, ML)面临的一个重要挑战是其可迁移性;即,在一组数据上训练的ML模型是否可以应用于第二组数据而无需对模型进行完全重新训练。迁移学习(Transfer Learning, TL)通过将在源域(其训练数据)中学到的知识
机器学习(Machine Learning, ML)面临的一个重要挑战是其可迁移性;即,在一组数据上训练的ML模型是否可以应用于第二组数据而无需对模型进行完全重新训练。迁移学习(Transfer Learning, TL)通过将在源域(其训练数据)中学到的知识转移到目标域(与源域统计不同但相关,模型未训练过的第二组数据)来解决这一挑战。本研究通过探索在一组街道上训练的ML模型是否能有效预测同一城市另一组街道的洪水,来研究TL在街道尺度内涝洪水预报中的应用。研究人员使用长短期记忆(Long Short-Term Memory, LSTM)模型进行TL研究,该模型基于弗吉尼亚州诺福克市易涝街道的数据进行训练。结果表明,完全权重重新训练最为有效,而仅对输出层进行最小限度的重新训练是不够的。当目标数据有限时,TL的优势最为显著,即新水深传感器位置收集的数据通常少于18次洪水事件。当目标数据超过18次洪水事件后,与直接在本地洪水事件上训练ML模型相比,TL的优势逐渐减弱。这些发现有助于城市在实施街道尺度洪水传感系统时,为尚无足够数据记录以训练本地ML模型的新传感位置创建准确的预报。
**论文解读:应用迁移学习进行沿海城市环境街道尺度内涝洪水预报**
**研究背景与问题**
沿海城市环境正面临日益严重的内涝洪水威胁,该洪水由降雨、潮汐共同作用(即雨潮复合洪水)引发,并受海平面上升、城市化及排水基础设施不足等因素加剧。虽然短时内涝洪水破坏性相对较小,但频繁发生会导致街道、道路和社区积水,扰乱交通系统,造成道路封闭、交通延误、基础设施退化,并严重影响日常生活。已有研究表明,在沿海地区,内涝洪水将日益频繁,其累积成本甚至可能超过极端事件。因此,迫切需要实现街道尺度的实时洪水预报,以提供早期预警并减轻潜在影响。机器学习(Machine Learning, ML)模型在低计算成本下展现出优异的洪水预测能力,但训练后的ML模型能否迁移到新位置而不需完全重新训练,仍是一个关键问题。迁移学习(Transfer Learning, TL)通过将源域(已训练数据)的知识传递到目标域(统计不同但相关的新数据)来解决这一限制。然而,现有TL研究多集中于大尺度流域或跨洲际迁移,尚未探索在单一城市内、街道尺度下,从数据丰富的街道向数据稀缺的街道迁移知识以进行内涝洪水预报的应用。本研究旨在填补这一空白,评估TL在沿海城市环境街道尺度内涝洪水预报中的有效性。
**研究内容与意义**
研究人员以美国弗吉尼亚州诺福克市为研究区,选取180条易涝街道,随机分为源域和目标域(互不重叠)。使用高保真物理模型TUFLOW(Two-dimensional Unsteady FLOW)模拟街道水深数据,作为合成传感器数据。基于LSTM神经网络构建预报模型,探索四种不同的TL权重调整策略:仅更新输出层(TL-a)、更新输出层及递归权重U(TL-b)、更新输出层及输入权重W(TL-c)、更新所有权重(TL-d)。通过改变源域街道数量(10%、20%、60%、100%)和目标域训练事件数量(10%、20%、60%、100%),比较TL模型与本地模型(直接从目标域训练)的预报精度。该研究的重要意义在于:证明了TL可在城市内小尺度下沉,实现从数据丰富街道到数据稀缺街道的知识迁移,为智能城市和物联网(IoT)洪水监测系统提供了实用的模型部署策略。论文发表在《Water Resources Research》。
**关键技术方法**
研究人员主要采用以下关键技术方法:(1)物理模型TUFLOW,进行1D/2D耦合模拟,生成街道尺度水深数据作为合成传感器;(2)LSTM神经网络,用于时间序列洪水预报,输入特征包括环境变量(小时降雨量、小时潮汐水位)和地形变量(高程、地形湿度指数TWI、距水源深度DTW),输出未来4小时水深;(3)迁移学习策略,基于权重初始化、冻结与重新训练,实现从源域到目标域的知识迁移;(4)柯尔莫哥洛夫-斯米尔诺夫检验(Kolmogorov–Smirnov test, KS test),用于量化源域与目标域数据分布的差异。样本来源包括诺福克市街道网络、NOAA降雨和潮汐数据、HRSD降雨数据、USGS DEM以及STORM洪水报告。
**研究结果**
**4.1 TL权重调整策略**:通过比较四种TL技术(TL-a至TL-d)在不同源域街道数量(SS)和目标域事件数量(ET)下的性能,发现仅更新输出层(TL-a)表现最差,而全权重重新训练(TL-d)效果最佳,显著提升相关系数、纳什效率系数(NSE),并降低均方根误差(RMSE)和平均绝对误差(MAE)。随着源域街道数量增加,各技术性能均提升,但TL-d始终最优。
**4.2 计算成本**:TL-d训练所需epoch最少,收敛最快,但每epoch训练时间较长;TL-a虽epoch数多,但总训练时间较少(除ET=3时)。本地模型训练时间介于TL-a和TL-d之间。源域数据越多,TL模型初始化越好,收敛更快,训练时间更短。
**4.3 目标域训练事件的影响**:随目标域训练事件从3增至30,TL模型性能持续提升,但相对本地模型的优势逐渐减小。当ET=3时,TL模型(SS=180)的NSE从0.665(无TL)提升至0.856,RMSE从0.070 m降至0.046 m,相对本地模型NSE提升0.191,RMSE降低0.024 m。当ET=18时,优势减弱;ET=30时,TL与本地模型性能几乎持平,无显著改善。这表明TL在目标域数据有限(<18事件)时最为有效,数据充足后优势消失。
**4.4 源域训练街道数量的影响**:源域街道数量越多,TL模型性能越好。例如,ET=3时,SS=18的NSE提升0.087,SS=180时提升0.191。即使仅使用10%源域街道(18条),TL模型仍优于本地模型。但随目标域数据增加,源域数量的影响减弱。
**讨论与结论**
**讨论部分总结**:TL的优势在于将源域学到的洪水动力学(如降雨-径流关系、输入-输出映射)作为初始权重,使目标域模型在数据有限时能快速适应。本地模型需从头学习,数据不足时表现差,但随数据积累性能提升。TL的有效性取决于源域与目标域数据的差异程度:若差异过大,可能导致负迁移;若差异过小,TL无必要。本研究中,KS检验显示源域与目标域在降雨、TWI和水深分布上存在显著差异,但差异程度适中,TL成功。当目标域事件<18时,TL效益显著;超过18事件后,本地模型已能充分学习,TL不再必要。研究还指出,KS统计量虽可量化分布差异,但无法预先设定阈值判断TL是否有效,仍需进一步研究。局限性包括:使用合成传感器数据而非真实观测,采用后报(hindcasting)假设未来降雨潮汐完美已知,以及TL无法处理零标签数据情况。未来可探索基于水文相似性的街道选择、结合物理信息神经网络(PINNs)等。
**研究结论翻译**:本研究调查了TL在沿海城市环境中改进街道尺度内涝洪水预报的应用,重点关注弗吉尼亚州诺福克市的内涝洪水。重要的是,该研究证明了TL在与智能城市和物联网洪水监测系统相关的本地化街道尺度环境中的适用性和益处。主要目标是实现因新水深传感器部署而不同但相邻街道之间的洪水预报。为此,在源域街道上训练基础LSTM模型,并使用不同的TL权重调整策略将其迁移到目标域街道。这促进了从一个街道到另一个街道的预获取知识迁移,使得无需长期历史数据即可进行洪水预报。该研究强调了TL在小尺度城市水文学中的相关性,尤其是在现有文献中未探索的街道尺度洪水预报中。所提出的方法旨在为缺乏历史数据的街道提供准确的洪水预报,从而支持内涝事件中的实时交通决策。研究显示,TL提高了沿海城市环境中街道尺度内涝洪水预报的准确性。具体发现如下:
- 全权重重新训练(TL-d)最有效,仅输出层最小重新训练(TL-a)无效。全权重重新训练为迁移模型提供了更好的初始状态,导致更快收敛和降低计算成本,相比本地模型。
- 迁移模型在精度上通常优于本地模型。TL的优势在目标域数据有限时最为显著(ET=3时,平均ΔNSE=0.191,平均ΔRMSE=0.024 m),但该优势随目标域数据增加而逐渐消失(ET=30时,平均ΔNSE≈0,平均ΔRMSE≈0 m)。这是因为迁移模型已从源域学习基本洪水动力学/水文关系及输入-输出响应,在目标域数据有限时表现更好;而本地模型从零学习,初期数据不足时表现差,但随本地数据积累逐渐改善。
- 即使小比例的源域数据集也有益于TL(ET=3且SS=18时,平均ΔNSE=0.087,平均ΔRMSE=0.010 m),但最大改进是在模型在全部源域数据上预训练时实现的(ET=3且SS=180时,平均ΔNSE=0.191,平均ΔRMSE=0.024 m)。源域数据越多,预训练模型越鲁棒,提供更好的初始化,最终提升目标域性能。这种源域数据的影响在目标域数据很少时尤为显著,但目标域数据充足时,源域大小的影响消失。
- 总体而言,只要目标域尚未获得足够的本地知识,TL就有帮助;一旦获取足够本地知识,TL在性能指标上不再有益。对于本研究区域,当目标域事件少于18个时,实现了有效的知识迁移。当目标域数据超过18次洪水事件后,TL的优势相对于本地模型减弱。这些发现与TL的理论基础一致,并与近期水文学中的TL研究相符。虽然本研究使用LSTM作为ML模型,未来研究可探索其他ML算法结合TL,包括物理引导方法以确保在缺乏标签数据时预测物理一致。此外,当街道尺度水深传感器数据可用时,可在真实世界中验证本研究中使用的TL方法。