综述:城市水网络中监督式机器学习实践评估:方法透明度、可复现性与报告规范性的批判性综述

《Water Research X》:Assessing supervised machine learning practice in urban water networks: A critical review of methodological transparency, reproducibility and reporting

【字体: 大 中 小 】 时间:2026年06月15日 来源:Water Research X 8.2

编辑推荐:

  近年来,机器学习(Machine Learning, ML)在城市水基础设施(Urban Water Infrastructure, UWI)研究中的优势已得到充分验证,其应用场景覆盖广泛。本综述通过批判性评估近期发表的100余篇文献,系统审视当前UWI领域M

  
近年来,机器学习(Machine Learning, ML)在城市水基础设施(Urban Water Infrastructure, UWI)研究中的优势已得到充分验证,其应用场景覆盖广泛。本综述通过批判性评估近期发表的100余篇文献,系统审视当前UWI领域ML实施的质量,重点关注开发全流程中的共性陷阱。多数被综述文献高度重视性能基准测试,但对ML方法实施与部署的关键环节报告不足。仅约三分之一的文献记录了特征缩放(feature scaling)或自动超参数优化(hyperparameter optimisation)等核心任务,而这些任务对模型性能与泛化能力至关重要。此外,不足25%的文献报告了可解释性(explainability)与不确定性量化(uncertainty quantification)技术,导致所报告的性能提升难以解释或转化为实际运营应用。同时,标准化文档记录的缺失使得方法、工作流程与可复现所需步骤的相关信息提取困难。上述问题共同削弱了研究结果的可复现性,降低了不同研究间的可比性,也削弱了利益相关方对所开发方法的信任。这种信任缺失尤为关键,因为对ML驱动决策的信任是实现研究成果向工程实践成功转化的核心前提。为应对这些问题,本研究提出一套方法与报告规范清单,用于指导UWI领域ML应用从开发到集成的全流程设计,并标注常见陷阱。该综述与配套清单可为开发者、技术人员及运维人员提供支撑,助力提升UWI领域ML实施的可复现性意识。
  1. 1.
    引言
    城市水基础设施(Urban Water Infrastructure, UWI)包含城镇排水管网(Urban Drainage Networks, UDN)与配水管网(Water Distribution Networks, WDN),是国家关键基础设施的重要组成部分,承担污水环境友好处置、暴雨径流安全排放以及足量优质饮用水可靠供应的功能。UWI持续面临人口增长、人口结构变化与气候变化带来的挑战。近年来,数字化成为运营商应对上述挑战的动态措施,物联网(Internet of Things)技术进一步提升了高分辨率监测数据的可用性,数据采集分析、远程控制组件的应用日益广泛。机器学习(Machine Learning, ML)作为人工智能(Artificial Intelligence, AI)的子集,已成为管理海量数据、支撑决策制定、提升UWI性能的重要工具,其变量间复杂关系挖掘能力已在各类应用中得到验证。尽管ML潜力显著,但通用综述及其他领域针对性分析均指出,ML实施中普遍存在错误与认知偏差,降低了结果的可信度。由于UWI领域的ML应用多由领域专家开发,现有研究缺乏针对该领域的系统性讨论。虽有研究识别出UWI领域对数据预处理、模型优化等预建模流程关注不足,并提出改进数据完整性报告的检查清单,但其分析局限于单一期刊且聚焦至超参数优化阶段。本综述则采用跨期刊视角,对从数据预处理到模型应用的完整ML开发流程进行批判性评估,并基于识别出的短板提出通用性校正清单,不局限于应用与性能增益,而是聚焦于实施过程的可靠性、透明度与可复现性。
  2. 2.
    监督式机器学习通用工作流
    ML可分为无监督学习、监督式学习与强化学习三类,本综述聚焦监督式ML(Supervised ML)。监督式ML基于标注数据训练,可通过损失函数数值计算实现模型训练与评估,在UWI管理中应用最广,涵盖实时运行状态预测、异常检测、代理模型构建及资产修复管理等场景。通用工作流分为四个阶段:项目启动阶段明确ML应用目标与任务类型(分类或回归),并从相关来源采集所需数据;数据预处理阶段将原始数据转换为ML模型输入特征,包括按训练集、验证集、测试集划分数据,针对UWI数据普遍存在的噪声与缺失值开展异常值检测与缺失值处理,按需开展特征选择或特征工程,最后对尺度敏感模型执行特征缩放以保证特征值范围一致;模型开发阶段使用预处理后的数据集训练不同ML模型并筛选最优模型,包括超参数优化、采用合适验证策略与多指标评估性能,通过不同模型对比确定最佳方案;模型应用阶段将选定的ML模型部署至运营与决策支持场景,集成可解释性技术以理解决策逻辑,应用不确定性量化技术应对数据与模型层面的不确定性,最终完整记录全流程(含超参数)并通过共享数据与代码保障可复现性与透明度。
  3. 3.
    综述方法学
    本综述聚焦UWI领域监督式ML,优先选取高被引文献以评估主流方法实践,因此近期或低被引高质量文献可能存在代表性不足。综述目标并非提供UWI领域ML应用的最新全景,而是评估其报告的实施质量及对可信度与实际部署的影响。文献检索与筛选遵循PRISMA 2020指南,于2025年6月与2026年4月在Web of Science开展结构化检索,检索词覆盖ML核心方法与水网络类型,检索时段为2017年至2025年,最终纳入34篇UDN文献与83篇WDN文献,共117篇。数据分析框架按工作流四阶段提取信息:项目启动阶段记录网络类型、应用目的、ML任务与数据类型来源;数据预处理阶段记录样本量、数据划分方式、异常值与缺失值处理方法、特征选择与缩放方法(仅对尺度敏感模型评估);模型开发阶段记录超参数优化方法、多指标性能评估、模型对比与最终选型;模型应用阶段记录可解释性与不确定性量化技术应用情况,以及代码与数据的公开可获得性。同时,综述筛查数据泄漏问题,将其分为数据诱导型泄漏、预处理相关型泄漏与划分相关型泄漏三类,仅当工作流描述存在明确证据时予以记录。
  4. 4.
    共性陷阱与最佳实践
    4.1 项目启动
    UDN的ML应用以洪水预测、状态预测与管网缺陷分类为主,WDN则以泄漏检测、需水量预测与状态预测为核心。任务类型上,UDN中10篇为分类问题、24篇为回归问题,WDN中44篇为分类、39篇为回归。数据源方面,多数研究采用真实世界数据,模拟与试验台数据多用于泄漏、网络攻击或洪水等影响运营的小概率事件研究。
4.2 数据预处理
监督式ML模型性能高度依赖数据质量与数量,但核心数据处理步骤的报告存在系统性缺失。数据集划分方面,推荐采用训练集、验证集、测试集(Training, Validation, Test, TVT)划分或带独立测试集的k折交叉验证(k-fold Cross-Validation, CV+T),但第二大常用方案仅为训练集-测试集(Training, Test, TT)划分,缺失验证集导致过拟合或欠拟合风险上升。测试集占比推荐为总样本的10%–40%,71%的UDN研究与84%的WDN研究满足该要求。异常值处理仅在31%的WDN研究与10%的UDN研究中被报告,多采用箱线图、z-score等统计方法,需注意异常值可能对应峰值需水量、管网冲洗等真实系统行为,不应一概删除。缺失值管理在35%的WDN研究与20%的UDN研究中被报告,分为删除法与插补法,插补法包含均值/中位数填充、插值、卡尔曼滤波与k近邻等ML方法,需根据数据缺口长度选择。特征选择在23%的WDN研究与29%的UDN研究中被报告,以过滤法最为常用,其次为包裹法与嵌入法,10%的研究采用混合方法。特征缩放在尺度敏感模型中的报告率仅为42%(WDN)与50%(UDN),推荐采用归一化(min-max scaling)或标准化(z-score normalisation),前者对异常值敏感,后者鲁棒性更强。训练样本量与特征数的比值推荐不低于10(简单任务)或100(复杂任务),7篇纳入研究低于最低阈值。数据泄漏在约15%的文献中被确认,其中13篇为预处理相关泄漏,7篇为时间序列划分相关泄漏,反映出领域内的结构性方法缺陷。
4.3 模型开发
超参数优化仅41%的UDN研究与41%的WDN研究采用自动优化方法,若计入试错法比例升至56%(UDN)与54%(WDN),网格搜索是最常用方法,随机搜索、遗传算法与贝叶斯优化适用于高复杂度场景。75%的研究报告至少2项性能指标并对比至少2种ML模型,分类任务最常用准确率(Accuracy)、精确率(Precision)、召回率(Recall)与F1分数,需注意不平衡数据集下准确率的局限性;回归任务最常用均方根误差(Root Mean Squared Error, RMSE)、平均绝对误差(Mean Absolute Error, MAE)、决定系数(Coefficient of Determination, R2)与平均绝对百分比误差(Mean Absolute Percentage Error, MAPE),其中R2反映方差解释比例而非绝对预测误差,纳什效率系数(Nash-Sutcliffe Efficiency, NSE)对数据变异性敏感,跨案例对比需谨慎。仅24%的UDN研究与22%的WDN研究报告训练时长等计算需求信息。模型架构以神经网络为主(约65%),卷积神经网络(Convolutional Neural Networks, CNN)应用最多,其次为单隐层人工神经网络(Artificial Neural Networks, ANN)、长短期记忆网络(Long Short-Term Memory, LSTM)与多层感知机(Multilayer Perceptron, MLP);树基模型占41%(UDN)与33%(WDN),以随机森林(Random Forest, RF)与XGBoost为主;支持向量机(Support Vector Machines, SVM)与逻辑回归(Logistic Regression, Log R.)占29%(UDN)与38%(WDN)。混合架构应用较多,但常缺乏复杂度增加的充分依据,可能通过简化模型的超参数优化即可达到同等性能,反而损害可解释性与可复现性。
4.4 模型应用
模型可解释性仅在26%的UDN研究与14%的WDN研究中被报告,特征相关性解释最为常用,SHapley Additive exPlanations(SHAP)与置换重要性(Permutation Importance)占比超75%,可视化解释(偏依赖图Partial Dependence Plots, PDP、类激活映射Class Activation Mapping, CAM)占比分别为44%(UDN)与33%(WDN)。需注意事后可解释性方法可能存在解释偏差,建议结合多种方法交叉验证。不确定性量化技术在21%的UDN研究与13%的WDN研究中被报告,集成模型(重复训练或多模型融合)占71%(UDN)与82%(WDN),其次为分位数损失等确定性方法、贝叶斯神经网络与保形预测(Conformal Prediction)。代码与数据共享严重不足,仅11%的UDN研究与2%的WDN研究提供可访问代码,数据公开率为23%(UDN)与14%(WDN),部分公开链接已失效,凸显永久存储库的必要性。
  1. 5.
    未来挑战与推荐方法清单
    5.1 未来挑战
    当前UWI领域监督式ML实施存在两大核心问题:一是ML方法的正确实施与实际适用性报告不足,二是标准化文档缺失阻碍信息提取与可复现性。二者共同削弱性能可信度,降低研究向实践转化的可能性。运营商对ML应用的信任不足是落地的主要障碍,而UWI故障可能导致城市人口与环境的负面影响,因此欧盟《人工智能法案》已将配水管网相关ML应用列为高风险系统,要求具备透明度与技术鲁棒性。同时,开源工具与生成式AI降低了ML开发门槛,但也可能导致传统水利工程师的ML技能储备不足,且现有方法缺陷可能被生成式AI输出继承,进一步凸显标准化实施的必要性。
5.2 方法与报告规范清单
清单覆盖全流程:数据收集完成后首先按数据类型划分数据集,时间序列数据采用块划分避免泄漏,测试集占比推荐10%–40%;所有预处理步骤仅在训练集上定义与拟合,再迁移至验证集与测试集,包含异常值处理、缺失值管理、特征缩放与特征选择;预处理后训练样本量与特征数比值宜≥100,不满足则采用CV+T划分;随后开展超参数优化,基于验证集避免过拟合,在测试集上采用多指标评估,至少对比2种ML模型,并引入线性回归、决策树等基线模型以验证性能增益;选定最优模型后集成可解释性与不确定性量化技术,最终完整记录全流程并共享数据与代码。清单同时提供带交叉验证的替代方案,适配小样本场景。
5.3 进一步建议与未来研究方向
未来需深化领域知识与ML流程的融合(知识融合),在特征工程中嵌入水力物理特征,在损失函数中加入质量能量守恒约束,开发贴合运营目标的评估指标;推进可解释性技术向因果推理延伸,识别特征与目标变量的因果关系;填补ML模型长期运维的研究空白,适配SCADA系统以实现持续性能监测、重训练与验证,保障UWI场景下ML应用的长期有效性。
  1. 6.
    结论
    本综述系统评估了2018–2025年117篇高被引UWI领域ML文献的全流程实施质量,识别出以下核心结论:多数文献高度重视性能基准测试,多指标与多模型对比已成常态;但对ML方法正确实施与实际适用性的报告存在明显缺口,仅约三分之一文献记录特征选择、特征缩放、自动超参数优化等核心任务,可解释性与不确定性量化技术报告率更低;标准化文档缺失、数据与代码共享极度有限,严重阻碍可复现性;约15%的文献存在明确的数据泄漏问题,导致性能虚高。上述发现表明,即使高影响力文献也存在方法报告缺陷,亟需更可验证、可复现与透明的ML实施。配套提出的全流程方法与报告规范清单可为开发者、技术人员与运维人员提供实操指引,助力提升UWI领域ML应用的工程质量与信任度。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号