基于重构参考标签的机器学习分类城市污水处理厂运行工况:一项基准研究

《Frontiers in Environmental Science》:Machine learning-based classification of operating regimes in an urban wastewater treatment plant: a benchmark on reconstructed reference labels

【字体: 大 中 小 】 时间:2026年09月17日 来源:Frontiers in Environmental Science 4.4

编辑推荐:

  可靠识别废水处理厂(WWTP)的运行状态对于卫生环境工程至关重要,因为未检测到的工艺偏差会转化为出水不达标和公共卫生风险。本研究以公开可用的UCI水处理厂数据集(连续527天在四个控制点测得的38项理化指标)为数据,对监督式机器学习分类一个以生活污水为主的全尺

  
可靠识别废水处理厂(WWTP)的运行状态对于卫生环境工程至关重要,因为未检测到的工艺偏差会转化为出水不达标和公共卫生风险。本研究以公开可用的UCI水处理厂数据集(连续527天在四个控制点测得的38项理化指标)为数据,对监督式机器学习分类一个以生活污水为主的全尺寸城市WWTP的每日运行工况进行了基准测试。目标变量从源文档记录的日期列表中重构,该列表将每条记录分配给由概念聚类产生的十三个类别之一;重构过程分配了527条中的527条记录,并复现了所声明的类别计数。按工程含义分组,数据包含三种主要的正常运行工况(分别为328天、116天和69天)和仅14天异常日,因此该任务被设定为工况分类而非故障检测。在三种预测变量集上,通过嵌套交叉验证、带置信区间的重复分层交叉验证以及分块时间顺序验证,对四种分类器进行了比较。采用径向基函数(RBF)核的支持向量机和随机森林在类平衡指标上表现最强,并且在考虑依赖性的修正重抽样检验下,两者在统计上无法区分(宏平均F1分别为0.782和0.758;修正p≈0.09–0.41)。去除去除效率变量后,性能基本保持不变(宏平均F1为0.786);由于每个变量都参与了聚类,该任务被定义为针对专家监督的参考标签的分类,而非对独立过程结构的恢复。在时间顺序验证下,宏平均F1降至0.536;尽管上游配置在随机验证下保持了0.749,但其时间顺序性能较低,因此预测性作用被视为前瞻性研究的假设,而非已证实的早期预警能力。置换重要性分析识别出初沉池入口处的挥发性悬浮固体是该过程中最一致的预测变量,尽管其他变量在个别折中也有影响。研究结果支持机器学习作为概念验证的监测层,同时界定了单一历史工厂记录能够证明的范围。
城市污水处理厂(WWTP)是复杂的生物化学系统,其性能受水力负荷、有机与固体负荷及生物活性的非线性时变交互影响,传统工艺控制与监测难以充分利用现代传感器产生的高频数据。机器学习(ML)虽已广泛应用于污水处理全过程,但多数研究聚焦于连续出水变量的回归预测,而离散运行工况——即工厂实际运行所处的定性状态——正是运行人员决策所依据的对象,却缺乏系统性基准测试。此外,已尝试的分类研究很少审查类标签的来源与可靠性,且验证设计常忽略日尺度数据的时序性和非平稳性,导致报告精度可能无法反映真实前瞻性能。针对这三个空白,研究人员采用公开可用的UCI水处理厂数据集(Poch, 1993;1990–1991年,527天,含四个控制点38项理化指标),程序化重构了专家监督概念聚类形成的每日运行情景标签,审计了重构过程,并在三种互补的重采样方案下对四种分类器进行基准测试。结果表明,采用径向基函数(RBF)核的支持向量机(SVM)与随机森林(RF)在类平衡指标上最强,且经依赖感知修正检验后统计上不可区分;去除去除效率变量后性能几乎不变,说明模型并非仅编码标签算术;但分块时间顺序验证下性能显著下降,表明随机验证存在乐观偏差。研究将任务明确定义为“针对专家监督参考标签的分类”,而非独立过程结构或故障检测的恢复,为ML作为WWTP监测层的概念验证提供了方法学框架。

研究人员使用的关键技术方法包括:样本队列为公开的UCI Water Treatment Plant数据集,含527条日记录,目标标签通过解析源文档日期列表重构,重构结果与声明类别计数完全一致。预处理仅在训练折内进行中位数插补和标准化以避免数据泄漏。构建了三组预测变量集:全部38个变量(FULL)、去除所有去除效率变量的29个变量(NO-RD)、仅含进水和初沉池上游的15个变量(UPSTREAM)。分类器包括k近邻(kNN)、决策树(DT)、RBF核SVM和随机森林,超参数在嵌套交叉验证内层网格搜索选择。评估采用嵌套交叉验证、重复分层交叉验证(95%置信区间)和分块时间顺序(扩展窗口)验证,报告准确率、平衡准确率、宏平均F1和Cohen's κ。变量重要性采用留出折上的置换重要性。

3.1 探索性数据结构(主成分分析):主成分分析显示前两个主成分分别解释19.3%和12.9%的方差,前五个累计达58.8%,表明运行变异性是多维的;三类工况在二维投影中重叠,说明线性分离不足,需要非线性分类器。

3.2 分类器比较与统计不确定性:嵌套交叉验证和重复分层验证均显示RBF-SVM与随机森林领先,但两种方案对最优模型的判断不一致。在重复分层方案中,RBF-SVM的平衡准确率与宏平均F1略高于随机森林,但经Nadeau和Bengio(2003)修正的重抽样t检验后,差异不显著(平衡准确率修正t=1.72,p≈0.09;宏平均F1修正t=0.83,p≈0.41),因此两者被视作统计上不可区分,仅基于略高的点估计保留RBF-SVM为参考模型。

3.2.1 两个领先模型的比较:通过依赖感知的修正检验,纠正了常规配对t检验(p<0.001)的保守性不足,表明表面差异可能来自样本重用,而非真实性能差异。

3.3 标签与预测变量之间的循环性:去除9个去除效率变量后,RBF-SVM的宏平均F1从0.782变为0.786,随机森林从0.758变为0.756,置信区间重叠,性能几乎不变。这证明去除效率变量并非循环性的唯一载体,但由于所有变量均参与了聚类,不能完全排除循环性,结果仅表明模型在参考标签算术之外使用了信息。

3.4 时间依赖与前瞻性能:扩展窗口时间顺序验证中,RBF-SVM的宏平均F1从0.782降至0.536,随机森林从0.758降至0.517;决策树降幅较小并成为最强(0.576),上游配置的决策树为最佳(0.611)。各验证块性能波动大(RBF-SVM块级宏平均F1从0.31到0.61),反映了类分布的非平稳性。固定超参数与窗口内重选超参数的结果基本一致,确认估计是前瞻性的。

3.5 各类别行为与稀有事件检测:混淆矩阵显示正常工况召回率0.924、F10.920,高于均值性能工况(F10.729)和低进水工况(F10.704),多数错误落入多数类。将14个异常日作为单一稀有类时,随机森林以完美精确率召回4/14,总体准确率0.981但无信息量,表明该数据源无法支撑有效的故障检测器。

3.6 变量重要性:置换重要性显示初沉池入口挥发性悬浮固体(SSV-P)是最一致的预测变量(宏平均F1平均下降0.071,在五个折中三次排第一),但排序在折间不稳定,如二次沉降池入口化学需氧量(DQO-D)排名在1至37之间波动;其他变量在个别折中也有影响。该结果属于模型和方法特定,仅提示可检验的工程假设,不能作为通用结论。

讨论部分指出,RBF-SVM与随机森林的优劣无法在统计上区分,且时间顺序验证下模型排序反转,说明选择模型时不能忽略数据的时序性。检测与预测必须区分:若预测变量包含最终出水信息,模型执行的是回顾性分类而非早期预警;仅用上游变量的配置在随机验证下保持0.749的宏平均F1,但时间顺序验证下较低,且未进行提前时间和误报率分析,因此不能声称预警能力。置换重要性结果虽有工程合理性,但仅作为需要传感器可行性、可靠性、维护、不确定性和成本专门研究的假设。局限性包括:标签源于对同一批变量的聚类而非独立记录;数据来自1990–1991年单一工厂,可迁移性受限;缺少氮、磷、浊度测定;异常日仅14天。未来方向包括外部前瞻性验证、纳入显式时间特征与在线重校准、应用可解释人工智能(XAI)分析、测试传感器优先级假设,以及构建能充分采样异常工况的数据集。

研究结论部分翻译:本研究以公开数据集的文档重构目标变量,对全规模城市污水处理厂的运行工况分类进行了四种监督式分类器的基准测试。RBF支持向量机和随机森林在类平衡性能上最佳,且在依赖感知检验下统计上无差异。去除去除效率变量后性能不变,表明这些变量并非参考标签的唯一来源;在全部变量均参与聚类的限制下,该研究被定义为针对专家监督参考标签的分类,而非恢复独立过程结构。分块时间顺序验证下性能显著下降,这是对前瞻行为的诚实估计,而仅限上游变量的配置保留了大部分准确率,并在这一单一工厂和时期对时间位移最稳健。初沉池入口挥发性悬浮固体是所用置换过程中最一致的预测变量,这一发现是模型特定的而非普遍结论。稀有事件任务表明14天异常日无法支撑有效的故障检测器。这些发现支持机器学习作为卫生环境基础设施的概念验证监测层,并精确界定了单一历史工厂记录能证明和不能证明的内容。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号