基于图信号处理增强可解释人工智能在水分配系统中的应用研究

针对水分配系统(WDS)中人工智能(AI)模型缺乏透明度的问题，研究人员提出了一种将可解释AI(XAI)与图信号处理(GSP)相结合的新框架。该研究通过将多层感知器(MLP)建模为动态加权有向图，利用特征中心性(eigencentrality)等图度量分析水力状态，显著提升了模型的可解释性。与SHAP和IG等先进XAI方法相比，该框架处理速度快70倍以上，支持数字孪生实时应用，并为传感器优先维护策略提供依据，对可持续城市水管理具有重要意义。

　　

随着城市化进程加速，水分配系统(WDS)作为关键基础设施面临着实时监测、运行效率和复杂水力条件下系统韧性等多重挑战。虽然人工智能技术为解决这些问题提供了新思路，但"黑箱"特性导致的模型不可解释性严重制约了其在实践中的应用。特别是在涉及公共安全和资源管理的领域，决策者需要清楚了解AI模型的决策依据。欧盟AI法案等法规更明确要求高风险AI应用必须具备可解释性，这使得开发透明、可靠的AI工具成为当务之急。

针对这一挑战，研究人员开展了一项创新性研究，提出将图信号处理(GSP)框架与可解释人工智能(XAI)相结合的新方法。该研究以多层感知器(MLP)为基础模型，通过将其重构为动态加权有向图，利用图论中的特征中心性等指标来分析模型决策过程。这种方法不仅能识别影响预测的关键因素，还能从全局和局部两个层面解释系统行为。研究成果发表在《Water Research》上，为城市水管理提供了可扩展、透明的AI工具。

研究采用了几个关键技术方法：首先将训练好的MLP神经网络表示为有向图结构，节点对应神经元，边代表加权连接；其次通过反转图方向追踪信息流动路径；然后应用特征中心性和PageRank两种图中心性度量评估节点重要性；最后与SHAP值和积分梯度(IG)等传统XAI方法进行对比验证。研究使用了Fossolo和Modena两个实际水网作为案例，基于合成数据评估方法性能。

研究结果部分，"Graph signal processing as a framework for XAI"表明，将MLP表示为有向图后，特征中心性能够有效识别网络中的关键节点。在Fossolo网络中，连接水库的主管道F58被正确识别为最重要特征，这与水力学的预期一致。"Case studies and applications"部分显示，在Modena网络中，特征中心性将主要供水管F335列为最具影响力输入，而SHAP值则更强调F331的重要性。这种差异反映了不同方法评估特征重要性的角度不同：特征中心性考虑全局网络结构，而SHAP关注局部边际贡献。

"Global importance and influence"研究发现，流量传感器在日间高需求时段对模型预测影响更大，而压力传感器在夜间低需求时段更为重要。这种动态变化说明该方法能够捕捉系统的时变特性。"Local importance and influence"部分通过对特定节点(如N2)和管道(如F295)的分析，证实了方法在局部解释方面的有效性。最后的传感器故障模拟表明，特征中心性识别出的关键传感器(如F335和P264)一旦失效，会导致模型性能显著下降(压力MAE达67.5m)，验证了该方法的实用价值。

讨论部分指出，与SHAP和IG相比，基于GSP的方法在保持解释力的同时，计算效率提高了70倍以上，这对实时应用至关重要。研究也存在一些局限，如使用合成数据可能无法完全反映实际系统的复杂性，以及输出变量间物理耦合关系未显式建模等。这些发现为后续研究指明了方向。

该研究的创新点在于首次将GSP系统地应用于WDS的XAI问题，通过图论工具揭示了AI模型与水力系统之间的深层联系。从实践角度看，该方法不仅提高了AI模型的透明度，其高效性还使之能够集成到数字孪生平台中，支持实时决策。对水务部门而言，基于特征重要性的传感器优先级排序可以优化维护资源分配，提升系统韧性。这项研究为可持续城市水管理提供了重要技术支撑，同时也为其他基础设施领域的AI应用提供了可借鉴的方法论框架。