基于Transformer技术的多目标水库群运行规则提取方法：以某小型河流流域为案例研究

《Journal of Hydrology》：Transformer-enhanced extraction of operating rules for multi-objective reservoir groups: a min river basin case study

　　孟婷燕|邵文义|黄伟斌|秦光华|朱艳梅|马光文
四川大学水资源与水电学院，成都610065，中国

**摘要**
有效的流域尺度水资源管理面临着日益增加的复杂性，这是由于多水库系统的高维性、非线性和强耦合特性所致。现有的提取水库运行规则的方法往往难以准确捕捉这些复杂的响应关系。为了解决这一挑战，本研究引入了一种三重增强的Transformer模型，该模型结合了“特征筛选-约束整合-参数优化”机制，以实现高精度和高效的规则提取。该模型利用多目标优化模型得出的解集作为输入样本，首先通过ReliefF-mRMR混合框架评估特征的重要性并进行筛选；其次，利用Transformer模型的多头注意力机制捕捉复杂的水库间反馈动态；将运行水位约束纳入到具有约束意识的损失函数中以确保输出的可行性，并采用遗传算法（GA）进行超参数优化。然后，将所提出的模型与使用时间卷积网络（TCN）、长短期记忆（LSTM）和基准Transformer的调度规则提取模型进行对比测试。结果表明：（1）在相同的筛选输入变量和相同的约束处理条件下，所提出的模型平均模拟精度至少提高了4.1%，同时表现出更高的预测稳定性；（2）具有约束意识的损失函数有效降低了生成不可行解的可能性，提高了合格率12.5%；（3）与使用完整特征集的模型相比，特征筛选模型可以将计算时间减少12.3%，同时保持基本的准确性一致性。

**引言**
全球气候模式的最新变化加剧了水资源供应与存储能力之间的时间和空间不匹配，这使得多水库系统的运行变得更加复杂，并对依赖水电作为主要能源的电力系统的可靠性构成了重大挑战（Sundar等人，2023；Zhou等人，2023；Hu等人，2024）。理解水库系统的运行规则对于确保水资源、能源和生态安全至关重要（Wang等人，2020；Dimanchev等人，2021；Li等人，2024b）。水库运行方法通常分为显式随机优化（ESO）和隐式随机优化（ISO）。ESO方法直接对不确定性进行建模和求解，明确考虑了各种随机因素对水库调度过程的影响。例如，Mousavi等人（2004）引入了一种基于模糊状态的随机动态规划模型，并将其应用于Zayandeh-Rud河流-水库系统；van Ackooij等人（2014）提出了一种迭代算法，用于在联合机会约束编程框架中解决具有流量不确定性的级联水库优化问题。然而，由于ESO方法的高计算复杂性，特别是在多阶段和高维场景中，其实际应用常常受到限制。相比之下，隐式随机优化（ISO）通过将不确定性特征隐式地纳入运行规则建模中，提供了一种有效的替代方案。调度曲线是ISO中最直观和常用的方法之一。例如，Liu等人（2011）通过动态规划推导出了青江级联水库的确定性运行曲线。回归技术也被广泛应用于水库运行规则的制定。Celeste和Billib（2009）比较了多种回归方法、二维表面建模和神经模糊策略在巴西东北部一个水库中的隐式随机建模中的应用；同样，Zhang等人（2015）评估了分段线性回归和最小二乘支持向量机等方法在中国白塞水库运行规则制定中的有效性；Liu等人（2014）提出使用线性回归和贝叶斯模拟来解决水库运行规则中的参数不确定性；Yang等人（2018）采用线性拟合来推导龙羊峡水库的运行规则。

岷江流域以广泛的水资源开发为特征，水库承担着供水、发电、生态保护和通航等多重且常常相互竞争的目标。传统的建立运行规则的方法受到特定功能形式表示能力的限制，无法有效描述水库系统协调运行中固有的高维非线性和强耦合特性（Wang等人，2018）。此外，级联水库系统之间的水力耦合和空间相关性进一步复杂化了调度规则。因此，在智能水资源管理领域迫切需要开发创新的方法来提取考虑水库网络复杂运行特性并有效建模其复杂空间耦合机制的水库运行规则。

人工智能（AI）技术的快速发展为优化多水库系统调度引入了新的方法。神经网络（NN）（Coerver等人，2018）、支持向量机（SVM）（Ji等人，2014）和梯度提升树（GBT）（Dong等人，2023）等模型在捕捉多源水库运行决策信息中状态变量之间的复杂非线性关系方面表现出强大的能力。例如，Mohan和Ramsundram（2016）应用SVM模型从历史水库运行数据中提取运行规则；然而，模型参数是经验性确定的，引入了较高的主观性。Zhang等人（2018）比较了人工神经网络（ANN）、SVM和长短期记忆（LSTM）网络在提取水库运行规则方面的性能，而Liu等人（2019）提出了一种贝叶斯深度学习方法来捕捉多重不确定性下的水库运行模式。Feng等人（2023）结合模糊聚类方法识别典型运行场景，并采用了一种新颖的双支持向量回归（TSVR）模型进行规则提取。尽管取得了这些进展，但大多数研究仍集中在单水库系统上，忽略了流域内上游和下游水库之间的复杂水力-电力耦合动态，这限制了这些方法在级联系统中的适用性。Feng等人（2019）应用极端学习机（ELM）确定水库运行规则，并结合粒子群优化（PSO）进行参数调整，并在中国两个水库上验证了该方法；然而，PSO算法容易过早收敛，可能影响模型性能。Hu等人（2023）采用卷积神经网络（CNN）支持水库运行决策，并使用鲸鱼优化算法（WOA）优化参数，实现了高模拟精度；然而，CNN通过局部卷积核提取特征交互，其感受野有限，获取全局信息的效率较低。

总之，现有的数据驱动方法在水库系统研究中明显优于传统的基于规则或回归的方法，提供了更大的灵活性和从高维数据中学习非线性关系的能力。然而，大多数现有算法仍然将水库视为相对独立的单元，忽略了空间交互和反馈效应。

Transformer是一种基于编码器-解码器架构的神经序列模型（Vaswani等人，2017），由于其多头自注意力机制，在捕捉时空依赖性和建模复杂特征交互方面表现出强大的能力。因此，其在水文和水系统建模中的应用迅速增加，特别是在径流预测（Yin等人，2022；Castangia等人，2023；Guo等人，2023；Fang等人，2024；Li等人，2024a）和水库运行任务（Zhang等人，2024；Wu等人，2024；Liu等人，2024）中尤为突出。然而，现有研究主要集中在具有足够可用长序列数据的场景中，而在大型级联水库系统中，由于启用的时间不连续性和数据稀缺（如分期启用或记录稀疏），这种情况常常受到挑战。此外，任何水库的运行决策都是由多个水库的流入量、历史水位和需求共同决定的，这构成了一个强耦合的非局部依赖结构。重要的是，自注意力不仅可以被视为时间依赖性学习器，还可以被视为能够建模任意实体或位置之间关系的非局部交互操作符（Basly等人，2023；Meng等人，2024）。在典型的水库群调度受限样本条件下，通过自注意力机制强调跨水库和跨变量的交互是有效的建模路径。

直接应用Transformer进行水库运行规则提取面临几个挑战。首先，该模型计算复杂度较高，对局部特征模式的敏感性有限（Gu等人，2025）；高维输入特征可能阻碍有效建模，而无关或弱相关的特征可能会降低模型的泛化能力（Zhou等人，2021；Zhao等人，2022）。因此，通过有效的特征选择构建系统状态的紧凑且信息丰富的表示至关重要。现有方法通常分为过滤器、包装器和嵌入式方法。基于过滤器的方法独立于学习模型评估特征相关性，并且计算效率高，适合作为具有高维候选预测因子的水文模型的预处理步骤。Ren等人（2020）系统地比较了多种过滤方法用于径流预测，并证明适当的特征筛选可以显著提高模型的鲁棒性和准确性。类似地，最近的研究采用了基于相关性和互信息的标准来识别径流和干旱建模中的信息丰富预测因子（Zhu等人，2025；Bonetti等人，2026）。相比之下，包装器和嵌入式方法将特征选择纳入建模过程，可以更好地捕捉特征交互，但它们通常计算成本较高，并且高度依赖于特定的学习算法，这限制了它们在复杂多水库系统中的适用性。Ren等人（2021）表明，将启发式搜索算法与机器学习模型结合并不一定能保证性能提升，突出了在实际约束下选择方法的重要性。除了传统的特征选择之外，还越来越多地采用解释性导向的技术，如SHAP和排列特征重要性，来分析特征贡献并提高水文模型的透明度（Li等人，2021；Yue等人，2025）。然而，这些方法主要侧重于事后解释，并不显式构建紧凑的输入子集以进行高效模型训练。在强耦合的多水库水电运行背景下，有效的特征选择应保留信息丰富的预测因子，同时减少冗余和计算负担。因此，在模型训练之前，模型独立的策略特别具有吸引力。

其次，像大多数数据驱动模型一样，Transformer缺乏内置的物理约束整合机制，这可能导致生成的规则偏离实际水库运行原则甚至违反工程安全限制。最近的研究开始将物理知识与黑盒模型结合以指导训练。例如，He等人（2024）将运行可行性约束纳入基于LSTM的框架中，用于单水库规则提取，提高了学习轨迹与实际运行要求的一致性。然而，他们的框架是为具有相对简单调度目标的单水库开发的，其适用于更复杂的多水库系统的适用性仍有待进一步检验。Yu等人（2025）进一步开发了一种物理编码的LSTM，用于通过将动态水量平衡和物理限制嵌入网络架构来进行人为改变的流量模拟。尽管考虑了级联水库，但研究主要关注水文过程模拟，而水库运行仅以简化形式表示，没有深入探讨作为协调调度问题。

第三，超参数会显著影响模型性能和稳定性。高效的超参数优化算法可以在可接受的计算成本内识别出更优且更稳定的参数组合（Alrashidi等人，2021）。现有方法主要包括基于搜索的方法、基于模型的顺序优化方法和元启发式优化方法。如网格搜索（Tang等人，2025）和随机搜索（Hosseini等人，2024）等方法易于实现，但计算成本较高。贝叶斯优化可以通过使用之前的搜索结果来减少不必要的评估，从而提高搜索效率（Alizadeh等人，2021）。然而，它本质上是顺序的，这使得并行化不太直接，从而降低了其在复杂搜索空间中的优势。元启发式方法提供了一种灵活的替代方案，因为它们的无梯度特性使其适用于复杂和混合的超参数空间，并且具有强大的全局搜索能力。其中，遗传算法（GA）因其鲁棒性、易于实现以及在连续迭代中的稳定搜索性能而被广泛使用（Nguyen等人，2022；Panda等人，2025）。

本研究专注于岷江流域的核心水库系统，并开发了一个基于Transformer的框架来提取多水库运行规则，旨在优化有限水资源的有效利用，缓解多目标竞争冲突，并利用水库级联的调节潜力。该框架分为两个阶段：（1）为水库系统制定和解决多目标联合优化模型；（2）基于优化后的运行结果开发一个增强的Transformer模型，以提取多输入...