通过EWT方法优化的谐波多尺度Kolmogorov-Arnold网络去噪技术,用于水电站有效库容预测

《Energy》:Optimized Harmonic-Multiscale Kolmogorov-Arnold Network denoised by EWT for hydroelectric dam useful volume forecast

【字体: 大 中 小 】 时间:2026年05月06日 来源:Energy 9.4

编辑推荐:

  斯蒂法诺·弗里佐(Stefano Frizzo),斯特芬诺(Stepenon),拉伊奥·奥里埃尔·塞曼(Laio Oriel Seman),若昂·佩德罗·马托斯-卡瓦略(Jo?o Pedro Matos-Carvalho),阿德米尔·尼德(Ademir Nied),加布里埃尔·维

  斯蒂法诺·弗里佐(Stefano Frizzo),斯特芬诺(Stepenon),拉伊奥·奥里埃尔·塞曼(Laio Oriel Seman),若昂·佩德罗·马托斯-卡瓦略(Jo?o Pedro Matos-Carvalho),阿德米尔·尼德(Ademir Nied),加布里埃尔·维拉鲁比亚·冈萨雷斯(Gabriel Villarrubia Gonzalez),金-钟·尤(Kin-Choong Yow)

里斯本高等工程学院,里斯本技术学院,康塞尔heiro埃米迪奥·纳瓦罗街1号(Rua Conselheiro Emídio Navarro 1),1959-007,里斯本,葡萄牙

**摘要**

准确预测水力发电水库的有效容积对能源规划和水资源管理至关重要。为应对这一挑战,本文提出了一种新颖的谐波多尺度Kolmogorov-Arnold网络(Harmonic-Multiscale Kolmogorov-Arnold Network,简称SinWavKAN)预测模型。该模型结合了正弦波(Sin)基函数来模拟全局振荡模式和小波(Wav)基函数来捕捉Kolmogorov Arnold网络(KAN)框架内的局部瞬态特征。这种混合表示方法通过同时建模平滑的长期依赖性和短期的不规则动态,增强了特征表达能力。首先使用经验小波变换(Empirical Wavelet Transform,简称EWT)对输入信号进行去噪处理,以分离信息模式和噪声,然后通过自适应树结构Parzen估计器(Adaptive Tree-structured Parzen Estimator,简称ATPE)优化SinWavKAN的超参数。消融研究证实了正弦波-小波组合相对于其他基函数的协同优势。与现有的KAN变体(如fastKAN、PyKAN、WavKAN)相比,所提出的Opt-EWT-SinWavKAN在1至30天的预测范围内,平均绝对误差(MAE)降低了约85%至93%。结果明确表明,Opt-EWT-SinWavKAN为水力发电水库容积预测提供了更可靠的方法。

**1. 引言**

水力发电占巴西总发电能力的47.8%,2024年的发电量为225,386兆瓦,是该国电力系统的支柱[1]。这一庞大水力发电网络的可靠运行依赖于有效的水库管理策略,因为许多水库都是相互连接的。在这个领域,准确预测水库的有效容积是一个关键挑战,因为它直接影响发电能力和系统可靠性[2]。

水库的有效容积代表其运行中的蓄水能力,并作为发电潜力的指标[3],考虑到不良的资源管理可能导致能源危机[4]。传统的水库容积预测方法主要依赖于时间序列分析和统计方法[5]。然而,这些方法往往无法捕捉到相连水库之间的复杂相互依赖性,特别是在水力发电网络密集的地区,从而导致预测性能较差[6]。从运营角度来看,提高1至30天范围内的预测性能对水力发电系统管理具有直接影响。更可靠的短期和中期水库容积预测可以支持发电调度规划,使运营商能够根据预期的流入量和需求条件更好地分配水资源[7]。改进的预测还有助于通过提前调整运营来减少不必要的溢流水事件,从而提高能源效率并最小化水损失。此外,更准确的预测还有助于在干旱或洪水风险情况下支持主动决策,提高系统可靠性和安全性[8]。

基于Kolmogorov Arnold网络(KAN)的模型在时间序列预测中最近受到了广泛关注,因为它们具有强大的表达能力和建模复杂非线性关系的能力[9]。然而,KAN的流行也导致了众多架构变体的出现[10],每种变体都强调不同的功能基础、参数化和训练策略,这使得它们直接应用于实际问题变得复杂[11]。

在水力发电厂的有效容积预测背景下,没有一种KAN变体是普遍最优的,因为动态变化涉及季节性模式、长期依赖性以及由水文和运营因素驱动的突然变化。一个优化的混合KAN模型,将互补的表示方法结合在一个统一的框架内,可以更好地捕捉这些异构动态,从而在与水力发电系统运营预测任务相关的应用中提高准确性和鲁棒性。

尽管在水文预测方面取得了最新进展,并出现了多种KAN变体,但目前仍缺乏能够同时捕捉全局周期性行为、局部瞬态动态和长期预测中的噪声鲁棒性的混合架构。特别是,现有方法通常将表示学习、去噪和超参数优化作为独立步骤进行处理,这在应用于复杂、非平稳的水文时间序列时可能限制其有效性。为了解决这一差距,本文研究了以下研究问题:一种统一的谐波多尺度KAN架构,结合基于经验小波的去噪和自适应超参数优化,能否提高水力发电水库有效容积预测的准确性和鲁棒性?为了回答这个问题,我们提出了一个混合框架,旨在将谱分析和多分辨率表示方法整合到KAN范式中,并通过基准测试和消融研究与最先进的预测模型进行比较。

所提出的谐波多尺度Kolmogorov Arnold网络是一种KAN架构,其中每个单变量边缘函数都通过谐波和多尺度表示进行建模,结合了正弦谱分量和小波基函数;基于这些函数,我们将其命名为SinWavKAN。谐波分支通过灵活的谱扩展捕捉全局振荡行为,扩展了传统的正弦参数化,而多尺度分支引入了具有可学习尺度和平移的局部基函数,从而能够在多个分辨率上建模非平稳和瞬态动态。

通过将这两种表示方法嵌入Kolmogorov-Arnold加性框架中,SinWavKAN保持了理论一致性,同时大幅提高了表达能力,使网络能够同时表示长期周期性结构和复杂时间序列(如水文信号)中典型的局部变化。为了进一步改进模型,我们使用自适应树结构Parzen估计器(ATPE)进行了超调,确保了最佳配置。此外,我们还使用了经验小波变换(EWT)进行信号去噪。基于此,我们的模型Opt-EWT-SinWavKAN做出了以下关键贡献:
- **新颖的混合KAN架构**:提出了谐波多尺度Kolmogorov-Arnold网络,这是一种新的模型,它在统一的框架中结合了正弦扩展和小波基函数,同时模拟水文时间序列中的全局振荡模式和局部瞬态动态。
- **集成的去噪预处理**:将EWT作为专门的信号处理步骤,用于从水库数据中过滤高频噪声,提高了模型学习潜在趋势的能力并增强了预测的鲁棒性。
- **自适应超参数优化**:使用ATPE自动调整SinWavKAN的关键超参数(例如和谐波及小波的数量),确保了无需手动试错即可获得最佳的模型配置。
- **全面的消融研究**:进行了广泛的消融分析,验证了设计选择的有效性,证明了正弦波和小波组件的优越性(与其他基函数如傅里叶(Fourier)、切比雪夫(Chebyshev)、径向基函数(Radial Base Function,RBF)相比),并建立了所提出混合方法的理论依据。
- **严格的实验基准测试**:在多种预测范围(1-30天)和输入窗口大小下,对多种最先进的KAN模型进行了彻底评估,显示出一致且显著的性能提升(例如,MAE减少了85%至93%)。
- **实践优势的验证**:证实了所提模型在预测范围增加时误差增长显著减缓,突显了其在长期预测方面的增强能力及其在水力发电水库管理和能源规划中的实际应用潜力。

正弦波和小波基函数的结合是基于水库容积动态的物理特性,这些动态通常同时包含周期性和瞬态行为。正弦函数非常适合表示季节性和长期的水文周期,而小波基函数则适用于建模由突然的流入量变化和运营干预引起的局部变化。通过结合这两种表示方法,所提出的SinWavKAN提供了一种理论上一致的多尺度建模方法,反映了水库动态的非平稳和异质性,而不仅仅是依赖经验性能的提升。

在所提出的框架中使用EWT不仅是由于其能够减少高频噪声,还因为它能够以与SinWavKAN架构一致的方式增强输入信号的多尺度结构。通过将水库时间序列分解成频带并从最具信息量的模式重建信号,EWT使模型能够专注于主导的时间模式,同时减弱可能降低学习稳定性的随机波动。这一步骤也强化了SinWavKAN的架构设计,因为去噪后的信号更好地暴露了正弦基捕获的全局振荡成分和小波基建模的局部变化。

所提出方法的新颖之处在于构建了一种谐波多尺度KAN架构,其中正弦波和小波基函数共同作为互补的单变量函数表示嵌入到Kolmogorov-Arnold框架中。虽然之前已经单独研究了小波预处理、KAN变体和基于ATPE的超参数优化等元素,但将它们统一在一个专为多尺度水文预测设计的可解释架构中,代表了本研究的主要概念贡献。特别是,所提出的SinWavKAN通过明确结构化边缘函数,同时捕获全局谱行为和局部时间变化,提供了一种更符合物理特性的非平稳水库动态表示方法。

与依赖于单一功能基的傅里叶KAN(FourierKAN)、WavKAN或SirenKAN不同,所提出的方法引入了双重表示,其中全局谱函数和局部多尺度函数在同一边缘映射中共同学习。这种设计改变了功能近似策略,从单一基扩展转变为协作分解,其中不同的函数家族被明确赋予互补的表示角色。因此,这种贡献不仅是经验性的,也是结构性的,因为它将KAN公式扩展到了专为非平稳时间序列设计的多基功能表示。

本文的其余部分组织如下:第2节提供了关于水力发电流入分析的背景信息。第3节解释了水力发电厂中的水平衡机制。第4节详细介绍了我们用于预测大坝有效水位的方法论。第5节展示了实验结果和分析。最后,第6节总结了本文并讨论了未来的研究方向。考虑到该领域使用的广泛术语,为了标准化。

**2. 相关工作**

尤其是在巴西这样的相互连接的级联水库中,水力发电系统越来越容易受到气候变化、流入量不确定性和运营相互依赖性的影响。传统的基于过程的水文模型长期以来被用来量化降水量季节性和温度升高对水库补给和水力发电可靠性的影响[12]。虽然这些方法对于广泛的敏感性分析很有效,但它们常常难以应对现实世界水文气候数据的非线性和非平稳性。

人工智能和机器学习(ML)的兴起将重点转向了更灵活、数据驱动的预测。例如,循环神经网络和变压器通过更好地捕捉与大坝水位波动和能源规划需求相关的时间依赖性,改善了水力发电厂的流入量预测[13]。在此基础上,集成方法如随机森林(Random Forest,RF)在水库流入量和水力发电生产模拟方面被证明特别有效。Obahoundje等人[14]通过使用滞后水文气候预测因子(降水量和温度)、k折交叉验证和迭代特征细化,证明了这一点,在月度数据集上实现了超过0.90的流入量相关性和0.80的能源生成相关性,强调了RF在有限数据下建模非线性关系时的优势。

除了短期预测之外,研究还探讨了在不完美长期流入量预测下的实际价值。Shu等人[15]通过模拟表明,即使预测精度较低,当运营规则能够容忍误差或预测偏差与实际趋势一致时,也可以带来实质性收益(年发电量增加了1486万至2958万千瓦时),强调了系统内在韧性的作用。

为了明确处理大型级联系统中的流入量不确定性,概率框架受到了关注。Lei等人[16]使用基于copula的合成径流生成和Gibbs采样来建模依赖性,然后使用均值-方差方法平衡能源生产和生态风险,发现适度的能源牺牲(例如减少1%)可以带来显著的生态改善(风险降低6.14%)。同样,Zhao等人[17]通过多智能体强化学习渐进优化算法将不确定性整合到基于场景的多阶段优化中,实现了比确定性基线更有效的空间存储和时间轨迹协调策略。

其他研究解决了级联水力发电中的特定运营挑战。Zhang等人[18]为每日调节的电站开发了一个考虑河流影响的框架,使用峰值削减控制和Alpha形状来制定实用的释放规则,以减轻上下游效应。Yang等人[19]应用了改进的Chimp优化算法进行长期调度,减少了溢流并提高了发电量(当预测满足技能阈值时增加了9.83%至20.12%)。更为广泛的气候相关风险也得到了研究:Huang等人[20]量化了复合极端事件(从洪水到干旱的转变),并将其与发电损失以及高度受监管植物的适应性增强联系起来;Zhou等人[21]探讨了气候变化下级联系统的不确定性来源,指出水文模型在洪水季节中的主导作用;He等人[22]提出了动态季节性洪水限制水平,以提高发电量(增加了3.16%),同时将洪水风险降到最低。预测的经济价值也得到了评估。Liu等人[23]使用随机动态规划方法显示,与10天前的预测相比,可靠性提高了33.89%,贝叶斯变体进一步增强了对抗偏差的稳健性。为了提高大系统的计算可扩展性,Niu等人[24]通过长短期记忆(LSTM)耦合响应面加速了渐进最优算法(POA),在干流情景下将运行时间减少了79.2%。近年来,在可解释深度学习领域取得了进展,特别是KANs,它们通过用可学习的样条函数替代固定激活函数,提供了更好的非线性捕捉能力和透明度,为水文时间序列分析提供了有前景的替代方案。应用包括在短预测范围内KANs优于Transformers的流量预测[25]、针对受永久冻土影响的河流的混合KAN-LSTM模型[26],以及用于水位预测的注意力增强变体[27]。基于小波的扩展(例如Wav-KAN)进一步改善了多尺度处理能力[28],而EWT去噪技术在混合设置中提升了水库/流量模型的性能[29]。通过自动参数调优(ATPE)进行超参数调整也在复杂的机器学习任务中展示了效率[30]。表1总结了文献中关于水力发电流量和水库容量预测以及级联水力发电系统优化的主要贡献。

尽管有这些发展,但仍存在一些关键差距:大多数方法将预测和优化孤立看待,对先进的可解释模型(如混合KANs)、显式去噪(EWT)和自适应调整(ATPE)在真实操作不确定性下的长期非平稳水库容量预测中的整合有限。本文通过引入Opt-EWT-SinWavKAN来解决这些问题,这是一种新型的谐波多尺度KAN,它结合了正弦全局模式和小波瞬态,通过EWT去噪并通过ATPE优化,从而在水力发电大坝有效容量预测方面提供了更高的准确性和稳健性。

表1. 关于水力发电流量/水库容量预测和级联优化的主要相关工作概述。

尽管取得了这些发展,但仍存在一些关键差距:大多数方法将预测和优化孤立看待,对先进的可解释模型(如混合KANs)、显式去噪(EWT)和自适应调整(ATPE)在真实操作不确定性下的长期非平稳水库容量预测中的整合有限。本文通过引入Opt-EWT-SinWavKAN来解决这些问题,这是一种新型的谐波多尺度KAN,它结合了正弦全局模式和小波瞬态,通过EWT去噪并通过ATPE优化,从而在水力发电大坝有效容量预测方面提供了更高的准确性和稳健性。

参考文献:
方法/模型 | 关键焦点 | 应用 | 主要结果/优势 | 局限性/差距
[12] | 基于过程的水文模型 | 对气候变异性的流量敏感性 | 量化降水量/温度对补给/可靠性的影响 | 对非线性/非平稳动态的处理能力有限
[13], [29] | 循环神经网络(RNNs)、Transformers | 大坝水位/能源规划的流量预测 | 改进了时间依赖性的捕捉 | 在没有混合模型的情况下可能难以处理极端情况/长预测期
[14] | 带滞后输入的RF | 水库流量与水力发电生产 | 皮尔逊相关性>0.90(流量),>0.80(能源);在月度数据上表现强劲 | 依赖于有限的预测因子;对极端情况/长预测期的效果较差
[15] | 带有欠准预测的操作模拟 | 级联系统中长期预测的效用 | 即使准确率较低也能每年增加14-30 GWh;通过规则提高容错能力 | 利益取决于偏差对齐;更高的准确率带来更多收益
[16] | Copula + Gibbs采样 + 均值-方差风险 | 大规模级联系统中的概率风险 | 1%的能源牺牲可导致6.14%的生态风险降低 | 对非常大的系统而言计算密集
[17] | 多智能体 + 渐进最优算法 | 基于场景的稳健多阶段调度 | 风险鲁棒策略;有效的动作空间压缩 | 侧重于协调;显式去噪/可解释性有限
[18] | 考虑河流影响的削峰 + Alpha形状 | 日常调节水电站的上下游效应 | 减轻波动;推导出实际的释放规则 | 短期关注;对长期不确定性的关注较少
[19] | 改进的Chimp优化 | 跨不同水文条件的长期级联调度 | 减少溢流;在良好预测下发电量增加9.83-20.12% | 经验证 heuristic方法;可能无法扩展到极端不确定性
[20], [21] | 全局模拟 + 不确定性归因 | 复合极端事件与气候变化影响 | 9%-11%的损失;季节性不确定性分解(洪水期间占40%) | 诊断工具;预测整合能力有限
[22] | 动态季节性洪水限制水平 | 级联系统中的洪水季节政策 | 发电量增加3.16%,同时洪水风险微小 | 以政策为中心;假设季度数据准确
[23] | 随机动态规划 | 10天预测的经济价值 | 可靠性提高33.89%;贝叶斯方法提升稳健性 | 合成预测;对偏差敏感
[24] | 基于响应面的POA + LSTM | 可扩展的多水库优化 | 计算时间减少79.2% | 侧重于加速;对可解释性的关注较少
[25], [26], [31] | Kolmogorov-Arnold网络(KANs,混合模型,注意力机制) | 流量/径流/水位预测 | 相较于Transformers/LSTM具有更好的短期性能;Nash-Sutcliffe效率超过0.95 | 在水文学领域新兴;长预测期/多尺度混合模型有限
[29] | EWT + 水库计算 | 巴西水电站的多步骤流量预测 | 通过去噪减少洪水错误 | 分解特定于某种情况;与先进网络不统一
[30] | 自适应树结构Parzen估计器 | 机器学习/时间序列中的超参数调整 | 在高维空间中高效 | 应用场景有限

尽管有这些发展,但仍存在一些关键差距:大多数方法将预测和优化孤立看待,对先进的可解释模型(如混合KANs)、显式去噪(EWT)和自适应调整(ATPE)在真实操作不确定性下的长期非平稳水库容量预测中的整合有限。本文通过引入Opt-EWT-SinWavKAN来解决这些问题,这是一种新型的谐波多尺度KAN,它结合了正弦全球模式和小波瞬态,通过EWT去噪并通过ATPE优化,从而在水力发电大坝有效容量预测方面提供了更高的准确性和稳健性。

尽管取得了这些发展,但仍存在一些关键差距:大多数方法将预测和优化孤立看待,对先进的可解释模型(如混合KANs)、显式去噪(EWT)和自适应调整(ATPE)在真实操作不确定性下的长期非平稳水库容量预测中的整合有限。本文通过引入Opt-EWT-SinWavKAN来解决这些问题,这是一种新型的谐波多尺度KAN,它结合了正弦全球模式和小波瞬态,通过EWT去噪并通过ATPE优化,从而在水力发电大坝有效容量预测方面提供了更高的准确性和稳健性。在去噪过程中,最高频率分量被排除在重建过程之外,然后通过叠加剩余的N-1个分量来获得去噪信号。在模型训练之前,对整个数据集应用了EWT分解,因为它被用作确定性的信号分解步骤,而不是一个学习的变换。这个预处理阶段的目标是将信号分离到不同的频率带,并去除高频噪声成分,这些成分取决于水库动态的全局频谱特性,而不是预测目标。由于EWT不使用标签信息,也不涉及与预测任务相关的参数学习,因此它被视为一种类似于在水文时间序列分析中常用的滤波操作的信号调理程序。分解在模型训练之前是固定的,不会根据模型性能进行调整,这降低了间接信息泄露的风险。尽管如此,这种设计选择旨在确保在整个观测期间稳定地识别频率带,并避免由于独立分解较短的时间段而可能出现的不一致性。

4.2. 谐波-多尺度Kolmogorov-Arnold网络(SinWavKAN)
我们提出了谐波-多尺度Kolmogorov-Arnold网络(SinWavKAN),这是一种KAN架构,在该架构中,每个单变量边缘函数由正弦展开和多尺度小波(墨西哥帽小波)组合的谐波频谱分量参数化。所提出的SinWavKAN的架构如图3所示。谐波分量提供了一种灵活的频谱表示,它包含了正弦展开,同时对特定的三角参数化保持不可知,从而能够平滑地建模全局振荡结构。多尺度分量引入了具有可学习尺度和平移的局部基函数,使得网络能够捕捉到多个分辨率下的非平稳和空间局部变化,这一原理在信号处理理论中已经得到了很好的确立。通过将这些表示嵌入Kolmogorov-Arnold框架中,模型保持了单变量边缘函数的加法结构,确保了可解释性和理论基础,同时显著增强了表达能力。
下载:下载高-resolution图像(500KB)
下载:下载全尺寸图像
图3. SinWavKAN架构:一种谐波-多尺度Kolmogorov-Arnold网络。
根据Kolmogorov-Arnold表示定理,任何连续的多变量函数(f:[0,1]d→R)都可以表示为单变量非线性函数和线性组合的有限叠加。现代KAN通过用可学习的单变量函数替换固定的非线性函数来实现这一原理[46]。在这个框架中,KAN的每个输出分量表示为(21)fj(x)=∑i=1d?j,i(xi)+bj,其中?j,i:R→R是可学习的单变量函数,bj是一个偏置项。
所提出的SinWavKAN模型将每个?j,i实现为一个明确的参数化展开,结合了正弦和小波基函数,从而得到了一个分析和解释上可行的KAN实现。对于每个输出维度j和输入维度i,相关的单变量函数?j,i定义为(22)?j,i(x)=?j,isin(x)+?j,iwav(x),其中?j,isin和?j,iwav分别表示正弦和小波分量。这种加法分解与KAN的哲学相符,即明确地建模和可视化每个单变量交互。

4.2.1. KAN中的正弦展开
正弦分量定义为(23)?j,isin(x)=∑k=1KAj,i,ksinωj,i,kx+?j,i,k,其中K=n_freq是正弦原子的数量。
从KAN的角度来看,这种展开可以解释为每个单变量函数的一个学习的类傅里叶基。与基于样条或分段多项式的经典KAN实现不同,正弦参数化提供了一个平滑的、全局支持的基,具有明确可学习的频率和相位。?j,isin关于输入的导数为(24)ddx?j,isin(x)=∑k=1KAj,i,ksinωj,i,kcosωj,i,kx+?j,i,k,这在广泛的频率范围内都是有界的且非消失的,支持训练期间的稳定梯度传播。

4.2.2. 作为局部KAN基础的小波展开
为了补充正弦函数的全局支持,小波分量引入了局部基函数。使用墨西哥帽小波ψ,小波分量定义为(25)?j,iwav(x)=∑l=1LAj,i,lwavψx?τj,i,lsj,i,l,其中L=nWavelets。
墨西哥帽小波(26)ψ(t)=(1?t^2)exp^(-1/2t^2)满足∫Rψ(t)dt=0,这确保了对局部变化的敏感性而不是恒定偏移。尺度参数通过sj,i,l=exp(σj,i,l)受到限制,这确保了可微性和数值稳定性。

4.2.3. 统一无关KAN映射
将单变量展开代入KAN公式得到(27)fj(x)=∑i=1d∑k=1KAj,i,ksinsin(ωj,i,kxi+?j,i,k)+∑l=1LAj,i,lwavψxi?τj,i,lsj,i,l+bj。这个表达式明确满足了Kolmogorov-Arnold的结构约束,因为所有的非线性都是单变量的,所有的多变量交互仅通过求和产生。正弦基提供了平滑函数空间的密集覆盖,而小波基允许对局部不规则性进行稀疏表示。它们的联合使用允许每个?j,i在其局部调整其平滑度,这是使用固定结点结构的基于样条的KAN所无法实现的。SinWaveKAN的伪代码在算法2中给出。
下载:下载高分辨率图像(233KB)
下载:下载全尺寸图像
在温和的规则性假设下,组合基形成了连续单变量函数在紧凑域上的通用逼近器。因此,完整的SinWavKAN模型通过Kolmogorov-Arnold构建继承了多变量函数的通用逼近属性。
每个学习到的函数?j,i可以直接可视化和分析,保持了KAN的一个核心优势。正弦和小波分量之间的分离进一步允许将学习到的关系分解为全局振荡行为和局部特征。SinWavKAN实现了一个Kolmogorov-Arnold网络,在该网络中,单变量边缘函数由自适应的频谱和多尺度基参数化。这种设计保留了KAN的理论保证,同时显著增强了它们对非平稳和多尺度现象的表现能力。

4.3. 自适应树结构Parzen估计器
自适应树结构Parzen估计器(ATPE)是一种基于序列的模型优化方法,旨在解决形式为(28)x?=argmin_x∈Xf(x)的黑盒优化问题,其中X?R^d表示搜索空间,f(x)是一个评估成本高的目标函数。
ATPE在树结构Parzen估计器框架的基础上引入了自适应机制,根据之前评估的性能动态调整采样策略。该算法模拟了给定目标值的条件概率分布p(x∣y),其中y=f(x)。观测到的评估集D={(xi,yi)}_i=1^n使用性能阈值y?进行划分,y?通常定义为观测到的目标值的分位数γ∈(0,1)。这导致了两个不相交的子集(29)Dgood={xi∣yi≤y?},(30)Dbad={xi∣yi>y?}。
使用这些子集,ATPE构建了两个非参数密度估计器(31)?(x)=p(x∣y≤y?),(32)g(x)=p(x∣y>y?),这些通常使用具有自适应核宽度的Parzen窗口估计器进行建模。
优化目标通过最大化预期改进[47]来重新表述,在TPE公式下等同于最大化比率(33)x?=argmax_x?(x)g(x)。
ATPE通过在优化过程中动态调整估计器的几个内部参数来扩展这一公式。这些调整包括分位数参数γ、Parzen估计器的核宽度以及与x的各个维度相关的采样权重。自适应行为由从D中提取的经验统计量驱动,例如目标值的方差和每个超参数的相对重要性[48]。
用θ表示估计器的内部模型参数集合。ATPE在每次迭代t时根据(34)θ(t+1)=A(θ(t),D(t))更新θ,其中A(?)表示从之前的优化轨迹中学到的自适应更新规则。通过不断改进概率模型及其超参数,ATPE实现了比静态TPE更有效的探索-利用权衡,从而在高维和异构搜索空间中实现了更快的收敛和更好的鲁棒性[49]。

5. 结果
在本节中,我们展示了应用我们提出的模型的结果。首先,我们进行了一项消融研究,以证明每种技术的选择是值得的,并且它们结合起来可以实现最佳的混合架构,考虑了原始信号。之后,我们展示了信号去噪和超调的结果。基于优化的架构,我们评估了用于喂养我们预测模型的视线变化和窗口大小,接着进行了基准测试和泛化分析,以及统计评估。

5.1. 实验设置
实验评估在一个计算环境(Google Colab)中进行,该环境旨在确保提出的模型的可重复性和足够的训练和验证性能。系统配备了12.7GB的系统随机访问内存和112.6GB的可用磁盘存储空间,足以处理实验期间生成的数据集、中间产物和模型检查点。所有模型都是使用NVIDIA T4图形处理单元进行训练和评估的。
这种硬件配置在所有实验中保持不变,以保证在预测准确性、计算成本和模型复杂性方面的模型之间的公平比较。参数数量对应于每个模型中可训练权重的总数,而训练时间和验证时间(以秒为单位)量化了在所采用硬件上的学习和评估过程的计算效率。模型是使用滑动窗口策略构建的,具有多步预测视线,训练占比80%,测试占比20%。架构配置由正弦分量(n_freq)和小波分量(n_wavelets)的数量定义,两者都被视为可调的结构超参数,还有一个可选的偏置项。
训练过程使用PyTorch实现的监督学习程序进行,其中模型参数通过基于梯度的学习进行优化。超参数优化使用ATPE进行,考虑的搜索空间由n_freq∈[4,64],n_wavelets∈[4,64]以及4的增量和一个二进制偏置包含参数定义。总共进行了50次优化尝试,每次候选配置都是根据在测试集上计算的均方根误差(RMSE)来评估的。优化目标被定义为最小化这个误差,以确保在不同架构配置之间的公平比较。

5.1.1. 评估指标
模型性能使用标准回归指标进行评估,即RMSE、平均绝对误差(MAE)和对称平均绝对百分比误差(SMAPE),以及可训练参数的数量和训练和验证所需的计算时间。给定一组真实值{yi}_i=1^n和相应的预测值{y?_i=1^n,这些指标定义为(35)RMSE=1/N∑_i=1^n(yi?y?_i)^2,(36)MAE=1/N∑_i=1^n|yi?y?_i|,(37)SMAPE=100/N∑_i=1^n|yi?y?_i||yi|+|y?_i|/2。

5.1.2. 对比模型
为了评估所提出模型的有效性,我们将其与几种基于KAN的架构进行了比较,包括标准KAN(StandardKAN)[50]、快速KAN(fastKAN)[51]、高效KAN(efficientKAN)[52]、基于修正线性单元的KAN(ReLUKAN)、正弦表示KAN(SirenKAN)、基于切比雪夫多项式的KAN(ChebyKAN)[53]、基于小波的KAN(WavKAN)、基于径向基函数的KAN(RBFKAN)[54]以及基于傅里叶级的KAN(FourierKAN)[55]。选择这些模型是因为它们代表了Kolmogorov-Arnold框架的不同功能基展开和架构适应,为评估所提出方法的性能和计算效率提供了全面和有代表性的合作分析。
为了进行基准测试,我们将所提出的Opt-EWT-SinWavKAN与来自不同架构家族的最先进模型进行了比较。这些包括基于多层感知器的模型,如时间序列密集编码器(TiDE)[56]、用于时间序列预测的神经层次插值(NHITS)[57]、用于时间序列预测的神经基扩展分析(N-BEATS)[58]、带有外生变量的N-BEATS扩展(N-BEATSx)[59]、时间序列混合器(TSMixer)和TSMixerx。
我们还考虑了基于RNN的模型,包括扩张RNN(DilatedRNN)[60]和Vanilla RNN(VanillaRNN)、长短期记忆网络(LSTM)[61]、门控循环单元(GRU)[62]和深度自回归模型(DeepAR)[63]。此外,还评估了基于Transformer的模型,如时间融合Transformer(TFT)[64]、Informer [65]、Patch Time Series Transformer(PatchTST)[67]和Frequency Enhanced Decomposed Transformer(FEDformer)[68]。最后,我们还包括了基于卷积神经网络的模型,如时间卷积网络(TCN)[69]、双向TCN(BiTCN)[70]和TimesNet [71]。

5.1.3. 数据集
本研究考虑了FUNDAO水电站作为比较分析的基础。此外,还考虑了SEGREDO和FOZ DO CHAPECó水电站,以便对本文提出的模型进行泛化分析。这三个水电站的数据在以下网址公开可用:https://dados.ons.org.br/dataset/ear-diario-por-reservatorio(访问日期为2026年2月6日)。本研究中使用的数据包含每小时val_volumeutil的测量值,共有19,656个样本,对应于2022-09-03, 23:59:00到2024-11-30, 23:59:00的时期。
FUNDAO水电站(HPP)位于Jord?o河上,装机容量约为124 MW。大约在2006年投入使用,为Paraná西南部的Pinh?o和Foz do Jord?o市镇之间供电。Governador Ney Aminthas de Barros Braga水电站(也称为SEGREDO HPP)是由Copel运营的,位于Igua?u河上,装机容量为1260 MW,为近三百万人口提供能源。FOZ DO CHAPECó HPP以其598米长、48米高的大坝而闻名,装机容量为855 MW,是巴西第一个采用沥青核心技术的电站。

5.2.结构设计通过消融研究进行。表2和表3报告了一项全面的消融研究,评估了不同基函数和激活机制的组合,包括傅里叶(F)、径向基函数(R)、切比雪夫多项式(C)、正弦表示网络(S)、小波(W)和ReLU激活函数(RL)。结果清楚地表明,预测性能取决于功能组件的选择和组合,这通过RMSE、MAE和SMAPE来衡量,同时也取决于模型复杂性和计算成本。考虑到表2中的单组件配置,仅基于正弦表示和R的模型在各个基函数中表现出最佳的预测准确性,其中正弦表示配置的RMSE为1.52×10^-1,SMAPE为3.74×10^1,优于单独使用傅里叶、切比雪夫、小波和ReLU。相比之下,仅使用切比雪夫或傅里叶的模型显示出明显较高的错误,表明它们在单独使用时表达能力有限。在效率方面,切比雪夫和ReLU配置需要较少的参数和更短的训练时间,这突显了准确性和模型紧凑性之间的权衡。

表2. 傅里叶、径向基函数、切比雪夫、正弦表示、小波和ReLU激活函数的消融研究。

FRCSWRL
RMSE
MAE
SMAPE (%)
参数
训练时间 (s)
推理时间 (s)

?×××××
3.53×10^-1
2.39×10^-1
7.82×10^1
1.61×10^2
9.61×10^-1
1.82×10^-3
×
×××××
1.65×10^-1
1.18×10^-1
4.44×10^1
2.41×10^2
1.63
1.57×10^-3

××
×××××
3.94×10^-1
2.76×10^-1
9.33×10^1
4.10×10^1
4.70×10^-1
1.12×10^-3
×××
?××
1.52×10^-1
9.81×10^-2
3.74×10^1
2.41×10^2
9.62×10^-1
1.30×10^-2
××××
?×
1.69×10^-1
1.25×10^-1
4.46×10^1
2.41×10^2
2.67
2.36×10^-3

×××××
?
1.94×10^-1
1.46×10^-1
5.47×10^1
1.61×10^2
7.44×10^-1
9.47×10^-4
??××
3.42×10^-1
2.20×10^-1
6.61×10^-1
4.01×10^2
2.45×10^-3

×××××
?
1.94×10^-1
1.46×10^-1
5.47×10^1
1.61×10^2
7.44×10^-1
9.47×10^-4
××
??××
3.42×10^-1
2.20×10^-1
6.61×10^-1
4.01×10^2
2.45×10^-3

表3. 傅里叶、径向基函数、切比雪夫、正弦表示、小波和ReLU激活函数的消融研究(续)。

当结合两个组件时,在多种情况下观察到一致的性能提升。特别是,径向基函数与正弦表示相结合显著提高了准确性,同时参数数量仅略有增加。表2中最显著的结果是使用正弦表示和小波的组合,其整体性能最佳,RMSE为1.25×10^-1,MAE为8.42×10^-2,SMAPE为3.39×10^1。这表明正弦表示和小波在捕捉全局周期性模式方面具有很强的互补性,而小波则增强了局部时频特征。然而,这种准确性的提升是以模型尺寸增加和训练及验证时间延长为代价的。对于窗口大小为5的情况,所提出的模型实现了1.78×10^-2的平均绝对误差(MAE),而最佳的竞争基线模型fastKAN的报告值为1.36×10^-1。这相当于绝对误差减少了1.18×10^-1,MAE相对提高了大约86.9%。RMSE也观察到了类似的趋势,从fastKAN的9.24×10^-2降低到1.30×10^-2,相对减少了接近85.9%。在SMAPE方面,所提出的方法达到了8.35,而最接近的竞争者的值仍高于38,表示减少了近78%。这些改进是通过1.38×10^3个参数实现的,这个数量大约是fastKAN的八分之一。对于窗口大小为10的情况,数值优势依然显著。所提出的模型的MAE为1.74×10^-2,而WavKAN的MAE为1.76×10^-1,MAE减少了大约十倍。RMSE从fastKAN的9.24×10^-2降至1.30×10^-2,相对减少了大约85.9%。SMAPE从44降至6.40,证实了显著的数值改进。

表6. 基于KAN的模型窗口大小分析。

| 窗口大小 | Model | MAE | RMSE | SMAPE (%) | 参数数量 | 训练时间(秒) | 推理时间(秒) |
|--------|---------------|------------|------------|-----------|-----------|-----------|
| 5 | StandardKAN | 3.83×10^-1 | 9.24×10^-2 | 3.83×10^3 | 29.70 | 19.49 |
| | fastKAN | 1.36×10^-1 | 9.24×10^-2 | 1.36×10^3 | 11.10 | 11.18 |
| | EfficientKAN | 1.93×10^-1 | 1.30×10^-1 | 1.93×10^3 | 11.12 | 11.18 |
| | ReLUKAN | 2.98×10^-1 | 2.27×10^-1 | 1.93×10^3 | 11.61 | 11.61 |
| | SirenKAN | 2.24×10^-1 | 1.47×10^-1 | 1.93×10^3 | 12.41 | 12.41 |
| | ChebyKAN | 7.36×10^-1 | 4.43×10^-1 | 1.38×10^3 | 18.43 | 18.43 |
| | WavKAN | 1.86×10^-1 | 1.74×10^-1 | 1.38×10^3 | 12.41 | 22.36 |
| 10 | StandardKAN | 1.74×10^-2 | 1.30×10^-2 | 8.35 | 29.70 | 19.49 |
| | fastKAN | 1.36×10^-1 | 1.30×10^-2 | 8.35 | 11.12 | 11.18 |
| | EfficientKAN | 1.93×10^-1 | 1.30×10^-1 | 8.35 | 11.22 | 11.18 |
| | ReLUKAN | 2.98×10^-1 | 2.27×10^-1 | 1.93×10^3 | 15.52 | 15.55 |
| | SirenKAN | 2.24×10^-1 | 1.47×10^-1 | 1.93×10^3 | 12.41 | 28.43 |
| | ChebyKAN | 7.36×10^-1 | 4.43×10^-1 | 1.38×10^3 | 18.43 | 18.43 |
| | WavKAN | 1.86×10^-1 | 1.74×10^-1 | 1.38×10^3 | 22.36 | 19.76 |

这些改进是在相对较少的参数数量下实现的,大约比fastKAN少一个数量级,即八倍。通过整合正弦展开式来捕捉全局振荡模式,并利用小波基来模拟局部非平稳动态,该模型在Kolmogorov-Arnold框架内实现了一种既表达能力强又易于解释的架构,特别适用于复杂的水文时间序列分析。所提出的方法包括使用EWT(经验模态分解)作为预处理步骤,以去除输入信号中的噪声,从而有效地将有用信息从噪声中分离出来,并增强模型识别潜在趋势的能力。此外,通过ATPE(自动参数优化)进行超参数优化,确保了谐波和小波组分的最佳配置。考虑到使用EWT进行输入信号去噪以及APTE进行模型优化,我们将这种方法命名为Opt-EWT-SinWavKAN。实验结果表明,与现有的基于KAN的模型相比,该模型在多个预测时段和输入窗口尺寸下均表现出更优越的性能。消融研究证实了结合正弦和小波表示方法的协同效应,这两种方法共同实现了最低的预测误差(RMSE、MAE、SMAPE),同时保持了合理的模型复杂性。值得注意的是,随着预测时段的延长,Opt-EWT-SinWavKAN的误差增长速度显著放缓,这体现了其在短期和长期预测方面的鲁棒性。这项工作提出了一种创新的混合KAN架构,有效解决了水电库容量预测中遇到的非平稳性、多尺度动态和噪声问题。该框架不仅推动了能源系统时间序列预测技术的进步,还为涉及复杂时间依赖性的其他领域提供了一种灵活且易于解释的建模方法。未来的研究可以探索将Opt-EWT-SinWavKAN扩展到多变量预测、整合外部气候变量,以及将其应用于实时水库管理系统中。

作者贡献声明:
Stefano Frizzo Stefenon:撰写初稿、软件开发、方法论设计、数据分析、正式分析、概念构建。
Laio Oriel Seman:撰写初稿。
Jo?o Pedro Matos-Carvalho:撰写初稿。
Ademir Nied:撰写修改稿、审稿与编辑、指导工作。
Gabriel Villarrubia Gonzalez:撰写修改稿、审稿与编辑、指导工作。
Kin-Choong Yow:撰写修改稿、审稿与编辑、指导工作。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号