《Intelligent Systems with Applications》：Ensemble of Stochastic Models, Machine Learning, Deep Learning and Wavelet based Techniques: A Whale Optimization Approach
编辑推荐：
高变异性数据集导致预测精度较低。应用包括先进统计和机器学习技术在内的不同模型会产生不同的预测性能，使得为最终预测选择合适模型颇具挑战。在本研究中，提出了一种基于鲸鱼优化（Whale Optimization）的算法，用于集成十五种模型，涵盖随机模型、机器学习、
高变异性数据集导致预测精度较低。应用包括先进统计和机器学习技术在内的不同模型会产生不同的预测性能，使得为最终预测选择合适模型颇具挑战。在本研究中，提出了一种基于鲸鱼优化（Whale Optimization）的算法，用于集成十五种模型，涵盖随机模型、机器学习、深度学习技术以及基于小波的混合模型，以处理具有不同模式（即非线性、非正态性、高波动性等）的数据。研究采用两个数据集，即标普500指数（S&P 500，Standard & Poor's 500）的日收盘对数收益价格和土豆的月度对数收益价格，以检验所提算法的潜力。研究人员使用平均绝对误差（MAE，Mean Absolute Error）、均方根误差（RMSE，Root Mean Square Error）和平均绝对百分比误差（MAPE，Mean Absolute Percentage Error）准则对所有模型的预测精度进行了实证比较。结果发现，深度学习技术在预测方面的表现优于常规机器学习技术。与单一模型相比，所提出的基于WOA的集成方法在S&P 500和土豆价格上分别将RMSE降低了高达98.6%和97.0%，并获得最低MAPE值，分别为S&P 500的0.01和土豆价格的0.26。最终，当使用鲸鱼优化来组合不同模型的预测时，其性能优于任何单一模型或技术。
**基于鲸鱼优化算法的多模型集成时间序列预测研究解读**
**1. 研究背景与问题提出**
时间序列预测在经济学、金融、气象、农业和电信等几乎所有科学领域中都扮演着至关重要的角色。其核心特征在于观测值在时间上的相互依赖性，这为理解序列动态和辅助政策制定提供了基础。然而，预测任务本身充满挑战，尤其是多步预测，常面临误差累积、精度下降和模糊性增加等问题。
在方法论层面，自20世纪70年代以来，以自回归积分滑动平均（ARIMA）模型为代表的线性统计方法长期占据主导地位。尽管后续研究不断拓展其应用，但ARIMA模型的线性假设限制了其在处理非线性、非正态、高波动等复杂模式数据时的有效性。为克服这一局限，研究者提出了诸多非线性时间序列模型，如自回归条件异方差（ARCH）模型及其广义形式（GARCH）、双线性模型和门限自回归模型等。然而，非线性模型的实际应用同样面临挑战。
近几十年来，机器学习技术异军突起，成为传统统计模型的强有力竞争者。人工神经网络（ANN）、循环神经网络（RNN）、随机森林（RF）、支持向量回归（SVR）和卷积神经网络（CNN）等数据驱动的非参数非线性模型被广泛应用于预测领域。同时，深度学习技术如长短期记忆（LSTM）网络及其变体（如堆叠LSTM、双向深度LSTM（BD-LSTM））在处理序列数据的长期依赖方面展现出卓越能力。此外，小波变换（WT）被证明是提取含噪时间序列中真实信号的有效工具，基于小波的混合模型（如小波-ANN（W-ANN）和小波-GARCH（W-GARCH））也相继被开发。
尽管模型种类繁多，但一个核心问题始终存在：面对具有不同内在模式的数据集，如何选择最合适的预测模型？单一模型往往只能捕捉数据的某一方面特征。模型集成提供了一种解决方案，但多数集成方法依赖于简单等权平均，未考虑各模型对数据不同特征的重要性差异。因此，需要更优的优化算法来确定各模型的最优权重，以构建预测精度更高的集成模型。本研究正是基于此背景，旨在提出一种基于鲸鱼优化算法（WOA）的集成框架，以系统性地融合多种预测模型，提高预测的准确性和鲁棒性。
**2. 研究内容与主要技术方法**
为解决上述问题，研究人员构建了一个包含十五种模型的集成算法，并利用鲸鱼优化算法（WOA）优化各模型的组合权重。这些模型包括：随机模型（ARIMA、GARCH、状态空间模型）、机器学习技术（ANN、广义回归神经网络（GRNN）、梯度提升机（GBM）、RF、SVR）、深度学习技术（基础LSTM、堆叠LSTM、BD-LSTM、CNN-LSTM、Conv-LSTM）以及基于小波的混合模型（W-GARCH、W-ANN）。研究使用了两个具有不同特征的数据集：高波动性的标普500指数（S&P 500）日收盘对数收益价，以及具有季节性模式的印度阿格拉市场土豆月度批发价格对数收益（数据来源：国家园艺研究与发展基金会（NHRDF））。研究将数据按80:20比例划分为训练集和验证集，通过网格搜索优化模型超参数，利用WOA在训练阶段和验证阶段分别求得最优权重，并对样本外预测采用两阶段权重的平均值进行集成。
**3. 研究结果**
* **数据与模型拟合**：描述性统计显示两个数据集均显著偏离正态分布。研究人员通过ADF、PP和KPSS检验确保平稳性，并依据AIC等信息准则为ARIMA模型定阶（S&P 500为ARIMA(4,0,4)，土豆价格为ARIMA(3,0,3)）。对S&P 500数据，LM检验确认了ARCH效应的存在，故拟合了ARIMA-GARCH(1,1)模型；而土豆价格数据未呈现显著条件异方差性，未拟合GARCH模型。各机器学习与深度学习模型均依据最小MSE准则优化参数（如学习率、隐藏层数、激活函数等）后进行拟合。
* **单一模型预测性能比较**：在验证集上，对S&P 500数据，深度学习模型如CNN-LSTM（RMSE：5.15，MAPE：0.11）和G-RNN（RMSE：1.82，MAPE：0.05）表现优异，显著优于传统线性模型（ARIMA的RMSE为35.23，MAPE为0.72）。对于土豆价格数据，CNN-LSTM同样表现最佳（RMSE：7.87，MAPE：0.62），而ARIMA表现最差（RMSE：262.86，MAPE：15.07）。结果强调，没有单一模型能在所有数据集上统占优势，模型选择高度依赖于数据特性。
* **WOA集成模型的性能**：当所有十五个模型的预测通过WOA进行加权组合后，预测精度在两项数据集和所有评估指标上均实现了显著提升。在验证集上，WOA集成模型对S&P 500取得了RMSE为0.52、MAPE为0.01的最佳性能；对土豆价格取得了RMSE为3.92、MAPE为0.26的最佳性能。与最佳单一模型相比（如S&P 500的G-RNN，土豆价格的CNN-LSTM），WOA集成模型仍展现出大幅度的精度增益。
* **预测增益分析**：通过计算WOA集成方法相对于各单一模型的百分比增益，研究发现，对于S&P 500，增益最小的单一模型为W-GARCH（验证集RMSE增益22.83%），增益最大的为ARIMA（验证集RMSE增益98.53%）。对于土豆价格，增益最小的单一模型为CNN-LSTM（验证集RMSE增益30.58%），增益最大的为ARIMA（验证集RMSE增益96.82%）。这一结果表明，WOA集成方法能有效综合各模型优势，尤其能弥补较弱模型的不足。此外，Diebold-Mariano（DM）检验证实，WOA集成模型的预测精度在统计上显著优于所有单一模型。
**4. 讨论与结论**
讨论部分指出，不同模型对数据特征的适应性不同。例如，GRNN作为非参数模型，能有效捕捉S&P 500等高非线性金融时间序列的复杂关系；而W-GARCH由于能够对条件异方差性建模，更适合处理土豆价格这类存在波动聚集现象的序列。这解释了为何单一模型选择至关重要且困难重重。
研究结论明确指出，所提出的基于WOA的集成算法，在MAE、RMSE和MAPE三项指标上，对两个数据集均实现了最高预测精度。研究得出以下重要结论：当序列误差项存在显著的条件异方差性时，采用小波分解后再对子序列应用适当的ARIMA或GARCH模型，可显著提升预测精度。鉴于真实时间序列数据的固有模式差异巨大，选择合适模型十分困难，而模型组合方法能够有效解决这一难题，通过捕捉不同数据模式来获得更优的预测精度。未来的研究可探索集成其他优化技术、引入Transformer等更先进的深度学习架构、纳入外生变量或多变量时间序列，以及将所提方法应用于能源、气候或加密货币等其他领域以验证其普适性。
