基于风辐射数据驱动的建模方法：结合导数变换、深度长短期记忆网络（Deep-LSTM）和随机树人工智能学习技术，用于分析二维气象模式 作者：Ladislav Zjavka

《Modelling》：Wind-Radiation Data-Driven Modelling Using Derivative Transform, Deep-LSTM, and Stochastic Tree AI Learning in 2-Layer Meteo-Patterns Ladislav Zjavka

　　摘要：自包含的本地风能和太阳能序列预测方法可以在数值模型的基础上，改进风电场和光伏（PV）电站的日常运营规划。数值模型由于模拟成本高昂，通常会存在预测延迟的问题。不稳定的电力生产需要平衡可再生能源（RE）的可用性与不可预测的用户需求，以实现有效利用。人工智能（AI）预测建模可以通过解决可再生能源系统可靠性和最佳利用方面的具体问题，来减少风能和太阳能资源的间歇性不确定性。所提出的24小时日常训练和预测方案包括初始检测以及对采样日序列间隔的相似性重新评估。两个专业气象站记录标准气象变量，其中最相关的变量被选为模型输入。自动双层高度观测捕捉了山地和低地数据之间的关键关系，这些关系符合模式发展。新设计的生物启发式差分学习（DfL）结合了自适应神经计算（演化的节点树组件）和基于导数变换的定制数值程序（OC）。DfL能够表示与本地天气模式相关的不确定动态。角度和频率数据（风向、温度、辐照度）与振幅一起处理，以解决二项式节点中的简单二维偏微分方程（PDE）。差异化数据提供了对中期天气变化进行建模所需的信息。与其他复杂的预测技术相比，DfL在统计实验中显示出更高的效率，这得益于选择性差异输入预处理。成功的LSTM深度学习和随机树学习在预测混沌24小时风序列方面表现不逊色，并且在预测8小时太阳能周期方面也有略微更好的效果。附带应用档案数据的免费参数化C++软件可用于进一步的比较和可重复实验。

1. 引言
不稳定的风能和太阳能光伏发电受当地地形特征（地形起伏、建筑物和障碍物）以及区域定位参数（气流和湍流、日照时间等）的影响。可再生能源是气象条件和季节性变化的自然表现。风能和太阳能现象是大气中全球对流过程的综合结果，主要由各种量的不规则性和差异引起。在没有适当基础设施和传统电网的偏远地区或沿海地区，风电场和光伏电站是最重要的能源资源[1]。这个问题在未开发国家的偏远沙漠或山区尤为重要，这些地区必须依赖替代能源生产而无法依靠备用设施。对于离网系统的AI管理对于根据环境变化和需求做出最佳调度决策至关重要。风力涡轮机或光伏板会受到各种外部因素的影响，例如地表粗糙度和局部分层。通过综合模拟系统的特性，可以估计出最佳配置以实现能源生产。风能和太阳能序列预测通常可以分为以下几类：
○ 对大气中每种物理过程的数学模拟，例如数值天气预报（NWP）。
○ 基于AI数据驱动的统计方法，使用输入-输出训练样本对目标量进行建模，假设天气系统的随机或混沌特性。
物理NWP模型通过求解力学和热力学流体方程来模拟大气中的下一个运动状态，计算气象因素的趋势，采用定义的时间步长和空间分辨率。确定性NWP系统通常使用观测数据中的初始化和边界条件来预测全球或区域天气模式。求解的大气环流的水动力和热力学方程用于计算在初始和边界约束条件下的短期或长期发展[2]。这种数学方法主要基于在相邻大气层中计算的质量和动量守恒方程的离散化。NWP通常提供几天后的长期预测；然而，其适用性受到逐步迭代次数的限制，其中时间和地形的不适当性可能导致问题加剧。大多数问题可以通过优化模型分辨率或考虑时间消耗来解决。NWP通常需要超级计算来处理高维数据，这限制了其在本地短期AI定制中的早期后处理，从而无法改善常见输出[3]。
数据驱动的自动统计方法利用算法从可用数据中学习非正式知识，采用采样、梯度适应、概率论、混沌理论等手段。机器学习（ML）通常包括迭代训练中的进化范式，用于建模无法通过分析定义或解决的未知系统。其在低时间消耗和AI优化方面的适应性、可重用性和简洁性有助于消除意外的短期波动。与广泛的NWP时空模拟相比，统计建模在处理异常复杂的领域时更为高效。在短期预测中，AI通过捕捉多种气象量之间的关系来超越NWP。然而，纯粹的统计方法在忽略物理定律的情况下会失去模拟因果关系，导致模型的长期可靠性和一致性降低，仅揭示历史天气模式[4]。ML能够识别特定天气因素的内在关系，但会失去重要的物理意义，从而在预测未充分包含在训练数据中的模式时出现缺陷。混合解决方案旨在通过随机集成聚合和元启发式方法来消除这些问题，整合多种不同的方法和数据分离、特征提取等[5]。
创新的混合DfL将数值OC程序与神经计算相结合，形成渐进式的模块化模型。其在动态演化的二项式树结构中的节点PDE组件形成，有助于在统计天气预测中准确建模模式。DfL有助于解决当前ML中遇到的问题，例如问题简化、模式复杂性、不确定性、维度问题、特征选择、数据转换、模型自我优化和组织等问题[6]。数据实验基于两级地面气象站数据，其中差异信息有助于识别一天时间范围内天气模式进展中的相邻层变化。在自动专业气象站记录的特定量首先评估其对模型效率和可靠性的贡献，以获得可靠的日常预测。自动检测日选间隔中不相关的有价值数据输入，并通过复杂的自我优化消除模型初始化时间的不确定性。初步估计的适当日数据序列在逐行预处理中得到改进，考虑了最新观测的相似性距离。训练不需要像神经计算中通常需要的手动设计网络结构或初始化参数[7]。
新设计的DfL在模型定义和优化方面进行了创新：
? 周期性数据（例如风向）通过正弦和余弦转换函数表示，并与时间戳序列结合（第4.1节）。
? 在学习之前，首先在每层组合最相关的节点输入对，并在逐步扩展的二进制结构的附加节点PDE组件中进行评估（第3节）。
? 在演化的二叉树中应用误差反向传播来调整二项式参数（第4.1节）。
? 在动态细化的模型树结构中逐个重新选择PDE组件。
PDE模块化的局部大气动态表示允许在更长的中期范围内进行自包含且可信的统计可再生能源预测，这是相对于主要使用固定架构的现有ML的重要进步。问题表述类似于解决定义的流体运动PDE的NWP系统的表示方法。多维输入在二项式结构的逐节点扩展中处理，同时保留相关信息。拉普拉斯变换应用于组件解决方案中的节点子PDE，有助于抑制无关的风能和太阳能波动[8]。2输入节点PDE的定义通过多种基础转换函数（有理数、周期性、幂）自动执行，产生高度组合多样的模型形式。复合PDE模块在树结构中以先前层中确定的简单PDE项的乘积形式重新连接。冗余或相似的PDE组件（具有相同的输入）被自动检测并消除，以避免不必要的干扰并细化模型开发的模块复杂性[7]。在选定节点中连续评估组件性能时进行补充测试，以防止训练更新缺乏泛化效果[9]。

2. 风能和太阳能数据驱动模型：最新技术和相关工作
RE预测通常依赖于使用ML和NWP计算方法学习过去的模式。评估的训练样本序列经过算法处理，以构建最优预测模型，最终根据未见数据输入估计未来输出。这种数据驱动的方法可以扩展到多站点参数设置，包括来自多个农场/电站或气象站的时间序列，从而自然提高预测统计精度。每个定义的预测范围都需要不同的模型开发框架，因为最重要的参数不同。多变量序列包含额外数据（例如温度、湿度、压力），这些数据对模型的鲁棒性和可靠性有很大影响[10]。通过根据地形和位置将数据划分为几种类型，可以揭示空间风能、太阳能和重要气象量之间的因果关系。天空图像数据的整合也会影响PV功率预测的准确性，尽管这会导致维度显著增加。数据中的拓扑特征有助于更好地表征局部空气循环模式。预处理技术可以包括分解，将原始序列转换为多个级别的子序列类型（经验模态分解、小波变换），或将数据划分为分布区间或频率带。对更大数据库中适用训练序列的初步过滤，能够充分代表当前模式进展，从而有助于提高非故障预测的计算稳定性。时间序列之间的相关性分析有助于识别特征提取中的相关输入，而降低其维度可能会简化问题解决，导致不希望的预测失败。在数据记录缺失的情况下，可以使用去噪、修正或插值[1]。多尺度预测工具可以分析数据中的周期性，以改进基于模型输出的前瞻性运营负荷规划[11]。
ML包括多种最新技术；常用的概率聚合树在训练中逐步演化出类似二叉分支的结构，或者基于决策超平面的支持向量机（SVMs）用于分隔区间。卷积神经网络（CNN）或基于长短期记忆多层编码器的深度学习（DL）可以捕捉风能和太阳能序列中的长期模式，改进多步提前计算[5]。ML可以成功消除商业预测中的偏差误差，但在表示风能和PV生产的快速变化或间歇性振荡方面效果较差，这是由于NWP在相邻大气层中的固有限制[12]。中尺度NWP模拟通常忽略局部特定的气流或循环场。基于AI的工具将多层计算的大规模空间输出与提取的空间相关性的时间传输特性相结合[13]。解释变量是NWP误差分析的结果，用于改进聚合模型的输出。中尺度NWP和微尺度地形数据可以整合到多个预测范围和高度基础中，以解决由于模型适应复杂地形而导致的长期NWP预测质量下降的问题[14]。敏感性分析表明，DL训练窗口的大小显著提高了统计模型的性能，通过捕捉当前长/短期模式来最小化无关数据对NWP输出的不利影响[15]。ML校正模型基于转换后的NWP序列改进了局部RE的日常规划[16]。风力涡轮机/光伏输出与预测数据之间的差异可用于均值聚类。识别的最小距离误差用于检测下一天数据训练的初始粗糙聚类中心[4]。集成学习中的聚类可以根据贝叶斯基础学习器将数据划分为具有不同分布的多个训练集，增加来源的多样性。集成模型将多个预测器整合到聚合解决方案中，以保证AI优化学习的更好多样性[17]：
○ 基于学习者的单个预测器的加权输出汇总。
○ 基于分布统计的多样化方法将训练数据分组到特征样本集中[10]：
○ Boosting在输出聚合中结合基础预测器和估计的训练参数。弱学习器通过不断修改训练样本的数据分布，并赋予具有更高预测误差的样本更大的权重，从而被整合到更强的预测器中。○自助法（Bootstrapping）利用残差数据分布，根据构建的预测区间对原始训练集进行重新采样。新的数据样本被分成组，用于替换序列，以改进训练效果。预测区间（PI）量化了模型输出的不确定性，从而增强相关信息并限制无关特征。边界信息的密度关联了PI中的上下限[18]。概率模型根据分布数据估计PI中的点输出。当解释上下限估计时，会消除不正确的分布形状，以最小化输出误差，从而优化PI[19]。传统模型可以转换为随机链框架。基于堆叠的方法整合了多个数值天气预报（NWP）模型的预测结果，以重新评估目标天气状态日的预报，在评估太阳输出的变化时发挥作用。基于分位数预测的最终概率聚合在考虑参数不确定性的情况下最大化了准确性[20]。一些已发布的策略旨在改进预处理阶段中重要数据特征的表示，类似于基于它们相关距离提出的最优样本选择方法。卫星图像可以与表格数据融合，在自组织图中识别它们的聚类中心，从而改进信息扩散建模[21]。利用来自多个空间参考站的历史序列可以检查目标点最新风数据的短期和长期模式。在监督学习中，基线数据集包括单一和加权平均方案，其中梯度更新更好地反映了序列中的复杂时空特征[22]。粒度频率分解在深度序列框架中使用变换下采样来捕获长期时间数据模式。小波将原始序列分解为特征频率带的组成部分，这些组成部分在连续时间间隔内被采样，以提取长期趋势中的短期振荡[23]。时变过滤和经验分解可以将原始风序列转换为相位重构数据，以消除混沌变化并改进ML模型中的表示[24]。季节性趋势分解通过考虑残差因素来区分序列。LSTM层可以利用特征优化来采用迁移行为[25]。小波域通过空间注意力模块整合时间和频率成分，以调整ML聚合中的权重[26]。DfL使用数值逆变换（OC）原理来建模当前天气模式，其形式类似于基于数值天气预报物理方程定义的确定性系统[7]。

在风和太阳统计预测的数据和方法论中，从2017年12月1日至31日在Kopisty（海拔240米）和Milesovka（海拔837米）的专业二级气象站观测的历史记录中提取了十二个相关量，这些气象站位于低地和高地[27]：
○全球辐射（GR）、凝结高度层
○地面温度、2米处的相对湿度、视压
○风速（WS）、风向、最大风速（时间）和轨迹（积分）
○能见度、第一云底高度和第二云底高度

选定的变量被处理以寻找初始化时间，并作为输入提供给模型进行训练。这种两级姿态基础的不同数据改善了大气层之间关系的表示。这一优势有助于在使用统计机器学习（ML）在中期范围内计算输出时提高可预测性和稳定性[28]。两层相关数据中的变化或异常可能表明潜在的不稳定性或模式突破，这些可以在预测时间前一天就被识别出来。在多层建模中训练和识别两层数据关系中的显著变化，以响应当前模式的进展[8]。晴空指数（CSI）是一个重要的比率因子，它表示标准化全球辐射输入-输出中的全球辐射（GR）的相对形式，不受日周期时间和绝对GR强度的影响[8]。
CSI = GR(t) / GRcls(t) （1）
GR和GRcls—时间t的观测值和晴空（最大）辐照度。

可用的档案数据通过初始化搜索模型进行处理，以在逐步扩展的x天间隔内获得最后测试小时的误差最小值。这一初步分析提供了适用的训练间隔的粗略估计，这些间隔对应于开发预测模型的初始化时间范围。根据皮尔逊相关距离（CD）计算的相关相似性（CS），详细重新采样预定的日序列，以评估与最后可用时间段内的对应数据行相比有价值的数据行。两个数据记录在同一时间点的相似性度量范围在0到1之间，这意味着如果CS = ‘1’，则P, Q向量是相同的。如果CS的值接近‘0’，则P, Q完全不同[2]：
(2) P(p1, p2, …, pn) 和 Q(q1, q2, …, qn)—n维数据向量。
cov(P,Q) 和 var(P/Q)—P, Q数据的协方差和方差。

图1展示了在最新数据序列的每次评估测试中，逐步增加的时间点上寻找初步适用日训练间隔的初始化模型搜索。如果检查模型无法在测试数据上获得可接受的近似精度（在过度突破的情况下），则逐步移动开始和结束时间点，以找到档案数据集中模型训练的适当初始化时间。最初确定的模型日范围被重新选择，根据每个测试小时定义的模式相似性度量分别评估每个数据记录[9]。
图1. 初始时间点的初步估计（辅助模型误差最小化，在逐步检查的扩展日训练范围内）用于数据模式相似性重新采样。
图2展示了在模型中预测风和太阳ML输出时的自我决定训练/测试程序[28]。
最终完成的模型在最后观测数据上进行了测试，以处理下一个日序列中每个响应时间的未见过输入，计算近似序列。如果开发的模型没有达到定义的测试阈值误差，这表明统计预测不够成功，无法用于可靠的天气状态日规划。
图3显示了两个专业气象设施在低/高地区位的示意图[27]。
图2. 使用二次相似性重新评估的数据样本进行模型训练和测试，在一天前的预测方案中，采用固定的24小时输入-输出延迟来计算风和太阳序列。
图3. 西波希米亚地区自动气象观测站的低地/高地定位。
图4展示了相关气象输入与WS/GR输出之间的相关性分析。正数（+1）或负数（-1）度表示两个量之间的相关类型。正（负）类型表示第一个数组中的值大于1，第二个数组中的值也大于1（小于1或相反）。接近零的度值表示没有或只有边缘数据相关性[29]。
图4. 选定的气象输入与WS/GR输出之间的相关性（1 = 地面温度，2 = 2米处的相对湿度，3 = 凝结输出层高度/平均风速，4 = 视压，5 = 平均全球辐射/最大辐射时间，6 = 平均能见度，7 = 平均风向，8 = 最大风速时间，9 = 风迹（积分），10 = 第一云底高度，11 = 第二云底高度）。

4. 风-太阳序列建模中的自优化ML方法
4.1. 差分学习—一种新颖的混合神经数学计算方法
差分学习（DfL）是由作者提出的一种新的混合软计算方法，它将自适应进化ML与数值方法结合起来，用于求解偏微分方程。差分多项式神经网络（D-PNN）是一种基于DfL的回归技术，它将k阶的一般线性偏微分方程（PDE）分解为确定阶数的2变量PDE形式，并在D-PNN节点中进行L变换。DfL可以建模未知的非线性系统，这些系统由一组输入变量描述，这些变量难以用传统的数学/物理方程描述或用传统的ML表示。模型演化通过自组合最优的2个输入变量来最大化，无需在初始阶段进行数据预处理。D-PNN在每个添加或重新适应的层中动态地逐节点演化多层二项树结构。每个选定的2个组合节点形成一个PDE转换后的和组件，该组件被包含（或从）整体模型中提取出来，以迭代改进目标输出的近似。模型的逐步扩展通常基于库尔特·哥德尔的不完备性定理产生最优解。D-PNN节点在反向传播计算架构中连接，处理2输入数据，根据OC公式预定义并替换它们的PDE在和组合模型中。多项式节点处理的顺序直接与PDE转换顺序相关[3]：
(3)
其中A, B, …, G—未知函数u的x1, x2独立变量的参数系数。
基于OC的n阶导数转换描述了未知函数f(t)，表示为替换拉普拉斯变换（L变换），考虑到已知的起始条件[4]：
(4)
f(t), f′(t), …, f(n)(t)—<0+, ∞>范围内的连续原始值，p, t—复数和实数变量，L—变换。
f(t)中的导数被L转换为代数方程（5），其中F(p)的图像被分离为复数纯比例形式（3）：
(5)
B, C, Ak—基本分数的系数，a,b—多项式参数，α1, α2, …, αk—简单实数根。
结果比率项表示原始f(t)的L变换F(p)，可以通过基于OC的逆L操作（6）恢复，以获得在PDE（3）形式中定义的原始f(t)：
(6)
P(p), Q(p)—s?1, s阶的多项式，α1, α2, …, αn—Q(p)的简单实数根。
如果f(t)预期是一个具有由周期g1,2,…,k确定的规则时间周期的可分离函数，则其导数可以转换为正弦和余弦对应形式。原始值再次通过逆拉普拉斯操作（7）计算。这个定义应用了周期性数据的振幅和相位，以从节点L图像中获得未知的周期性子函数：
(7)
β1, β2m, …, βn—Q(p)的虚数根。
逆恢复应用于有理（6）或周期性L图像PDE项（7），通过初始转换获得。在D-PNN节点块中产生的原始uk在PDE模型的模块输出中求和，以近似未知的n输入u函数（3）。
图5. D-PNN结合了最佳的两个输入对，在演化的二项树节点结构中形成向后产品，以在总输出Y中形成最优PDE组件解。对类似转换的节点PDE（6）表达的F(p)比率应用的逆操作由角度指数f = arctg(x2/x1)表示。从L变换的比率（8）恢复y(x1, x2)的实数2变量形式，以获得yj PDE节点的分数解：
(8)
yj—节点uk函数的偏PDE解，sig—Sigmoid变换。
φ = arctg(x2/x1)—2输入变量x1, x2的角度。
PDE节点的周期性转换具有双输入x1, x2和γ1, γ2（9），从（7）得出：
yi = [a1x1 × cos(b12π.γ1.t + b0) ? a2x2. sin(b22π.γ2.t + b0)] × e? （9）
yi—节点PDE项的周期性输出，γ1, γ2—相位[弧度]，x1, x2—实数振幅，a, b—系数。
数据时间t周期可以用傅里叶级数在转换后的节点PDE中表示，考虑到它们的导数（10）：
Yi = [a1x1. cos(b1π.t + b0) + a2x2. sin(b2π.t + b0)] × e? （10）
yi—节点PDE项的傅里叶表示，t—时间，x1, x2—振幅变量，φ = γ2 ? γ1。
Euler数c的项（11）与基于指数函数（6）的公式相关，半径r（振幅）可以替换相位（频率）φ = arctg(x2/x1)的有理分量，对于与F(p)的逆变换相关的变量x1, x2：
(11)
图5展示了在树状多层节点结构中PDE节点组分的向后生成。在D-PNN模型开发中使用了同步的三层优化算法，从空开始，逐层添加/修改每个评估层中的节点，生成适用的节点PDE组件（见图6中的流程图）。D-PNN的三级冲洗优化在节点2输入选择中，块PDE转换类型检测，以及在模块化复合总和解决方案的逆向生成中的参数调整。D-PNN模型的特点[29]：
- 将n变量的一般阶PDE分解为一组定义的简化PDE
- 通过逐节点插入到反向计算结构中来发展PNN结构
- 在每个添加的PNN节点中生成将参与总和模型的PDE组件
- 使用OC基函数进行多种类型的PDE转换以定义其计算框架
- 使用PDE导数的L变换和逆OC恢复节点原始状态
- 动态（重新）选择最优的2输入以扩展并行PDE组件模型
- 不显著降低数据维度，从而避免模型过度简化
- 选择各种模型组件的组合

4.2. 使用Matlab DL工具箱的深度学习
DL是一种高效的计算方法，能够从输入-输出样本中学习长期模式，采用复杂的架构设计，包含多个结构层，而不依赖于渐进式开发模型。Matlab DL工具箱（DLT）是一个框架，提供了深度神经网络的快速设计、参数化和训练设置。DLT提供了使用序列到序列回归的长短期记忆（LSTM）网络[31]，其基本结构通常包括以下层次：
- 输入序列层
- LSTM层
- 第二处理层-全连接
- 下降层
- 第一处理层-全连接
- 输出回归层
基于DL的回归的关键部分是LSTM层。输入序列层向网络结构提供数据序列。LSTM层处理输入序列，以捕获定义时间步长内的长期数据模式。输出由隐藏状态Ht和Ct表示。时间延迟的LSTM块计算当前状态和隐藏状态（Ct?1, Ht?1），以便在下一个计算步骤中与输入向量结合，更新每个时间t的Ct状态（图7）。LSTM层保留来自之前的时间t ? 1, t ? 2等的信息，应用于下一次循环更新中。下降层根据概率分布函数将随机输入设置为零值，以减少过拟合。损失函数应用于多个数据子集中的最小预定义批量长度，以优化训练中的输入权重更新[32]。

图7. LSTM层包括循环门，用于计算每个时间延迟输入的隐藏/单元状态（Ct = 下一个单元状态，Ht = 下一个隐藏状态输出）。遗忘门（12）决定保留哪些信息以及忽略哪些信息，通过对权重Wf乘以连接的先前隐藏状态Ht?1和当前输入Xt应用Sigmoid激活函数：
Ft = σ (WfZt + bf) (12)
候选门记忆（13）处理新信息Zt = Ht?1.Xt，该信息在LSTM层中计算，并乘以权重Wc和bc，应用双曲正切激活函数：
Ct = tanh (WcZt + bc) (13)
输入门（14）类似地（9）决定哪些输入信息被记住，与记忆状态相反：
It = σ (WiZt + bi) (14)
输出门（15）再次确定在两个隐藏状态之间记住哪些信息，通过偏置bo和权重Wo与连接的输入Zt的乘积：
Ot = σ (WoZt + bo) (15)
最后门（16）通常不包含应用于Ht输出的激活函数，尽管在某些应用中可能有用：
Yt = WyHSt + by (16)
DLT基于众所周知的基本LSTM架构，能够从输入-输出样本中学习复杂的相关性。这种复杂的混合循环网络类型可以将多个处理（在简单的计算元素中）与基于连接门的生物启发操作结合起来。DLT网络主要需要手工设计定义的层复制结构，也可以包括不同的层类型[33]。LSTM保留一个隐藏状态Ht和一个额外的记忆单元状态Ct。这种内部类型的单元记忆允许保留来自长期模式的信息，而隐藏状态通常保存从数据中学习到的短期关系（图7）。

4.3. 使用Matlab统计工具箱的机器学习回归
Matlab统计和机器学习工具箱（SMLT）方法被应用于评估在数据驱动的WS和GR预测中发展的模型。SMLT提供了多种新颖的神经计算、聚合随机或传统数学ML方法[34]：
- 线性交互、逐步和稳健回归应用简化的参数化方程，易于适应和解释输入数据。
精细、中等和粗糙的回归树逐步发展出易于解释和适应数据样本的二进制分支结构，在迭代训练中进行调整。初始化根节点从处理数据输入开始，发展出达到终端叶子的分支，根据识别的预测状态进行。在二进制节点上评估输入，以确定在下一个决策步骤中应用的最佳方式。终端叶子的输出对应于模型的整体响应。精细的树包含更多的节点分支/叶子，这详细说明了问题表示，但在测试未知数据的样本时通常具有较低的泛化能力。它们经常遭受过拟合，这意味着与训练时的准确性相比精度显著降低。另一方面，粗糙的树由较少的大叶子组成，这在训练时不允许高精度，但在验证处理未见数据输入时提供了鲁棒性。需要在两种边界方案之间优化和平衡树的开发。

支持向量机（SVM）基于从定义的输入数据转换中获得的线性、立方、平方、高斯或径向基函数（RBF）核，首先应用于ML过程之前。线性ε训练参数消除/忽略超出ε向量范围的输出错误，如果假设它们为零/‘1’。支持向量表示输出界限区间，其中错误超过定义的ε值。
高斯过程回归（GPR）用于问题定义的空间中，根据线性、常数或零基函数计算输出，作为先验GPR模型提供。有理函数、指数函数、平方指数函数、二次函数或母函数在模型输出响应的每个预测器评估中定义距离空间向量。
聚合树：集成提升/装袋（EBT, EBoosT/EBaggT）为一组弱学习者树模型产生集成加权输出。在数据采样中应用最小二乘策略、提升和自助法来组合和基于概率统计的集成（第2节）。
主成分分析（PCA）是SMLT的一个额外项目，在ML之前应用，但没有改善WS和GR日预测的处理效果。
预测模型最终在最后可用的数据样本上进行验证，使用获得最佳近似精度的模型来计算次日序列。

5. 在数据驱动的日风和太阳预测中的ML实验
使用来自2层低/高基站的天气数据集（图3）进行了风/太阳预测实验，并评估了两组流形ML自优化模型，使用描述的点时间初始化和训练数据重新评估在预处理中（第3节）。如果初始预评估区间（图1）内的输入样本与相关的最后观测时间参考序列之间的模式相似性（2）高于定义的相关性阈值（0.5），则将样本包括在最终训练集中。在无法获得确定的学习样本的情况下，可以对可用数据执行广泛的初始时间搜索。D-PNN自动在结构模型中搜索最优的2输入节点，以获得高得分PDE组件的初始列表，分别检查是否可能包含在输出总和中。通过D-PNN和SMLT的自适应学习在节点中形成自组织结构。D-PNN模型经过互补测试，最终验证应用于未知的次日输入，以计算24/8小时偏移的输出序列。这种一步式日冲洗数据处理通过将一个预测模型应用于每个参考时间的最新输入，大大降低了计算成本和程序复杂性。根据最后几小时的最低测试误差，从各种运行中选择最佳预测模型，使用随机或用户自适应启动。

图8和图9展示了在10天的秋季-冬季监测期间，使用PDE转换D-PNN、循环DLT和概率SMLT模型在0–24小时风速和8–16小时辐射范围内的真实世界和预测输出序列的特性。图8. 2017年12月17日，Mile?ovka高地站，24小时风速预测RMSE：D-PNN = 1.516，DLT = 1.987，SMLT（GPR-matern）= 1.490 [m/s]。图9. 2017年12月16日，Kopisty低地站，8小时太阳辐射预测RMSE：D-PNN = 21.46，DLT = 27.51，SMLT（EBoosT）= 20.42 [W/m2]。所有评估的ML模型在部分不稳定环境条件下通常都能成功近似目标GR或WS序列的突然变化（图8和图9）。D-PNN模型通常更好地反映了次日模式的快速动态变化。日循环的WS和GR特性大多稳定，如图所示，但在12月21日至22日及随后期间的夜间变化明显，伴随着阵风和云层条件（图1和图2）。太阳序列首先转换为相对CSI，以避免由于实际太阳强度和地平线水平导致的绝对日变化数据。CSI数据通过考虑最大晴朗天空GR值进行归一化，以消除季节性效应。计算出的GR输出从名义CSI序列重新归一化，以恢复目标输出[8]。D-PNN通过L变换函数（正弦、余弦）（7）自动检测周期性和角度数据（GR、温度、风向等），以与日循环中的振幅时间相关联。SMLT方法使用自优化框架（类似于D-PNN），不需要在训练超参数或层结构中进行强制性的试错设计（如DLT所需）。

6. 在风和太阳日预测中评估ML结果
模型每小时平均误差在统计检查的10天秋季-冬季期间的日间隔ML预测结果中进行了总结（图10和图11）。12月21日（图1）风模式的显著变化期（阵风和暴风）导致所有模型的累积误差（图9）。同一天的GR显著下降及其从12月22日（图2）开始的模式转变类似于接下来几天成功ML技术模型输出的预测下降（图11）。如果可以访问广泛的表格数据档案，可以通过算法广泛搜索适用的训练样本来减少这种预测中的过度错误（2）。

图10. Mile?ovka高地站，10天平均风速预测RMSE：D-PNN = 2.038，DLT = 3.158，SMLT（GPR vs. EBT 7:3）= 2.571 [m/s]。图11. Kopisty低地站，10天平均太阳辐射预测RMSE：D-PNN = 37.68，DLT = 40.30，SMLT（GPR vs. EBT 5:5天）= 38.59 [W/m2]。数据驱动ML模型的近似精度主要受初始选择最佳训练样本的影响[8]。计算每个预测模型的皮尔逊相关系数R2（图12和图13），以比较10天实验中的统计精度。SMLT输出的所有预测R2值的显著下降意味着在第二半周期使用GPR概率和EBT分布式建模时WS平均的不希望的结果（图8）。最成功的ML模型的整体结果在8小时GR和部分24小时WS估计上略有不同。日WS近似在精度上只有小的变化。复杂的D-PNN模块概念在预测不稳定的WS和周期中间的GR序列方面主要优于DLT和SMLT。所有比较的ML方法在近似不规则的GR日周期方面都获得了更好的次日精度。更多样化的空间/多级观测数据自然会改善模式表示和可靠性，在早期模型开发和预测计算中消除意外故障。图14和图15中的图表展示了预测的WS/GR序列的平均绝对误差（MAE），其日数据点与RMSE的进展具有相关性。图12. Mile?ovka高地站，风速10天平均值预测相关性系数：D-PNN = 0.145，DLT = 0.120，SMLT = 0.062。图13. Kopisty低地站，太阳辐射10天平均值预测相关性系数：D-PNN = 0.537，DLT = 0.432，SMLT = 0.506。图14. Mile?ovka高地站，风速10天平均值预测MAE：D-PNN = 1.65，DLT = 2.71，SMLT = 2.19 [m/s]。图15. Kopisty低地站，太阳辐射10天平均值预测MAE：D-PNN = 27.05，DLT = 30.45，SMLT = 27.91 [W/m2]。WS数据每10分钟预测一次，提前24小时；而GR数据则通过30分钟间隔的8小时预测序列来近似，这在白天时段以及云层变化的较低时间变异性方面是足够的（见图8和图9）。因此，WS 24小时近似序列的质量自然低于GR 30分钟的估计结果。此外，GR在输入-输出序列之间的相关性更强（见图4），这使其在使用机器学习进行建模时具有优势。WS的预测系数R2（见图11）异常低，主要是在评估期的后半段，可能是由于在变化条件下复杂风因素的不稳定性增加所致。风序列中的混沌变化和尘埃不确定性使得难以准确预测24小时后的情况，这也降低了预测的可靠性（见图8）。检测到的主要建模初始日数据点（见图16和图17）在二次相似性距离搜索中重新评估，以确定最佳训练数据行。图16. 根据逐渐增加的误差最小值初步检测到的日训练数据样本区间，对风速的模式相似性进行了二次评估。图17. 根据逐渐增加的误差最小值初步检测到的日训练数据样本区间，对太阳辐射的模式相似性进行了二次评估。所有评估的机器学习模型的计算输出显著相关，表明数据预处理和训练过程是一致的。DfL模块概念在每个预测日中对目标序列的近似效果最佳（见图10和图11），尽管在某些情况下性能略有下降。模型采用相似的日初始化时间进行开发（见图16和图17），除了DLT模型，该模型需要在夜间中断条件下扩展日样本间隔。与更可靠的概率和PDE组件模型相比，DLT模型需要更详细的日训练区间识别，并可能需要额外搜索更多数据点。D-PNN模型受到在广泛搜索中评估的指数级增加的组合变体的限制，尽管PDE解的流形能够充分反映大气变化的不确定性。由于意外环境变化导致的误差日变化，D-PNN相比DLT或SMLT显示出更高的鲁棒性（见图8和图9）。DfL数据转换有助于模型输出的稳定性。最佳SMLT模型是基于概率和分布统计的GPR和EBT（见第2节）。在WS模型中，选择的模型比例为7:3（GPR vs. EBT）；在GR模型中为5:5。GPR的随机特性和SMLT的聚合EBT[34]在使用标准化CSI输出近似GR周期序列方面被证明是有效的（见图9）。它们在WS模型中的预测有时会导致输出平均值下降，这体现在R2相关系数的降低上（见图12）。

7. 讨论
训练和预测数据模式的快速变化通常是气流循环中的表面不规则性和条件下的混沌不稳定性造成的。这些不确定状态导致训练困难，并使得计算与模型输入相关的24小时预测结果变得不切实际。对上升序列的近似需要选择性数据搜索，以优化学习过程以适应当前的模式变化。短期不稳定性会引起WS或GR的突然振荡（见图8和图9），这些振荡在几小时的时间范围内难以预测。最佳训练样本的提取取决于模式相似性的评估策略（两个输入向量之间的相关距离[2]）。更复杂的比较措施可以用于短时间范围内的序列（6小时）的选择性训练。数据驱动的机器学习预测在夜间天气突发变化后通常会失败。WS或GR数据在训练和预测时间的特点可能在突然的锋面干扰下完全不相关。可以定义一个验证阈值，参考前一天的失败情况或数值天气预报（NWP）数据来计算序列。如果机器学习模型的输出超出误差范围，可以使用转换后的NWP预报作为替代。可以通过数据档案回顾性地搜索和揭示之前的数据模式异常变化，以重新评估最佳模型初始化时间（见图11）。可以向模型提供额外的24小时延迟输入数据（如湿度、辐射、功率负荷等），以改进数据驱动的机器学习预测。

8. 计算限制和研究前景
主要的训练区间提高了自包含模型的近似统计性能，但这些模型无法在中等尺度上模拟整个大气的动态变化。识别最佳学习样本需要在大型观测档案中进行额外的搜索时间，尽管训练过程被简化为顺序程序。通过与NWP的模式相似性比较，可以改进模型初始化的数据采样。与易于访问的历史数据库[27]相比，数值天气预报（NWP）的表格档案[28]并不免费提供。D-PNN的优化成本明显高于常见的Matlab机器学习方法，因为它面临大量的组合扩展。逐步的DfL二进制优化在模拟未知动态系统方面被证明是有效的。D-PNN的输入被限制在几十个量上，以便在可预见的时间内计算输出；因此，处理高维数据的效果不佳。滞后输入可以提高模型质量，尽管需要额外的处理时间。参数初始化和启发式策略可以减少组合搜索中用于反向优化节点PDE组件的额外时间。在新的数据集中可以重新调整添加或移除的PDE组件。增量训练可以提高模型处理不同输入的能力。D-PNN结构的复杂性与其从额外输入-输出样本中学习的模式成正比[30]。

9. 结论
在数据驱动的GR/WS建模中，CD采样通过先进的PDE模块化、深度神经网络和软计算自优化机器学习方法得到了实验验证。在固定时间范围内实现的迭代日序列计算在减少计算时间和提前获取结果方面证明了其有效性。所提出的统计学习方法允许及时预测24小时输出序列，其速度超过了基于日内机器学习（ML）或数值天气预报（NWP）的方法。差异数据关系使得在比常规更长的时间框架内建模模式变化成为可能。基于相似性的选择性训练提高了模型在处理混沌WS和交替日GR周期时的稳定性和可靠性。坚实的DfL模块概念证明了其在反映快速动态变化和预测时间进展方面的能力。尽管存在一些未解决的优化问题，但它通常优于常规的Matlab机器学习方法。提前提供的GR/WS预测有助于日常规划可再生能源设施的使用。物理NWP模拟更好地反映了气流循环中的不规则中断，尽管在传递和访问方面存在显著延迟。基于概率的GPR和EBT模型在近似GR周期序列方面被证明是有效的[34]。它们的WS预测在某些日子可能会导致输出平均值下降，这体现在R2相关系数的降低上（见图12）。

7. 讨论
训练和预测数据模式的快速变化通常是气流循环中的表面不规则性和条件下的混沌不稳定性造成的。这些不确定状态导致训练困难，并使得计算与模型输入相关的24小时预测结果变得不切实际。对上升序列的近似需要选择性数据搜索，以优化学习过程以适应当前的模式变化。短期不稳定性会引起WS或GR的突然振荡（见图8和图9），这些振荡在几小时的时间范围内难以预测。最佳训练样本的提取取决于模式相似性的评估策略（两个输入向量之间的相关距离[2]）。更复杂的测量方法可以改进选择性训练。在短时间范围内的序列（6小时）中，可以对每个评估的输入-输出样本使用更复杂的比较方法。数据驱动的机器学习预测在夜间天气突发变化后通常会失败。WS或GR数据在训练和预测时间的特点可能在突然的锋面干扰下完全不相关。可以定义一个验证阈值，参考前一天的失败情况或数值天气预报（NWP）数据来计算序列。如果机器学习模型的输出超出误差范围，可以使用转换后的NWP预报作为替代。可以通过数据档案回顾性地搜索和揭示之前的数据模式异常变化，以重新评估最佳模型初始化时间（见图11）。可以向模型提供额外的24小时延迟输入数据（如湿度、辐射、功率负荷等），以改进数据驱动的机器学习预测。

8. 计算限制和研究前景
主要的训练区间提高了自包含模型的近似统计性能，但这些模型无法在中等尺度上模拟整个大气的动态变化。识别最佳学习样本需要在大型观测档案中进行额外的搜索时间，尽管训练过程被简化为顺序程序。通过与NWP的模式相似性比较，可以改进模型初始化的数据采样。与易于访问的历史数据库[27]相比，数值天气预报（NWP）的表格档案[28]并不免费提供。D-PNN的优化成本明显高于常见的Matlab机器学习方法，因为它面临大量的组合扩展。逐步的DfL二进制优化在模拟未知动态系统方面被证明是有效的。D-PNN的输入被限制在几十个量上，以便在可预见的时间内计算输出；因此，处理高维数据的效果不佳。滞后输入可以提高模型质量，尽管需要额外的处理时间。参数初始化和启发式策略可以减少组合搜索中用于反向优化节点PDE组件的额外时间。在新的数据集中可以重新调整添加或移除的PDE组件。增量训练可以提高模型处理不同输入的能力。D-PNN结构的复杂性与其从额外输入-输出样本中学习的模式成正比[30]。

9. 结论
在数据驱动的GR/WS建模中，CD采样通过先进的PDE模块化、深度神经网络和软计算自优化机器学习方法得到了实验验证。在固定时间范围内实现的迭代日序列计算在减少计算时间和提前获取结果方面证明了其有效性。所提出的统计学习方法允许及时预测24小时输出序列，其速度超过了基于日内机器学习（ML）或数值天气预报（NWP）的方法。差异数据关系使得在比常规更长的时间框架内建模模式变化成为可能。基于相似性的选择性训练提高了模型在处理混沌WS和交替日GR周期时的稳定性和可靠性。坚实的DfL模块概念证明了其在反映快速动态变化和预测时间进展方面的能力。尽管存在一些未解决的优化问题，但它通常优于常规的Matlab机器学习方法。提前提供的GR/WS预测有助于日常规划可再生能源设施的使用。物理NWP模拟更好地反映了气流循环中的不规则中断，尽管在传递和访问方面存在显著延迟。基于机器学习的日内模型完全依赖于训练统计，特别是在有疑问的情况下，需要优化数据采样。使用NWP工具的早期预警系统可以消除机器学习预测的固有缺陷。在减少的时间内运行的小时内机器学习模型通常可以纠正有效日序列过程中获得的首次整体预测。由有缺陷的机器学习模型产生的不一致输出应作为学习和表示真实模式进展的差异来揭示。参数化的C++软件、观测风辐射和额外的量数据集可在公共仓库中用于比较验证实验[29]。