连接数据与物理:基于图神经网络的混合孪生框架
《Results in Engineering》:Bridging Data and Physics: A Graph Neural Network–Based Hybrid Twin Framework
【字体:
大
中
小
】
时间:2026年05月02日
来源:Results in Engineering 7.9
编辑推荐:
M. Gorpinich|B. Moya|S. Rodriguez|F. Meraghni|Y. Jaafra|A. Briot|M. Henner|R. Leon|F. Chinesta
法国克雷泰尔市丹尼尔·康斯坦蒂尼街6号Valeo,邮编94000
**摘要**
M. Gorpinich|B. Moya|S. Rodriguez|F. Meraghni|Y. Jaafra|A. Briot|M. Henner|R. Leon|F. Chinesta
法国克雷泰尔市丹尼尔·康斯坦蒂尼街6号Valeo,邮编94000
**摘要**
模拟复杂的非稳态物理现象依赖于详细的数学模型,例如通过有限元方法(FEM)进行模拟。然而,由于未建模的影响或简化的假设,这些模型往往与现实存在差异。我们将这种差异称为“无知模型”。虽然纯数据驱动的方法试图从测量数据中学习系统的完整行为,但它们需要在整个空间和时间域内大量的高质量数据。在许多现实世界场景中,这样的信息是不可用的,因为物理量只能在有限的点上进行测量,使得完全数据驱动的建模不可靠。为了克服这一限制,需要采用混合孪生方法。我们不是从零开始模拟现象,而是专注于对“无知成分”的建模。由于基于物理的模型可以近似整个现象的行为,因此剩余的“无知”通常比完整的物理响应的复杂性要低,因此可以用少得多的数据来学习它。然而,一个关键难点是空间测量数据是稀疏的,而且在实践中获取测量相同现象在不同空间配置下的数据(如系统域、外部负载等)是具有挑战性的。我们的贡献是使用图神经网络(GNNs)来表示“无知模型”。GNNs天生能够处理几何结构,使其与任何近似技术(例如FEM)兼容。即使测量位置的数量有限,它们也能学习到缺失的物理空间模式。这使我们能够在不需要密集的空间、时间和参数数据的情况下,用数据驱动的校正来丰富基于物理的模型。为了评估所提出方法的性能,我们在不同的网格、几何形状和负载位置上对非线性热传递问题进行了GNN基混合孪生方法的评估。结果表明,GNN能够捕捉模型差异,并在不同域几何形状和网格离散化情况下泛化校正,从而提高了模拟的准确性和可解释性,同时减少了数据需求。
**1. 引言**
对于复杂系统的高保真模拟(例如表现出强烈非线性行为的系统——湍流流体流动、在大负载下的结构变形或结构化材料等)对于设计、安全评估和性能优化至关重要。它们的行为表示有助于简化复杂的模型。然而,在大多数情况下,所考虑的模型并不能准确反映现实。这是由于模型中的物理偏差或简化,或者在使用有限元方法离散化相应的偏微分方程(PDEs)时存在固有误差[1]。因此,在这些情况下,预测与现实之间存在差距[2]。为了解决这一限制,提出了经典数字孪生的扩展,称为混合孪生[3]。主要思想是通过数据驱动的模型来学习这种“无知”,该模型通常使用模型降阶[4]、[5]、[6]或深度学习技术[7]、[8]、[9]、[10]构建。在混合建模领域,主要挑战在于泛化能力、适应能力和与基础物理模型的无缝集成[11]。将基于物理的模型与基于数据的模型结合起来用于表示“无知”的主要优势在于减少了实验数据的需求,只要物理模型在某种程度上能够反映现实。在工业层面,这是一个吸引人的特性,因为实验数据由于部署成本而有限。
已经使用了几种深度学习技术来构建这种“无知模型”。其中,可以提到使用LSTM(长短期记忆)或ResNet(残差网络)架构[12],这些技术在学习动态系统方面有重大影响。这是可能的,因为尽管只能在少数空间位置进行测量,但可以进行无限制的时间采样,从而获取丰富和详细的时间序列数据。然而,构建一个能够在整个空间域内提供校正的“无知模型”仍然具有挑战性,因为空间测量的稀疏性使得这些模型难以在未观察到的区域推断出准确的校正。
克服这一空间校正限制的一个有吸引力的替代方法是使用图神经网络(GNNs)[13]。这些网络的主要优势在于它们能够学习数据集的固有空间几何关系,从而能够为不同的几何域生成预测。通过直接操作图结构,GNNs可以编码物理系统的拓扑结构,捕捉局部相互作用和长距离依赖性。另一个重要的好处是它们对域形状和几何的灵活性。GNNs还能够处理在域上节点密度不均匀的网格上的数据。这在模拟中特别有利,因为在高梯度或物理感兴趣的区域可以选择性地应用网格细化[14],从而使模型在不强制统一离散化的情况下保持准确性。它们通过边和图连接显式地结合了关系信息[15]。这种结构化的表示允许网络更好地模拟守恒定律、相互作用力和其他物理意义上的约束。这种技术已被证明对于在已知初始条件下学习复杂系统的完整模型是有效的[14]。
GNN与FEM结合使用已被证明对于预测刚体动力学[16]、弹性模拟[17]、[18]、固体[19]、流体动力学[20]、[21]、[22]、[23]和其他实际应用是有效的。然而,当数据集不足以表达要学习的现象时,这些模型存在一些缺点[24]。然而,在混合孪生领域,由于主要目标是构建“无知模型”,因此使用GNNs进行最佳适应的“无知”空间构建似乎很有吸引力。因此,这项工作的新颖之处在于使用GNNs实现基于“无知模型”的空间校正,即使是在构建时数据点稀疏的情况下。
重要的是,在这项工作中采用GNN架构的动机是由于我们的模拟网格数据具有不规则的图结构,其中节点数量和连接性在不同样本之间变化。像多层感知器(MLPs)和卷积神经网络(CNNs)这样的基线架构不适合这项任务,因为它们需要将数据强制扁平化为固定大小或插值到规则网格上[25]、[26]、[27]。这些临时转换引入了离散化伪影,破坏了结构信息,并且没有考虑排列不变性。由于我们的主要目标是评估不同图结构下的泛化能力[15]、[28],MLPs和CNNs并不自然支持这种问题设置。
为了说明这一想法,我们考虑使用合成数据来展示该方法。参考问题是丰富线性热传递模拟,以预测未知的非线性对应响应。这些模拟是使用FEM获得的。尽管作者意识到现实世界问题与所考虑用例之间可能存在差异,但目前的工作侧重于概念验证,而更现实的问题设置将是未来工作的主题。在这里,使用从FEM离散化派生的图表示来学习“无知模型”。GNNs提供了在不同场景(域几何或负载位置变化)和离散化级别上捕捉校正的泛化表示的能力,同时由于几何偏差的施加,所需的数据较少,从而提高了学习“无知模型”的效率。我们展示了在不同域和条件下的混合框架的效率,显示出稳定性、误差减少和泛化能力,与完全数据驱动的GNNs相比。
**2. 相关工作**
传统上,基于物理的模型被用于近似感兴趣的物理现象。这些模型确保了可解释性和表达能力,因为它们是根据物理定律开发的[29]。然而,它们有时受到建模和数学假设的限制,这些假设无法捕捉问题的全部复杂性[3]。这个问题可能源于错误选择的时间或空间离散化[30],或者可能是由于数学近似中的缺失或不正确信息[7],例如,假设了不正确的非线性项[31]或简化的物理贡献。因此,物理问题的表示与现实偏离,影响了它们在现实应用中的使用[2]。这些表示中的差距是通过在真实系统上进行的测量来识别的。在人工智能时代,可以考虑采用纯数据驱动的方法,直接从符合观察到的现实的数据近似中学习。尽管如此,这样的方法缺乏可解释性和泛化能力,使得在测试阶段不可靠[32]。
混合建模在数据和知识之间建立了桥梁,以便在一个有根据和一致的框架中进行模型发现[3]、[33]。混合建模是工程学中一个传统而广泛的研究领域,它与理论指导的数据科学(TGDS)[34]相结合。两者都展示了知识,特别是物理模型和已知的认知定律,如何丰富模型学习。在这个背景下,可以根据信息和数据的组合方式从不同角度应用混合建模。目前最受欢迎的话题是开发物理引导的机器学习,其中物理可以是算法架构的一部分(物理嵌入的)或在学习过程中强制执行(物理感知的)[35]。该领域中最著名和应用最广泛的技术之一是所谓的物理感知神经网络(PINNs)[36]、[37]、[38],它们作为一种将物理定律直接纳入学习过程的方法而受到关注[36]、[37]、[39]、[40]、[41]、[42]。研究表明,PINNs在解决各种PDE方面非常有效,我们在流体动力学和热问题方面强调了它们的贡献[36]、[37]、[39]、[40]、[41]、[42]。然而,学习错误的假设,即错误反映现象物理特性的PDE,将导致学习错误的近似[43]。更通用的解决方案依赖于物理嵌入的学习方法。这些方法包括强制保守或辛特性的结构保持方法[44]、[45],以及结合来自热力学原理的认知偏差的模型[46]、[47]。然而,这些方法的准确性可能会受到数据质量和数量、底层系统的复杂性以及物理偏差施加方式的影响。此外,这些模型仍然是黑箱,泛化能力,特别是可解释性,通常受到限制[48]。
然而,最近对适应不规则和非结构化域的神经网络架构的关注值得我们注意。图神经网络(GNNs)[27]、[49]、[50]、[51]、[52]在处理复杂关系数据方面显示出了显著的潜力[14]、[53]、[54]、[55]。这是由于它们施加了所谓的几何偏差,使得模型在学习过程中能够实现更高的泛化[56]。通过利用图结构,它们能够捕捉和学习系统的物理特性,基于成对的节点相互作用,如果已知的话,还可以结合归纳偏差[57]、[58]。另一种混合建模方法是混合孪生中的方法,即学习仅近似物理模型与现实之间检测到的误差的“无知模型”[59]、[60]。在这种情况下,只需要少量的数据测量就可以表征“无知”模型。
在这方面,可以找到几个例子,其中基于物理的模型通过基于稀疏PGD[6]、[7]、[61]和更通用的机器学习方法[10]、[31]、[62]构建的“无知模型”进行校正。在[63]中的工作结合了基于物理的模型和基于全连接神经网络的“无知模型”,后者学习差异,从而在整个系统生命周期中改进预测。此外,Daby-Seesaram等人的工作提出了一个校正模型,该模型在物理模型的近似和真实值之间使用适当的广义分解[64]。同样,[9]中的作者将这一校正框架应用于磁性轴承的设计。此外,[65]的工作也采用了这一框架进行灾害管理,特别是在野火预测方面。混合孪生技术在结构健康监测领域也有显著影响,当系统中存在某些损伤和故障时,这种影响尤为明显[6]、[66]、[67]、[68]。将有限元方法(FEM)与图神经网络(GNNs)[69]、[70]、[71]相结合,为改进仿真工作流程开辟了新的途径。虽然这些工作没有使用混合孪生范式,但在单一框架中结合数据驱动(GNN)和物理驱动(FEM)的方法可以实现准确且可扩展的仿真。[70]中的作者通过将基于FEM的物理约束集成到损失函数和双消息聚合中,展示了在仿真流体流动方面的准确性提升。在[71]中,作者利用混合FEM和GNN方法创建了一个高效准确的结构损伤检测工具。他们的混合建模框架包含多个模块:第一个模块使用基于FEM仿真的模态数据训练的GNN来估计结构损伤的位置和严重程度;第二个模块使用共形预测技术量化GNN预测的不确定性。这些具有不确定性意识的预测启动了一个热启动的FEM模型更新工作流程。
相比之下,在本工作中,我们提出开发一种混合孪生技术,使用现有的物理模型作为输入,以学习该模型与实验数据之间的差异,其中包括所研究的热力学现象中的非线性因素。
3. 方法
图神经网络(GNNs)作为一种有效的工具,已经逐渐受到重视,用于对图结构化数据进行建模和学习。一个图G=(V,E)由节点V={1,?,n}组成,其中n是节点的数量,节点通过边E连接,E?V×V,m是边的数量。节点代表域中的空间离散点,边对应于这些点之间的关系或连接。
GNNs非常适合物理领域,因为它们可以天然地考虑数据的空间和拓扑属性。典型的GNN架构包括三个主要组成部分:编码器、处理器和解码器。编码器将原始的节点和边特征转换为潜在的(称为隐藏的)表示,用于基于图的学习,这种表示结合了结构信息(邻居、连通性或角色)和上下文信息(抽象特征,这些特征总结了节点与其周围环境的关系,使模型能够超越初始表示进行泛化)。处理器是GNN的关键步骤,因为它在图结构中传递消息,根据来自邻居的信息更新节点和边的表示。通过多层消息传递过程来捕捉局部和全局的关系模式。在这一处理步骤之后,解码器将学习到的隐藏特征转换为所需的输出,这取决于具体问题和应用。
3.1. 编码器
在图的每个节点中,我们有以下特征:
(1)vi=[zi;ni]
在每条边上:
(2)eij=[xi?xj;∥xi?xj∥2],
其中vi是图中的第i个节点的特征,zi表示表征第i个节点的物理量(温度、速度等),ni是表示图中不同节点组的独热编码向量(内部、边界、热源、边界条件等),eij是第i个节点和第j个节点之间的边的特征,xi是第i个节点的坐标。
通常,边界节点的处理方式与内部节点相同。唯一的区别是边界节点可能受到边界条件或其他局部物理约束的影响。在我们的案例中,应用了具有固定温度的狄利克雷边界条件。对于这些节点,向量ni会相应地进行调整。此外,这些节点的网络输出被设置为零以满足施加的边界条件。
编码器分别将节点和边输入特征(1)和(2)转换为隐藏表示。数学上,这可以表示为:
(3)hvi(0)=εV(vi;ΘεV),heij(0)=εE(eij;ΘεE),
其中hvi(0)、heij(0)分别是节点vi和边eij的初始隐藏状态;εV、εE是相应的编码器,由全连接神经网络表示,ΘεV、ΘεE分别是编码器的可学习参数。
还值得注意的是,当前架构是由节点和边特征的维度定义的,而不是图中的边和顶点数量。
3.2. 处理器
处理器通过聚合来自邻近节点的信息来迭代更新节点的隐藏特征。这一组件捕捉了域不同部分之间的相互作用。在每层消息传递k中,节点和边的隐藏状态依次更新。首先更新边嵌入:
(4)heij(k+1)=heij(k)+fE(k)(heij(k),hvi(k),hvj(k);ΘfE(k)),
然后使用以下方式更新节点嵌入:
(5)hvi(k+1)=hvi(k)+fV(k)(hvi(k),g({heij(k+1)∣j∈N(i)});ΘfV(k))
其中N(i)是vi的邻近节点集合,hvi(k)是节点vi在消息传递层k上的隐藏特征表示,heij(k)是边eij的特征隐藏表示,g是排列不变的聚合函数;fV(k)和fE(k)是层k上节点和边更新的处理函数,分别带有参数ΘfV(k)和ΘfE(k)。
值得注意的是,用于表示节点和边更新的方程是以残差形式表述的[72]。聚合函数g结合了所有邻近节点的消息。处理函数fV(k)、fE(k)由全连接神经网络表示。它们用于根据当前状态和聚合信息更新节点和边的隐藏状态。
3.3. 解码器
解码器将最终的隐藏状态转换回原始特征空间以进行预测。解码器函数δV带有参数ΘδV,将处理后的节点特征映射到所需的输出特征,这取决于具体问题:
(6)y^i=δV(hvi(K);ΘδV,
其中y^i是节点vi的预测输出,ΘδV表示解码器的可学习参数,K是消息传递层的总数。
在这里,由于我们遵循混合孪生范式[3],我们提出学习FEM近似值与观测到的真实值之间的差异:
(7)fGT(t;μ)=fFEM(t;μ)+fΔ(fFEM(t;μ))。
其中fFEM(t;μ)是依赖于参数μ和时间步长t的FEM近似值,fGT(t;μ)是相应的真实值(GT),fΔ(fFEM(t;μ))是由GNN表示的偏差模型,它以FEM近似值为输入。
根据热问题的方程(7),输入节点特征包括:
(8)zi=TiFEM,
其中Ti是节点i中的温度。
从同一个方程中,我们可以得出:
(9)yi(t)=TiGT(t)?TiFEM(t),
以及:
(10)y^i(t)=T^i(t)?TiFEM(t),
其中T^i(t)是节点i中的校正后温度。
真实值仿真框架是通过将模型的输出添加到输入得到的。
图1展示了模型架构的详细描述。
下载:下载高分辨率图像(241KB)
下载:下载全尺寸图像
图1. 所提出的热传递模型方案。该模型以线性仿真框架作为输入。节点和边特征通过编码器投影到隐藏空间,然后通过K层消息传递层更新隐藏空间中的节点特征。解码器输出线性仿真和非线性仿真之间的温度差。将输出添加到输入中以获得非线性仿真框架。
4. 数值设置
我们在一系列用例上测试了所提出方法的性能。为此,我们使用了金属板(铁)的线性和相应的非线性热传递仿真数据。GNN的任务是丰富线性仿真,并学习它与非线性仿真之间的差异。
基于物理的模型的线性近似由以下各向同性热方程控制:
(11)ρcP?T?t?k?2T=q˙V
(12)T(x=0)=298K
(13)T(t=0)=298K
其中ρ是金属板的密度,cP是恒压下的比热容,k是材料的热导率(在线性情况下为298 K),q˙V是体积热源。温度以开尔文(K)为单位。
另一方面,非线性真实值是通过考虑非线性导热系数来计算的:
(14)ρcP?T?t??·(k(T)?T)=q˙V
(15)T(x=0)=298K
(16)T(t=0)=298K
其中k(T)=k0(1+β(T?T0)),β=1.2·10?3K?1是非线性热导率。
线性和非线性仿真都是使用FEM生成的。非线性仿真用于构建真实值的合成数据集,以指导学习忽略模型的发展,该模型与不考虑非线性项的仿真相结合。每次仿真的持续时间为10秒。
本工作中使用的所有数据集配置都在表1中描述和列出。
表1. 本工作中使用的所有数据集的描述(HS是热源)。
数据集名称 | 域形状 | HS类型 | 负载位置 | HS功率 | P, W/m3 | 网格
A1 | 矩形 | 线性 | 半顶部边界 | 15000 | 规则 |
A2 | 矩形 | 线性 | 全顶部边界 | 15000 | 规则 |
A3 | 矩形 | 线性 | 半顶部边界 | 15000 | 不规则(粗) |
A4 | 矩形 | 线性 | 全顶部边界 | 15000 | 不规则(粗) |
A5 | 矩形 | 线性 | 半顶部边界 | 15000 | 不规则(细) |
A6 | 矩形 | 线性 | 全顶部边界 | 15000 | 不规则(细) |
A7 | 矩形 | 线性 | 半顶部边界 | 15000 | 子网格 |
A8 | 矩形 | 线性 | 全顶部边界 | 15000 | 子网格 |
B1 | 矩形 | 高斯分布 | 规则 |
B2 | L形 | 线性 | 全顶部边界 | 6000 | 不规则 |
每次仿真的帧数为4000,Δt为2.5·10?3s,除了数据集B1,其帧数为200,Δt为5·10?2s。对于每种情况,我们都应用了具有298 K的恒定温度的狄利克雷边界条件。仿真的初始温度为298 K。对于每个数据集,我们通过在不同位置标记热源、边界条件和其他节点来指定向量ni。
4.1. 在有限时间步长下学习差异
在第一个用例中,我们测试了模型在数据量有限的情况下学习指定仿真差异的能力。图2a、2b展示了这些用例中使用的数据的示意图。对于每个数据集,我们比较了我们的混合孪生模型与基线MeshGraphNet(MGN)[14]模型(没有自适应重新网格化)的性能。MGN设计为从零开始学习非线性仿真(基线架构的详细信息在A中描述)。在这两种情况下,训练都在10%的样本上进行。之后,模型在完整数据集上进行评估。
下载:下载高分辨率图像(872KB)
下载:下载全尺寸图像
图2. 用于用例的数据的示意性域表示:(a) 数据集A1;(b) 数据集A2;(c) 数据集A3;(d) 数据集A4;(e) 数据集A5;(f) 数据集A6;(g) 数据集A7;(h) 数据集A8。热源上的网格节点用红色表示,狄利克雷边界条件下的节点用蓝色表示。
4.2. 网格泛化
下一个用例用于测试模型在不同网格上准确执行的泛化能力。图2c、2d显示了用于评估的相应域和网格配置。我们使用在数据集A1和A2的随机50%帧上训练的模型,分别评估该模型在完整仿真A3和A4上的性能。
4.3. 在空间节点数量较少时进行训练
下一个用例的目标是测试模型在网格中的节点数量相对较少时是否能够学习差异。首先,我们为案例A5和A6生成数据(图2e和2f)。之后,我们选择原始网格中40%的节点,并使用Delaunay三角剖分算法重新连接它们以生成子网格。获得的数据集A7和A8(图2g和2h)用于模型训练。之后,分别在原始网格密度A5和A6的仿真上评估模型。
4.4. 在负载位置和域形状上的泛化
其他用例测试了模型对不同设计几何形状的泛化能力。数据集B1包含50次热传递仿真。热源负载在整个板上均匀分布。每次仿真的高斯中心位置不同(图3)。高斯中心的位置是使用拉丁超立方抽样(LHS)选择的,以确保设计参数空间的均匀覆盖。节点上施加的最大功率为60 W/m3。在这里,我们对板上的所有节点施加了功率,因此为了构建一个one-hot向量ni,我们指定了高斯分布中心的节点,而不是热源上的节点。训练使用了40次模拟,评估使用了10次模拟。下载:下载高分辨率图像(346KB)下载:下载全尺寸图像图3. 数据集B1中域的示意图。热源在板上呈正态分布(红色),每个设计的热源中心位置不同(黄色)。Dirichlet边界条件位于板的左侧(蓝色)。B2数据集用于测试对不同域形状和不同网格的泛化能力。它包括L形区域的模拟。域的形状由两个参数a和b参数化(图4)。下载:下载高分辨率图像(23KB)下载:下载全尺寸图像图4. B2数据集中域形状的参数化。图5a、5b、5c和5d展示了用于训练的模拟的域示意图。这些形状具有两个参数a和b,a=b,a, b∈[0.4, 1]。图5e、5f、5g和5h中的域形状用于评估。下载:下载高分辨率图像(1MB)下载:下载全尺寸图像图5. 数据集B2中使用的模拟域的示意图。热源上的网格节点用红色表示,Dirichlet边界条件下的节点用蓝色表示。在所有使用案例中,我们在进行模型训练和推理之前都对数据进行了minmax归一化。温度场预测的准确性通过平均绝对误差(MAE)来评估:(17) MAE=1/n∑i=1n|TiGT?T^i|=1/n∑i=1n|TiGT?TiFEM?y^i|,以及平均绝对百分比误差(MAPE):(18) MAPE=100%/n∑i=1n|TiGT?T^i|/n∑i=1n|TiGT?TiFEM?y^i|/TiGT|。在训练每个模型时,我们使用了梯度裁剪。为了评估训练的鲁棒性,我们对每个使用案例进行了3次运行,并使用了不同的随机种子。5. 结果在这里,我们对第4节中介绍的所有使用案例中的提出的混合孪生模型进行了详细评估。我们分析了其在网格类型、空间离散化、负载配置和域几何形状变化下的准确性、鲁棒性和泛化能力。5.1. 在有限时间步长下学习间隙在第一个设置中,我们测试了使用有限数据训练的能力。我们仅使用了包含线性FEM近似和相应合成实验数据的数据集样本的10%,这些数据集样本复制了真实情况,针对两个独立问题A1和A2,为每种配置学习一个无知模型。在图6中,我们展示了在A2数据集上训练的模型随时间变化的温度场。我们可以看到,在模拟中,温度随时间单调增加。混合孪生模型正确预测了整个模拟过程中的间隙。我们可以看到,线性和非线性模拟之间的原始间隙随时间增加,这使得预测模拟最后一帧的间隙变得最具挑战性。因此,考虑到我们在训练中使用的所有模拟中温度值也是单调增加的,在以下图表中,我们仅展示了显示最大间隙校正的最后一帧的结果。下载:下载高分辨率图像(293KB)下载:下载全尺寸图像图6. 使用10%的数据进行的A2数据集的预测温度场。我们的混合孪生模型能够正确预测长帧序列的温度间隙。图7分别展示了为问题A1和A2学习的混合孪生模型的性能。下载:下载高分辨率图像(442KB)下载:下载全尺寸图像图7. 使用10%的数据进行的A1和A2数据集的预测温度场。由于不同案例的误差幅度不同,这里的误差以及所有后续案例的误差都以对数尺度显示。为了消除等于零的误差值,我们用节点中的最低非零误差替换了它们。无知模型能够预测看到和未看到的帧,节点中的最大绝对误差仅为几度,相对误差小于1%,而线性和非线性模拟之间的原始最大误差对于A1和A2数据集都是16%。我们还将所提出模型的性能与基线方法进行了比较,基线方法是自回归MeshGraphNet(MGN)模型[14]。自回归神经网络使用前一步的预测作为下一个输入来预测下一步的帧。这会导致整个模拟长度上的误差迅速累积。在训练过程中,通过在每个时间步长向网络的输入中添加噪声来解决这个性能问题。我们使用均值为零且标准差等于自回归模型在训练期间的RMSE值的高斯噪声。这种技术通常被称为噪声注入(NI)[13]。MGN模型通过噪声注入(NI)进行训练,以补偿展开过程中的误差累积。我们可以看到,基线模型的性能低于我们的混合孪生模型的性能。结果总结在表2中。对于每个使用案例的每次训练运行,MAE和MAPE结果是在每个帧中的所有节点以及模拟中的所有帧上平均得出的。然后,将所有运行的结果在不同种子上平均。表2. 使用较少帧数进行训练的使用案例的结果。模型数据集MAE, KMAPE, %混合孪生A1(10%)(4.86±0.68)·10^-2(1.24±0.23)·10^-2MGN+NI19.19 ± 31.634.64 ± 7.66混合孪生A2(10%)(10.34±0.76)·10^-2(22.93±0.86)·10^-3MGN+NI1.01 ± 0.150.20 ± 0.02我们可以清楚地看到,我们的混合孪生模型的性能优于MGN模型。5.2. 网格泛化评估下一个测试案例的目标是评估我们方法的网格泛化能力。我们采用了在A1和A2数据集上使用规则网格训练的模型,并在具有不规则网格的数据集A3和A4上评估该模型的性能。在图8中,我们可以看到在这种情况下的误差值比使用规则网格训练的结果要高。然而,节点中的原始最大相对误差从16%降低到3%(数据集A3)和从16%降低到7%(数据集A4)。下载:下载高分辨率图像(373KB)下载:下载全尺寸图像图8. 在规则网格上训练后对不规则网格的模拟进行预测:(a) 数据集A3;(b) 数据集A4。对于我们所有的GNN,我们决定基于在数据集A1和A2的50%样本上训练的模型选择基于不同聚合函数的均值聚合。在隐藏特征更新期间的均值聚合引入了对每个节点邻居数量的规范化。因此,这应该有助于模型更好地泛化到具有不同网格连接性的几何形状。在我们的案例中,规则网格的大多数节点有4个邻居,而不规则网格则不是这样。在图9中,我们比较了在50%数据上训练的模型中均值聚合和求和聚合函数的结果。我们可以看到,平均而言,求和聚合的绝对误差高于均值聚合。这些结果总结在表3中,尽管差异并不显著。下载:下载高分辨率图像(495KB)下载:下载全尺寸图像图9. 在不规则网格上预测模拟的结果比较:(a) 数据集A3;(b) 数据集A4。表3. 使用求和聚合和均值聚合函数在不等规则数据集上训练的模型的性能比较。模型聚合数据集MAE, KMAPE, %均值A1(50%)(72.37±0.80)·10^-2(15.16±0.12)·10^-2求和1.52 ± 0.220.36 ± 0.05均值A2(50%)7.31 ± 1.251.25 ± 0.27求和7.72 ± 1.441.38 ± 0.315.3. 在较少空间节点上训练在下一个使用案例中,我们提取了一个不规则网格的子网格,看看如果在该有限数量的网格节点上训练,模型是否能够达到相同的性能(数据集A5-A8)。在图10中,我们可以看到评估的结果。对于数据集A5,线性帧和非线性帧之间的原始最大误差为16%,对于数据集A6为20%。应用无知模型后,节点中的最大相对误差分别降低到5%和13%。下载:下载高分辨率图像(389KB)下载:下载全尺寸图像图10. 在原始网格上进行相应子网格训练后的模拟预测:(a) 数据集A5(子网格A7);(b) 数据集A6(子网格A8)。这个结果在过程的实际真实数据来自域内传感器数量较少的情况下非常有用。在这种情况下,模型应该能够使用这些传感器的数据来学习整个域中的间隙。两个网格泛化使用案例的结果总结在表4中。如表4所示,仅使用少量传感器就足以学习无知模型,这得益于GNN的泛化能力。表4. 网格泛化测试案例的结果。模型数据集MAE, KMAPE, %混合孪生A3(72.37±0.80)·10^-2(15.16±0.12)·10^-2A47.31 ± 1.251.25 ± 0.27混合孪生A52.13 ± 0.930.37 ± 0.19A615.90 ± 1.061.96 ± 0.195.4. 在不同负载位置上的泛化在下一个使用案例中,我们展示了模型在不同负载位置之间的泛化能力。我们在数据集B1上训练了一个具有正态分布热源负载的无知模型。每次模拟中高斯中心在板上的位置都不同。训练使用了40次模拟,剩余的10次模拟用于测试。在图11中,我们可以看到两个测试负载位置的推理结果(其他负载位置的结果在C.1中有描述)。下载:下载高分辨率图像(327KB)下载:下载全尺寸图像图11. 对于在训练期间未见过的2个分布中心坐标上的高斯热源负载数据的预测温度场。我们的方法能够泛化到不同的负载位置。节点中的原始最大相对误差从10%降低到每个未见负载位置的4%以下。这个使用案例表明,我们的模型也能够在我们改变热源位置的情况下进行泛化。其余未见负载位置的结果可以在C.1中找到。5.5. 在不同域形状上的泛化在这个使用案例中,我们检查了模型在不同域几何形状(L形)上的泛化能力。这种验证意味着同时评估孪生模型对不同几何形状和网格的泛化能力。无知模型从4种几何形状中学习,并在4种之前未见过的几何形状上进行了测试。在以下每个案例中,线性模拟和非线性模拟之间的原始相对差异的最大值分别为30%。在图12中,对于a=b=0.8的情况,预测的节点最大相对误差小于10%,这低于线性模拟和非线性模拟之间的原始相对差异。下载:下载高分辨率图像(857KB)下载:下载全尺寸图像图12. 对于域形状泛化数据集B2中未见设计的预测温度场。我们的模型能够泛化到不同的域形状和相应的网格。在a=1.2,b=0.4的情况下,误差的最大值为15%以下。在a=0.4,b=1.2的情况下,误差达到20%,这仍然低于原始差异。这种误差的增加可以由域的形状影响温度分布来解释,这使得它与训练数据集中的温度分布显著不同。还值得注意的是,这种误差在域的非常局部化部分达到最大值,而帧中所有节点的平均误差为10%。最终,我们可以得出结论,我们的混合孪生模型能够在具有不同网格的不同域几何形状上进行泛化。结果总结在表5中。表5. 几何形状泛化案例的结果。模型数据集MAE, KMAPE, %混合孪生B10.59 ± 0.050.12 ± 0.01B29.62 ± 0.150.99 ± 0.15所有使用案例的结果及其RMSE值总结在C.3中。5.6.分析与解释
我们工作与其他使用图神经网络(GNNs)进行物理建模的方法的主要区别在于提出的混合数字孪生框架。具体来说,我们将现有的基于物理的模型与基于GNN的增强组件相结合。GNN并不是从第一原理出发来学习全部的物理规律,而是专门用于捕捉基础线性模型中未包含的物理效应。通过这种方式,神经网络起到了修正机制的作用,增强了而非取代了基础物理公式。
与某些策略不同(例如[21]、[23]、[73]中针对CFD问题的方法,或[17]、[18]、[19]中针对固体力学模拟的方法),这些策略通过在学习过程中引入额外的约束来引导网络保持物理一致性,我们的方法并未将这些约束嵌入到训练目标中。相反,我们采用了一种混合建模范式:现有的基于物理的模型提供了主要的控制行为,而神经网络组件则专门负责学习剩余的物理效应,即未被建模或捕捉不完全的效应。在混合机器学习中,这种剩余建模是一种成熟的策略,其中基于物理的模型预测结果通过数据驱动的修正项进行补充,该修正项能够学习模型输出与观测响应之间的差异[3]、[6]、[9]。
这种框架已被证明能够提高模型的泛化能力和鲁棒性,尤其是在数据有限或物理描述不完整的场景中。在这种情况下,高级采样策略(如主动学习)可能进一步提升性能[22]。然而,主动学习的实现超出了本研究的范围。因此,我们采用了拉丁超立方抽样(LHS)策略来进行设计空间探索(见第5.4节),以确保训练样本的分布具有结构性和空间填充性。
6. 结论与展望
在这项工作中,我们提出了一种基于混合孪生方法的解决方案,该方法结合了由有限元方法(FEM)求解器表示的基于物理的模型和数据驱动的GNN无知模型来预测差异。我们利用合成测量数据来拟合真实情况,模拟了数学近似无法完美反映实际情况的场景。在这种情况下,我们专注于学习FEM模型中未预先考虑的非线性项(特别是在传热问题中)。我们的混合方法适用于训练数据量有限的场景(最多只有10%的数据集样本可用)。此外,它还能适应不同的域几何形状和载荷位置,并且在网格连接性显著不同的情况下仍能保持性能,优于那些试图近似整个现象的纯数据驱动模型。此外,所提出的神经网络的推理时间也可以与其他现有方法(如纯FEM或其他基线方法)进行比较。
作为未来的研究方向,这项工作可以扩展到其他复杂问题,或者应用于带有实际测量数据的真实环境,以便在真实世界的基准测试中验证其有效性。为了提高基于GNN的无知模型的性能,可以考虑在图的节点和边上使用注意力机制。图中的任意两个节点之间的注意力可以帮助模型捕捉局部消息传递难以捕捉的长距离依赖性[74],而跨边的注意力则可以捕捉局部几何特征[75]。另一种可能性是使用时间注意力机制,这有助于在预测随时间变化的响应时减少误差累积[24]。
CRediT作者贡献声明
M. Gorpinich:撰写——审稿与编辑、撰写——初稿、可视化、验证、软件、方法论、研究、形式分析、概念化。
B. Moya:撰写——审稿与编辑、撰写——初稿、验证、监督、软件、方法论、研究、概念化。
S. Rodriguez:撰写——审稿与编辑、撰写——初稿、验证、监督、软件、方法论、研究、数据管理、概念化。
F. Meraghni:验证、监督、概念化。
Y. Jaafra:验证、监督、概念化。
A. Briot:验证、监督、概念化。
M. Henner:验证、监督、概念化。
R. Leon:验证、监督、概念化。
F. Chinesta:验证、监督、方法论、概念化。
生物通微信公众号
生物通新浪微博
今日动态 |
人才市场 |
新技术专栏 |
中国科学人 |
云展台 |
BioHot |
云讲堂直播 |
会展中心 |
特价专栏 |
技术快讯 |
免费试用
版权所有 生物通
Copyright© eBiotrade.com, All Rights Reserved
联系信箱:
粤ICP备09063491号