基于物理信息随机神经网络增强的多尺度方法在复合材料高效高精度热传导模拟中的应用

《COMPOSITE STRUCTURES》：Multi-scale method enhanced by physics-informed randomized neural network for efficient and high-accuracy heat conduction simulation of composite materials

　　

•采用高阶多尺度方法将神经网络的原始约束（多尺度偏微分方程）解耦为新的约束（宏观均匀化偏微分方程和微观单元偏微分方程），从而克服了计算瓶颈和频率原理，并具备多尺度热模拟的高精度计算性能。•开发了一种无网格且高效的循环神经网络（RNN）方法求解宏观均匀化偏微分方程和微观单元偏微分方程，特别是在时空框架下求解含时间相关的宏观均匀化偏微分方程。•引入硬约束边界条件以辅助HOMS-RNN方法，显著提升了对求解椭圆型微观单元问题和抛物型宏观均匀化问题中具有高对比度复合材料数值精度的计算性能。•论证了HOMS-RNN方法在多尺度热问题中的理论收敛性。

## 引言

天然和人工复合材料凭借其优异的耐热性能，被广泛应用于航空航天及其他多个领域。复合材料通常具有高度不均匀的微观结构和组分材料之间显著的力学性能差异，这导致复合材料表现出复杂的多尺度行为和响应。特别是在航空航天领域，复合材料制造结构的传热行为模拟和工程设计优化至关重要[1]。然而，传统数值方法对复合材料全尺度精细化计算需要极大的计算负担。

在过去几十年中，科学家和工程师开发了一系列多尺度数值方法，以准确高效地模拟非均匀材料中的多尺度现象，包括计算均匀化[2]、非均匀转换场分析[3]、多尺度平均场均匀化方法[4]、渐近均匀化方法（AHM）[5]、非均匀多尺度方法（HMM）[6]、[7]、变分多尺度方法（VMS）[8]、多尺度有限元方法（MsFEM）[9]、广义多尺度有限元方法（GMsFEM）[10]、[11]以及局部化正交分解方法（LOD）[12]等。通过渐近均匀化过程，复合材料的复杂多尺度系统可被近似为定义在宏观尺度等效均匀材料上的简单均匀化方程，以及定义在微观尺度代表性体积元（RVE）或单元（UC）上的小规模微观单元方程，从而以快速方式实现数值求解。然而，经过大量数值计算和工程实践，崔等[13]、[14]、[15]发现经典AHM无法精确捕捉非均匀材料的高频振荡响应。为了准确模拟和分析复合材料的物理行为和响应，崔等[16]、[17]、[18]通过设计新的高阶微观单元函数和相应的修正项以保持所关注局部物理量的平衡，开发了一种新的高阶多尺度方法，相较于传统AHM可显著提升计算精度。然而，值得一提的是，上述所有数值方法都需要耗时的网格离散化，且数值结果的计算精度很大程度上依赖于网格质量，特别是在复杂区域、大变形或移动界面等情况下。此外，除网格质量之外，这些数值方法在模拟高维多尺度问题时将面临维度灾难。

随着计算机技术的快速发展，利用深度学习方法辅助科学计算已成为近期新兴趋势。各种工作采用神经网络来近似和求解偏微分方程（PDE）的解，如物理信息神经网络（PINN）[19]、深度Ritz方法（DRM）[20]、深度Galerkin方法（DGM）[21]、深度能量法（DEM）[22]及其各种改进版本[23]、[24]、[25]、[26]等。这些方法在求解高维偏微分方程和处理复杂几何问题方面展现出的卓越能力和无网格优势，使其成为传统数值方法的有力替代方案，并在各种工程场景中广泛应用。然而，传统基于神经网络方法面临的最大困境在于确定神经网络结构的训练过程非常耗时，因为涉及非线性优化问题的求解，计算代价高昂且可能陷入局部最优[27]。为了克服训练效率和精度方面的挑战，在神经网络中利用随机化已有悠久历史，其核心思想是将网络参数的一部分赋予随机值并固定（不可训练），同时训练其余的网络参数[28]、[29]、[30]、[31]、[32]、[33]、[34]、[35]。随机化神经网络（RNN）或极限学习机（ELM）是深度神经网络的一个特殊类型，在训练过程中无需梯度下降类优化求解器。具体而言，RNN通过随机选择并固定除最后一层以外的所有偏差和权重来实现，从而形成线性组合。确定RNN的最后一层其他权重则通过求解最小二乘问题来计算。在原始RNN的基础上，最近已开发出一些求解不同类型偏微分方程的新方法。在文献[30]中，Dong和Li开发了一种基于神经网络的方法，将ELM与域分解方法结合以求解线性和非线性偏微分方程。此外，Wang和Dong将ELM方法从低维扩展到高维[31]。数值实验表明，与PINN方法相比，所提出的ELM方法在求解高维偏微分方程方面既具有成本效益又更为准确。此外，Wang等将RNN与弱形式相结合，分别利用Petrov–Galerkin方法[32]、[33]和不连续Galerkin方法[34]、[35]求解偏微分方程。这些基于RNN的方法在求解偏微分方程时能够以较少的自由度实现更高精度，同时也能够精确高效地在时空框架下求解含时间问题。总之，利用深度学习方法辅助科学计算具有重要的理论意义和实践价值。

尽管已经建立了多种基于神经网络的方法用于数值求解与偏微分方程相关的数学和工程问题，但只有少数研究关注利用基于神经网络的方法求解多尺度问题。根据现有研究[36]、[37]，已经揭示了求解多尺度问题时面临的频率原理，即深度神经网络通常从低频到高频拟合目标函数，对于各种科学计算问题在高频部分表现出较慢的收敛性。频率原理给多尺度问题的精确高效计算带来了一项重大挑战。此外，为了准确捕捉多尺度偏微分方程解的局部振荡信息，需要在计算域内使用大量随机残差点，这导致神经网络输入层神经元数量大幅增加。因此，基于优化求解器的相应神经网络训练过程非常缓慢甚至无法收敛[38]、[39]。为解决利用深度学习方法求解多尺度问题的上述挑战，研究人员受到材料科学、固体力学、流体力学和化学工程等领域巨大工程价值的启发，开发了一些新颖的基于神经网络的方法。在文献[38]、[39]中，Xu和Zhang等建立了多尺度深度神经网络（MscaleDNNs）来模拟多尺度椭圆型偏微分方程，并进一步结合子空间分解技术开发了新的SD2NN方法来求解椭圆型多尺度偏微分方程。在文献[40]中，Efendiev和Wang等设计了新型多层神经网络，采用深度学习技术与局部多尺度模型降阶方法相结合来预测流动动力学。此外，Leung和Lin等在文献[41]中提出了基于均匀化的PINN（NH-PINN），可有效提升PINN在均匀化技术辅助下求解多尺度问题的数值精度。最近，文献[42]提出了一种新的显式-隐式分裂学习方法，为含时间相关源项的多尺度问题提供了不牺牲精度的计算节省。在文献[43]中，开发了一种具有Resnet模块的自适应多尺度神经网络（adaptive-MS-Resnet）架构，用于计算Poisson方程、Helmholtz方程、波动方程和Klein–Gordon方程。在该自适应-MS-Resnet中，采用径向缩放来捕捉偏微分方程解的振荡部分。此外，Han和Lee提出了一种基于神经网络的方法来实现多尺度问题的数值均匀化[44]，其突出优势在于无需手工设计神经网络架构和用于计算均匀化系数的单元问题。结合周期均匀化理论和物理信息神经网络，Chen等[45]提出了物理信息深度均匀化神经网络来计算复合材料的均匀化属性、局部温度分布和梯度分布。然而，该工作仅实现了低对比度复合材料（热导率比4:1）的计算。此外，Chen等将所提出的深度均匀化神经网络扩展至预测具有二维和三维周期性的非均匀材料的局部应力场和均匀化模量[46]。在文献[47]中，作者提出了一种神经网络辅助的快速多尺度分析方法，用于预测自动化制造过程不确定性下三维编织复合材料的弹性性能。在文献[48]中，开发了一种基于卷积神经网络（CNN）的机器学习方法，作为预测均匀化宏观应力的计算高效解决方案。在文献[49]中，采用前馈神经网络（FNN）和循环神经网络建模多尺度本构关系并有效预测沿未知路径的材料行为。为了有效预测真实复合材料的有效材料性能，Dong等[50]、[51]提出了一种新型小波-神经网络框架，将小波分解引入深度神经网络（DNN）中，以高效精确地评估复合材料的力学和热学参数。该方法仅涉及等效材料参数的计算。此外，Dong等[52]开发了一种高阶多尺度深度Ritz方法（HOMS-DRM）以无网格方式求解非均匀材料的热传导问题，可克服直接应用深度学习模拟时的计算瓶颈和频率原理限制。尽管该HOMS-DRM能够精确捕捉微观尺度上非均匀材料的高频振荡信息，但由于无法摆脱梯度下降类优化求解器的局限性，所提出的HOMS-DRM的计算效率仍需提高。受复合材料巨大工程价值的启发，开发针对具有高间断和高对比度材料参数的非均匀材料多尺度问题的高效高精度基于神经网络方法已成为研究热点，并有一些亟需解决的问题。与我们关于动态热-力耦合问题相关的工作[53]不同，本研究聚焦于高对比度复合材料和多孔材料的瞬态热传导问题，并采用热传导特有的均匀化模型、微观单元问题、界面处理方法和数值验证。

在本工作中，我们提出了一种由物理信息随机化神经网络增强的高阶多尺度方法（HOMS-PIRNN），以解决复合材料多尺度热模拟中面临的频率原理、计算瓶颈、微观振荡捕捉不精确以及优化求解器效率低等问题。所提出的HOMS-PIRNN方法继承了高阶多尺度方法和物理信息随机化神经网络各自的高精度、高效和无网格优势。首先，基于神经网络方法在多尺度问题上精度低、效率差和计算瓶颈的根本原因在于多尺度偏微分方程被直接用作基于神经网络方法的物理约束。同时，计算域内需要大量随机残差点，从而导致频率原理。为应对这一挑战，采用高阶多尺度方法将非均匀材料的复杂多尺度热问题解耦和简化为更简单的宏观均匀化问题和一些较小规模的低阶和高阶微观单元问题，并将其作为基于神经网络方法的新的物理约束。此外，高阶多尺度约束的另一显著优势在于它能够准确捕捉非均匀材料微观尺度上的高频振荡信息。进一步地，采用无需梯度下降类优化求解器的PIRNN方法高效无网格地求解宏观均匀化问题和微观单元问题，特别是在时空框架下求解含时间相关的宏观均匀化问题。另外，应用硬约束边界条件来精确求解具有高间断和高对比度材料参数的椭圆型微观单元问题。

本文的主要贡献总结如下：

• 采用高阶多尺度方法将神经网络的原始约束（多尺度偏微分方程）解耦为新的约束（宏观均匀化偏微分方程和微观胞元偏微分方程），从而克服了计算代价过高和频率原理问题，并在多尺度热仿真中具备高精度计算性能。

• 开发了一种无网格、高效的物理信息随机神经网络（PIRNN）方法来求解宏观均匀化偏微分方程和微观胞元偏微分方程，特别是在时空域内求解时间相关的宏观均匀化偏微分方程方面。

• 引入硬约束边界条件辅助 HOMS-PIRNN 方法，显著提高了求解高对比度复合材料椭圆型微观胞元问题和抛物型宏观均匀化问题的数值精度。

• 证明了 HOMS-PIRNN 方法在多尺度热问题中的理论收敛性。

本文的其余部分结构如下。在第 2 节中，我们采用高阶多尺度方法建立异质材料热传导问题的神经网络新物理约束。接下来，在第 3 节中将详细介绍所提出的 HOMS-PIRNN 框架及相应的算法步骤。随后，第 4 节在适当假设下给出了所提出 HOMS-PIRNN 方法收敛性的严格证明。此外，在第 5 节中，我们进行了一系列数值实验，包括具有高对比度材料参数的二维复合材料、三维复合材料和多孔材料，以验证所提出 HOMS-PIRNN 方法的精度、效率和鲁棒性。第 6 节给出了结论和展望。

为叙述简洁，本研究全程采用爱因斯坦求和约定处理重复指标。

**节选**

**瞬态多尺度热传导问题**

本研究考虑以下具有周期性振荡且高度不连续系数的抛物型方程，用以描述复合材料的热传导行为：

$$\rho^\epsilon(x) c^\epsilon(x) \frac{\partial T^\epsilon(x,t)}{\partial t} - \frac{\partial}{\partial x_i} \left( k_{ij}^\epsilon(x) \frac{\partial T^\epsilon(x,t)}{\partial x_j} \right) = f(x,t), \quad \text{在} \ \Omega \times (0,\tau)$$

$$T^\epsilon(x,t) = \hat{T}(x,t), \quad \text{在} \ \partial\Omega \times (0,\tau)$$

$$T^\epsilon(x,0) = \check{T}(x), \quad \text{在} \ \Omega$$

其中 $T^\epsilon(x,t) \in \mathbb{R}$ 为未解析的温度解，$\tau > 0$ 为最终时刻，$\Omega$ 为 $\mathbb{R}^N$（$N=2,3$）中的有界凸域，其外边界为 $\partial\Omega$。$\epsilon$ 为微观单元的特征尺寸。

**基于物理信息随机神经网络的高阶多尺度方法**

通过第 2 节中异质材料的高阶多尺度模型，我们将神经网络的原始物理约束（多尺度偏微分方程）解耦为新的物理约束（宏观均匀化偏微分方程和微观胞元偏微分方程），从而克服了计算代价过高和频率原理问题，并在多尺度热仿真中具备高精度计算性能。在本节中，我们首先简要介绍随机神经网络

**HOMS-PIRNN 方法的收敛性分析**

本节转入 HOMS-PIRNN 方法的误差分析。本研究中提出的 HOMS-PIRNN 方法的计算误差主要来自高阶多尺度模型的建模误差，以及 PIRNN 在计算微观胞元函数和宏观均匀化方程时的近似误差。在文献 [60] 中，作者证明了传统神经网络在适当深度和宽度下可以很好地逼近解。在文献 [28]、[31]、[34]、[56] 中，作者们

**数值实验与讨论**

本节进行了一系列数值实验，涵盖高对比度复合材料、三维复合材料、多孔材料以及大规模复合材料，以验证所提出 HOMS-PIRNN 方法的有效性和鲁棒性。所有数值示例均通过单隐层 PIRNN 实现，采用 Tanh 激活函数，其初始化权重和方差设定在 $[-R_m, R_m] = [-5, 5]$ 范围内。此外，采用硬约束边界方法

**结论与展望**

本研究开发了一种 HOMS-PIRNN 方法，用于高效且高精度地求解具有高度不连续和高对比度参数的异质材料瞬态多尺度抛物型热传导问题。主要结论总结如下。首先，所提出的方法结合了高阶多尺度方法的高精度和模型降阶能力，以及随机神经网络无网格、高效和时空解耦的优势。

**CRediT 作者贡献声明**

Jiale Linghu：撰写初稿、可视化、软件、方法论、调查研究、概念构思。

Hao Dong：撰写审阅与编辑、监督、软件、方法论、调查研究、获取资金、概念构思。

Fei Wang：方法论、调查研究、概念构思。

Yufeng Nie：监督、方法论、概念构思。

Junzhi Cui：监督、方法论、概念构思。

**利益冲突声明**

作者声明不存在可能影响本文所报告工作的已知竞争性经济利益或个人关系。

**致谢**

作者衷心感谢国家自然科学基金（编号 12471387）、陕西省科学技术协会青年人才基金（编号 20220506）、西安电子科技大学交叉探索专项基金（编号 TZJH2024008）、陕西省创新能力支持计划（编号 2024RS-CXTD-88）以及西安电子科技大学高性能计算中心的支持。

Jiale Linghu | Hao Dong | Fei Wang | Yufeng Nie | Junzhi Cui