用于热等离子体和射频等离子体鞘层中离子能量-角度分布的机器学习替代方法
《Journal of Plasma Physics》:Machine learning surrogates for ion energy–angle distributions in thermal and RF plasma sheaths
【字体:
大
中
小
】
时间:2026年04月21日
来源:Journal of Plasma Physics 2.5
编辑推荐:
摘要:材料表面的离子能量-角度分布(IEADs)是聚变装置中等离子体-材料相互作用(PMI)研究的关键输入参数,然而使用粒子模拟(PIC)方法进行计算成本非常高。在这项工作中,我们开发了一种基于深度反卷积神经网络(DDeCNN)的机器学习替代模型,该模型经过使用hPIC2代码生成
摘要:材料表面的离子能量-角度分布(IEADs)是聚变装置中等离子体-材料相互作用(PMI)研究的关键输入参数,然而使用粒子模拟(PIC)方法进行计算成本非常高。在这项工作中,我们开发了一种基于深度反卷积神经网络(DDeCNN)的机器学习替代模型,该模型经过使用hPIC2代码生成的大型数据库训练。该替代模型能够根据热等离子体和射频(RF)等离子体的鞘层参数重建IEADs,包括存在多种离子物种的情况。在数千个测试案例中,该模型显示出高准确性,根据标准误差指标(MAE、MSE、L2),超过97%的预测被分类为良好或平均。即使在更具挑战性的RF和多物种情况下,该替代模型也能可靠地捕捉到PIC结果的多峰结构。一旦训练完成,该替代模型就能在普通工作站上在几毫秒内生成IEADs,与运行完整的PIC模拟相比,速度提高了六到七个数量级。这种计算上的优势使得能够进行密集的参数扫描,并将IEADs预测与聚变相关条件下的PMI和侵蚀模型直接耦合。
1. 引言
在这项工作中,我们开发了一种机器学习(ML)替代模型,用于预测与磁约束聚变(MCF)中的等离子体-材料相互作用(PMI)相关的离子能量-角度分布(IEADs)。IEADs决定了离子如何撞击材料表面,直接影响溅射、侵蚀和表面改性。由于溅射产额既依赖于离子撞击能量$E_i$(eV),也依赖于撞击角度$\theta$相对于表面法线的角度,因此准确了解材料边界处的IEADs对于估计侵蚀通量、表面演化和组件寿命至关重要。在MCF条件下,离子在经过磁预鞘(Chodura,参考文献Chodura1982)和静电德拜鞘(Tonks & Langmuir,参考文献Tonks and Langmuir1929)的加速后离开准中性等离子体;当存在射频(RF)加热系统时,还会形成额外的RF鞘层(Butler & Kino,参考文献Butler and Kino1963;Myra,参考文献Myra2021)。在传统的磁化等离子体鞘层中,离子通过鞘层电场加速,其能量和轨迹由等离子体温度、电荷状态、离子与电子的质量比以及磁场的强度和倾角决定(Khaziev & Curreli,参考文献Khaziev and Curreli2015)。虽然解析模型提供了有用的见解(Tonks & Langmuir,参考文献Tonks and Langmuir1929;Bohm,参考文献Bohm1949;Riemann,参考文献Riemann1991,参考文献Riemann1994;Ahedo,参考文献Ahedo1997;Stangeby等,参考文献Stangeby2000;Lieberman & Lichtenberg,参考文献Lieberman and Lichtenberg2005;Chen,参考文献Chen2016;Moseev & Salewski,参考文献Moseev and Salewski2019),但它们通常过于简化了离子动力学和非线性鞘层行为。RF鞘层引入了额外的复杂性;整流的RF驱动鞘层电位可能显著超过热鞘层电位降,并且鞘层本身会随着施加的RF场而振荡,动态改变离子轨迹。这产生了更加结构化的、各向异性的IEADs,从而增强了溅射效应并改变了表面响应。时间依赖的RF电位还引入了离子撞击条件的时间变化,进一步复杂化了离子-材料相互作用。高保真度的粒子模拟(PIC)是建模IEADs的最可靠工具,因为它们可以通过热鞘层和RF鞘层自洽地跟踪离子动力学。通过解析离子轨迹和RF引起的振荡,PIC模拟提供了IEADs的动能级准确性。然而,它们的计算成本使得在需要评估整个第一壁和天线结构的装置尺度应用中不切实际。例如,hPIC(Khaziev & Curreli,参考文献Khaziev and Curreli2018)和hPIC2(Meredith等,参考文献Meredith, Rezazadeh, Huq, Drobny, Srinivasaragavan, Sahni and Curreli2023)代码已被用于解析热鞘层(Khaziev & Curreli,参考文献Khaziev and Curreli2015)和RF鞘层(Myra等,参考文献Myra, Elias, Curreli and Jenkins2020;Elias, Curreli & Myra,参考文献Elias, Curreli and Myra2021)的IEADs,并具有动能级准确性。图1展示了从hPIC2模拟中获得的两个代表性的IEADs,分别对应于热(图a)和RF鞘层(图b)条件。在整个托卡马克表面上扩展PIC模拟的成本非常高,这就促使了需要降低阶数的替代模型。
图1. 从hPIC模拟中获得的离子能量-角度分布(IEADs)示例,分别对应于(a)热鞘层和(b)射频(RF)鞘层条件。这两个分布仅用于说明目的,展示ML模型必须能够重建的二维分布的性质。
基于机器学习(ML)的降阶模型在等离子体聚变中越来越被用来加速模拟并提高预测能力。它们能够快速模拟等离子体行为、中断预测和实时控制优化(Parsons,参考文献Parsons2017;Kates-Harbeck, Svyatkovskiy & Tang,参考文献Kates-Harbeck, Svyatkovskiy and Tang2019;Fu等,参考文献Fu, Eldon, Erickson, Kleijwegt, Lupin-Jimenez, Boyer, Eidietis, Barbour, Izacard and Kolemen2020)。ML还有助于揭示等离子体动力学中的模式,并支持材料侵蚀、溅射和杂质传输的研究(Kino等,参考文献Kino, Ikuse, Dam and Hamaguchi2021;Lin等,参考文献Lin, Maurel-Oujia, Kadoch, Krah, Saura, Benkadda and Schneider2024)。其他应用还包括加速湍流模拟、增强诊断解释以及帮助设计反应堆组件和材料(Piccione等,参考文献Piccione, Berkery, Sabbagh and Andreopoulos2020;Chang等,参考文献Chang, Ku, Hager, Churchill, Hughes, K?chl, Loarte, Parail and Pitts2021;Dong等,参考文献Dong, Wei, Bao, Brochard, Lin and Tang2021;Lao等,参考文献Lao2022)。机器学习和替代模型通过大幅降低计算复杂性同时保持高预测准确性,正在彻底改变RF等离子体加热研究。多项研究强调了这一潜力:Sánchez-Villar等人(参考文献Sánchez-Villar, Bai, Bertelli, Bethel, Hillairet, Perciano, Shiraiwa, Wallace and Wright2024,参考文献Sánchez-Villar, Bai, Bertelli, Bethel, Hillairet, Perciano, Shiraiwa, Wallace and Wright2025)使用随机森林和神经网络开发了实时离子回旋频率(ICRF)加热模型,实现了六到七个数量级的加速,并获得了高回归分数。Wallace等人(参考文献Wallace, Bai, Sadre, Perciano, Bertelli, Shiraiwa, Bethel and Wright2022)同样将低混合电流驱动模拟的加速时间从几分钟缩短到了几毫秒。之前也探索了用于确定IEADs的降阶建模方法。Seleson等人(参考文献Seleson, Mustafa, Curreli, Hauck, Stoyanov and Bernholdt2022)探索了一种最小二乘拟合、稀疏网格、坐标变换方法,用于具有多达4个输入参数的单物种热鞘层。尽管这些方法在重建IEADs方面相比hPIC模拟加速了6-7个数量级,但它们难以扩展到更大的参数空间或RF鞘层。例如,对于七个输入参数,需要超过19,000次模拟。此外,RF诱导的IEADs通常表现出多峰结构,这些结构无法通过坐标变换方法很好地捕获。人工神经网络(ANNs)提供了一个更可扩展和灵活的替代方案。通过在大型高保真度PIC模拟数据集上训练神经网络,替代模型能够以低得多的计算成本再现接近PIC级别的IEADs准确性。几种神经网络架构适用于当前的建模任务,每种都有其独特的优点和局限性。全连接多层感知器(MLP)可以直接将输入向量映射到展开的IEAD,但需要大量内存来获得高分辨率输出。扩散模型(Sohl-Dickstein等,参考文献Sohl-Dickstein, Weiss, Maheswaranathan and Ganguli2015)提供了高质量的分布重建,但需要大量的训练数据和计算资源,并且训练和推理速度较慢。具有二维(2-D)位置编码的Transformer(Wu等,参考文献Wu, Peng, Chen, Fu and Chao2021;Vaswani等,参考文献Vaswani, Shazeer, Parmar, Uszkoreit, Jones, Gomez, Kaiser and Polosukhin2023)有效地捕捉了全局空间依赖性,非常适合结构化输出,尽管它们在计算和内存方面要求较高。FiLM条件化的U-Nets(Meseguer-Brocal & Peeters,参考文献Meseguer-Brocal and Peeters2019)提供了一种灵活的机制来结合条件信息,并且在结构化生成任务中效率较高,但在建模长距离依赖性时可能效果较差。在本文中,我们提出了一种机器学习替代模型,用于在广泛的参数空间内以PIC级别的保真度重建IEADs。该模型结合了多层感知器(MLPs)和卷积神经网络(CNNs),形成了混合深度反卷积神经网络(DDeCNN)架构,能够在热鞘层和RF鞘层条件下快速准确地模拟IEADs。这种架构背后的动机包括其计算效率、支持多输出设计、空间耦合和空间不变性。训练数据集是使用大规模hPIC2模拟生成的,涵盖了广泛的物理参数(温度、密度、RF电压、磁场角度和强度)和数值参数(时间步长、网格大小、每个单元格的粒子数)。多维输入参数空间是使用拉丁超立方设计(McKay, Conover & Whiteman,参考文献McKay, Conover and Whiteman1976)采样的,以确保广泛的覆盖范围。测试和验证表明,我们的ML替代模型以较低的计算成本再现了PIC级别的IEADs。该替代模型适用于热鞘层和RF鞘层条件,包括单物种和多物种等离子体,适用于偏滤器、第一壁和RF增强型等离子体-表面相互作用场景。我们使用多种误差指标(MAE、MSE、相对L2范数)系统地评估模型准确性,并展示了显著的计算加速。本文的其余部分结构如下。第2节详细介绍了问题设置、数据集和神经网络架构。第3节展示了热等离子体、RF等离子体和多物种等离子体的结果。第4节总结了结论并概述了未来的研究方向。
2. 方法论
本节描述了用于构建和验证离子能量-角度分布(IEADs)机器学习替代模型所使用的方法论。我们首先总结了物理问题(§ 2.1),然后定义了输入参数空间(§ 2.2),并概述了使用hPIC2模拟的数据生成过程(§ 2.3)。数据预处理、网络设计和误差评估的后续步骤在§§ 2.4–2.7中讨论。时变的射频(RF)电场导致离子经历相位依赖的加速,使得离子能量-角度分布(IEAD)不仅取决于$T_e/T_i$,还取决于归一化的射频幅度$e V_{\mathrm{pp}}/T_e$以及射频周期与离子传输时间的比值$\omega _{\mathrm{RF}} \tau _i$。因此,在我们的模型中,$T_e$和$T_i$被视为独立的参数,同时引入了额外的参数$V_{\mathrm{pp}}$(射频峰峰值电压)来捕捉这些由射频引起的效应。此外,还包含了多达六个数值参数(例如时间步长、单元长度、每个单元中的粒子数、域长度)作为额外的输入。虽然这些参数严格来说不是“自由”的物理参数,但包括它们可以确保机器学习(ML)替代模型捕捉到离散化的微妙依赖性,并避免将数值伪影误解为物理趋势。对这些参数的约束在§2.3和附录A中有详细说明。
2.3 数据生成
训练和测试数据集是使用hPIC2代码(Meredith等人,参考文献Meredith, Rezazadeh, Huq, Drobny, Srinivasaragavan, Sahni和Curreli2023)进行高分辨率模拟生成的。此外,我们还能够使用早期研究的一部分训练数据(Seleson等人,参考文献Seleson, Mustafa, Curreli, Hauck, Stoyanov和Bernholdt2022;Mustafa,参考文献Mustafa2023),这些数据也是通过hPIC代码(Khaziev和Curreli,参考文献Khaziev和Curreli2015)获得的。这两种PIC代码具有相同的物理核心,对于相同的输入,提供相同的输出,唯一的区别是hPIC2实现了硬件(GPU)加速,而hPIC则没有。为了保证数据集之间的一致性,对这两种代码进行了输出基准测试。数据生成过程分为四个步骤:
(i) 输入参数的采样。选择了与聚变边缘等离子体相关的物理参数范围(表2)(Keilhacker等人,参考文献Keilhacker, Lackner, Behringer, Murmann和Niedermeyer1982;Stangeby等人,参考文献Stangeby2000;Porter等人,参考文献Porter, Petrie, Rognlien和Rensink2010;Wesson和Campbell,参考文献Wesson and Campbell2011;Ciraolo等人,参考文献Ciraolo2019;Pitts等人,参考文献Pitts2019)。采样采用了包含角点的拉丁超立方抽样(LHS)设计,以确保均匀覆盖并很好地表示极端情况(McKay等人,参考文献McKay, Conover和Whiteman1976,McKay,参考文献McKay, Beckman和Conover1979),包括Lloyd算法(Lloyd,参考文献Lloyd1982)。
(ii) 数值参数的评估。对于每个采样点,通过实施分辨率约束来确定数值分辨率参数(例如网格大小、时间步长、每个单元中的粒子数),以保证物理真实性。详细信息见附录A。
(iii) hPIC2模拟的执行。为每个参数集自动生成输入文件,并在伊利诺伊大学厄巴纳-香槟分校的Campus Cluster上运行。在壁面上,记录了离子撞击能量和角度,以构建IEADs。
(iv) 数据集的组织。每个数据库被分为训练集、验证集和测试集。测试数据集是独立生成的(不是训练数据的子集),以保持统计独立性并提供无偏的性能评估。
表2. 使用hPIC2生成的数据库总结,用于训练机器学习模型。$\dagger$ 此数据库还用于数据增强(DA)模型,并作为多保真度(MF)模型的高保真度(HF)数据库,如§3.2.1中所讨论的。数据增强后,数据点总数增加到38,732个。$\ddagger$ 此数据库用于§3.2.1中描述的MF模型的低保真度(LF)数据库。当MF和DA模型结合使用时,从这个数据库中增强了总共124,812个数据点。为热鞘和RF鞘以及单物种和多物种等离子体分别创建了不同的数据库(见表2)。每个自由参数的范围在表2中报告。每个数据集首先被分为两个主要子集:训练集和测试集。训练数据集的一部分进一步被分离出来作为超参数调整和训练期间的模型评估的验证集。测试集专门用于在训练完成后评估模型性能。模型对测试集是不可知的,因为在训练或验证过程中没有使用它。在选择超参数后,将验证数据集合并回训练集,并使用组合数据重新训练模型。为了生成训练集,从输入参数空间中抽取了总共$N_{\text{sample}}$个样本。为了确保这些样本充分覆盖空间,我们首先选择了输入超立方体的$2^{N_D}$个角点,其中$N_D$是模型中的自由参数数量。然后使用LHS(McKay等人,参考文献McKay, Conover和Whiteman1976,McKay,参考文献McKay, Beckman和Conover1979)以及Lloyd算法(Lloyd,参考文献Lloyd1982)生成剩余的$N_{\text{sample}} - 2^{N_D}$个样本,该算法迭代地将样本重新定位到它们的Voronoi单元的质心,以改善空间填充的均匀性并最小化聚类。此外,独立且随机生成了$N_{\text{test}}$个测试点,与训练集分开。尽管通常选择测试数据作为训练数据集的子集,但这样做会减少已经采样稀疏的空间中可用的训练点数量。实施了一个程序来确保测试数据点不与训练或验证数据点重叠或过于相似。
2.4. 数据归一化
输入数据跨越了几个数量级,这可能会通过减慢收敛速度和使优化过程产生偏差来对机器学习训练产生负面影响。输入尺度的较大变化会显著减慢梯度下降算法的收敛速度(Ioffe和Szegedy,参考文献Ioffe和Szegety2015)。此外,当正则化作为损失函数的一部分时,应用特征缩放尤为重要,因为未经缩放的特征可能导致有偏或不稳定的优化。为了缓解这个问题,使用最小-最大缩放(Patro和Sahu,参考文献Patro和Sahu2015)对输入特征进行了归一化:
\begin{equation} x' = \frac {x - x_{\mathrm{min}}}{x_{\mathrm{max}} - x_{\mathrm{min}},
\end{equation}
其中$x$是原始值,$x_{\mathrm{min}}$和$x_{\mathrm{max}}$是采样范围的界限。然而,直接的最小-最大缩放不适合我们的输出数据(IEADs)。这是因为IEADs跨越了许多数量级:分布边界附近的计数可能非常小,而峰值可能大几个数量级。使用最小-最大缩放会(i)掩盖尾部的小但物理上有意义的值,以及(ii)由于最大粒子计数只有在模拟后才知道,因此有可能导致数据泄漏。相反,IEADs通过两个步骤进行了预处理:
(i) 转换为计算单位。使用的物理粒子数使用hPIC2中定义的物理到计算($\mathrm{P2C}$)比率转换为计算计数:
\begin{equation} {\mathrm{P2C}} = \frac {n x}{N_{\mathrm{PPC}} N_{\mathrm{cells}},
\end{equation}
其中$n$是单位体积的粒子密度,$x$是域大小(以米为单位),$N_{\mathrm{PPC}}$是每个单元的粒子数,$N_{\mathrm{cells}}$是单元的数量。
(ii) 对数缩放。然后使用以10为底的对数对IEADs值进行转换,这压缩了动态范围,同时保持了分布形状。IEADs的数据准备工作在附录中的图16中以示意图的形式显示。在多物种的情况下,IEADs被排列成一个四维(4-D)矩阵[每个数据点为三维(3-D)矩阵],如图16(b)所示。
2.5. 机器学习模型
本工作中考虑的两种神经网络范式如下:
(i) 多层感知器(MLP/ANN)。传统的全连接前馈网络(Rumelhart, Hinton和Williams,参考文献Rumelhart, Hinton和Williams1986;Bishop,参考文献Bishop1995)具有输入层、隐藏层和输出层。虽然简单,但MLP需要大量的参数来表示高分辨率分布。
(ii) 卷积神经网络(CNNs)。通过在整个输入数据上应用可学习的过滤器来利用空间结构的架构(LeCun等人,参考文献LeCun, Boser, Denker, Henderson, Howard, Hubbard和Jacel1989;LeCun, Bottou, Bengio和Haffner2002;Alzubaidi等人,参考文献Alzubaidi, Zhang, Humaidi, Al-Dujaili, Duan, Al-Shamma, Santamaría, Fadhel, Al-Amidie和Farhan2021)。CNNs减少了参数数量,提高了泛化能力,特别适合于2-D输出,如IEADs(被视为“图像”)。MLP由相互连接的节点组成,称为神经元,这些节点按层组织。这些层通常包括一个输入层、一个或多个隐藏层和一个输出层。信息从输入层流入模型,经过隐藏层进行计算,然后到达输出层,产生模型预测或分类结果。神经元之间的每个连接都关联一个权重,该权重决定了连接的强度。在训练过程中,这些权重会迭代调整,以最小化预测结果和实际结果之间的差异。由于IEADs本质上是具有强空间相关性的2-D分布,基于CNN的方法被认为是必要的。CNNs通过使用比MLP更少的连接和正则化的权重来实现正则化。例如,虽然全连接层需要大量权重来处理高分辨率图像,但CNNs有效地减少了这一需求。此外,CNNs通过过滤器优化有效学习特征表示,克服了梯度消失和爆炸等挑战,同时通过分层特征提取降低了计算复杂性。
2.6. 网络架构
为了重建IEADs,我们开发了一个混合深度反卷积神经网络(DDeCNN),它结合了MLP和CNN元素(如图3所示的示意图)。结构如下:
(i) MLP块。输入参数向量通过全连接层,逐步扩展特征空间并捕捉非线性依赖性。
(ii) 重塑层。MLP的输出被重塑为一个适合卷积操作的低维矩阵。
(iii) 反卷积块。一系列转置的2-D卷积层(或者非正式地称为“反卷积”层)逐步上采样矩阵,在每一步中将其高度和宽度加倍,同时减少深度。这重建了IEAD的2-D结构。
(iv) 最终卷积。一个2-D卷积层将输出减少到一个通道(单物种)或多个通道(多物种),与要重建的IEAD数量相匹配。
图3. 用于从hPIC2数据构建离子能量-角度分布(IEADs)的机器学习替代模型的混合深度反卷积神经网络(DDeCNN)架构。输入向量包括多达13个参数(最多七个物理参数和最多六个数值参数,列在表1和表2中)。这些参数首先通过多层感知器(MLP)处理,然后重塑并传递给一系列转置的2-D卷积(“反卷积”层,逐步上采样特征图以重建2-D IEADs。最后一个2-D卷积层产生与离子物种数量相匹配的输出通道。整个过程中使用了ReLU激活函数(Fukushima,参考文献Fukushima1969)。虚线蓝色框突出显示了在多保真度(MF)训练期间冻结和解冻的层子集,实现了从低保真度数据集到高保真度数据集的知识转移。这种选择的理由是由IEADs的2-D性质决定的。纯MLP对于大型2-D输出来说效率低下,需要过多的内存。尽管扩散模型(Sohl-Dickstein等人,参考文献Sohl-Dickstein, Weiss, Maheswaranathan和Ganguli2015)和变换器(Wu等人,参考文献Wu, Peng, Chen, Fu和Chao2021;Vaswani等人,参考文献Vaswani, Shazeer, Parmar, Uszkoreit, Jones, Gomez, Kaiser和Polosukhin2023)功能强大,但计算成本高昂,并且需要更大的训练数据集。反卷积CNNs利用IEADs的结构化特性,以较少的可训练参数实现准确和高效的重建。所有层都使用了ReLU激活函数(Fukushima,参考文献Fukushima1969),这减轻了梯度消失的问题,引入了稀疏性并保持了空间连续性。超参数(学习率、层数、滤波器大小等)通过随机搜索进行调整(Feurer和Hutter,参考文献Feurer和Hutter2019)。特定于数据集的超参数选择在附录C中报告。为了在不运行更昂贵的PIC模拟的情况下扩展给定数据集中的训练数据点数量,通过在不同的时间步骤和不同的边界提取IEADs进行了数据增强。这允许以可忽略的成本扩展数据集的多样性,并能够重建RF鞘问题所需的时间依赖IEADs。我们还测试了多保真度(MF)学习。由于如表2所示,可用于训练的高保真度(HF)数据点数量有限,可以使用MF框架以较低的计算成本生成额外数据。为了减少对昂贵HF数据的依赖,使用了低分辨率的hPIC2模拟作为低保真度(LF)数据。培训分为三个阶段进行:(i) 在低置信度(LF)数据上进行预训练;(ii) 冻结早期层,然后在高置信度(HF)数据上进行再训练;(iii) 解冻所有层,并在高置信度数据上使用较低的学习率进行微调。这种方法有效地将低置信度的趋势转移到高置信度数据上,减少了过拟合并提高了泛化能力。2.7. 错误评估 没有一个单一的指标可以完全描述替代模型的准确性。因此,使用了三种互补的错误度量方法:均方误差($\mathrm{MSE}$)、相对$L_2$范数误差($\mathrm{RL_2E}$)和每个像素的平均绝对误差($\mathrm{MAE}$)。这些指标各自捕捉了模型性能的不同方面。$\mathrm{MSE}$由于其平方性质,强调了较大的误差,因此对异常值敏感,有助于识别偶尔出现的大偏差。$\mathrm{RL_2E}$提供了一个相对于真实数据大小的标准化的误差度量,这对于比较不同数据集或尺度上的性能很有帮助。$\mathrm{MAE}$提供了每个预测单元的平均误差,直观地反映了整体准确性。(2.3) \begin{align} \mathit{\mathrm{MSE}} &= \frac {1}{N \times M} \sum _{i=1}^N \sum _{j=1}^M \left ( y_{\textit{ij}} - \hat {y}_{\textit{ij}} \right )^2 , \end{align} (2.4) \begin{align} \mathit{\mathrm{RL_2E}} &= \frac {\left [\sum _{i=1}^N \sum _{j=1}^M \left ( y_{\textit{ij}} - \hat {y}_{\textit{ij}} \right )^2\right ]^{{1}/{2}}}{\left [\sum _{i=1}^N \sum _{j=1}^M \left ( y_{\textit{ij}}\right )^2\right ]^{{1}/{2}}} , \end{align} (2.5) \begin{align} \mathit{\mathrm{MAE}} &= \frac {1}{N \times M} \sum _{i=1}^N \sum _{j=1}^M \left | y_{\textit{ij}} - \hat {y}_{\textit{ij}} \right |, \end{align} 其中$N$和$M$是2-D输出的维度,$y_{ij}$是第$i$个角度和第$j$个能量像素索引的实际数据值,介于$[ 0, y_{ij}^{\mathrm{max}} ]$之间(由hPIC2模拟的每个像素上积累的粒子数),而$\hat {y}_{ij}$是机器学习预测的值。为了保持一致性,预测的IEADs首先进行反归一化(§ 2.4),然后通过除以它们的最大粒子计数进行重新缩放,将所有值限制在0和1之间。2.8. 计算资源 生成训练和测试数据集需要大规模的计算资源。所有hPIC2模拟都在伊利诺伊大学厄巴纳-香槟分校(UIUC)的校园集群上进行,其中使用了最多40个节点。每个节点由两个Intel Xeon Processor E5-2670 v2组成,每个处理器有2.5 GHz和10个核心(每个节点20个核心),以及256 GB的RAM。平均而言,使用40个节点生成表2中列出的一个数据库大约需要五天时间(约100,000 CPU核心小时)。IEADs的后处理是在配备了双Intel Xeon Processor E3 v3和96 GB RAM的本地工作站上完成的。机器学习替代模型的训练和测试是在GPU驱动的系统上进行的。主要的训练运行在MIT等离子体科学与聚变中心(PSFC)的GPU集群上进行,每个节点配备了四个NVIDIA V100 GPU,而额外的实验则在消费级设备(NVIDIA GTX 1080 GPU)和行业级高端集群(NVIDIA H100 Tensor Core GPU)上进行。所有工作流程,包括hPIC2输入文件的准备、模拟输出的后处理和机器学习模型的训练,都是用Python实现的。神经网络架构的构建和训练使用了开源库Keras(Chollet等人,参考Chollet2015)和TensorFlow(Abadi等人,参考Abadi2015),以及scikit-learn(Pedregosa等人,参考Pedregosa2011)进行辅助的数据处理和预处理。3. 结果 3.1. 热等离子鞘 替代模型首先在单种氢等离子体的热鞘条件下进行了评估。选择这个案例作为初始基准,因为得到的IEADs相对简单。这些分布可以用一组较少的参数来描述,并且通常呈现单一峰值。训练数据集包括625个数据点,这些数据点均匀分布在四个自由参数上:电子与离子的温度比($T_e/T_i$)、磁场强度$B$、等离子体密度$n_e$和磁场倾斜角$\psi _B$。大约10%的数据被用作验证集,产生了560个训练样本和65个测试样本。DDeCNN模型的超参数是通过随机搜索选定的,详细信息在表8(附录C)中提供。模型性能使用§ 2.7中定义的三种错误指标进行评估(MAE、MSE和相对$L_2$范数)。对于每个指标,预测误差被分类为三个类别:好的($E \lt \bar {E}$)、平均($\bar {E} \lt E \leqslant \bar {E} + 3 \sigma _E$)和差的($E \gt \bar {E} + 3 \sigma _E$),其中$\bar {E}$是平均误差,$\sigma _E$是其标准差。图4使用MAE作为误差度量来说明这种分类,并在图5中展示了每个类别的代表性案例(分别标记为a、b、c)。图4. 使用MAE指标的热鞘数据库预测误差分布。误差被分为三类:好的($E \lt \bar {E}$)、平均的($\bar {E} \lt E \leqslant \bar {E} + 3 \sigma _E$)和差的($E \gt \bar {E} + 3 \sigma _E$)。大多数测试案例属于好或平均类别,只有不到3%被归类为差。图5详细展示了每个类别的代表性案例(分别标记为a、b、c)。图5. 比较hPIC2的IEADs(左列)、机器学习替代预测(中列)以及hPIC2-ANN的IEADs差异图(右列),选择了图4中的三个代表性热鞘案例。案例A(“好”)显示出极好的一致性,替代模型准确地再现了分布的峰值和尾部。案例B(“平均”)显示出适度的偏差,同时保持了整体分布的形状。案例C(“差”)对应于较差的预测。案例A、B和C的相关MAE分别为$0.0067$、$0.0191$和$0.0376$。总体而言,机器学习替代模型高保真地再现了IEADs。大约60%的测试案例属于“好”类别,而小于3%被分类为“差”预测(表3)。少数差案例主要与积累的粒子数量太少有关,导致IEADs噪声较大。在这些情况下,机器学习模型倾向于平滑噪声,因为卷积核由于其共享权重的架构,本质上具有空间一致性,产生了更平滑但略有偏见的重建。图5比较了三个代表性的机器学习预测示例与相应的hPIC2分布。案例A(“好”)在IEAD的峰值和尾部都表现出极好的一致性。案例B(“平均”)显示出适度的偏差,但仍再现了整体分布的形状。案例C(“差”)突出了较差预测的缺陷;在这里,原始的hPIC2结果受到噪声的影响,机器学习模型部分平滑了噪声,但未能完全恢复。使用MSE和相对$L_2$范数的进一步评估确认了这些结果的稳健性。根据MSE指标,63%的预测被分类为好,33%为平均,3%为差。使用$L_2$范数,相应的值分别为70%、28%和2%(表3)。这些跨多个指标的一致统计结果确认了DDeCNN替代模型能够以PIC计算成本的一小部分可靠地再现热鞘IEADs。表3显示了不同指标的错误范围摘要。有关错误统计的更多详细信息,可以在附录B的表6中找到。3.2. 射频等离子鞘 3.2.1. 单种物种射频鞘 首先在射频鞘存在的情况下,对单种物种氘等离子体测试了替代模型。与热鞘案例相比,射频鞘带来了更具挑战性的预测任务。振荡的鞘电势引入了离子加速的强时间调制,导致IEADs具有多个特征性的结构。射频IEADs不是单一的、几乎对称的分布,而是表现出宽的能量扩散、射频相位依赖的角各向异性,在许多情况下,与振荡鞘中的离子迁移性相关的多峰结构。这些特征对于等离子体 Masonry Imaging (PMI)研究特别重要,因为它们直接影响溅射产量和表面修饰。为了应对射频鞘的额外复杂性,我们研究了更高级的替代建模策略,即数据增强(DA)、多保真度(MF)和结合DA + MF的方法。表3. 基于各种错误指标的热鞘数据集和射频鞘测试数据集中所有点的错误范围摘要。射频数据库的构建用于DA和MF模型。射频数据库是通过采样六个物理参数($T_e$、$T_i$、$n$、$B$、$\psi _B$和$V_{\mathrm{pp}}$)和六个数值参数($\text{d}x$、$x$、$\text{d}t$、$t$、$N_{\mathrm{part}}$、$N_{\mathrm{steps}}$)构建的,如表1所总结的。尽管数值参数不是严格的自由输入,但它们的包含显著提高了预测准确性(见附录A)。通过增强现有模拟生成了额外的训练数据,从而得到了DA模型。还采用了MF学习策略,使用了两个数据集:一个LF数据集(数据集5,表2)和一个HF数据集(数据集3,表2)。LF数据集使用粗略离散化生成,最初包含$4995$个案例,通过增强扩展到$124\,812$个。HF数据集使用精细离散化生成,包含$1579$个案例,扩展到$38\,732$个。为了测试,生成了一个单独的HF分辨率数据集,包含$100$个案例,并增强到$2475$个案例。DA和MF模型的训练。由于MF模型的多阶段设计,训练MF模型需要仔细的超参数优化:(i) 在LF数据上训练;(ii) 在HF数据上进行迁移学习;(iii) 对超参数进行微调。在此过程中优化了MF特有的额外超参数,如冻结/解冻层的数量和位置。当DA与MF结合时,需要了一组新的超参数。DA模型由于增强数据中的冗余而遭受过拟合,因此需要较少的训练周期。使用随机搜索策略对DA和MF + DA模型的超参数进行了调整。最终选定的超参数在表9中进行了总结。调整后,每个模型都进行了重新训练,图6展示了MF模型如何通过减少所有训练阶段的损失(MAE)系统性地优于基线模型。图6. 在多保真度(MF)训练期间训练损失函数(MAE)的演变,与基线模型进行了比较。展示了三个MF阶段:(i) 在低保真度(LF)数据集上的初始训练;(ii) 在高保真度(HF)数据集上进行迁移学习,部分冻结层;(iii) 在所有层解冻的情况下在HF数据上进行微调。每个步骤都系统地改进了基线模型,证明了MF策略的有效性。模型之间的比较。图7使用箱线图展示了MAE的模型准确性系统比较。从左到右,该图比较了:基线模型(无DA/MF)、DA模型、MF模型和结合了MF + DA的模型,“最后一步”变体也为DA和MF + DA显示。虽然基线模型表现得相当好,但DA和MF都将MAE的平均值和中位数降低了大约50%,其中MF取得了略微更好的结果。结合DA和MF进一步将误差减少了另外50%。DA模型的方差有所减少,而MF和MF + DA的方差显著减少。有趣的是,MF + DA在平均值和方差方面并没有显著超过MF单独的效果,但产生了更稳定的误差分布。图9展示了一个代表性示例,其中替代模型准确再现了由RF整流引起的双峰特性。在大多数情况下,MF方法为实际应用提供了足够的准确性,尽管DA和MF都引入了额外的计算开销:LF数据生成增加了MF的模拟成本,而DA大大扩大了训练数据集,需要高效的数据处理。值得注意的是,DA可以跨越多个时间步长模拟IEADs,当关注瞬态行为时尤其有价值。在MAE中观察到的趋势与MSE和$L_2$误差的趋势一致,如图8所示。有关错误统计的更多详细信息,可以在附录B的表7中找到。图7。不同替代模型下,对于单物种射频鞘(RF sheaths)的IEAD预测的平均绝对误差(MAE)的箱线图比较:基线模型、数据增强(DA)模型、多保真度(MF)模型以及DA+MF组合模型。在增强数据集上训练的模型也在原始数据点上进行了评估(“最后一步”情况)。在每个图表中,中线标记了中位数,红色点表示平均值,蓝色框表示四分位数范围(50%的数据),胡须延伸到最小值和最大值,黑色圆圈表示异常值。与基线模型相比,DA和MF显著降低了误差,而MF+DA提供了最稳定的误差分布。图8. 训练数据集(红色)和测试数据集(蓝色)的误差指标分布。MAE和$L_2$误差的数据点显示在均值的三个标准差范围内($E_{\mathrm{MAE}}(i) \leqslant 3\sigma _{\mathrm{MAE}}$,$E_{L_2}(i) \leqslant 3\sigma _{L_2}$),而MSE超过$3\sigma$的情况用‘X’标记。使用所有三个误差指标的加权平均值识别出代表性案例:训练集中的最佳、平均和最差预测分别标记为A、B和C,而测试集中的案例分别标记为D、E和F。这些案例的详细比较见图9。图9. 单物种射频鞘的IEAD预测示例。第一行比较了hPIC2的参考分布(左)与基线模型、数据增强(DA)模型、多保真度(MF)模型以及DA+MF组合模型的替代预测。第二行显示了每个模型的相应残差误差分布。MF和DA+MF方法最准确地再现了参考IEAD,包括射频诱导的展宽和多峰结构等关键特征,同时也产生了更小的残差。(更多示例见图17。)时间依赖性。一些应用,如射频相位分辨溅射、湍流研究和其他等离子体瞬态过程,需要时间分辨的IEADs。为了评估模型随时间的变化,我们分析了测试数据集中MAE的时间演变(图10)。将MF与DA结合使用一致降低了整体预测误差,尽管误差的相对趋势得到了保留。高误差情况本质上更难以模拟,这与模型无关。早期时间步骤的高误差归因于:(1)低粒子统计,这增加了参考PIC数据中的噪声;以及(2)瞬态等离子体状态,这降低了训练样本的代表性。在某些情况下,误差在后期增加,这与由于鞘层整流而在IEADs中出现次级峰值同时发生,增加了结构复杂性。射频鞘的替代模型也显示出对单物种射频鞘的强大预测能力。数据增强和多保真度策略相对于基线模型都提高了准确性,其中MF提供了最一致的增益,而DA在时间依赖性情况下具有优势。组合的MF+DA方法产生了最稳定的误差分布,尽管需要额外的数据准备和训练复杂性。为了确定是增加高频(HF)模拟次数还是采用MF建模方法更有益,我们考虑了数据集的结构和计算成本。在我们的情况下,MF方法具有明显优势。尽管HF模拟提供了高度准确的结果,但它们在计算上代价高昂;每次HF运行的时间大约是LF模拟的三倍。通过利用LF和HF数据,MF模型有效地利用了LF数据集的更广泛覆盖范围,同时保持了HF数据的精确度。重要的是,这两个数据集都是使用相同的代码(hPIC2)生成的,并且都能准确解析物理现象,LF模拟已经达到了高质量标准(每个单元大约2000个粒子),而HF模拟进一步减少了PIC噪声(每个单元大约10000个粒子)。LF和HF数据之间的强相关性使MF模型能够从两个来源有效学习。此外,MF框架支持迁移学习,允许模型在更广泛的参数空间中进行泛化,或以最小的额外成本适应相关任务。为了进一步评估替代模型的性能,使用hPIC生成的IEADs计算的溅射产率与使用替代模型重建的产率进行了比较,如图11所示。比较包括训练和测试数据集,并考虑了替代模型的两种变体:基本模型和多保真度模型。使用Yamamura和Shindo(参考文献Yamamura and Shindo1984)以及Yamamura和Tawara(参考文献Yamamura and Tawara1996)描述的方法计算了IEAD中每个点的溅射产率,展示了替代模型在准确预测溅射产率方面的稳健性。图10. 测试数据集上平均绝对误差(MAE)随时间步长的热图。结果包括(a)独立数据增强(DA)模型和(b)DA+MF组合模型。颜色条表示误差范围,标记表示每个模型的最大和最小值。DA+MF方法与单独使用DA相比减少了整体误差,同时保留了模型性能的时间趋势。图11. 使用ML替代模型(y轴)从分布计算出的溅射产率与从PIC分布(x轴)获得的溅射产率的比较,对于(a)训练数据集和(b)测试数据集的RF鞘。两种预测之间的一致性沿着黑色虚线。在每个面板中,报告了两种替代模型的变体,即基本模型(浅蓝色)和多保真度模型MF(浅橙色)。被分类为“差”预测的异常值情况(基本模型小于1.85%,MF模型小于0.49%)用深蓝色和深红色突出显示。3.2.2. 多物种射频鞘 对替代模型的一个更严格的测试涉及在射频鞘存在的情况下包含多种离子物种的等离子体。多物种效应在聚变相关等离子体中普遍存在,来源于燃料组成(D–T)、聚变产物($\mathrm{He_4}$)、 minority加热($\mathrm{He_3}$)、内在杂质(W, B等)、壁面再循环和杂质播种。在射频鞘条件下,这些混合物产生了特别复杂的IEADs:每种离子物种根据其电荷与质量的比率对鞘电位的响应不同,导致物种依赖的展宽、重叠分布和修改后的角度各向异性。对于这个问题,我们采用了表2中的数据集4,对应于氦-3 minority加热的情况。替代模型被训练来同时模拟五种物种的IEADs:$[\mathrm{D, T, O, He_3, W}]$。由于$\mathrm{He_3}$ minority族群的温度可以远高于主体离子,因此将氦-3温度$T_{\mathrm{He_3}}$作为一个额外的输入参数,定义为主体离子温度的倍数,范围为$T_{\mathrm{He_3}} = [1{-}10] T_i$。与单物种情况不同,输出包括多个IEADs,每个物种一个,存储在单独的输出通道中。这要求替代模型具有多输出结构,最终的卷积层并行产生多个通道。这样的设计确保捕获了物种之间的相关性(例如,由于相同的鞘电位导致的共同展宽)。多物种问题的训练。训练使用了1995个独立生成的案例和100个测试案例。通过随机搜索进行了超参数优化,并引入了修改以处理多物种问题的更高维度(见表10)。架构被扩展以适应多输出设计,并仔细选择了损失函数,因为同时准确表示所有物种需要超出标准的逐点误差最小化。图12. 箱线图比较了不同损失函数在模拟五种物种的IEADs方面的性能。性能使用平均绝对误差(MAE)进行评估,平均值覆盖所有物种,显示了训练和测试数据集。从右到左比较的损失函数分别是均方误差(MSE)、平均绝对误差(MAE)、Wasserstein损失、Huber损失、结构相似性指数测量(SSIM)和混合SSIM–MAE损失。损失函数比较。评估了几个损失函数(图12):平均绝对误差(MAE)、均方误差(MSE)、Wasserstein损失(Frogner等人,参考文献Frogner, Zhang, Mobahi, Araya and Poggio2015)、Huber损失、结构相似性指数测量(SSIM)和自定义的混合SSIM–MAE损失。混合损失结合了像素级精度和结构保真度:(3.1)\begin{equation} \mathcal{L}_{\mathrm{Hybrid}} = \alpha \boldsymbol{\cdot }\mathcal{L}_{\mathrm{SSIM}} + (1-\alpha ) \boldsymbol{\cdot }\mathcal{L}_{\mathrm{MAE}}, \quad \alpha =0.5, \end{equation},其中$\mathcal{L}_{\mathrm{SSIM}} = C - \mathrm{SSIM}$,$C$是一个标准化常数(通常$C=1$)。单独使用MAE或SSIM都是不够的。使用这些指标进行训练时,模型会优先考虑某些物种,而忽略其他物种,导致IEADs不完整或空白。相比之下,混合SSIM–MAE一致地表现更好,产生了更低的平均误差,同时保持了分布结构。Huber和MSE实现了更受限制的误差分布(更低方差),但以牺牲结构保真度为代价。Wasserstein的整体表现最差。图13展示了一个代表性案例,比较了hPIC2参考分布(顶部行)与在不同损失下训练的替代预测。使用混合SSIM–MAE损失的模型在质量上更有效地保留了多物种特征。定量上,MAE和$L_2$误差指标都证实了混合方法的优越性。物种依赖的误差行为。虽然图12报告了所有物种的平均预测误差,但图14突出显示了每个物种的误差分布。某些案例(例如#58、#67、#76)在所有物种中始终更具挑战性,反映了更高的内在复杂性。高$Z$物种(如氧和钨)的误差通常更大,因为它们在鞘电位下的加速度更强。这些离子经历了显著的绝热冷却,产生了更窄的IEADs,对小的偏差更敏感,从而放大了误差指标相对于更宽分布的误差。总体而言,只要使用了适当的架构和损失函数,替代模型就成功地同时模拟了所有五种物种的IEADs。混合SSIM–MAE损失在结构保真度和低误差之间提供了最佳平衡,而其他损失则表现不够一致。分布狭窄的物种(如钨)对预测偏差更敏感,但替代模型可靠地捕捉了它们的主要特征。图13. 五物种等离子体的IEAD示例,比较了hPIC2参考结果(顶部行)与使用不同损失函数获得的替代预测(后续行),展示了每种损失函数的预测性能和ML模型对多物种RF鞘情况的整体性能。在多物种问题中,混合SSIM–MAE损失函数获得了更高的准确性。图14. (a)测试数据集中每个物种的$L_2$误差热图,突出显示了物种特定的误差趋势。(b)从热图平均得出的每个案例的平均绝对误差(MAE)条形图。这些图表一起显示了逐案例和按物种解析的预测准确性变化,强调了某些物种和案例本质上更难以模拟。3.3. 时间节省 ML替代模型的一个关键优势在于它们相对于完整的PIC模拟大大降低了计算成本。使用hPIC2生成单个IEAD通常需要大约12-24小时的壁钟时间,在多个CPU/GPU节点上,具体取决于等离子体参数和数值分辨率。相比之下,一旦训练完成,DDeCNN替代模型可以在单个GPU上在不到一毫秒的时间内或在标准CPU工作站上不到一秒的时间内再现相同的IEAD。这相当于大约六到七个数量级的加速。表4总结了所需的时间:(i)数据集生成(运行PIC模拟所花费的总时间的指示);(ii)ML训练;以及(iii)ML预测,用于本工作中使用的每个数据库。生成每个数据集所需的时间可能根据数据库中的数据点数量、数值参数(见表5)、输入参数的数量及其范围以及用于数据生成的计算机架构而大幅变化。一般来说,表2中的八个数据库每个使用UIUC校园集群的40个节点(100,000 CPU核心小时)大约需要${\sim}5$天来生成。训练所需的时间也根据数据的大小、架构的复杂性、周期数等因素而大幅变化;表4中报告了总结。多物种射频(RF)模型的训练由于所用架构的复杂性增加而略微耗时更长。然而,数据驱动(DA)模型的训练时间则显著更长,这是由于该模型所使用的数据库规模非常大。无论采用何种特定的替代架构,每个数据点的预测时间几乎保持不变,仅取决于底层的GPU硬件,如图15所示。为了强调这种可扩展性的影响,我们考虑了一个现实的应用案例:计算由23万个表面节点组成的离子回旋共振加热(ICRH)驱动器的详细3D网格上的离子能量-角度分布(IEADs),其几何结构与WEST托卡马克中使用的驱动器相似。选择这个例子是因为等离子体接触表面的几何复杂性,因为RF驱动器内部有RF限制器、法拉第棒、隔板和角落。使用hPIC2进行此类计算,在UIUC校园集群的40个节点上大约需要1000天的运行时间。相比之下,本工作中开发的机器学习(ML)替代模型可以在单个GPU工作站上将同一任务缩短到不到2分钟。这一结果展示了在不牺牲原始粒子模拟(PIC)模型准确性的前提下取得的巨大效率提升,使得将其实际整合到设备规模的等离子体力学(PMI)研究和设计工作流程中成为可能。这一改进的意义重大。大规模的PMI研究通常需要在数千个表面位置评估IEADs,这些位置处于各种等离子体条件下。对于这样的研究,直接使用PIC模拟在计算上是不可行的,因为即使生成1000个IEADs也需要连续使用大型计算集群数月时间。相比之下,替代模型可以在几分钟内生成相同数量的IEADs,从而能够进行详细的PMI建模和敏感性研究,而这在原本是不可能的。当考虑参数扫描和优化研究时,效率提升更为显著。例如,在为聚变反应堆设计RF天线系统时,必须在一个涉及密度、温度、磁场、RF电压和几何形状的多维参数空间内评估RF护套响应。传统的基于PIC的方法只能稀疏采样这个空间,而替代模型允许密集采样和RF相位分辨的探索。这使得进行概率不确定性量化、基于替代模型的优化以及实时耦合护套模型与系统级代码成为可能。表4总结了第3.1节和第3.2节讨论的ML模型训练所需的时间,包括多保真度模型中每个步骤的训练时间。同时显示了模型训练后每个IEAD的仿真时间。表中列出的时间是基于NVIDIA RTX-1060Ti GPU的训练和预测时间。对于整个数据集,基于NVIDIA RTX 1060 GPU。表5. 控制约束的用户定义参数。直接受影响的参数以粗体显示。图15. 使用ML替代模型仿真多物种IEADs所需的推理时间,与CPU和几种GPU架构(RTX 1080 Ti、A10、A100和H100)进行了比较。GPU加速将每个案例的预测时间从CPU上的几秒缩短到现代GPU上的毫秒,相对于完整的PIC模拟实现了六到七个数量级的加速。所有时间测量都是在GPU配置为双精度运行的情况下进行的。
4. 结论
本研究展示了用于预测聚变相关等离子体护套条件下离子能量-角度分布(IEADs)的机器学习替代模型的开发和应用。利用hPIC2粒子输运代码生成的数据,我们构建并训练了一个深度反卷积神经网络(DDeCNN),能够准确再现热护套和RF护套情况下的IEADs,包括多达13个输入变量和五种不同的等离子体物种。该替代模型在广泛的参数空间内实现了高保真度。对于热护套,超过97%的测试案例在多个误差指标上被分类为良好或平均水平预测,只有不到3%的案例是由于hPIC2结果受到小范围统计噪声的影响而表现不佳。对于产生更结构化、多峰IEADs的RF护套,预测准确性依然稳健,99%的单物种和98%的多物种测试案例被分类为良好或平均水平。我们展示了ML替代模型能够可靠地捕捉RF驱动IEADs的相位空间结构和幅度。在我们的工作中,我们还探索了几种更先进的技术,包括数据增强(DA)和多保真度(MF)方法。这些方法增强了模型模拟复杂分布的能力,并显著减少了训练数据的需求。尽管在某些情况下训练数据点的数量有限,模型在预测IEADs时仍表现出色,同时保持了毫秒级的推理时间。特别是DA方法,在捕捉RF护套所需的时间依赖行为方面证明了其有效性,这对于涉及瞬态等离子体动力学(如瞬态、湍流等)的未来研究特别有前景。对于实际应用而言,ML替代模型在计算效率上实现了数量级的改进。一旦训练完成,DDeCNN在工作站上可以在几毫秒内再现IEADs,而使用超级计算集群进行PIC模拟则需要数小时或数天时间。这相当于实现了六到七个数量级的加速,有效将IEADs生成从一个计算瓶颈转变为一个可以无缝集成到更大设备框架中的常规步骤。这样的收益使得在数千个壁面位置评估IEADs、进行密集的参数扫描以及将护套预测与其他PMI和侵蚀模型直接耦合成为可能。本研究开发的ML替代模型能够将具有PIC级准确性的离子撞击分布纳入多尺度PMI建模和与反应堆相关的设计研究中。
致谢
粒子输运模拟在伊利诺伊校园集群上进行,该计算资源由伊利诺伊校园集群计划(ICCP)与国家超级计算应用中心(NCSA)共同运营,并得到了伊利诺伊大学厄巴纳-香槟分校(UIUC)的资金支持。机器学习模型的训练、验证和测试在伊利诺伊校园集群上进行,并使用了位于马萨诸塞州波士顿的麻省理工学院(MIT)等离子体科学与聚变中心(PSFC)的计算资源。最终版本的手稿校对使用了GPT-5.0。编辑Luís O. Silva感谢审稿人在评估本文时提供的建议。
资助
本材料基于美国能源部科学办公室、聚变能源科学办公室的支持,奖项编号为DE-SC0024369(SciDAC射频-等离子体-材料相互作用高级模拟中心)。此外,还获得了DE-SC0025853奖项(FIRE合作项目:APP-FPP聚变试点工厂设计的先进轮廓预测)的额外支持。本文中表达的任何观点、发现、结论或建议均为作者所持,并不一定反映美国能源部的观点。
利益声明
作者声明他们没有已知的竞争性财务利益或可能影响本文所述工作的个人关系。
附录A. 数值参数的定量约束
在通过结构化采样自由参数空间生成训练和测试数据集后,每个hPIC2模拟配置都使用一组逻辑条件进行评估,以施加对数值参数的约束。这些约束确保了模拟具有足够的分辨率。控制这些约束严格性的用户定义参数列在表5中。具体数值要求如下所述:域的大小$x$和元素大小$dx$是根据多物种等离子体的德拜长度$\lambda _D$(由(A1)给出)以及所有离子物种的最大拉莫半径$r^j$(由(A2)给出)计算的,其中$\epsilon _0$是自由空间的介电常数;$K_B$是玻尔兹曼常数;$e$是基本电荷;$n_e$是等离子体密度;$T_e$是电子温度;$B$是磁场强度;$Z^j$、$n^j$和$T_i^j$分别是第$j$种离子的电荷、密度和温度。这里,$v_\perp ^j$是垂直于磁场的速度,近似为第$j$种离子的最可能热速度,由$v_\perp ^j = \sqrt {{2 T_i^j}/{m^j}}$给出。因此,$dx$始终选择为一个德拜长度$\lambda _D$,域的大小$x$是$500 \; \lambda _D$或$r_L$的最大值的3倍。(A1) \begin{align} \lambda _D &= \left ( \frac {\epsilon _0 K_B/e^2}{n_e/T_e + \sum _j Z^j n^j T_i^j} \right )^{1/2}, \end{align} (A2) \begin{align} r_{\mathrm{max}} &= {\mathrm{max}}(r^j) = {\mathrm{max}} \left (\frac {m^j v_\perp ^j}{Z^j e B} \right )\! . \end{align} 使用(A1)和(A2),以及表5中的用户定义参数,域的大小$x$计算如下:(A3) \begin{equation} x = \max \left [ N_{\lambda _D} \times \lambda _D , 3 \times \max \left ( r^j \right ) \right]\!, \end{equation} 元素大小使用每个德拜长度的点数$N_{\mathrm{pp}, \lambda _D}$计算。当$N_{\lambda _D} \times \lambda _D \leqslant 3 \times \max ( r^j)$时,$N_{\mathrm{\mathrm{pp}}, \lambda _D} = N_{\lambda _D}$;否则使用(A4) \begin{equation} \mathrm{d}x = N_{\mathrm{pp}, \lambda _D} (x/\lambda _D). \end{equation} 对时间步长$\mathrm{d}t$施加四个约束。这些约束分别表示为热时间步长$\mathrm{d}t_{\mathrm{th}}$、陀螺时间步长$\mathrm{d}t_g$、RF护套离子瞬态时间$\mathrm{d}t_{\mathrm{RF}}$和RF周期采样频率$\mathrm{d}t_T$。约束的严格程度由表5中的用户定义参数控制。确定$\mathrm{d}x$后,$\mathrm{d}t_{\mathrm{th}}$计算如下:(A5) \begin{equation} \mathrm{d}t_{\mathrm{th}} = \frac {\mathrm{d}x}{3 v_{\mathrm{th}}}. \end{equation} 陀螺周期采样频率使用$N_{\mathrm{pp},T_g}$定义。然后,使用(A6)计算$\mathrm{d}t_g^j$,使得$\tau _g = 2 \pi / \omega _c$是陀螺周期,$\omega _c$是第$j$种离子的回旋频率,由(A7)给出,(A6) \begin{align} \mathrm{d}t_g^j &= \frac {\tau _g}{N_{\mathrm{pp},T_g}},\\[-8pt]\nonumber \end{align} (A7) \begin{align} \omega _c^j &= \frac {Z^j e B}{m_i^j}. \end{align} RF护套离子瞬态时间$\mathrm{d}t_{\mathrm{RF}}$根据(A8)计算,其中$a^j$在(A9)中给出,是第$j$种离子的加速系数,$E_s$是(A10)中显示的最大RF电场,$L$是估计的RF护套长度,由(L)给出,$L = 10 \lambda _D$. (A8) \begin{align} \mathrm{d}t_{\mathrm{RF}}^j &= \sqrt {\frac {\mathrm{d}x}{2a^j}},\\[-8pt]\nonumber \end{align} (A9) \begin{align} a^j &= \frac {e Z^j E_s}{m_i^j}, \end{align} (A10) \begin{align} E_s = 2V_{\mathrm{pp}}/L. \end{align} RF周期采样频率$\mathrm{d}t_T$根据(A11)计算:(A11) \begin{equation} \mathrm{d}t_T = \frac {\tau _{\mathrm{RF}}}{N_{\mathrm{pp}, T_{\mathrm{RF}}}}. \end{equation} 最后,每次模拟中使用的$\mathrm{d}t$根据以下方程计算:(A12) \begin{equation} \mathrm{d}t = \min \left [ \mathrm{d}t_{\mathrm{th}},\, \min \left ( \mathrm{d}t_g^j \right ),\, \min \left ( \mathrm{d}t_{\mathrm{RF}}^j \right ),\, \mathrm{d}t_T \right ]. \end{equation} 一旦通过(A12)计算出$\mathrm{d}t$,总模拟时间$t$可以根据另外三个限制计算:离子瞬态时间总数$N_{T_i}$、RF周期总数$N_{\mathrm{RF}}$和预定义的最小时间步数。离子传输时间使用(A13)计算,其中$\psi _B$是磁场相对于表面法线的倾角,(A13) \begin{equation} T_i = \frac {x}{v_{\mathrm{th}} \cos {\psi _B}}. \end{equation} 然后,总模拟时间根据以下方程计算:(A14) \begin{equation} t = \max \left [ N_{T_i} T_i, \; N_{\mathrm{RF}}/f_{\mathrm{RF}}, \; N_{\mathrm{steps}} \right ] \end{equation} 时间步数简单地为(A15) \begin{equation} N_{\mathrm{steps}} = \mathrm{int}(t/\mathrm{d}t) . \end{equation}
A.1. IEADs的规范化
为了使用DDeCNN架构,使用hPIC2模拟生成的IEADs应满足以下要求:(i) 能量和角度维度中的元素数量应该是2的幂。 (ii) 应选择最大能量区间,以保证模拟过程中累积的所有粒子的能量都低于该值。 (iii) 所有模拟的元素数量应该是固定的。为了满足要求(i)和(iii),角度轴上的栅格数量被设置为128个,范围为[0,90]度。然而,能量栅格的数量被固定为257个,其中最大的能量栅格作为一个“吸收器”,在后续处理过程中将被移除。需要注意的是,如果在数据生成阶段需要更高的分辨率,栅格的数量是可以更改的。但是,随着栅格数量的增加,机器学习(ML)模型的训练和采样计算成本也会增加。表6显示了在4维热鞘数据上训练的ML模型的重建误差统计,详细比较了与原始数据相比的IEAD重建误差,涵盖了测试和训练数据集的情况。图16展示了ML模型的数据准备过程,分别展示了(a)单物种和(b)多物种的情况。尽管要求(i)和(iii)对所有物种来说都是固定的,但要求(ii)并非如此。为了满足要求(ii),根据公式(A17)计算给定输入向量中第$j$个物种的最大能量栅格值。公式(A17)的第一项考虑了离子源的热分布,其平均能量分布为$\frac{3}{2} T_i$;第二项乘以3是为了考虑分布中的高能部分;最后一项乘以2作为安全系数。公式(A17)的最后一项考虑了离子在域中心时,由于受到射频电场(RF E-field)在峰值电压$V_{\mathrm{pp}}$下的加速而获得的能量,其值估计为$2 Z^j V_{\mathrm{pp}}$,并乘以0.25作为安全系数。
为了满足要求(i)和(iii),角度轴上的栅格数量被设置为128个,范围为[0,90]度。能量栅格的数量被固定为257个,其中最大的能量栅格作为“吸收器”,在后续处理过程中将被移除。需要注意的是,如果需要更高的分辨率,可以在数据生成阶段改变栅格的数量。然而,随着栅格数量的增加,ML模型的训练和采样计算成本也会增加。表6展示了在4维热鞘数据上训练的ML模型的重建误差统计,详细比较了与原始数据相比的IEAD重建误差,涵盖了测试和训练数据集的情况。图16展示了ML模型的数据准备过程,分别展示了(a)单物种和(b)多物种的情况。虽然要求(i)和(iii)对所有物种都是固定的,但要求(ii)并非如此。为了满足要求(ii),根据公式(A17)计算给定输入向量中第$j$个物种的最大能量栅格值。公式(A17)的第一项考虑了离子源的热分布,平均能量分布为$\frac{3}{2} T_i$;第二项乘以3是为了考虑分布中的高能部分;最后一项乘以2作为安全系数。公式(A17)的最后一项考虑了离子在域中心时,由于受到射频电场(RF E-field)在峰值电压$V_{\mathrm{pp}}$下的加速而获得的能量,其值估计为$2 Z^j V_{\mathrm{pp}}$,并乘以0.25作为安全系数。
为了满足要求(i)和(iii),角度轴上的栅格数量被设置为128个,范围为[0,90]度。能量栅格的数量被固定为257个,其中最大的能量栅格作为“吸收器”,在后续处理过程中将被移除。需要注意的是,如果在数据生成阶段需要更高的分辨率,栅格的数量是可以更改的。然而,随着栅格数量的增加,ML模型的训练和采样计算成本也会增加。表6显示了在4维热鞘数据上训练的ML模型的重建误差统计,详细比较了与原始数据相比的IEAD重建误差,涵盖了测试和训练数据集的情况。图16展示了ML模型的数据准备过程,分别展示了(a)单物种和(b)多物种的情况。尽管要求(i)和(iii)对所有物种来说都是固定的,但要求(ii)并非如此。为了满足要求(ii),根据公式(A17)计算给定输入向量中第$j$个物种的最大能量栅格值。公式(A17)的第一项考虑了离子源的热分布,平均能量分布为$\frac{3}{2} T_i$;第二项乘以3是为了考虑分布中的高能部分;最后一项乘以2作为安全系数。公式(A17)的最后一项考虑了离子在域中心时,由于受到射频电场(RF E-field)在峰值电压$V_{\mathrm{pp}}$下的加速而获得的能量,其值估计为$2 Z^j V_{\mathrm{pp}}$,并乘以0.25作为安全系数。
为了满足要求(i)和(iii),角度轴上的栅格数量被设置为128个,范围为[0,90]度。能量栅格的数量被固定为257个,其中最大的能量栅格作为“吸收器”,在后续处理过程中将被移除。需要注意的是,如果在数据生成阶段需要更高的分辨率,栅格的数量是可以更改的。然而,随着栅格数量的增加,ML模型的训练和采样计算成本也会增加。表6显示了在4维热鞘数据上训练的ML模型的重建误差统计,详细比较了与原始数据相比的IEAD重建误差,涵盖了测试和训练数据集的情况。图16展示了ML模型的数据准备过程,分别展示了(a)单物种和(b)多物种的情况。虽然要求(i)和(iii)对所有物种来说都是固定的,但要求(ii)并非如此。为了满足要求(ii),根据公式(A17)计算给定输入向量中第$j$个物种的最大能量栅格值。公式(A17)的第一项考虑了离子源的热分布,平均能量分布为$\frac{3}{2} T_i$;第二项乘以3是为了考虑分布中的高能部分;最后一项乘以2作为安全系数。公式(A17)的最后一项考虑了离子在域中心时,由于受到射频电场(RF E-field)在峰值电压$V_{\mathrm{pp}}$下的加速而获得的能量,其值估计为$2 Z^j V_{\mathrm{pp}}$,并乘以0.25作为安全系数。
为了满足要求(i)和(iii),角度轴上的栅格数量被设置为128个,范围为[0,90]度。能量栅格的数量被固定为257个,其中最大的能量栅格作为“吸收器”,在后续处理过程中将被移除。需要注意的是,如果在数据生成阶段需要更高的分辨率,栅格的数量是可以更改的。然而,随着栅格数量的增加,ML模型的训练和采样计算成本也会增加。表6显示了在4维热鞘数据上训练的ML模型的重建误差统计,详细比较了与原始数据相比的IEAD重建误差,涵盖了测试和训练数据集的情况。图16展示了ML模型的数据准备过程,分别展示了(a)单物种和(b)多物种的情况。尽管要求(i)和(iii)对所有物种来说都是固定的,但要求(ii)并非如此。为了满足要求(ii),根据公式(A17)计算给定输入向量中第$j$个物种的最大能量栅格值。公式(A17)的第一项考虑了离子源的热分布,平均能量分布为$\frac{3}{2} T_i$;第二项乘以3是为了考虑分布中的高能部分;最后一项乘以2作为安全系数。公式(A17)的最后一项考虑了离子在域中心时,由于受到射频电场(RF E-field)在峰值电压$V_{\mathrm{pp}}$下的加速而获得的能量,其值估计为$2 Z^j V_{\mathrm{pp}}$,并乘以0.25作为安全系数。
为了满足要求(i)和(iii),角度轴上的栅格数量被设置为128个,范围为[0,90]度。能量栅格的数量被固定为257个,其中最大的能量栅格作为“吸收器”,在后续处理过程中将被移除。需要注意的是,如果在数据生成阶段需要更高的分辨率,栅格的数量是可以更改的。然而,随着栅格数量的增加,ML模型的训练和采样计算成本也会增加。表6显示了在4维热鞘数据上训练的ML模型的重建误差统计,详细比较了与原始数据相比的IEAD重建误差,涵盖了测试和训练数据集的情况。图16展示了ML模型的数据准备过程,分别展示了(a)单物种和(b)多物种的情况。虽然要求(i)和(iii)对所有物种来说都是固定的,但要求(ii)并非如此。为了满足要求(ii),根据公式(A17)计算给定输入向量中第$j$个物种的最大能量栅格值。公式(A17)的第一项考虑了离子源的热分布,平均能量分布为$\frac{3}{2} T_i$;第二项乘以3是为了考虑分布中的高能部分;最后一项乘以2作为安全系数。公式(A17)的最后一项考虑了离子在域中心时,由于受到射频电场(RF E-field)在峰值电压$V_{\mathrm{pp}}$下的加速而获得的能量,其值估计为$2 Z^j V_{\mathrm{pp}}$,并乘以0.25作为安全系数。
为了满足要求(i)和(iii),角度轴上的栅格数量被设置为128个,范围为[0,90]度。能量栅格的数量被固定为257个,其中最大的能量栅格作为“吸收器”,在后续处理过程中将被移除。需要注意的是,如果在数据生成阶段需要更高的分辨率,栅格的数量是可以更改的。然而,随着栅格数量的增加,ML模型的训练和采样计算成本也会增加。表6显示了在4维热鞘数据上训练的ML模型的重建误差统计,详细比较了与原始数据相比的IEAD重建误差,涵盖了测试和训练数据集的情况。图16展示了ML模型的数据准备过程,分别展示了(a)单物种和(b)多物种的情况。虽然要求(i)和(iii)对所有物种来说都是固定的,但要求(ii)并非如此。为了满足要求(ii),根据公式(A17)计算给定输入向量中第$j$个物种的最大能量栅格值。公式(A17)的第一项考虑了离子源的热分布,平均能量分布为$\frac{3}{2} T_i$;第二项乘以3是为了考虑分布中的高能部分;最后一项乘以2作为安全系数。公式(A17)的最后一项考虑了离子在域中心时,由于受到射频电场(RF E-field)在峰值电压$V_{\mathrm{pp}}$下的加速而获得的能量,其值估计为$2 Z^j V_{\mathrm{pp}}$,并乘以0.25作为安全系数。
为了满足要求(i)和(iii),角度轴上的栅格数量被设置为128个,范围为[0,90]度。能量栅格的数量被固定为257个,其中最大的能量栅格作为“吸收器”,在后续处理过程中将被移除。需要注意的是,如果在数据生成阶段需要更高的分辨率,栅格的数量是可以更改的。然而,随着栅格数量的增加,ML模型的训练和采样计算成本也会增加。表6显示了在4维热鞘数据上训练的ML模型的重建误差统计,详细比较了与原始数据相比的IEAD重建误差,涵盖了测试和训练数据集的情况。图16展示了ML模型的数据准备过程,分别展示了(a)单物种和(b)多物种的情况。虽然要求(i)和(iii)对所有物种来说都是固定的,但要求(ii)并非如此。为了满足要求(ii),根据公式(A17)计算给定输入向量中第$j$个物种的最大能量栅格值。公式(A17)的第一项考虑了离子源的热分布,平均能量分布为$\frac{3}{2} T_i$;第二项乘以3是为了考虑分布中的高能部分;最后一项乘以2作为安全系数。公式(A17)的最后一项考虑了离子在域中心时,由于受到射频电场(RF E-field)在峰值电压$V_{\mathrm{pp}}$下的加速而获得的能量,其值估计为$2 Z^j V_{\mathrm{pp}}$,并乘以0.25作为安全系数。
为了满足要求(i)和(iii),角度轴上的栅格数量被设置为128个,范围为[0,90]度。能量栅格的数量被固定为257个,其中最大的能量栅格作为“吸收器”,在后续处理过程中将被移除。需要注意的是,如果在数据生成阶段需要更高的分辨率,栅格的数量是可以更改的。然而,随着栅格数量的增加,ML模型的训练和采样计算成本也会增加。表6显示了在4维热鞘数据上训练的ML模型的重建误差统计,详细比较了与原始数据相比的IEAD重建误差,涵盖了测试和训练数据集的情况。图16展示了ML模型的数据准备过程,分别展示了(a)单物种和(b)多物种的情况。虽然要求(i)和(iii)对所有物种来说都是固定的,但要求(ii)并非如此。为了满足要求(ii),根据公式(A17)计算给定输入向量中第$j$个物种的最大能量栅格值。公式(A17)的第一项考虑了离子源的热分布,平均能量分布为$\frac{3}{2} T_i$;第二项乘以3是为了考虑分布中的高能部分;最后一项乘以2作为安全系数。公式(A17)的最后一项考虑了离子在域中心时,由于受到射频电场(RF E-field)在峰值电压$V_{\mathrm{pp}}$下的加速而获得的能量,其值估计为$2 Z^j V_{\mathrm{pp}}$,并乘以0.25作为安全系数。
为了满足要求(i)和(iii),角度轴上的栅格数量被设置为128个,范围为[0,90]度。能量栅格的数量被固定为257个,其中最大的能量栅格作为“吸收器”,在后续处理过程中将被移除。需要注意的是,如果在数据生成阶段需要更高的分辨率,栅格的数量是可以更改的。然而,随着栅格数量的增加,ML模型的训练和采样计算成本也会增加。表6显示了在4维热鞘数据上训练的ML模型的重建误差统计,详细比较了与原始数据相比的IEAD重建误差,涵盖了测试和训练数据集的情况。图16展示了ML模型的数据准备过程,分别展示了(a)单物种和(b)多物种的情况。虽然要求(i)和(iii)对所有物种来说都是固定的,但要求(ii)并非如此。为了满足要求(ii),根据公式(A17)计算给定输入向量中第$j$个物种的最大能量栅格值。公式(A17)的第一项考虑了离子源的热分布,平均能量分布为$\frac{3}{2} T_i$;第二项乘以3是为了考虑分布中的高能部分;最后一项乘以2作为安全系数。公式(A17)的最后一项考虑了离子在域中心时,由于受到射频电场(RF E-field)在峰值电压$V_{\mathrm{pp}}$下的加速而获得的能量,其值估计为$2 Z^j V_{\mathrm{pp}}$,并乘以0.25作为安全系数。
为了满足要求(i)和(iii),角度轴上的栅格数量被设置为128个,范围为[0,90]度。能量栅格的数量被固定为257个,其中最大的能量栅格作为“吸收器”,在后续处理过程中将被移除。需要注意的是,如果在数据生成阶段需要更高的分辨率,栅格的数量是可以更改的。然而,随着栅格数量的增加,ML模型的训练和采样计算成本也会增加。表6显示了在4维热鞘数据上训练的ML模型的重建误差统计,详细比较了与原始数据相比的IEAD重建误差,涵盖了测试和训练数据集的情况。图16展示了ML模型的数据准备过程,分别展示了(a)单物种和(b)多物种的情况。虽然要求(i)和(iii)对所有物种来说都是固定的,但要求(ii)并非如此。为了满足要求(ii),根据公式(A17)计算给定输入向量中第$j$个物种的最大能量栅格值。公式(A17)的第一项考虑了离子源的热分布,平均能量分布为$\frac{3}{2} T_i$;第二项乘以3是为了考虑分布中的高能部分;最后一项乘以2作为安全系数。公式(A17)的最后一项考虑了离子在域中心时,由于受到射频电场(RF E-field)在峰值电压$V_{\mathrm{pp}}$下的加速而获得的能量,其值估计为$2 Z^j V_{\mathrm{pp}}$,并乘以0.25作为安全系数。
为了满足要求(i)和(iii),角度轴上的栅格数量被设置为128个,范围为[0,90]度。能量栅格的数量被固定为257个,其中最大的能量栅格作为“吸收器”,在后续处理过程中将被移除。需要注意的是,如果在数据生成阶段需要更高的分辨率,栅格的数量是可以更改的。然而,随着栅格数量的增加,ML模型的训练和采样计算成本也会增加。表6显示了在4维热鞘数据上训练的ML模型的重建误差统计,详细比较了与原始数据相比的IEAD重建误差,涵盖了测试和训练数据集的情况。图16展示了ML模型的数据准备过程,分别展示了(a)单物种和(b)多物种的情况。虽然要求(i)和(iii)对所有物种来说都是固定的,但要求(ii)并非如此。为了满足要求(ii),根据公式(A17)计算给定输入向量中第$j$个物种的最大能量栅格值。公式(A17)的第一项考虑了离子源的热分布,平均能量分布为$\frac{3}{2} T_i$;第二项乘以3是为了考虑分布中的高能部分;最后一项乘以2作为安全系数。公式(A17)的最后一项考虑了离子在域中心时,由于受到射频电场(RF E-field)在峰值电压$V_{\mathrm{pp}}$下的加速而获得的能量,其值估计为$2 Z^j V_{\mathrm{pp}}$,并乘以0.25作为安全系数。
为了满足要求(i)和(iii),角度轴上的栅格数量被设置为128个,范围