物理信息神经网络（PINN）用于预测无机半导体的振动稳定性

《Computational Materials Science》：Physics-informed neural network (PINN) to predict vibrational stability of inorganic semiconductors

　　

• •
  PINN在一个包含1305种材料的基准数据集上实现了0.87的AUC-ROC值。
• •
  使用了物理损失函数来惩罚违反玻恩稳定性判据的结构。
• •
  物理惩罚仅使用了1545个直接计算的玻恩标签。
• •
  所开发的模型在无机半导体的两类（稳定和不稳定）中均表现出均匀良好的性能。
• •
  0.4的丢弃率帮助神经网络克服了过拟合问题。

引言

机器学习在材料科学领域的应用显著增加，机器学习已成为快速预测材料属性和高通量筛选的关键工具[1]-[6]。这一筛选过程中的一个关键初步筛选标准是材料稳定性，它保证了计算生成的材料在合成上是可行的。这种稳定性评估主要关注热力学稳定性，由Materials Project（MP）、Open Quantum Materials Database（OQMD）和AFLOW.org等主要数据库通过凸包以上能量等指标提供[7]-[9]。该方法有效地排除了容易分解为竞争相的材料；然而，它忽视了动力学（振动）不稳定性，这是一种材料即使能量接近凸包也可能由于软声子模式而表现出不稳定的现象[2],[10],[11]。

研究振动稳定性的公认方法是考察通过密度泛函理论（DFT）计算获得的声子色散曲线。DFT需要对大超胞进行计算以考虑长程相互作用。因此，这些计算对于高通量筛选而言计算负担沉重，这一限制对于具有大或复杂晶胞的材料尤为突出[12]-[15]。实验方法，如非弹性中子散射和同步辐射X射线光谱，可以获得声子态密度；然而，实验设备的费用和对高质量单晶的需求使其不切实际，尤其对于高通量振动稳定性筛选而言[16]-[18]。

因此，材料发现过程中缺少了一个关键要素，即振动稳定性筛选器。通过机器学习为其目标特征识别出的有前途的候选材料可能表现出不稳定的动态特性，导致实验室中昂贵且无效的合成与表征循环。这凸显了开发高效且精确的振动稳定性计算筛选器的迫切需要，使其能够在现代材料信息学所需的高通量规模下运行。

用于预测振动稳定性的机器学习算法的进展仍处于早期阶段。几项开创性研究试图解决这一问题；然而，它们的局限性凸显了这一问题的复杂性。一项使用约3000种材料数据开发的分类器，利用合成数据增强来解决类别不平衡问题[19]。该分类器在扩展数据上达到了0.73的曲线下面积（AUC）。该指标表示受试者工作特征（ROC）曲线下的面积，该曲线将真阳性率与假阳性率进行绘制，从而量化整体分类性能。尽管AUC值良好，但它在准确识别不稳定材料方面的有效性（这是稳定性筛选器的主要目标）不足，这一事项将在后续章节中进行统计学分析。

其他工作的研究范围更为狭窄。例如，一个旨在准确检测不稳定二维（2D）材料的模型仅以52%的频率识别出不稳定材料[20]。此外，其局限于二维材料领域，限制了其在更广泛的无机半导体类别中的适用性。与此同时，各种方法试图利用先进结构如欧几里得神经网络（E3NN）来预测完整的声子色散曲线[21]。然而，该模型仅在稳定材料上进行训练，因此仅对稳定材料有效，缺乏识别振动不稳定性所必需的关键虚声子模式数据。

鉴于纯数据驱动方法的局限性，新方法尝试将物理原理纳入模型构建以提高性能和泛化能力[22]。一个值得注意的模型是原子级线图神经网络（ALIGNN），旨在预测热特性和振动特性[23]。ALIGNN在预测参数方面表现出高精度，包括热容和振动熵。然而，其作为振动稳定性分类器的效果不佳，主要原因是训练数据中不稳定材料的严重不足；约15%的声子谱表现出虚模式，表示不稳定。这不断强调一个根本障碍：当前数据库中稳定与不稳定材料之间存在固有的数据不平衡，导致模型倾向于忽视不稳定性的关键指标。克服这一限制需要智能的策略转变。首先，需要从现在被动依赖现有数据库转变为主动开发用于模型训练的平衡数据集。其次，也是更重要的是，我们必须利用物理信息建模方法。将已建立的物理约束和关系纳入学习架构，使模型能够从有限和不平衡的数据中更高效地泛化[24]。这一策略在许多科学领域已被证明非常有效[25]-[27]。物理信息机器学习构成了广泛的集成范式谱系。在这一谱系的一端，连续介质力学框架如深度能量方法（DEM）将能量最小化的变分原理直接嵌入神经网络架构[28]。通过参数化势能面并通过自动微分应变依赖的能量密度推导弹性常数，DEM提供了一种连续且无偏微分方程的、基于基本力学的表述。在谱系的另一端，跨越广泛晶体类别的高通量成分筛选往往缺乏完整的应变依赖能量轨迹；在这些领域中，物理意识可以通过代数约束来体现，这些约束惩罚违反已建立的力学平衡定律的预测，例如玻恩判据。

本研究以玻恩判据作为代数约束的基础，有效地解决了此前发现的振动稳定性预测中的根本缺陷，如我们模型的卓越性能所证明的。我们的关键贡献是通过定制化的补充损失函数将玻恩稳定性判据直接集成到学习过程中。玻恩判据构成完整动力学稳定性的必要但不充分条件，提供了稳健的物理前提[29],[30]。这种集成使模型能够遵守基本的弹性约束，显著增强了其预测能力和泛化能力。玻恩稳定性判据的细节以及基于该判据设计的损失函数将在计算细节部分进行讨论。

为了进行全面评估，我们开发了一个包含1305种无机半导体的基准数据集，经过精心筛选以确保稳定相和不稳定相的平衡表示。我们的模型在该基准上也表现出改进的性能，由高受试者工作特征曲线下面积（AUC-ROC）和其他分类指标所证明，这些将在结果与讨论部分进一步阐述。据我们所知，这是第一个专门为振动稳定性设计的基准数据集，为该领域未来模型的公平比较和进步建立了重要的基础。我们还对我们的模型缺陷进行了关键评估，分析了失败案例并提出了可能的解决方案，以指导这一新兴领域的未来研究。

章节摘要

数据集创建

数据驱动模型的有效性，尤其是深度学习架构，从根本上取决于所给数据集的质量和规模。为了解决数据需求与模型复杂度之间的既定权衡，物理信息机器学习通过直接将控制物理定律纳入学习过程，提供了一个稳健的框架[27]。本研究在混合框架下运行，利用经精心筛选的材料数据集，并通过基于物理的玻恩判据进行增强。

结果与讨论

所开发的物理信息神经网络（PINN）在分类无机半导体振动稳定性方面表现出强大和卓越的能力，利用物理原理来提高预测性能。表1中呈现的结果表明，我们的模型在所有稳定性类别中表现出强大且公平的性能。它在稳定类和不稳定类中分别达到0.82和0.84的F1分数。物理损失函数的引入

结论

在这项工作中，我们提出了一个物理信息机器学习框架，为三维无机半导体的振动稳定性高通量预测设定了新的基准。将玻恩稳定性判据集成到神经网络的损失函数中，使模型能够从数据和基本物理定律中学习。这种策略是有效的，产生了一个在稳定类和un稳定类中均表现出出色且公平性能的分类器，

CRediT作者贡献声明

M.H. Zeb：撰写——审阅与编辑，撰写——原始草稿，可视化，软件，资源，项目管理，方法论，调查，正式分析，数据整理，概念构思。M.Z. Kabir：撰写——审阅与编辑，监督，资金获取。

利益冲突声明

作者声明，他们没有已知的竞争性经济利益或个人关系可能会影响本文所述工作的研究。

M.H. Zeb|M.Z. Kabir