从保真度到可建模性：利用人工智能诊断技术提升材料的电子带隙预测精度

《Materials Today Physics》：From fidelity to modelability: Advancing electronic band gap prediction of materials with AI diagnostics

　　摘要
材料的电子带隙是决定其技术应用的最重要的激发态属性之一。近年来，基于机器学习（ML）方法的数据驱动方法作为一种构建替代模型以快速预测材料属性的有前途的策略而出现，但由于对所设计的ML模型理解不足，其实际效用仍然有限。在这里，我们利用PBE、mBJ、HSE06、GW和实验数据开发了各种ML模型来预测带隙，以获得关于所使用数据在ML模型准确性和可靠性中作用的物理洞察，从而解决了数据可建模性的概念。我们发现，使用更高保真度的密度泛函理论（DFT）泛函数据并不一定会提高模型可建模性或带隙预测的准确性。我们进一步使用人工智能方法——子群发现，作为一种以洞察为导向的诊断工具，来识别更易于建模的材料领域，即ML模型能够实现更高准确性的领域。此外，我们提出了一种结合子群发现与ML算法的新方法来开发领域信息型的ML模型，从而提高了带隙预测的准确性。我们的研究强调了材料数据分析在模拟材料属性中的重要性，并为创建可靠和准确的ML模型铺平了道路，为预测材料特性提供了有价值的见解。

引言
半导体和绝缘体的电子带隙是决定其在光学、光电子学、微电子学和光伏应用中功能的关键参数[1]、[2]。因此，已经付出了相当大的努力来开发用于高通量计算这一电子属性的理论方法。在过去几十年中，基于密度泛函理论（DFT）的从头算模拟已被广泛用于评估大量材料的电子属性，从而创建了大规模的材料数据和计算基础设施[3]、[4]、[5]、[6]、[7]、[8]。随着数据平台的不断增长和机器学习（ML）方法的进步，材料信息学已成为加速材料发现和属性预测的关键范式[9]、[10]、[11]、[12]、[13]、[14]、[15]、[16]、[17]。
许多关于利用在线存储库中的数据（通常来自Perdew–Burke–Ernzerhof（PBE）的广义梯度近似（GGA）计算）对材料电子属性进行ML建模的研究已经进行[18]。这种传统的DFT计算成功地预测了材料的基态属性。然而，对于可靠预测激发态属性，特别是半导体和绝缘体的电子带隙，需要补充且计算成本较高的技术[19]、[20]、[21]、[22]。
所得带隙的准确性取决于DFT计算中使用的交换相关泛函。PBE由于其缺乏导数不连续性[23]、[24]、[25]、自相互作用以及离域误差[26]、[27]、[28]、[29]、[30]，往往会产生低保真度的带隙。相比之下，更复杂的泛函，如元广义梯度近似（meta-GGA）[31]、[32]、混合方法[33]、[34]和基于格林函数的准粒子GW方法[35]、[36]，虽然计算成本更高，但可以产生更高保真度的带隙。这些事实促进了多保真度（MF）学习方法的使用，其中来自PBE之类的低保真度、低成本带隙数据作为特征，用于建模高保真度、高成本的目标[37]、[38]、[39]、[40]、[41]、[42]、[43]。
评估DFT带隙准确性的常用方法是将结果与现有的实验数据进行比较[44]、[45]、[46]、[47]。这种分析对于生成高保真度的数据集至关重要，这对于开发准确的ML模型以预测材料带隙是必要的。然而，尽管选择了高保真度DFT计算的方法，目前尚不清楚不同的泛函是否会对数据集施加不同的“可建模性”水平。这里的可建模性指的是ML模型能够多有效地学习、近似或外推给定数据集在系统中的行为，通常通过误差指标来衡量。因此，考虑各种DFT泛函在训练ML模型以预测带隙时对性能的影响是很重要的。可建模性的另一个重要方面是数据集在化学组成空间和所含材料的结构多样性上的焦点。存在许多不同大小的数据库，每个数据库针对材料空间的不同区域。有些数据库仅限于包含特定元素的材料，而其他数据库则包含从均匀到多样化晶体结构的各种原子组合。此外，对于相同的材料条目，不同数据集之间可能会出现显著差异[48]。
尽管DFT带隙的保真度水平和数据集中的材料多样性各不相同，但已经采用了不同的方法来提高预测建模的准确性[10]、[12]、[14]、[40]、[41]、[56]、[58]、[59]、[60]、[61]、[62]、[63]、[64]。这些方法主要集中在识别适当的表示以及与ML算法结合，以预测结构均匀或多样化的材料类别的属性。这可能涉及基于元素或块材料属性构建固定特征向量[60]、[62]、[65]、[66]，使用基于原子位置的特征[67]、[68]、[69]，以及应用图论方法[71]、[72]、[73]。主要通过跟踪和分析平均预测误差（如平均绝对误差（MAE）、均方误差（MSE）或均方根误差（RMSE）来指导ML模型的开发。虽然这是必要的步骤，但它不足以可靠地预测材料属性[74]、[75]、[76]、[77]、[78]。不同的ML模型可能显示出相似的误差统计数据，但它们的性能可能在材料空间中有所不同。此外，ML模型经常用于虚拟筛选任务，这通常涉及许多不同的材料。因此，如果不评估ML模型的适用域（DOA），就无法确定基于新数据的预测是否可靠。
在当前工作中，我们提供了一个基于ML的框架，系统地探索构建数据集的不同方法以及这些数据集中材料的组成如何影响带隙预测的性能。如图1中的示意图所示，我们利用了多个数据集，包括实验测量和理论计算的数据，以严格比较不同数据集的可建模性。为此，我们使用一个作为Python库实现的自定义工具为每个数据集构建了一个全面的特征向量，该工具可在https://github.com/MatFeaLib/MatFeaLib获取。我们为每个数据集开发了两个ML模型，以捕捉材料电子带隙的元素和结构贡献：一个模型仅依赖于组成特征（CF），而另一个模型结合了组成和结构特征（CSF）作为输入描述符。我们分析了这些描述符对ML模型在带隙预测任务中的性能的影响。对包含PBE和HSE06方法以及optB88vdW和mBJ方法得到的带隙的两个数据集的ML建模结果表明，更高保真度的电子结构方法（如HSE06或mBJ）并不一定比其各自数据集中的现有PBE数据产生更可建模的数据。通过使用包含来自多种参考方法的带隙的数据集，进一步的严格比较支持了这一结论。此外，我们通过将GGA带隙添加到全面的组成和结构特征空间中，应用了MF模型，并展示了GGA带隙对不同数据集可建模性的不同影响。这一彻底的评估揭示了在我们的评估中考虑的一个大型HSE06带隙数据集上训练的MF模型在RMSE和R2分数方面的表现与GW带隙相当。

在这些分析的基础上，我们采用了最先进的数据挖掘方法——多目标子群发现（SGD）来确定开发的HSE06带隙模型的DOA。这种方法有助于识别ML模型实现更高准确性的区域。因此，SGD提供了一个以洞察为导向的诊断框架，以提高数据集的可建模性。利用这一工具，我们确定了ML模型实现较低误差分数的连贯的帕累托最优子域或区域集合。同时，定义这些区域的规则为所开发的ML模型的适用性提供了宝贵的科学见解，并有助于筛选出更准确的预测材料。在这方面，我们使用了Materials Project数据[7]，并应用了MF方法来准确预测在开发的ML模型DOA范围内的候选材料的HSE06带隙。此外，我们提出了一种结合SGD与ML建模的新策略，用于开发有洞察力的ML模型来预测材料属性。这种领域信息型的ML方法可以扩展到广泛的材料属性，从而提高预测准确性和泛化性能。我们的研究强调了数据可建模性在材料属性预测中的关键作用，并通过洞察驱动的ML模型建立了新的策略来提高预测性能。

部分摘录
数据集和特征空间
我们关注实验测量和理论计算的带隙数据集。计算的数据集涵盖了不同保真度级别的材料带隙，包括PBE、mBJ、HSE06和GW。本工作中使用的所有数据集都在表1中列出，连同它们的参考文献和每个集合中的材料数量。这些数据集的索引从1到8不等，规模从几百到几千条条目不等。

总结和结论
通常认为，更高保真度的从头算带隙数据会导致更高的模型准确性。然而，我们对不同保真度水平的数据集进行的彻底评估表明，在将数据驱动方法应用于材料科学中的属性预测时，必须考虑额外的方面。通过利用多个GGA-PBE、meta-GGA mBJ、混合HSE06、准粒子GW和实验带隙数据，我们探索了不同数据集在预测方面的可建模性。

数据预处理
我们采用了几个预处理步骤来为各种学习策略准备数据集。首先，从所有数据集中手动排除了金属材料。然后，将每个数据集中的数据随机分为80%的训练子集和20%的测试子集。对训练部分的数据应用了10折交叉验证方法，以评估不同ML模型在超参数优化和特征选择方面的性能。为了评估ML模型的性能，我们进行了...

作者贡献声明
Saeid Abedi：写作——原始草稿、可视化、软件、方法论、调查、正式分析、数据管理、概念化。
S. Javad Hashemifar：写作——审阅与编辑、验证、监督、项目管理、概念化。
Samira Baninajarian：软件、数据管理。
Sergey V. Levchenko：写作——审阅与编辑、验证、监督。
Mojtaba Alaei：写作——审阅与编辑、验证。

未引用的参考文献
[51]、[52]

利益冲突声明
作者声明他们没有已知的可能会影响本文报告工作的竞争财务利益或个人关系。

致谢
本项工作基于伊朗国家科学基金会（项目编号98028496）和俄罗斯基础研究基金会（项目编号20-53-56065）资助的研究。