基于三值脉冲神经网络的光刻图谱识别

《Microprocessors and Microsystems》：Wafer map pattern recognition using ternary spiking neural networks

　　阿比谢克·米什拉|阿努普·达斯|纳加拉詹·坎达萨米
美国宾夕法尼亚州费城德雷塞尔大学电气与计算机工程系

**摘要**
分析晶圆图谱模式对于检测集成电路制造缺陷至关重要。尽管深度神经网络已被用于此项任务，但脉冲神经网络通过使用脉冲激活信号，以更简单的加法替代乘法，从而提供了一种更节能的替代方案。我们开发了一种采用三值脉冲神经元模型的脉冲神经网络，该模型输出{-1,0,1}值而非传统的{0,1}值，以此提升神经元的信息处理能力与学习效率。此外，它还能更好地控制各类脉冲对膜电位的影响，通过平衡兴奋性与抑制性信号来防止过度激活并维持系统稳定性。借助伪梯度进行直接脉冲训练，我们的模型在WM-811k晶圆基准数据集上的表现优于二元脉冲神经网络和深度神经网络，能够高精度且高效地识别数据集中占比较低的关键缺陷模式。

**引言**
随着集成电路技术的进步，致命缺陷及工艺偏差已成为限制生产良率的重要因素。这些问题源于多种系统性问题，比如光刻设备故障导致的接触点与栅极错位，或是化学机械抛光阶段因应力作用产生的裂纹。因此，有必要找出整个制造流程中的主要损耗原因。在此背景下，晶圆图谱识别在高质量半导体器件生产中起着关键作用。这一过程涉及分析硅晶圆上的图案，以检测可能影响最终产品性能与可靠性的缺陷与异常。准确的分类能够帮助制造商快速解决工艺问题、减少浪费，并提升整体良率。

传统上，晶圆检测工作由经验丰富的测试工程师负责，他们通过分析缺陷模式来确定故障根源。虽然这种方法有效，但劳动强度大、成本高昂且易出人为错误。为应对这些挑战，近年来人们开发了多种自动晶圆图谱分析技术，其中很多基于机器学习。深度神经网络因其能够直接从原始数据中学习并具备强大的泛化能力，在识别晶圆图谱方面表现优异。然而，其训练与推理过程需要大量计算资源，且随着模型规模和复杂度的增加，其环境影响与可持续性问题也日益凸显。半导体制造工厂每块晶圆要经过多个工艺步骤，会产生海量晶圆图谱数据——例如台积电的年产能就超过1600万片12英寸晶圆，即每天约43,800片[1]。若能运用高效算法实现如此大规模的实时模式检测，不仅能避免过高的运营成本，还有助于半导体行业实现净零碳排放目标。

一种颇具前景的替代方案是使用脉冲神经网络。受生物神经元的启发，脉冲神经网络通过突触传递短时脉冲信号进行通信。这类脉冲神经元可组成前馈层或递归结构，非常适合用于空间与时间模式识别任务[2][3][4][5][6]。脉冲神经网络通过稀疏的离散脉冲处理信息，因而能够高效处理高维空间模式。它们还能容忍输入数据中的噪声，使网络能够聚焦于数据中的细微变化。当与类脑硬件结合时，脉冲神经网络具有显著优势，既能保持高精度，又能实现高效计算[7][8][9][10][11][12][13][14][15][16][17][18]。这种受大脑启发的计算方式在高效机器学习领域具有巨大潜力，包括应用于晶圆图谱分析。

二元脉冲网络与三元脉冲网络是两种不同的脉冲神经网络，二者在神经元状态表示方式上存在差异。二元脉冲网络中的神经元仅有两种状态：产生脉冲（1）或无脉冲（0）。这类网络虽能提供简单高效的信息表示机制，但由于缺乏中间状态，表达能力有限。而三元脉冲神经网络中的神经元则有三种状态：正脉冲（＋1）、无脉冲（0）和负脉冲（?1），这为网络增加了表达维度。更高的信息处理能力使得三元脉冲神经网络能够编码更复杂的模式，更自然地模拟神经元之间的兴奋性与抑制性相互作用。

尽管脉冲神经网络更具可持续性，但在应用普及程度及某些任务上的性能方面仍落后于深度神经网络。由于极端稀疏性、不可微操作符、对近似梯度的依赖以及单比特激活特性，脉冲神经网络在训练过程中难以实现收敛，这给其应用带来了独特挑战。本文介绍了脉冲神经网络在晶圆图谱识别中的应用，证明了经过良好训练的脉冲神经网络架构能够实现比基于深度神经网络的方法更高的准确度。

最近，米什拉等人开发了一种用于晶圆图谱模式分类的二元脉冲网络，其性能可与深度神经网络相媲美，且能耗显著更低[19]。但由于采用二元激活机制，其表达能力有限。本文所介绍的研究在米什拉的工作基础上进行了改进，具体是通过采用三元神经元模型提升信息处理能力。所提出的TernaryWaferNet架构通过精心设计的三元脉冲激活编码、创新的直接脉冲训练策略，以及利用伪梯度进行微调以优化训练过程中的梯度流动，显著提升了分类准确度。

本文的主要贡献如下：
- 我们开发了一种三元脉冲神经元模型，该模型输出{-1,0,1}值而非传统的{0,1}值，作为脉冲神经网络中的基本处理单元。这一设计大幅提升了神经元的信息处理能力，同时增强了模型对各类脉冲对膜电位影响的控制能力，有助于通过平衡兴奋性与抑制性信号来防止过度激活并维持系统稳定性。
- 我们设计了TernaryWaferNet，这是一种专为高精度晶圆图谱识别优化的领域专用型三元脉冲神经网络。该网络通过使用稀疏脉冲与简单计算，实现了极高的计算效率。
- 我们设计了一个卷积式三元脉冲编码层，该层能够有效将晶圆图谱模式编码为脉冲信号，同时保留原始模式中的空间依赖关系。此外，我们还对反向传播算法进行了定制，以便在网络内部进行训练。

TernaryWaferNet的性能是在WM-811k晶圆基准数据集上评估的[20]。实验结果表明，该网络的平均准确率高达98%，不仅超越了现有的最优二元脉冲网络与基于深度神经网络的方法，还在识别数据集中占比较低的临界缺陷模式方面表现更佳。除了检测单个缺陷外，我们还评估了其在混合缺陷场景下的性能。作为迈向可解释人工智能的一步，我们利用基于脉冲的可视化技术来解释和阐释模型的决策过程。TernaryWaferNet具有极高的计算效率：以能耗作为效率指标，该网络的能耗相比深度神经网络可降低多达四倍。相关代码库、选定的最佳超参数以及用于实验的结果数据集均可在https://github.com/abhishekkumarm98/TernaryWaferNet获取。

本文的其余部分结构如下：第3节概述了晶圆图谱识别问题，并介绍了脉冲神经网络的基本概念及其训练方法；第4节描述了所提出的三元脉冲神经元模型、TernaryWaferNet架构及其训练流程；第5节介绍了实验设置并展示了关键结果；第2节探讨了相关研究进展，第6节则对全文进行总结。

**相关研究**
目前已有无监督学习方法被用于根据缺陷模式对晶圆图谱进行分组，随后由测试工程师根据每种图谱的具体缺陷进行手动分类[21][22][23]。Nero等人提出了一种基于生成对抗网络的无监督技术，用于训练晶圆图谱模式识别器，不过这种方法在训练过程中需要大量人工调整[24]。

**背景**
我们首先概述了晶圆图谱识别任务，并向读者介绍脉冲神经网络的基本知识。

**技术方法**
我们开发了TernaryWaferNet，并阐述了该架构的训练流程。

**评估**
我们在广泛使用的WM-811K晶圆基准数据集[20]上，将TernaryWaferNet与其他现有最优方法进行比较，以此评估其准确率与计算效率。该数据集包含来自46,293个独立批次的811,457张晶圆图谱，这些图谱被划分为九种不同类型：中心型、甜甜圈型、边缘定位型、边缘环型、随机型、定位型、接近满型、划痕型以及无图案型，如图1所示。为统一输入尺寸，所有晶圆图谱都被调整为统一大小。

**结论**
分析晶圆图谱中的缺陷模式对于提升半导体制造的良率、实现工艺监控以及早期故障诊断具有重要意义。为此，我们开发了TernaryWaferNet。该架构基于采用三元脉冲表示的脉冲神经网络，与传统深度神经网络相比，其设计初衷便是降低大规模制造环境中的计算复杂度与能耗。实验所得结果也证实了这一优势。

**利益冲突声明**
作者声明不存在任何可能影响本文研究结果的已知财务利益或个人关系。

阿比谢克·米什拉在德雷塞尔大学获得博士学位，其研究方向包括利用机器学习进行半导体数据分析、晶圆级分析以及类脑计算。他拥有纽约州立大学布法罗分校的硕士学位，同时也是IEEE会员。