融合改进型MobileNet与多头注意力机制的晶圆缺陷检测混合系统:基于ECOC-SVM分类器的高精度识别研究

《PLOS One》:A hybrid system for detecting semiconductor wafer defects using modified MobileNet with multi-head attention

【字体: 大 中 小 】 时间:2026年04月09日 来源:PLOS One 2.6

编辑推荐:

  针对半导体晶圆缺陷检测中复杂图案捕捉难、长距离依赖识别弱及小缺陷漏检等问题,本研究构建改进型MobileNet结合ECOC-SVM的混合系统,引入Swish激活函数与多头注意力机制,采用直方图均衡化增强小缺陷可见性。在WM-811K数据集上实现98.55%测试准确率,AUC达99.74%,显著提升缺陷分类性能,为半导体制造质量控制提供高效解决方案。

  
在半导体制造的精密世界里,晶圆就像承载芯片生命的“画布”,而缺陷则是这幅画作上的“污点”。这些肉眼难以察觉的瑕疵,轻则导致芯片性能下降,重则造成整片晶圆报废,带来巨大的经济损失。然而,随着芯片制程不断缩小,晶圆上的缺陷变得愈发“狡猾”——有的像“甜甜圈”般环绕边缘,有的像细线般划过表面,还有的只是零星散布的小点。传统检测方法要么依赖人工目检,效率低下且容易疲劳出错;要么基于传统机器学习算法,难以捕捉复杂的空间特征。即便是当下热门的深度学习模型,也常因“感受野”有限,无法识别缺陷区域间的长距离关联,或在面对海量数据中的类别不平衡问题时“力不从心”。比如,常见的“边缘环”“甜甜圈”“划痕”等复杂缺陷,需要模型同时关注局部细节和全局分布;而“局部”小缺陷则因信号微弱,常被淹没在背景噪声中。如何让机器既能“明察秋毫”识别微小瑕疵,又能“纵观全局”把握缺陷间的空间关系,成为半导体质检领域的核心挑战。
为解决这些难题,一项发表于《PLOS One》的研究提出了一种创新的混合检测系统。研究团队没有局限于单一模型的优化,而是将轻量级卷积神经网络MobileNet与经典机器学习算法支持向量机(SVM)巧妙结合,通过引入Swish激活函数、多头注意力机制(Multi-Head Attention, MHA)和直方图均衡化(Histogram Equalization, HE)技术,构建了一套兼顾精度与效率的解决方案。他们在行业公认的WM-811K晶圆数据集上验证了该方法的有效性,最终实现了98.55%的测试准确率,各项性能指标均显著优于原始MobileNet及其他主流模型,为半导体智能制造的质量控制提供了强有力的技术支撑。
为开展此项研究,作者团队采用了多个关键技术方法。首先,针对小缺陷可见性低的问题,对WM-811K数据集中的晶圆图像应用直方图均衡化预处理,通过重新分布像素强度值增强对比度。其次,对MobileNet架构进行两项核心改造:将深度可分离卷积(Depth-Wise Separable Convolution, DSC)块中的ReLU激活函数替换为Swish函数,以提升复杂模式捕捉能力;在模型中集成多头注意力机制,用于捕获缺陷间的长距离空间依赖关系。随后,采用误差校正输出码(Error-Correcting Output Code, ECOC)技术支持向量机(SVM)作为分类器,解决数据集类别不平衡问题。实验在CPU环境下基于MATLAB R2023a平台开展,输入图像尺寸为32×32像素,对比了不同优化器(SGDM、ADAM、RMSProp)的性能,并通过消融实验验证了各改进模块的贡献。
研究结果部分,论文通过多组实验验证了系统的有效性:
4.1 Performance evaluation
4.1.1 Performance analysis of proposed system
在包含8种缺陷类别和1种无缺陷类别的WM-811K不平衡数据集上,所提混合系统取得了平均F1分数0.933的优异表现。与原始MobileNet相比,整体精确率提升8.9%,AUC(曲线下面积)提升2.9%,召回率从0.798大幅提升至0.944,有效缓解了类别不平衡导致的少数类缺陷漏检问题。具体而言,“划痕”类别的精确率提升42.3%,“甜甜圈”类别的AUC提升12.4%,证明了改进模型对复杂长距离缺陷模式的识别优势。
4.1.2 Performance analysis with different optimizers
对比SGDM、ADAM和RMSProp三种优化器的性能发现,采用SGDM(带动量的随机梯度下降)优化器时模型表现最佳,测试准确率达98.55%,较RMSProp优化器高出2.93%,也优于ADAM优化器的结果。
4.2 Ablation study
4.2.1 Impact of Swish function
移除Swish函数并换回ReLU函数后,模型平均精确率降至90.10%,平均F1分数下降超过5%,AUC从99.74%大幅降至94.20%。这表明Swish函数的平滑非线性特性对捕捉晶圆缺陷图像中细微的强度变化至关重要,是提升复杂模式识别能力的关键。
4.2.2 Impact of multi-head attention
去除多头注意力机制后,模型平均精确率从95.64%降至88.78%,AUC显著下降7.34%,F1分数降至89.10%。这证明多头注意力机制通过并行计算多个注意力头,有效捕获了缺陷区域间的长距离空间关系,是识别“边缘环”“甜甜圈”等全局模式的核心组件。
4.2.3 Impact of the ECOC-SVM classifier
若将ECOC-SVM替换为传统softmax分类器,模型召回率骤降11.2%,平均精确率下降7.6%,F1分数从94.42%跌至84.45%。ECOC技术通过将多分类问题分解为多个二分类SVM任务,并利用编码矩阵的纠错能力,成功解决了数据集类别不平衡问题,避免了模型对多数类的偏向。
4.3 Effects of histogram equalization on the proposed hybrid model
直方图均衡化对提升小缺陷识别效果显著。针对“局部”小缺陷类别,该技术使精确率提升13.2%,F1分数从71.69%跃升至87.35%,召回率达到89.42%。整体来看,直方图均衡化使模型平均精确率提升9.63%,平均F1分数从80.85%提升至94.42%,有效增强了微小缺陷区域的对比度。
4.4 The confusion matrix of the proposed hybrid system
混淆矩阵显示,模型对各类缺陷的分类准确率较高,对角线元素代表正确分类样本数占主导。其中“边缘环”缺陷的分类表现尤为突出,仅少量样本被误分为“边缘局部”或“局部”类别。“划痕”缺陷因形态细长且方向多变,仍存在相对较高的误分类率。
4.5 Comparative study of the proposed model using different classifiers
在ECOC-SVM、softmax和KNN三种分类器的对比中,ECOC-SVM表现最优,精确率达95.64%,较softmax提升7.6%,较KNN提升19.32%;F1分数较softmax提升9.97%,较KNN提升19.09%,验证了其作为分类头的优越性。
4.6 Comparative analysis of the proposed model with state-of-art models
与MobileNet V1、MobileNet V2、ResNet-18、ResNet-50等主流模型相比,所提模型在准确率和效率上均实现突破。测试准确率分别超越MobileNet V1和V2达3.24%和4.54%,同时计算复杂度仅为0.0228 MFLOPs,较MobileNet V1降低约99.2%,参数数量仅1百万,远少于ResNet-18(23.5百万)和ResNet-50(11.1百万),实现了精度与效率的最佳平衡。
4.7 Comparative analysis of the proposed hybrid system with several developed systems
与现有晶圆缺陷检测方法相比,该系统在多项指标上领先。例如,较文献[9]的方法精确率提升1.83%,对“局部”小缺陷的精确率、召回率和F1分数分别提升6.48%、10.43%和8.61%;较文献[14]的方法平均F1分数和召回率分别提升3.71%和4.24%。即使在类别不平衡的原始WM-811K数据集上,其“甜甜圈”“划痕”等少数类的召回率仍优于在平衡数据集上训练的原始MobileNet模型,证明了ECOC-SVM处理不平衡数据的强大能力。
研究结论与讨论部分指出,该混合系统通过多模块协同创新,成功攻克了晶圆缺陷检测中的三大难点:Swish函数替代ReLU增强了复杂模式的特征提取能力,多头注意力机制突破了卷积神经网络感受野的限制,ECOC-SVM有效应对了类别不平衡挑战,直方图均衡化则显著提升了小缺陷的可见性。最终实现的98.55%测试准确率和极低的算力需求,使其非常适合在工业现场部署,为半导体制造过程的实时质量监控提供了可行方案。尽管模型在极细“划痕”缺陷的识别上仍有提升空间,但整体性能已达到国际先进水平。未来研究计划通过融合卷积块注意力模块(Convolutional Block Attention Module, CBAM)进一步优化对细长缺陷的捕捉能力,推动半导体质检技术向更高精度迈进。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号