通过数据增强技术提高三维NAND闪存的最佳读取电压预测精度

《Engineering Applications of Artificial Intelligence》：Enhancing optimal read voltage prediction for three-dimensional NAND flash memory through data augmentation techniques

3D NAND闪存因多层结构和高密度存储面临ORV预测难题，传统方法依赖大量测试数据导致成本高昂，机器学习虽有效但数据不足时易过拟合。本文提出混合数据增强框架，结合多项式拟合和PCHIP插值生成未测试P/E周期和保留时间的ORV数据，再训练随机森林、支持向量机等模型，实验显示误差比特减少4%-15%，重读次数降低3%-13.2%。

　　

姚向宇|吴冠宇|吕依娜|张杰|甘新彪|李桥

中国厦门大学信息学院

摘要

目前，三维（3D）NAND闪存面临着由于读取重试导致的性能下降问题，这需要频繁调整读取电压来抵消电压偏移。最低的原始比特错误发生在最佳读取电压（ORV）下，但通常很难获得这一电压。由于闪存单元电压受到复杂干扰，找到ORV需要在各种条件下进行广泛的芯片测试，例如编程/擦除（P/E）周期和保持时间，这既耗时又成本高昂。尽管机器学习（ML）能够高效预测ORV，但这些技术需要大量数据集，并且在现代3D NAND通常可用的有限测试数据下表现不佳。本文在之前的会议工作基础上，通过对有限数据下的ORV预测进行了更全面的分析，引入了更多机器学习模型和专门针对保持时间有限的数据增强策略。我们首先分析了现有机器学习和拟合模型在受限数据下的性能下降情况。为了解决这个问题，我们提出了一种新的混合数据增强框架，该框架利用拟合模型来估计未测试的P/E周期和保持时间的ORV。然后，该框架将增强后的数据和可用测试数据结合起来，训练出强大的机器学习模型（如随机森林、支持向量机、神经网络）进行ORV预测。在多个真实芯片数据集上的评估显示，与直接使用有限数据进行机器学习训练相比，我们的方法显著减少了4%–15%的错误比特数和3%–13.2%的读取重试次数。

引言

随着全球数据的指数级增长，尤其是在移动互联网和数据密集型应用的推动下，对高容量、高性能和可靠存储技术的需求激增。作为主流的非易失性存储解决方案，NAND闪存因其高密度、低功耗和高读写性能而成为现代存储系统的基石（Kim和Kang，2014年）。为了满足不断增长的容量需求，制造商通过从单层单元（SLC）过渡到多层（MLC）、三层（TLC）和四层（QLC）单元架构，不断推进NAND闪存技术的发展。这些发展使得每个单元能够存储更多的比特，从而提高了比特密度。同时，通过显著缩小物理单元尺寸，进一步增加了存储密度（Liu等人，2022a年）。然而，这种追求更高比特密度的做法，特别是在传统的平面NAND中，引入了重大的可靠性和性能瓶颈，尤其是单元间的干扰和原始比特错误率（RBER）的上升（RBER）。这一趋势已成为进一步提高存储密度的主要障碍。

为了进一步扩大存储容量，3D NAND闪存采用了多层结构，通过垂直堆叠存储单元来实现（Kim等人，2018年；Gao等人，2019年；Shibata等人，2019年）。然而，这种架构复杂性带来了新的可靠性挑战。首先，由于严重的层间干扰和每个单元更多的比特以及较小的噪声裕度，阈值电压（$V_t$）的分布会在编程/擦除（P/E）周期和保持时间变化时出现明显偏移和不均匀性（Ha等人，2015年；Cai等人，2015年；Cai等人，2017年；Li等人，2019年）。当读取电压与ORV显著偏离时，读取错误率会显著增加。如果偏差超过可接受的范围，可能会发生比特翻转错误，超出纠错码（ECC）的纠正能力，从而迫使系统执行读取重试操作以获取正确数据（Peleato等人，2012年；Papandreou等人，2014年；Li等人，2020年）。其次，3D NAND各层之间的制造差异会导致电荷捕获和泄漏特性的不一致，进一步加剧了$V_t$的漂移，从而需要在不同页面上使用不同的ORV，增加了数据检索的复杂性。

随着3D NAND架构存储密度的提高，传统的优化读取电压的方法难以应对由多种因素引起的电压漂移和干扰。因此，机器学习成为预测ORV和优化可靠性的有前景的方法（Wei等人，2015年；Wei等人，2023b年；Ma等人，2020年；Mei等人，2020年；Pan等人，2022年）。通过分析和建模大量测试数据，机器学习方法能够在各种干扰条件下有效预测ORV，从而减少读取重试操作的发生。然而，机器学习模型的有效性严重依赖于充足且具有代表性的测试数据。获取3D NAND的此类数据成本高昂且耗时。现代3D NAND采用TLC和QLC单元（分别存储3位和4位），每个块包含众多页面和层，需要对$V_t$分布进行广泛的表征，这些分布覆盖了广泛的P/E周期和保持时间范围。这种复杂性显著增加了测试成本和时间（Liu等人，2022b年）。关键的是，不足的测试样本往往导致机器学习模型对有限数据过度拟合或泛化能力差，使得在实际应用中准确和稳健地预测ORV变得极其困难。

为了解决高密度3D NAND闪存中有限测试数据对稳健ORV预测的挑战，本文提出了一种新的数据增强框架。我们首先深入分析了现有机器学习和统计拟合模型在有限数据条件下的局限性，证明了其性能的显著下降。随后，我们的框架采用了一种混合拟合策略（结合多项式拟合和PCHIP插值），智能合成未测量P/E周期和保持时间的ORV数据点。然后将这种增强后的数据集与可用测试数据一起用于训练各种机器学习模型（如随机森林、支持向量机、神经网络），以实现准确和稳健的ORV预测。

本文是我们发表在第四届智能技术与嵌入式系统国际会议论文集（Wu等人，2024年）上的会议论文的扩展版本。表1总结了新的贡献。我们对有限数据条件下的ORV预测进行了更全面的分析。具体来说，我们扩展了机器学习模型的研究范围，并评估了它们的性能。此外，我们深入探讨了针对保持时间有限测试数据场景的数据增强策略，揭示了它们的有效性方面的新见解。我们的实验验证也通过比较不同数据可用性下的读取重试次数和敏感性分析得到了显著提升。

主要贡献如下：

• •
  我们进行了全面的研究，指出了现有机器学习和统计拟合模型在有限测试数据限制下进行ORV预测时的关键局限性。
• •
  我们提出了一种新的混合数据增强技术，即使在有限的P/E周期和保持时间范围内，也能提高预测性能。
• •
  通过对多个真实闪存芯片的广泛实验验证，我们证明了我们提出的方法显著提高了预测准确性和稳健性。与直接使用有限数据训练机器学习模型相比，我们的方法减少了4%–15%的错误比特数和3%–13.2%的读取重试次数，同时大幅降低了测试成本。

本文的其余部分组织如下。第2节提供了关于3D NAND闪存、ORV优化和ORV预测方法的背景信息。第3节详细介绍了我们在有限测试数据下对现有ORV预测模型的初步研究。第4节介绍了所提出的数据增强方法。第5节评估了该方法的性能。我们在第6节总结了本文并讨论了局限性和未来工作。

章节片段

背景和相关工作

在本节中，我们首先介绍了3D NAND闪存的结构和特性。接下来，我们详细解释了3D NAND闪存的读取操作。最后，我们讨论了现有的ORV预测方法。

ORV预测模型的初步研究

现有的机器学习或拟合方法通常需要在不同的干扰条件下（从低到高的P/E周期和不同的保持时间）多次扫描，以确定闪存芯片中每个页面的ORV。例如，可以在不同的P/E周期下测试和记录ORV。在数据支持充足的情况下，拟合和机器学习方法可以实现高预测准确性。然而，随着闪存容量的持续增加，测试

通过数据增强进行ORV预测

为了缓解数据受限场景下的性能下降，我们提出了一种数据增强方法，通过拟合和插值方法扩展有限的测试数据，并基于机器学习模型提高ORV预测的准确性。图7展示了数据增强方法的概述，包括两个步骤：（1）使用有限的测试数据通过拟合方法（即多项式拟合或PCHIP插值）生成增强后的数据集；

评估

在本节中，我们首先介绍了评估的NAND芯片和实验设置。接下来，我们展示了所提出的数据增强方法在多个TLC NAND芯片上的评估结果。最后，我们讨论了敏感性分析。

结论

本文通过数据增强过程解决了3D NAND闪存有限测试数据下的关键ORV预测挑战。我们提出了一种新的混合数据增强框架，结合多项式拟合和PCHIP插值来估计未测量P/E周期和保持时间的ORV值。这个增强后的数据集与可用测试数据结合，用于训练机器学习模型。我们在真实3D NAND闪存芯片上的全面评估证明了

CRediT作者贡献声明

姚向宇：撰写 – 审稿与编辑，撰写 – 原稿，验证，方法论。吴冠宇：撰写 – 审稿与编辑，验证，调查。吕依娜：撰写 – 审稿与编辑，方法论。张杰：撰写 – 审稿与编辑，方法论。甘新彪：撰写 – 审稿与编辑。李桥：撰写 – 审稿与编辑，撰写 – 原稿，监督，方法论。

利益冲突声明

作者声明他们没有已知的竞争性财务利益或个人关系可能影响本文报告的工作。

致谢

本工作得到了武汉国家光电子实验室开放项目计划（编号2024WNLOKF012）的支持。通讯作者是李桥（[e-mail]）。