在未经校正的闪存存储中，用于嵌入式边缘设备的优雅CNN模型退化过程

《ACM Transactions on Storage》：Graceful CNN Model Degradation in Uncorrected Flash Storage for Embedded Edge Devices

边缘智能中高密度未纠错闪存存储的CNN模型退化问题及自适应保护机制研究。针对边缘设备存储CNN模型时因闪存漂移导致的精度快速下降问题，提出基于高频比特模式映射的低电压存储保护策略，结合网络层自适应密度配置优化纠错效果。实验表明在VGG16、ResNet50和InceptionV3模型上，该方案使ResNet50在一年内存精度仅下降1%，显著优于传统方法三个月内精度降至70.7%的退化表现

　　

摘要

在数据源附近进行计算已被证明在节能、降低延迟和保护隐私方面非常有效。因此，边缘智能指的是在嵌入式边缘设备中执行卷积神经网络（CNN）推理。由于边缘设备的资源非常有限，实际操作中它们会将CNN模型存储在外部闪存中，并在运行时加载部分或全部模型。然而，闪存容易受到时间相关的存储错误影响，这就产生了一个难题：如果不进行错误校正，存储在闪存中的CNN模型会迅速退化并变得无法使用。另一方面，强错误校正需要额外的读取检测和重试机制。出于对可靠性的考虑，嵌入式串行闪存仅提供低密度存储解决方案。在这项研究中，我们研究了在未经校正的高密度闪存存储环境中CNN模型的渐进式退化问题。我们发现，在流行的CNN模型中，大多数权重参数的高阶位具有相似的单调比特模式，因此提出将这些频繁出现的比特模式映射到较低的闪存单元电压水平上，以抵御存储错误。此外，由于不同CNN层对比特错误的容忍度不同，我们还建议使用自适应的单元比特密度来实现各层之间的非均匀错误保护。我们在VGG16、ResNet50和InceptionV3等流行CNN模型上进行了实验，模拟了闪存的真实老化效应。实验结果表明，使用传统方法，ResNet50的推理精度在三个月内下降到了70.7%；而采用我们的方法后，精度下降幅度不到1%，一年后的精度仍保持在91.6%。