GRADE：一种用于深度神经网络定量可靠性评估的可扩展框架

《IEEE Transactions on Reliability》：GRADE: A Scalable Framework for Quantitative Reliability Assessment of Deep Neural Networks

　　

摘要：

深度神经网络在那些对可靠性要求极高的应用中越来越被广泛应用。然而，它们容易受到硬件故障和运行时干扰的影响，这给模型级的可靠性带来了严重担忧。本文提出了GRADE这一框架，它是一种可扩展且与具体模型无关的工具，可用于对各种深度神经网络架构进行细致的可靠性评估和故障敏感性分析。GRADE能够在比特、权重、神经元、层以及模型层面计算出层次化的敏感性得分，从而快速识别出关键漏洞。与传统的全面故障注入方法和统计故障注入方法相比，GRADE不仅具有更高的理论处理速度，6.4×106而且在实际应用中的运行速度也快了20×，同时还能保持相当高的定位精度。该框架已在多种标准且经过严格控制的数据集（CIFAR-10、CIFAR-100、GTSRB和Imagenet）上进行了测试，并在视觉变换器、卷积神经网络、自然语言处理模型以及大型语言模型中得到了验证，展现了出色的通用性以及不同架构下的特定脆弱性模式。通过在不同抽象层级识别出容易出问题的组件，该框架为通过有针对性的重新训练、增加冗余以及优化策略来提升模型可靠性提供了实用的建议。GRADE能够提供可解释、定量且高效的可靠性指标，有助于人工智能系统的可靠性工程建设，也为未来将其整合到系统级的可靠性框架中奠定了基础。一旦该研究被接受，其实现代码将会公开发布，以便他人复现并应用。