DeepNcode：基于编码的神经网络抗位翻转攻击保护机制

《IEEE Transactions on Emerging Topics in Computational Intelligence》：DeepNcode: Encoding-Based Protection against Bit-Flip Attacks on Neural Networks

　　

摘要：

故障注入攻击是对神经网络模型嵌入式实现构成的严重威胁。目前已提出多种攻击手段，如错误分类、模型提取以及植入特洛伊木马/后门等。这类攻击大多通过改变存储量化模型参数的内存中的比特位来实施。在本文中，我们提出了一种基于编码的防护方法，用于抵御针对神经网络的比特位翻转攻击，该方法被称为Deep Ncode。我们使用最先进的比特位翻转攻击技术——BFA、T-BFA和TA-LBF，对多种公开可用的模型和数据集进行了实验评估。实验结果表明，对于4位量化的网络，防护效果可提升7.6倍；而对于8位量化的网络，提升幅度可达12.4倍。该方法带来的内存开销仅为原始网络大小的50%，时间开销则可以忽略不计。此外，DeepNcode无需重新训练，也不会影响模型的原有精度。