民主学习：增强网络对对抗攻击和噪声数据集的鲁棒性

《Journal of Communications and Networks》：Democracy learning: Increasing network robustness against adversarial attack and noisy dataset

　　

摘要：

众所周知，神经网络在许多类型的任务中表现良好。然而，多项研究表明神经网络依赖于干净的数据集，且容易受到对抗样本的攻击。一些研究揭示了用于欺骗神经网络的不同类型的攻击方法。不仅面对对抗样本时网络表现不佳，而且在带有噪声的监督下训练时也可能表现糟糕。在本文中，我们提出了一种名为民主学习的新训练框架，作为一种防御性训练程序，以提高模型的鲁棒性。民主学习方法利用网络的预测来生成下一次迭代的标注数据。因此，“民主”这一术语表明了目标标签是如何基于网络预测与之前标签之间的一致性而生成的。本文提出了使用民主学习来提高网络对抗攻击抵抗力的直观理由。民主学习提供了在噪声监督下训练网络的能力，并且与其他最先进的训练范式相比显示出更好的结果。我们的方法指出了广泛使用的数据集中几个标记错误的样本，并且可以自动纠正。民主学习使网络能够抵御对抗样本并在噪声监督下进行训练。