基于边际引导的区间界限传播认证训练方法

《IEEE Access》：Margin-Guided Certified Training with Adaptive Loss Mixing for Certified Robustness via Interval Bounds

　　

摘要：

认证训练旨在寻找那些在有界输入扰动下其预测能够被保证的神经网络，但可扩展的认证方法通常依赖于宽松的界限，而更紧致的替代方案则成本显著更高。区间界限传播（IBP）提供了一条通往认证训练的有效途径，但宽松的区间包围和全局固定的训练目标可能会削弱优化效果，尤其是在较大的扰动预算下。本文介绍了边际引导认证训练（MGCT），这是一个基于 IBP 的框架，它通过非目标对数几率边际来表达认证，当每个非目标边际的 IBP 上界为非正时认证样本。MGCT 将最坏的认证边际上界作为逐样本训练信号，并结合了基于边际的认证替代物、认证目标与对抗目标之间的自适应损失混合规则，以及在扰动预算预热期间调度的对抗搜索范围。由此产生的目标保留了可靠的基于 IBP 的认证，同时使局部训练分配依赖于当前认证状态。一个形式化陈述记录了边际条件的标准可靠性推论，并在 MNIST 和 CIFAR-10 上的实验评估了由此产生的优化机制与代表性的基于区间和混合认证训练基线的对比。