无监督模型对抗鲁棒性的系统综述：攻击与防御方法分析

《ARTIFICIAL INTELLIGENCE REVIEW》：Adversarial vulnerabilities and mitigations in unsupervised machine learning: a systematic review

　　

摘要

随着人们对使用未标注数据的需求日益增长，无监督模型的应用也在不断扩大，确保其针对对抗攻击的鲁棒性已成为愈发关键的任务。尽管已有部分综述涵盖了一些针对无监督模型的攻击与防御研究，但关于该主题的全面性综述仍然缺失。我们通过对初步筛选出的21,195篇论文进行系统性搜索和筛选，最终系统性地分析了其中93篇已发表论文。本研究涵盖了六类无监督模型：聚类、超分辨率、自编码器、生成对抗网络、扩散模型以及Transformer。我们系统地综合了在这类模型中识别出的八类攻击和九类防御方法，提供了总体层面的描述、跨无监督模型的方法比较，以及这些攻击和防御在有监督与无监督设置之间的本质差异。我们的研究结果为当前该领域的研究提供了一份全面综述，识别了关键的研究空白，并为未来研究提供了建议，以缓解无监督学习相关的安全风险。