MUKSB：基于Kalai-Smorodinsky协商的机器去学习方法

《Expert Systems with Applications》：MUKSB: Machine Unlearning via Kalai-Smorodinsky Bargaining

　　

摘要

现代生成模型在训练后会不断更新和调整，而非保持固定状态，这就引发了人们对隐私泄露以及敏感信息意外暴露的担忧。机器去学习旨在在保持模型整体功能的同时，消除这类问题带来的影响。在生成模型中，这可以被构建为一个双重目标优化问题，即在遗忘与保留之间取得平衡，但这两个目标往往存在冲突，其中一个目标可能会主导优化过程，从而导致去学习效果不佳或模型性能下降。我们提出了MUKSB（基于Kalai-Smorodinsky博弈的机器去学习）方法，该方法借鉴博弈论思想，将遗忘与保留之间的相互作用视为一个协同优化过程，使两个目标能够按比例发挥作用，同时减少更新过程中的不平衡现象。我们在图像分类和文本到图像生成等基准任务上对这种方法进行了测试，包括在扩散模型中的概念移除以及图像编辑任务中的去学习操作。我们的方法能够在最小化功能损失的情况下实现更有效的遗忘，并且在面对对抗性输入时具有更好的鲁棒性，同时还能防止模型重新学习特定的对象级概念，从而保持生成图像的高质量。

引言

生成模型的更新不仅用于引入新知识或提升性能，还可用于移除之前学到的特定信息，而不影响其他部分的功能。这一需求促使了机器去学习技术的发展，它能够让模型根据诸如《通用数据保护条例》（GDPR）以及Voigt & Von dem Bussche（2017）提出的“被遗忘权”等隐私要求，丢弃特定的训练数据。对于大规模生成模型而言，无需从头开始重新训练即可从已训练模型中移除信息仍然是一个难题，因为这个问题涉及的不仅仅是单个数据点，还包括更广泛的概念层面上的移除。之所以会出现这种困难，是因为模型所学到的表征之间存在着复杂的关联，很难在不影响整体模型性能的情况下单独分离并消除某些概念的影响。因此，以往针对生成模型的机器去学习方法通常会将该任务视为在有效遗忘目标信息与保持模型整体功能之间进行权衡。

尽管目前在机器去学习方法方面已经取得了不少进展，也有一些实证研究成果，比如基于梯度上升的方法Mavrothalassitis, Puigdemont, Levi, & Cevher (2025); Thudi, Deza, Chandrasekaran, & Papernot (2022)，基于影响度的方法Izzo, Smart, Chaudhuri, & Zou (2021); Koh & Liang (2017)，基于边界的技术Chen, Gao, Liu, Peng, & Wang (2023)，以及基于显著性引导的参数选择方法Cai, Tan, & Asif (2025); Dubey, Sharma, & Kancharla (2026); Fan et al. (2024); Jia et al. (2024)，但这些方法都有一个普遍且常被忽视的局限性。它们大多将机器去学习视为遗忘目标与保留目标之间的联合优化问题。这两个目标本质上存在竞争关系：那些有助于提高遗忘效果的更新往往会导致保留效果下降，反之亦然。在梯度层面，这种竞争表现为方向上的冲突和幅度上的不平衡，即各个梯度会相互干扰，或者其中一个梯度会主导整个优化过程。在顺序更新的情况下，去学习效果并不一定能够持久；即便在无关数据上进行微调，也有可能重新引入之前已被移除的概念George, Dasaraju, Chittepu, & Mopuri (2025)，这暴露出以往基础方法中的一个关键缺陷。这就凸显出需要采用合理的优化策略，不仅在模型更新过程中平衡各种相互竞争的目标，还能确保模型的稳定性Sharma & Kancharla (2026); Zhang et al. (2024d)。

为了解决这些难题，我们将机器去学习重新定义为两个目标——遗忘与保留——之间的协作互动，将它们视为结构化优化过程中的两个竞争方。每个目标都会提供梯度信息，我们的目标是找到能够平衡两者影响力的更新方式，同时避免冲突和一方主导的情况。基于这一思路，我们提出了Machine Unlearning via Kalai–Smorodinsky Bargaining（MUKSB）方法，这是一个受合作博弈论启发的合理框架，它能够确保不同目标之间实现均衡的贡献，从而让优化过程更加稳定（见图1）。与那些使用固定标量权重来混合各目标的方法不同，Kalai-Smorodinsky算法Kalai & Smorodinsky (1975)能够找到一个唯一的帕累托最优方向，在这个方向上，两个目标相对于其各自可能达到的最大改进程度，都能实现相同的相对进步。这一特性被称为个体单调性，它能确保实现均衡的权衡。由此得出的更新方向具有非常简洁的封闭形式：即两个单位梯度向量的标准化中点，再按照这两个向量范数的调和平均值进行缩放。调和平均值起到一种保守的步长控制作用，它会以两个梯度范数中较小的那个为依据，从而避免在某个目标接近收敛时出现过度调整的情况。

我们在图像分类和文本到图像生成任务上广泛测试了我们的方法，其中也包括在扩散模型中的概念移除操作。实验结果表明，与以往的方法相比，MUKSB能够在保持模型功能的同时实现有效的去学习效果，而且在面对对抗性条件时也表现出更强的鲁棒性。我们的主要贡献如下：

• 1.
  我们提出了MUKSB，这是一种基于合作博弈论的框架，它将机器去学习转化为Kalai-Smorodinsky博弈问题，从而得到一种具有冲突感知能力的封闭形式更新方向，同时还能确保各目标获得同等比例的收益。
• 2.
  我们提供了理论保障，证明所提出的更新方法是可行的、属于帕累托最优的，并且在标准的光滑性假设下能够实现收敛，从而避免了梯度冲突和一方主导的情况。
• 3.
  我们在多种不同的场景下对这种方法进行了测试，包括分类、图像生成以及多个数据集上的图像编辑任务，实验结果显示该方法具有出色的去学习能力，能够生成高质量图像，同时在面对对抗性输入时也能保持更好的稳定性。

章节节选

相关工作

我们的研究建立在近期一系列相关研究的基础之上，这些研究致力于让模型能够遗忘某些概念Cai et al. (2025); Chen et al. (2023); Fan et al. (2024); Gandikota, Materzynska, Fiotto-Kaufman, & Bau (2023); George et al. (2025); Jia et al. (2024); Koh & Liang (2017); Thudi et al. (2022); Warnecke, Pirch, Wressnegger, & Rieck (2023); Wu & Harandi (2025)，而不是仅仅移除特定的训练样本。其中一个核心挑战就是如何在不删除目标概念的情况下，依然保持模型在其它概念上的性能。

方法论

我们提出了MUKSB方法，它运用Kalai-Smorodinsky博弈理论Kalai & Smorodinsky (1975)来解决机器去学习问题，通过这种方式进行参数更新，既能有效移除目标信息，又能保持模型的整体功能。

利益冲突声明

作者声明，他们不存在任何已知的、可能影响本文研究结果的财务利益冲突或个人关系。

Adarsh Dubey|Mridul Sharma|Parimala Kancharla