双层级提示选择策略(TIPS)：实现持续学习中稳定性与可塑性的动态平衡

本文推荐：该研究创新性地提出双层级提示选择策略(TIPS)，通过结合自适应权重的稀疏联合调优和语义知识蒸馏模块，有效解决了提示学习持续学习(PCL)中提示选择准确性下降和模型可塑性不足的核心问题。实验表明，TIPS在CIFAR等4个数据集上超越现有方法2.03%-5.59%，为平衡稳定性-可塑性困境(Stability-Plasticity Dilemma)提供了新范式。

　　

Highlight

本研究亮点在于：• 首创双层级提示选择机制，通过图像与类标签的语义一致性提升选择准确率 • 创新性引入可学习语义标记，实现视觉-语言模态的知识蒸馏 • 框架设计突破数据集和增量场景限制，在4个基准测试中全面超越SOTA

Related Work

传统持续学习(CL)主要分为两类：基于正则化(Regularization-based)的方法如EWC¹⁰通过损失函数约束保护旧知识；基于回放(Replay-based)的方法如DER¹¹则依赖记忆库存储样本。新兴的提示学习持续学习(PCL)通过冻结预训练Transformer骨干网络，仅微调任务特定提示(Prompt)来缓解灾难性遗忘(Catastrophic Forgetting)。

Problem Definition

持续学习旨在从连续非重叠数据集流D={D₁,...,D_t}中学习映射函数f_θ:X→Y。每个任务t对应数据集D_t=∪(x_c^t,y_c^t)，其中x_c^t∈X为样本，y_c^t∈Y为标签，c表示任务t内的类别索引。

Experimental Settings

实验设置：在CIFAR-100³³、ImageNet-R³⁴等4个基准数据集上验证，特别选用与骨干网络预训练差异显著的CUB-200³⁶评估模型适应性。所有测试样本均不包含任务标识符，严格模拟真实场景。

Conclusion

本文提出的TIPS框架通过：1）两级提示选择策略维持长序列增量学习中的选择稳定性 2）语义知识蒸馏模块增强新任务理解能力 3）自适应权重系统实现提示集的动态调整，最终在无需记忆样本(Rehearsal-free)条件下实现了稳定性与可塑性的最优平衡。