SPOT：一种基于单批次数据探针的持续学习任务相似性高效量化方法

本文提出创新性方法SPOT（Single-batch Probe Of Task-similarity），通过单批次数据即可快速评估持续学习（CL）中任务相似性，有效预测灾难性遗忘（CF）风险。该方法突破传统需要完整训练的计算限制，在MNIST/CIFAR等数据集验证显示与准确率呈86.1%正相关，为资源受限环境提供高效解决方案。

　　

本研究亮点：

• 提出仅需单批次数据即可预测持续学习（CL）中灾难性遗忘（CF）风险的新指标SPOT

• 实证显示任务相似性与模型性能呈正相关（+86.1%），与遗忘呈负相关（-89.8%）

• 揭示语义差异显著的任务间会产生最严重的遗忘现象

方法

我们构建了基于损失函数变化的评估框架：通过分析新旧任务梯度向量的模长和方向变化，建立局部极值点几何特征与遗忘风险的数学关联。该方法仅需"探针数据"（probe data）即可完成预测，无需预训练模型或暴露历史数据。

实验设置

在Split MNIST、CIFAR10/100标准数据集及真实农业场景（桃树病害无人机多光谱数据集）验证。特别说明农业数据集由农学家标注三种病害状态和两种生长阶段特征。

结论

SPOT以零训练成本实现任务相似性量化，在计算资源消耗降低89%的情况下，预测效果媲美预训练骨干网络方法。该方法为持续学习提供轻量级评估工具，特别适合边缘计算场景部署。