基于B样条与Mamba优化的多曝光图像融合算法BSMEF研究

为解决持续学习中预训练模型在新任务适应时出现的特征噪声和分类器尺度偏差问题，研究人员提出基于不变提示与分类器校正（iPrompt-CR）的持续学习方法。通过正交约束新任务键与旧任务查询原型，减少特征噪声；采用高斯分布采样特征校正分类器，实现统一logit尺度。实验表明该方法在类增量学习和通用增量学习场景中均超越现有技术。

　　

在人工智能领域，持续学习（Continual Learning, CL）一直面临“灾难性遗忘”的挑战——模型在学习新任务时，旧任务性能急剧下降。尽管基于预训练模型（如ViT）的提示学习（Prompt Learning）通过冻结主干网络参数缓解了这一问题，但现有方法如CODA-Prompt仍存在两大缺陷：一是新旧任务提示组件混合导致旧任务查询样本特征噪声增加；二是分类器logit尺度不一致引发跨任务误分类。

针对这些痛点，广东某高校的研究团队提出了创新性解决方案——不变提示与分类器校正（iPrompt-CR）。该方法通过约束新任务组件键（keys）与旧任务查询原型（query prototypes）的正交性，有效抑制了特征空间的噪声干扰；同时利用高斯分布采样生成统一尺度的logit特征，显著提升了分类边界准确性。

关键技术包括：1）基于注意力机制的动态提示组件聚合；2）原型空间正交约束算法；3）高斯特征采样与分类器联合优化。研究采用CIFAR-100等4个基准数据集验证，在类增量（Class-IL）和通用增量（General-IL）场景下平均准确率提升3.2%-5.7%。

主要研究结果

1. 噪声特征分析：通过对比CODA-Prompt的组件组合策略，发现测试阶段引入的新任务组件会使旧任务样本特征信噪比下降28.6%。

2. 正交约束验证：将新任务键w^φt与旧任务原型正交化后，旧任务分类准确率回升12.4%。

3. 分类器校正效果：基于高斯采样（μ=原型均值，σ2=方差）的logit尺度统一化使跨任务错误率降低19.3%。

结论与意义

该研究首次揭示了提示组件训练中特征噪声的产生机制，提出的双阶段优化框架：① 不变提示学习（Invariant Prompting）通过几何约束保持旧任务特征稳定性；② 分类器校正（Classifier Rectification, CR）利用概率采样消除尺度偏差。这不仅为持续学习提供了新范式，其正交约束思想还可拓展至多模态预训练领域。论文成果发表于《iLIVER》，相关代码已开源。