CEAP：基于检查点集成式的主动学习与伪标签技术，用于提升多语言大语言模型领域适应效率

《Information Processing & Management》：CEAP: Checkpoint Ensemble-based Active Learning and Pseudo-Labeling for annotation-efficient MLLM domain adaptation

　　•我们提出了CEAP，这是一种用于医疗多模态大语言模型领域适配的高效标注框架。其核心创新在于将每次LoRA微调过程中自然保存的检查点重新利用起来构成集成体，从而在无需训练多个独立模型的情况下，借助集成优势提升不确定性估计与可靠性评估的性能。•CEAP由两个部分协同工作：（1）CEAL（基于检查点集成的主动学习）通过集成体间的预测差异识别出高不确定性样本，以便专家进行标注；（2）CEPL（基于检查点集成的伪标签生成）则为共识度高的样本生成可靠的伪标签，从而在无需额外标注成本的情况下扩展训练数据。•在多个医疗视觉问答基准测试上的实验表明，CEAP仅需20%的特定任务监督微调数据即可取得优异性能，其中CEAP-MiniCPM-V在SLAKE测试集上实现了82.02%的开放集召回率和83.89%的封闭集准确率，性能接近完全监督训练的结果，且能恢复超过96%的原有性能。•CEAP无需依赖昂贵的领域专用合成数据集，仅需一台消费级GPU即可运行，相比那些需要昂贵多GPU集群的现有方法，大幅降低了计算需求，同时仍保持出色性能。•我们的框架为高效标注的医疗多模态大语言模型领域适配建立了新范式，使得那些标注预算和计算资源有限的研究机构和人员也能实现高性能的医疗多模态大语言模型适配。