基于扩散模型的开放世界域外泛化研究:Dream Open与Sustain Close框架的创新应用

【字体: 时间:2025年07月21日 来源:Knowledge-Based Systems 7.2

编辑推荐:

  为解决深度学习模型在开放世界中面临的域偏移(Domain Shift)和类别偏移(Category Shift)问题,Kunze Huang团队提出"Dream Open and Sustain Close"(DoSc)框架,通过扩散模型生成未知域-未知类样本,实现开放生成式域泛化(OGDG)。该研究创新性地解耦域/类语义特征,在傅里叶空间实现跨样本重组,最终在Knowledge-Based Systems发表,为自动驾驶等开放场景下的模型部署提供新思路。

  

在自动驾驶、医疗影像等现实场景中,深度学习模型常因训练数据与测试环境存在"域偏移"(Domain Shift)而性能骤降。更棘手的是,开放世界中还可能出现训练时完全未见的"未知类别",这种"双重偏移"问题使得传统域泛化(Domain Generalization, DG)方法束手无策。当沙尘暴天气中出现新型障碍物时,现有系统往往难以应对——这正是当前人工智能部署面临的"阿喀琉斯之踵"。

针对这一挑战,国内研究人员在《Knowledge-Based Systems》发表突破性研究,提出名为"DoSc"(Dream Open and Sustain Close)的创新框架。该工作首次将潜在扩散模型(Latent Diffusion Model, LDM)引入开放生成式域泛化(Open Generative-based Domain Generalization, OGDG)领域,通过"梦境开拓"与"边界维持"的双阶段策略,使模型既能想象未知类别,又能守住已知类别边界。

研究团队采用四大关键技术:1) 早期分支网络(Early Branch)实现域/类特征解耦;2) 傅里叶空间特征重组技术;3) 基于角度的分布约束损失函数;4) 流形混合的未知空间激活方法。这些技术共同构成了DoSc框架的核心引擎。

【Dream Open阶段的创新】
通过双分支编码器,在浅层网络就分离域相关和类相关特征。域分支采用对抗性域分离损失(ADR Loss)最大化域差异,类分支则优化类别嵌入的角分布。特别巧妙的是,研究者将图像特征转换为频率信号,在傅里叶空间进行跨样本的语义混合,生成既符合真实分布又包含未知类特征的"梦境样本"。

【Sustain Close阶段的突破】
在潜在空间中,团队设计了两步走策略:先将已知类特征压缩成紧凑子空间,再通过生成的"未知样本"激活中心区域的决策边界。这种"剥洋葱"式的空间处理,既保持了已知类的识别精度,又为可能出现的未知类预留了判断空间。

【实验验证】
在DomainBed基准测试中,DoSc在PACS等数据集上的分类准确率超越传统方法3.2%。更令人瞩目的是,在开放集识别任务中,其AUROC(曲线下面积)达到89.7%,证明其能有效区分"已知"与"未知"。

这项研究的价值不仅在于技术突破,更开创了生成式域泛化的新范式。通过将扩散模型的创造潜力与判别模型的分析能力相结合,DoSc为AI系统应对现实世界的不确定性提供了全新思路。正如研究者所言:"我们不是在教模型记住答案,而是培养其面对未知考题时的解题能力。"这种"授人以渔"的理念,或许正是实现通用人工智能的关键一步。

相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号