
-
生物通官微
陪你抓住生命科技
跳动的脉搏
基于尺度不变信息瓶颈的域泛化方法:增强深度学习模型在分布外数据中的鲁棒性
【字体: 大 中 小 】 时间:2025年09月08日 来源:Expert Systems with Applications 7.5
编辑推荐:
这篇研究提出了一种创新的尺度不变信息瓶颈(Scale-invariant Information Bottleneck, SIB)方法,通过同时捕捉全局不变特征和尺度不变局部细节,结合信息瓶颈(IB)原理剔除虚假相关性,显著提升了深度学习模型在分布外(OOD)数据上的泛化能力。实验证明其在Rotated MNIST等6个数据集上平均性能超越14种现有方法4.74%,尤其对复杂图像细节的识别具有突破性意义。
亮点
现有不变预测器(如IRM)过度依赖全局特征而忽略关键局部细节。本文提出:
尺度不变预测器:自适应保留局部精细特征(如纹理)
SIB框架:通过信息瓶颈(IB)过滤虚假特征,实现特征保留与冗余消除的平衡
变分优化:推导出可计算的损失函数,解决传统方法的优化难题
结论与展望
SIB框架通过双路径架构同步捕获全局和局部特征,在PACS等数据集的跨域测试中表现卓越。未来将探索其在医学影像(如组织病理切片)的迁移学习应用,并开发动态尺度调节机制。
作者贡献声明
李梦瑶:概念设计/算法实现;张江山:课题指导/经费支持;张春霞:数据分析;刘军民:可视化;纪丽珍:论文润色
利益冲突声明
作者声明无潜在竞争利益
(注:翻译部分已按生命科学领域语境调整,例如将"Cartoon"译为"卡通图像域","variational inference"译为"变分推断",并保留OOD、IB等专业术语缩写)
生物通微信公众号
知名企业招聘