基于改进采样策略与贝叶斯优化的随机配置网络算法研究

【字体: 时间:2025年06月13日 来源:Knowledge-Based Systems 7.2

编辑推荐:

  为解决随机配置网络(SCN)因采样策略局限导致的泛化性能下降问题,研究人员提出融合改进采样策略与贝叶斯优化(BO)的BO-SCN模型。通过引入缩放因子s优化权重采样范围,并采用BO自动调参,在10个基准数据集上验证了其提升预测精度、降低调参复杂度的优势,为复杂任务建模提供新思路。

  

在机器学习领域,随机配置网络(Stochastic Configuration Network, SCN)作为一种基于增量随机学习的神经网络模型,因其快速收敛特性被广泛应用于回归和分类任务。然而,传统SCN的完全随机采样策略存在固有缺陷——难以保证生成足够小的权重值,导致模型泛化能力受限。与此同时,超参数调优高度依赖人工经验,成为制约模型性能的瓶颈。如何通过算法改进突破这些限制,成为亟待解决的科学问题。

针对这一挑战,重庆交通大学的研究团队在《Knowledge-Based Systems》发表创新性研究,提出基于改进采样策略与贝叶斯优化(Bayesian Optimization, BO)的BO-SCN算法。该研究通过引入缩放因子s重构采样策略,结合BO的智能搜索能力,实现了超参数自动优化与模型性能提升的双重突破。

研究主要采用三项关键技术:改进的随机采样策略(在均匀分布和正态分布中引入缩放因子s)、基于高斯过程的贝叶斯优化框架(以模型误差为目标函数)、以及基于权重初始化理论的搜索空间限定方法(确定s的合理优化范围)。实验部分选取5个回归数据集(如Plastic材料抗压预测)和5个分类数据集进行验证。

研究结果显示:在采样策略改进方面,通过理论推导证明缩放因子s能有效约束权重值范围,实验证实当s=0.1时模型在Concrete数据集上均方误差降低23.6%。在贝叶斯优化应用中,相比网格搜索和随机搜索,BO-SCN在Parkinsons数据集上的调参时间缩短67%的同时准确率提升5.2%。搜索范围优化实验表明,将s的搜索空间限定在[0.05,0.15]区间时,模型在保持性能的前提下评估次数减少40%。横向对比中,BO-SCN在8/10数据集上显著优于传统SCN和RVFL等基线模型。

这项研究的核心价值在于:首次将贝叶斯优化与SCN架构深度融合,提出的缩放因子机制为随机采样策略提供了理论保障;建立的自动化超参数优化流程显著降低了人工干预需求;通过10个跨领域数据集的系统性验证,证实BO-SCN在提升精度的同时兼具稳定性。该成果不仅为复杂系统建模提供了新工具,其"智能优化+随机学习"的研究范式对神经网络结构设计具有普适性启示。正如作者Zihuan Xu和Xia Zhang所指出,未来可进一步探索该框架在工业参数预测和医疗诊断等高风险场景的应用潜力。

相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号