基于Riemann-Liouville分数阶导数的自适应偏置移位分数阶ReLU激活函数在非线性系统辨识中的性能提升研究

【字体: 时间:2025年06月27日 来源:Engineering Applications of Artificial Intelligence 7.5

编辑推荐:

  本研究针对传统激活函数在复杂非线性系统建模中的局限性,创新性地提出了一种基于Riemann-Liouville(RL)共形分数阶导数的自适应偏置移位分数阶ReLU(RLASFReLU)激活函数。通过将分数阶阶次扩展至α∈[0,2]并引入基于输入标准差的稳健偏置移位机制,该函数在多层感知器模型中展现出优于常规ReLU、ABReLU等现有函数的性能,在Bouc-Wen滞后系统等三类基准测试中实现了0.41×10-9的超低MSE,为神经网络在工程系统辨识领域的应用提供了新工具。

  

在人工智能与工程系统建模的交叉领域,传统神经网络激活函数面临着捕捉复杂非线性特征的瓶颈问题。随着Fractional Neural Networks(FNNs,分数阶神经网络)的兴起,研究者发现将分数阶微积分引入激活函数可显著提升模型对长程依赖性和噪声数据的处理能力。然而现有Fractional ReLU(分数阶线性整流单元)存在阶次范围有限(α∈[0,1])、偏置策略易受异常值干扰等缺陷,制约了其在Bouc-Wen滞后系统等典型非线性系统辨识任务中的应用性能。

为突破这些限制,研究人员提出创新性的RLASFReLU激活函数。该工作首先系统分析了Average Biased ReLU(ABReLU)采用均值偏置对数据分布敏感、Randomly Translated ReLU(RTReLU)依赖高斯分布假设等固有缺陷。基于Riemann-Liouville共形分数阶导数理论,将分数阶次扩展至α∈[0,2]以增强函数灵活性,同时采用输入数据的标准差作为偏置量,既克服了均值对异常值的敏感性,又避免了随机平移的不稳定性。这种设计使函数兼具数学严谨性与工程实用性。

关键技术方法包括:1)构建基于Riemann-Liouville共形分数阶导数的函数框架;2)采用Texas风电场、Bouc-Wen滞后系统等三类基准数据集;3)通过Multi-layer Perceptron(MLP,多层感知器)模型比较RLASFReLU与ReLU、ABReLU等六种激活函数的MSE(均方误差)和拟合优度指标;4)在Wiener-Hammerstein过程噪声系统等真实工程场景验证泛化能力。

研究结果部分显示:

  1. 方法论分析:理论推导证明新函数在保持RLFReLU计算效率的同时,通过标准差偏置使决策边界适应性提升37%。
  2. 基准测试:在Bouc-Wen系统辨识中,2层MLP模型达到0.41×10-9的MSE,优于dynoNet等现有方法2个数量级。
  3. 跨领域验证:在肺炎X光图像分类任务中,该函数使CNN模型参数减少15%而准确率提升至99.2%。
  4. 比较分析:相较于FReLU,新函数在Cascaded Tank系统预测中的收敛速度加快60%。

结论部分强调,RLASFReLU通过分数阶扩展与稳健偏置的协同设计,为FNNs在工程系统辨识和医疗诊断等领域的应用提供了通用解决方案。其创新性体现在:1)首次实现α∈[0,2]的宽范围分数阶调节;2)建立标准差偏置的数学保证;3)在保持O(n)时间复杂度的前提下提升模型性能。该成果发表于《Engineering Applications of Artificial Intelligence》,为Fractional Calculus(分数阶微积分)与Deep Learning(深度学习)的交叉研究开辟了新方向,特别在Parkinson病语音诊断等医疗场景展现出转化潜力。未来工作将探索该函数在Graph Neural Networks(图神经网络)中的扩展应用。

相关新闻
生物通微信公众号
微信
新浪微博
  • 急聘职位
  • 高薪职位

知名企业招聘

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号