基于机器视觉的跳舞机器人设计

《Electronics》:Design of Dancing Robot Based on Machine Vision

【字体: 大 中 小 】 时间:2026年09月15日 来源:Electronics 2.9

编辑推荐:

  基因表达分类由于现有数据集的高维性和异质性仍然是一项具有挑战性的任务。本研究提出了一项综合实证分析,将神经网络与支持向量机(Support Vector Machines,SVM)相结合用于基因表达分类。研究人员评估了多种架构,包括卷积神经网络(Convolu

  
基因表达分类由于现有数据集的高维性和异质性仍然是一项具有挑战性的任务。本研究提出了一项综合实证分析,将神经网络与支持向量机(Support Vector Machines,SVM)相结合用于基因表达分类。研究人员评估了多种架构,包括卷积神经网络(Convolutional Neural Networks,CNNs)以及近期提出的Kolmogorov–Arnold网络(Kolmogorov–Arnold Networks,KANs),覆盖了十余个公开数据集。此外,研究人员探索了集成策略,并证明集成模型相较于近期提出的最先进方法取得了统计学上显著的改进。所有开发的代码以及10折交叉验证实验中使用的精确数据划分均已公开,以确保研究结果的完全可重复性。
# 基因表达分类中深度神经网络与支持向量机集成方法的研究解读

## 研究背景与问题

基因表达分类是计算生物学中的重要任务,旨在利用基因组规模的转录组数据区分肿瘤与正常组织、不同癌症类型或分子亚型。然而,转录组数据集通常包含数千至数万个测量变量,而可用样本数往往有限,这种高维小样本(high-dimensional, low-sample-size)特性增加了过拟合风险,降低了所选生物标志物的稳定性,并使模型评估对训练集和测试集的构成高度敏感。传统方法如逻辑回归、线性判别分析、k近邻(KNN)、决策树、随机森林和支持向量机(SVM)被广泛采用,其中SVM因其最大间隔和核函数机制在高维小样本场景下具有优势。近年来,深度学习架构被引入以直接从转录组谱中学习非线性表示,包括多层感知机(MLP)、卷积神经网络(CNN)、图神经网络、自编码器以及将表格数据转换为图像或生物学结构化表示的方法。近期Kolmogorov–Arnold网络(KAN)也被应用于癌症组学,例如基于图KAN的多组学整合分类。然而,已有研究往往局限于少量数据集、单一转录组平台或特定分类器家族,缺乏在统一预处理和验证协议下对基于间隔的方法、传统神经网络、卷积架构和KAN变体的广泛比较。因此,本研究旨在系统评估多种神经网络架构与SVM结合的性能,并探索集成策略是否能够取得优于现有最先进方法的分类效果。

## 研究内容与主要结论

研究人员在17个公开转录组数据集上开展了全面的实证研究,涵盖多种肿瘤类型,包括来自基因表达综合数据库(GEO)的16个微阵列数据集和来自癌症基因组图谱(TCGA)的TCGA-BRCA RNA-seq数据集。研究评估了多种分类器:支持向量机(通过LibSVM实现,并采用网格搜索优化超参数)、一维卷积神经网络(CNN-1D)、基于DeepInsight图像表示的二值卷积神经网络(DI-CNN)、三种KAN变体(原始KAN、高效KAN、傅里叶KAN)、图像变换KAN(IT-K)以及标准MLP。特征选择采用卡方(Chi-Square)统计检验和随机森林重要性排序两种方法,分别保留了10,000个和30个特征。通过10折交叉验证,使用准确率和ROC曲线下误差(EUC)作为评价指标,并采用Wilcoxon符号秩检验进行统计比较。

研究发现,在10,000个特征条件下,多个独立分类器性能相当,但均无统计学显著优于LibSVM;当仅使用30个特征时,SVM性能下降,而KAN、MLP和CNN等神经网络方法平均表现更好,表明这些方法对维度灾难更为敏感。基于此,研究人员提出了加权和规则(Weighted Sum Rule)的集成策略,将LibSVM与使用30个特征的KAN变体、IT-K和MLP结合,构建了W5、W10、W15等集成模型,以及包含FCK(函数组合KAN)的W18集成和仅由KAN组成的OnlyKAN集成。结果表明,W10、W15和W18在准确率上显著优于LibSVM,而W18在EUC指标上也优于LibSVM。此外,研究人员还开发了优化集成Wopt,对异构分类器输出进行Z-score标准化,并在跨数据集框架下学习融合权重,进一步提升了性能。通过Friedman检验和Benjamini–Hochberg FDR及Holm–Bonferroni多重检验校正,Wopt相对基线方法[30]保持了统计学显著优势。在F1分数和Matthews相关系数(MCC)评估中,所提集成保持较强判别力。在独立的乳腺癌队列GSE39004和GSE86374之间进行的零样本交叉验证中,模型表现出良好的跨队列泛化能力。敏感性分析显示,网格搜索优化的超参数与默认参数在统计上无显著差异,归因于训练集规模较小导致的过拟合。消融实验表明,同时移除KAN和MLP组件均会降低性能,证实两者对集成的贡献。

## 关键技术方法

研究人员使用了以下主要技术方法:(1)支持向量机(SVM),采用LibSVM实现,超参数通过基于训练集的5折交叉验证网格搜索确定;(2)一维卷积神经网络(CNN-1D)和基于DeepInsight的二维卷积神经网络(DI-CNN),用于学习局部非线性特征;(3)三种KAN变体:原始KAN(OrK)采用B样条基函数作为边上的可学习激活,高效KAN(EffK)通过矩阵运算优化计算效率并引入L1正则化,傅里叶KAN(FourierK)采用截断傅里叶级数参数化单变量函数;(4)图像变换KAN(IT-K),利用t-SNE将基因映射到二维坐标,构建像素内和像素间邻接矩阵,通过信息传播丰富表达矩阵后输入KAN;(5)集成学习,采用加权和规则(Weighted Sum Rule)融合多个分类器的原始输出,并发展出基于Z-score标准化和跨数据集权重优化的Wopt集成。样本队列来源包括GEO的16个微阵列数据集和TCGA-BRCA RNA-seq数据集,以及用于外部验证的GSE39004和GSE86374两个乳腺癌队列。

## 研究结果

### 独立分类器性能比较

在10,000个特征条件下(卡方选择),所有独立分类器的准确率和EUC均无统计学显著优于LibSVM。在30个特征条件下(卡方预选+随机森林重要性排序),SVM性能不再最优,而KAN、MLP和CNN在平均表现上优于使用10,000个特征时的LibSVM,这提示神经网络方法更容易受高维诅咒影响,但在低维特征下能够更好利用有限信息。

### 集成模型性能

提出的加权集成W5、W10、W15将LibSVM(10,000特征)与使用30特征的FourierK、BaseK、EffK、IT-K和MLP进行加权融合。在准确率指标上,W10、W15和W18显著优于LibSVM;在EUC指标上,仅W18显著优于LibSVM。OnlyKAN(仅由KAN变体求和)在统计上与LibSVM持平,由于KAN具有较好可解释性,为未来生物学信息提取提供了可能。

### 优化集成与统计验证

Wopt对分类器输出进行Z-score标准化,并在跨数据集框架下优化融合权重。Friedman全局检验确认性能差异显著,经Benjamini–Hochberg FDR和Holm–Bonferroni校正后,Wopt相对基线方法仍保持统计显著优势。在F1分数和MCC指标上,所提集成持续优于独立模型,表现出对少数类样本的鲁棒捕捉能力。

### 外部跨研究验证

在GSE39004和GSE86374两个独立乳腺癌队列间进行互惠零样本评估,无需重训练或微调,所提集成在两个方向上均保持高判别性能,表明模型捕获了保守的转录程序而非数据集特定批次效应,具备良好的泛化能力。

### 特征稳定性与计算效率

当随机森林特征选择限制为30个基因时,Jaccard指数为0.6,表明在高维基因组数据中,强共表达和多重共线性基因导致特征选择稳定性中等。计算时间实验显示,集成方法在当前硬件下训练和推理时间均极短(以GSE33630为例),不损害实际应用可行性。

### 消融研究

将LibSVM、[30]+Wopt、Wopt、去除KAN组件的Wopt-K和去除MLP组件的Wopt-M进行比较,结果显示[30]+Wopt平均准确率最高且统计显著优于基线[30](p=0.004),Wopt单独虽高于LibSVM但未达显著(p=0.075);去除KAN或MLP组件均导致性能下降,说明两者对最终集成性能均有贡献。

## 讨论与结论

研究讨论部分指出,SVM依赖全局核变换,假设特征空间具有平滑均匀的度量,但转录组中基因-基因相互作用本质上是局部化、非线性和异质的。KAN通过可学习的B样条函数直接置于网络边上,能够自适应建模细粒度的局部非线性交互和非单调表达变化,但对小样本的间隔稳定性敏感。混合集成结合两者的互补归纳偏置,提升了类别可分性。研究还强调了在高度缩减特征空间(30特征)下SVM性能下降的原因包括网格搜索过拟合和特征信息不足。通过F1和MCC评估确认模型对不平衡数据的判别力,并通过跨队列验证证明模型捕捉的是真正的生物学信号。研究结论指出,深度神经网络提供了有价值的表示能力,但与SVM结合后鲁棒性和非线性决策边界处理能力持续改善;基于混合模型的集成策略相对近期最先进方法取得了统计显著的性能提升。全部代码和精确数据划分已公开,保障了研究可重复性。总体而言,将KAN与经典机器学习分类器整合是基因表达分类的一个有前景的方向。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号