基于双层优化堆叠集成、元启发式特征选择与贝叶斯超参数的智能脑肿瘤分类

《Biomedical Signal Processing and Control》：Intelligent brain tumor classification using a Bi-level optimized stacking ensemble with metaheuristic feature selection and Bayesian hyperparameters

　　

摘要：脑肿瘤是一种主要的神经系统疾病，可能会严重影响个人的生活质量。患者早期且精确的诊断在很大程度上决定了其生活质量和预后。随着人工智能实现自动化流程，磁共振成像的准确性变得至关重要，并证明是医学影像学中的重要资产。多项研究探讨了分类肿瘤的不同方法，但仍迫切需要研究如何构建一个能够改进所有环节并结合不同模型预测能力的框架。为填补这一空白，本研究提出了一种新颖的混合堆叠模型，用于将脑肿瘤分为多个类别。所提出的基于SMOTE的TransSecOpt框架首先通过迁移学习获取基本特征，然后采用合成少数类过采样技术（SMOTE）来平衡数据。利用粒子群优化（PSO）进行特征选择，并使用Optuna框架对多个机器学习模型的超参数进行微调。最优化的模型作为堆叠中的基学习器使用，从而生成一个元分类器，有效地整合了各个基学习器的优势。所提出的模型表现出卓越的性能，达到92.34%的召回率、92.34%的准确率、92.61%的精确率和92.37%的F1分数。该模型的鲁棒性通过86.00%的Jaccard系数、89.49%的科恩卡帕系数和89.58%的马修相关系数得到证实，证明了其作为自动脑肿瘤诊断工具的有效性。

引言：脑肿瘤（BTs）被列为全球所有性别中第十大主要死因。据估计，2020年新发病例数量达到308,102例，全球死亡人数达251,329人。如果脑肿瘤患者受到忽视，其存活率并不高。五年和十年的死亡率分别为36%和30%[1]。这些统计数据强调了准确诊断和及时诊断对于改善患者预后的重要性。在识别和分类脑肿瘤的过程中，主要采用磁共振成像（MRI），它具有精确性且能够区分不同类型的脑细胞[1]。胶质瘤占脑肿瘤的45%，因此是最常见的类型。每十五例中有一例归因于垂体瘤和脑膜瘤[2]、[3]。正确诊断此类肿瘤对于确定最有效的治疗方案非常重要。MRI图像可以人工评估，但可能效率低下且存在偏差，从而增加了出错的可能性。卷积神经网络（CNNs）和深度学习（DL）是计算机辅助诊断（CAD）系统的重要组成部分，可提高诊断的效率和准确性[3]、[4]、[5]。可靠自动化系统的发展改进仍面临来自不同因素的多种挑战。

数据不匹配导致模型准确性降低，某些类型肿瘤的表示不足[1]。类内变异程度高意味着同类型肿瘤之间的差异很大[2]。类间变异程度低意味着不同肿瘤类型表现出相似的特征[3]。缺乏数据可能导致过拟合的可能性增加，并且与训练深度学习模型相关的计算成本很高[3]、[4]。

人工智能（AI）和机器学习（ML）的结合通过解决分类问题显著提升了医学图像的质量[6]。深度学习模型，尤其是CNN的准确性达到99.99，高于传统算法和人类专家[1]、[3]。不同特征列表包括自动特征提取，从而实现图像中重要方面的自动识别，减少了误差[7]。因此，自动化程序可以缩短诊断所需的时间，更快地选择更多治疗方案，并提供更客观的检查，从而最大限度地减少人为判断的影响。

机器学习与人工智能的整合具有许多优势，但也应注意其存在某些困难。深度学习模型常被称为"黑箱"，使其在医学分析等关键领域难以理解决策过程[1]、[8]。在数据正则化不佳的情况下，此类模型可能导致过拟合，且不适用于新病例[3]、[4]。在医疗保健领域，深度学习可用于样本量大且准确标注的情况，但获取这些样本可能困难或成本高昂[9]。研究人员已证明，使用MRI与AI可以显著提高诊断准确性[10]。特征优化、图像增强和迁移学习（TL）等技术使模型表现更佳[11]、[12]。但迄今为止进行的大多数研究仅分别审视这些部分，因为它们没有结合所有这些部分的框架，也没有确保整个诊断流程的优化。

基于Transformer的方法，包括FMCL，在MRI分析中展示了更好的特征表示能力[13]，而基于补丁的视觉Transformer，包括PBViT，通过整合全局上下文信息，在提高检测准确性方面具有额外优势[14]。同样，专门的Transformer模型在医学图像分类研究中已展示出令人瞩目的结果[15]。此外，轻量级和优化的CNN也得到了广泛研究。例如，轻量级CNN架构和先进的降维算法已被提出，以在保持高准确性的同时提高计算效率[16]、[17]。类别不平衡继续在医学图像分类中提供相当大的困难。最近的研究成功使用了合成少数类过采样技术（SMOTE）和类别平衡程序等技术来提高模型性能和泛化能力[18]、[19]。此外，与超参数优化（HPO）相结合的集成方法显示了分类鲁棒性和稳定性的改善[20]。

有许多先进技术用于解决这些问题并提高模型有效性。所提出的TransSecOpt框架通过预处理步骤（规范化、变换数据）、特征选择、基于SMOTE的类别平衡和优化机器学习来整合这些技术，以提高分类性能和模型泛化能力。粒子群优化（PSO）是一种元启发式方法，旨在选择最佳特征[21]、[22]。可以使用包括Optuna在内的优化方法和自动算法进行超参数调节[23]。通过旋转和偏移等变换创建单个训练样本。数据集更加多样化，过拟合得到最小化，泛化能力得到改善[3]、[4]。SMOTE方法用于创建合成样本，从而增强代表少数类别的平衡数据[24]。这增强了数据集的平衡性并减少了模型偏差。研究人员正不断改进使用这些技术进行脑肿瘤自动分类。这一发展在准确性、实用性和易用性方面提升了诊断工具的应用，可能带来挽救生命的结果。

研究目标：
• 使用基于迁移学习的模型从MRI扫描中提取高质量特征，并通过PSO找到最相关的特征。
• 通过SMOTE解决有限和不平衡的医疗数据集问题。
• 将使用Optuna框架调优的多个优化机器学习模型整合到多阶段堆叠集成中，以提高分类准确性。
• 使用多种性能指标评估所提出的框架，如召回率、精确率、F1分数、Jaccard指数、科恩卡帕系数、R平方分数、准确率和马修相关系数。
• 开发一种自动且准确的框架，使用MRI图像进行脑肿瘤分类，以便在实际临床应用中实现脑肿瘤自动诊断。

本研究的新颖之处在于其系统化的模块化整合和混合学习流水线的精确设计，专门为使用优化的混合机器学习框架进行鲁棒的医学图像分类而打造。使用特征提取而不是直接使用图像可能增强模型性能[13]。与传统的端到端深度学习技术相比，所提出的方法将特征提取与分类分离，允许更有效地管理类别不平衡和特征冗余。此外，SMOTE应用于特征空间以平衡类别表示，在不产生不真实图像的情况下提高泛化能力。具体来说，通过PSO机制进行深度特征选择，减少维度，消除冗余表示，这是传统迁移学习系统很少探索的一个特点。优化堆叠与精心选择的特征的结合使模型能够利用多个分类器的互补优势，从而增强稳定性和跨数据集泛化能力。这在医学成像中尤为关键，因为数据集之间的数据异质性构成了一道重大障碍。

本文首先提供了背景信息和主要目标。通过详细回顾现有文献，将本研究置于相关背景中。在提供必要的背景信息后，展示了主要概念的基本理解。然后简要描述了构建框架，包括所使用的结构和方法。结果在结果和讨论部分进行了呈现和批判性分析。文章以主要结论结束，并提出了未来研究方向和潜在研究领域。

相关工作：Asif等人[3]使用的模型是一种先进的深度迁移学习方法，使用预训练模型（Xception、DenseNets、ResNet152V2、InceptionResNetV2）和一个新颖的自定义深度稠密块。在三类数据集上的准确率为99.67%，四类数据集准确率为95.87%，其中基于Xception的模型表现最为成功。Felipe等人[1]提出了一种基于AlexNet风格的新颖CNN模型。该模型使用公开可获取的MRI数据集进行训练。

数据集预处理：在预处理过程中实施了一系列随机几何变换，以提高模型鲁棒性、增强泛化能力并降低过拟合风险，同时不改变原始数据集的大小。它作为确定性的预处理阶段应用于训练和测试数据集，以规范化数据、固定图像对象并获得相同质量的输入。此预处理在特征提取之前进行，以确保提取的特征...

所提出的框架：所提出的混合堆叠方法是一个全面的、多阶段的过程，可确保可靠和准确的脑肿瘤分类，其架构在本节中进行了详细说明。框架的设计系统性地解决了医学图像分析中的主要问题，如数据预处理技术、合适的特征表示、特征空间减少和类别不平衡，然后再训练最终模型。图1展示了所提出的...的架构设计。

实验设置：实验在Yoga 7 14IAL7笔记本电脑上的64位操作系统上进行。该机器配备了第12代Intel Core i7-1260P CPU（2.10 GHz）和16.0 GB可用RAM。所有模型均使用CPU进行训练，图形处理由内置的Intel Iris Xe Graphics单元提供协助。本研究的框架使用Python构建，以Jupyter Notebook作为实验和分析的主要集成开发环境（IDE）。

架构可视化：所有...

结论与未来工作：本研究成功创建了一种创新的基于SMOTE的TransSecOpt框架，该框架使用混合堆叠集成来利用MRI数据进行脑肿瘤的多类自动分类。我们的框架通过系统性地结合迁移学习、用于数据平衡的SMOTE、用于特征选择的PSO和用于超参数调整的Optuna，成功处理了医学影像中的常见问题。包含自定义分类器的堆叠模型非常有效。其作为自动脑肿瘤诊断工具的重大潜力...

作者贡献声明：Biswajit Tripathy：原创草稿撰写、可视化、验证、软件、资源、方法论、形式分析、数据管理、概念化。Chinmay Chakraborty：审阅和编辑撰写、验证、监督、调查。Sudip Kumar Sahana：审阅和编辑撰写、验证、监督、调查。

利益冲突声明：作者声明不存在可能影响本文所报告工作的已知竞争性财务利益或个人关系。

Biswajit Tripathy | Chinmay Chakraborty | Sudip Kumar Sahana