迈向准确高效的垃圾图像分类：一种深度学习与机器学习的混合方法

《Ain Shams Engineering Journal》：Towards accurate and efficient waste image classification: A hybrid deep learning and machine learning approach

　　阮Ngoc-Bao-Quang | 杜Tuan-Minh | Phan Cong-Tam | Phan Thi-Thu-Hong
越南岘港FPT大学人工智能学院，550000

**摘要**
基于图像的自动化垃圾分类是全球废物管理的关键组成部分；然而，整合机器学习（ML）、深度学习（DL）和高效混合解决方案的系统化基准测试仍然不够完善。本研究对三种范式进行了全面比较：（1）使用手工特征的山机学习算法；（2）包括ResNet变体、EfficientNetV2S、DenseNet121和MobileNetV3在内的深度学习架构；（3）结合深度模型进行特征提取并使用多种机器学习分类器的混合方法，以确定最有效的策略。在三个公共数据集上的实验表明，混合方法始终优于其他方法，在TrashNet数据集上达到99.72%的准确率，在Household数据集上达到100%，在Garbage数据集上达到99.87%，超越了现有最佳基准。此外，特征选择将特征维度减少了95%以上，而不会牺牲准确性，从而提高了训练和推理速度。本研究建立了更可靠的基准，并引入了一种高效的混合框架，在实现高准确性的同时降低了推理成本，使其适合大规模部署。

**1. 引言**
家庭和工业废物的指数级增长已成为一个紧迫的全球性问题，给废物管理系统带来了巨大压力，并加速了垃圾填埋场的枯竭。废物分类被广泛认为是可持续管理的基石，因为它能够实现高效回收、资源回收和减少环境负担。然而，在许多情况下，手动分类仍然是主要方法，这使得该过程成本高昂、耗时且效率低下。为了解决这一挑战，许多研究调查了人工智能（AI）在自动化废物分类中的应用。依赖手工特征和传统分类器的机器学习（ML）方法在某些情况下取得了有希望的结果[1]，而深度学习（DL）架构，特别是卷积神经网络（CNN），在基于图像的任务中实现了最先进的性能[2]、[3]、[4]、[5]。最近，结合深度特征和传统分类器的混合方法也展示了卓越的性能[6]、[7]、[8]、[9]。然而，大多数这些研究仅解决了问题的孤立方面，而没有提供跨范式的综合评估。系统性地评估ML、DL和混合方法的比较在废物分类文献中仍然很少。特别是，很少有研究探讨了通过特征选择增强的混合框架如何平衡预测准确性和计算效率。此外，广泛使用的公共数据集中的数据质量问题（例如Household Garbage数据集中的错误标记）尚未得到严格解决，这可能影响基准的可靠性。为了填补这些空白，本研究对三种范式——使用手工特征的经典ML、DL模型和混合DL-ML框架——进行了全面统一的评估。所提出的混合框架从定制的ResNet50骨干网络中提取深度表示，并将其与支持向量机（SVM）和逻辑回归（LR）等ML分类器相结合。此外，还采用了特征选择来提高模型紧凑性和推理效率，而通过重新标记对数据集进行优化则提高了基准的可靠性。这些组件共同构成了一个更健壮且计算效率更高的软计算流程，适用于实际部署。

**本研究的主要贡献如下：**
1. **全面基准测试**：本研究对三个公共废物图像数据集（TrashNet、Garbage Classification和Household Garbage）提供了更全面的基准评估，共同评估了基于手工特征的山机学习模型、深度学习架构和混合深度-机器学习框架。
2. **数据集校正**：对Household Garbage数据集中的43张错误分类图像进行了手动检查和重新标记，提高了数据完整性，确保了更可靠的评估。
3. **混合框架**：结合从定制的ResNet50提取的深度特征和特征选择的混合设计，实现了超过95%的维度减少，同时保持了近乎完美的准确性。
4. **效率和可扩展性分析**：广泛的实验表明，所提出的混合模型在实现最先进准确性的同时大幅降低了推理成本，使其适用于资源受限或实时智能系统。

**本文的其余部分结构如下。**第2节回顾了关于废物分类的深度学习和混合框架的相关工作。第3节描述了所提出的方法，包括架构设计和特征选择。第4节报告了实验设置和比较评估。第5节从鲁棒性和效率的角度分析了结果。最后，第6节总结了发现并指出了未来的研究方向。

**2. 相关工作**
近年来，基于图像的废物分类方法因其在自动化废物分类和促进可持续废物管理方面的潜力而受到广泛关注。早期的努力主要依赖于经典的山机学习流程，通常遵循两步过程：首先使用基于局部描述符（如尺度不变特征变换（SIFT）的手工特征提取，然后使用支持向量机（SVM）等模型进行分类[10]。尽管这些方法初期显示出希望，但其性能受到依赖手工工程特征的限制，这些特征往往难以泛化到各种现实世界的废物物品。更一般地说，以特征驱动的学习范式也激发了自适应权重和聚类策略，通过动态调整手工表示的贡献可以在不同数据分布下提高鲁棒性[11]。最近的分析，如Fu等人[1]进一步证实了这些权衡：包括支持向量机（SVM）和决策树（DT）在内的经典ML流程在基准废物数据集上的准确率仅为80-85%，远低于超过90%的基于CNN的模型。这些结果强调了传统ML方法的历史重要性，但也揭示了它们的根本局限性：依赖于手工特征使得它们在面对现实世界废物流的多样性和噪声时可扩展性和鲁棒性较差。

深度学习的发展，特别是卷积神经网络（CNN），标志着图像分类和检测的范式转变[4]、[12]、[13]、[14]。许多研究证明了迁移学习的有效性，其中预训练的CNN被微调以高准确率对废物类别进行分类。早期的监督式深度学习技术也显示出前景：例如，Aghilan等人[2]证明了基于CNN的废物图像分类的可行性，为后续的迁移学习工作奠定了基础。在此基础上，Huang等人[3]实现了使用VGG19、DenseNet169和NASNetLarge的模型融合方法，在多个数据集上达到了96.5%的准确率。2021年，Shi等人[15]通过提出多层混合卷积神经网络解决了效率问题，该简化架构在TrashNet数据集上实现了92.6%的准确率。

在接下来的几年中，深度学习被应用于更专业的领域。例如，Wulansari等人[4]将迁移学习应用于医疗废物分类，报告了99.40%的准确率。几项研究探索了不同的混合和比较策略：Wang等人[5]将错误校正输出码（ECOC）与人工神经网络（ANN）结合，达到了99.01%的准确率，并进一步使用Capuchin搜索算法（CapSA）增强了CNN特征。Lilhore等人[16]引入了一个混合CNN-LSTM模型，实现了95.45%的二元废物分类准确率。Mehedi等人[17]比较了流行的CNN，包括VGG16和MobileNetV2，表明VGG16在他们的场景中表现更好。同年，Sharma等人[12]将深度CNN应用于废物分类，加强了端到端流程在这一领域的有效性。尽管基于DL的方法在准确性上始终优于经典ML，但它们对大规模预训练的依赖、高计算成本和有限的推理效率仍然是实时部署和资源受限环境下的关键挑战。

**更多近期工作集中在性能-效率权衡上。**Kunwar等人[18]评估了多种迁移学习模型，并强调了EfficientNetV2S在准确率（96.41%）和低碳排放方面的强大平衡。Sayem等人[19]引入了一种结合DenseNet201和MaxViT的双流架构用于分类和检测，尽管其分类准确率仅为83.11%，说明了准确性和可扩展性之间的权衡。Celik等人[6]提出了一个复杂的混合框架，结合了EfficientNetB0和InceptionV3以及HyperColumn技术，在TrashNet数据集上达到了99.40%的准确率，在Household Garbage数据集上达到了99.87%，从而建立了新的基准。同时，Nahiduzzaman等人[7]引入了一个使用并行深度可分离CNN（DP-CNN）的三阶段框架，表明轻量级架构也能实现具有改进效率的竞争性能。另一项最新发展是Li等人[8]提出的针对高效废物分类的ResNet50模型。他们的架构利用了两种关键策略：冗余加权特征融合和深度可分离卷积。该模型在TrashNet数据集上的评估不仅实现了94.13%的竞争准确率，还显著减少了参数数量并提高了推理效率。这些进展突显了DL和混合策略在废物分类中的潜力。然而，仍然缺乏同时考虑准确性、效率和可扩展性的系统化基准测试，这激发了我们在后续章节中的评估。

**3. 方法论**
**3.1. 方法论概述**
图1展示了一个用于废物分类的全面混合机器学习流程。该流程旨在探索和结合两种不同的方法：手工特征和深度学习特征，以实现最佳的分类性能。

**3.1. 基于手工特征的方法**
流程从数据预处理和将数据集分为训练集和验证集开始。流程的第一个主要分支专注于传统的计算机视觉方法。从图像中提取各种手工特征，包括尺度不变特征变换（SIFT）、颜色直方图、GIST描述符、定向FAST和旋转BRIEF（ORB）、灰度共生矩阵（GLCM）和局部二值模式（LBP）。然后将这些特征输入特征选择阶段，利用包装器和嵌入方法（如重要性阈值和随机森林）。选出的特征随后用于训练一系列经典的山机学习模型，包括支持向量机（SVM）、极端梯度提升（XGBoost）、逻辑回归（LoR）、K最近邻（KNN）和随机森林（RF）。从这个过程中选出的最佳模型然后在测试集上进行评估。

**3.2. 基于深度学习和混合方法的方法**
流程的第二个分支涉及训练几个深度学习模型，具体包括ResNet101、EfficientNetV2S、DenseNet121、MobileNetV3和定制的ResNet50。这些模型直接为分类任务进行训练，其性能被评估以确定表现最佳的DL模型。

这一流程的一个关键方面是混合方法，如“提取DL特征”步骤所示。从深度学习训练阶段选择表现最佳的模型，并从其特定层提取其学习到的特征。这一过程提供了输入图像的强大、高级表示。与手工特征方法类似，这些深度特征随后通过特征选择阶段进行精炼。最后，选出的深度特征用于训练相同的传统山机学习模型（SVM、XGBoost等），以评估这种混合方法是否通过结合深度神经网络的强大特征学习能力和经典ML算法的稳健分类性能而产生更好的结果。以下部分将详细介绍本研究中使用的具体技术。

**下载：**下载高分辨率图像（771KB）
**下载：**下载全尺寸图像
**图1. 提出的废物图像分类方法概述。**这个过程产生了一个15维的特征向量[21]。颜色直方图：这一特征组通过HSV和BGR颜色空间计算出的3D直方图来捕捉图像像素的细粒度颜色分布。这两个直方图的连接结果是一个1024维的特征向量[22]。•形状特征：基于轮廓的特征：这套特征集捕捉物体主要轮廓的几何属性，如面积、周长、长宽比、范围和紧凑度。分析结果是一个紧凑的5维特征向量[23]。Hu矩：Hu矩是从掩码后的灰度图像中计算得出的，用于捕捉形状特征。这种方法的一个关键优势是对平移、尺度和旋转的不敏感性，因此产生了一个7维的特征向量[24]。•纹理特征：灰度级共生矩阵（GLCM）：为了捕捉像素强度之间的空间关系，我们计算了GLCM的各种属性，如对比度、差异性、均匀性和能量，并从四个不同角度进行了分析。这个过程提取了一个20维的特征向量[25]。局部二值模式（LBP）：使用掩码后的灰度图像来捕捉局部纹理。该操作通过比较高温和其邻居像素来工作，由此产生的模式直方图形成了一个10维的特征向量[26]。•基于关键点的特征：定向FAST和旋转BRIEF（ORB）：该算法被用于掩码后的灰度图像上来检测关键点并计算它们的描述符。每个关键点由一个32字节的二进制向量表示[27]。尺度不变特征变换（SIFT）：使用SIFT（尺度不变特征变换）算法从掩码后的灰度图像中提取关键点及其对应的描述符。每个关键点由一个128维的特征向量表示[28]。•全局特征：GIST描述符：首先将图像划分为4x4的网格。然后对网格的每个单元应用一组四个方向的Gabor滤波器。所有单元的滤波器响应被连接起来，形成一个最终的64维特征向量[29]。最后，所有上述特征集被连接起来，为每张图像形成一个单一的、全面的定制特征向量。这个最终向量结合了颜色特征（1039维）、形状特征（12维）、纹理特征（30维）、基于关键点的特征（ORB的32维加上SIFT的128维）和全局特征（64维）。总的来说，这个过程产生了一个高维的特征向量，其维度为1305维，它封装了丰富的视觉信息，并被用作经典机器学习分类器的输入。3.3. 特征选择和降维高维特征表示通常包含冗余或信息量较弱的属性，这可能会对分类性能和计算效率产生负面影响。为了缓解这个问题，我们研究了两种广泛采用的降低特征复杂性的方法：无监督降维和有监督特征选择。•无监督降维。主成分分析（PCA）[30]被用作一种无监督降维技术。PCA不是选择原始特征的一个子集，而是通过线性变换将输入特征空间投影到由正交主成分张成的低维子空间上，每个主成分捕获最大量的方差。给定一个特征矩阵X∈RN×D，PCA计算(1)Z=XWK，其中WK包含X的协方差矩阵的前K个特征向量。选择K个成分以保留95%的累积方差，从而在信息保留和降维之间取得平衡。在这项研究中，PCA专门应用于基于特征的流程，包括定制特征和从CNN主干网络中提取的深度特征，并且不用于端到端的深度学习模型。•有监督嵌入特征选择。与PCA不同，嵌入特征选择方法在模型训练期间利用类别标签的监督来进行特征选择。我们采用基于随机森林（RF）的特征重要性作为代表性的嵌入方法。RF通过跨决策树的纯度减少来隐式评估每个特征的贡献，从而保留信息量较大的特征同时抑制不太相关的特征。这种方法保留了原始特征的语义，并直接将选择过程与分类目标对齐。通过结合无监督降维（PCA）和有监督嵌入特征选择（RF重要性），我们提供了在不同学习范式下特征减少策略的全面分析，并评估了它们对废物分类性能的各自影响。3.4. 机器学习方法特征提取后，获得的特征被输入到各种分类器中，从线性模型到集成方法，以评估它们在高维图像数据上的有效性。•逻辑回归（LoR）：一种用于二分类和多分类的线性模型，使用逻辑（Sigmoid）函数估计类别概率。它作为线性可分数据的强大且可解释的基准[31]。•K最近邻（KNN）：一种简单而有效的非参数方法，根据样本在特征空间中的K个最近邻居中的多数类别对其进行分类。它适用于具有清晰分离簇的问题[32]。•支持向量机（SVM）：一种强大的分类器，在高维空间中构建超平面以最大程度地分离类别。它在高维设置中特别有效，特别是当特征数量超过样本数量时[33]。•决策树（DT）：一种树结构模型，根据特征阈值分割数据以创建可解释的决策规则。虽然易于理解和可视化，但单个决策树常常容易过拟合[34]。•随机森林（RF）：一种集成方法，在带有特征随机性的自助样本上构建多个决策树。它汇总它们的预测以提高泛化能力，减少方差，并增强对过拟合和噪声的鲁棒性[35]。•极端梯度提升（XGBoost）：一种高度优化和规则化的梯度提升技术，以顺序方式构建加性树模型。它支持并行计算，并包括L1/L2正则化以减轻过拟合[36]。•Light Gradient Boosting Machine（LightGBM）：一种快速的、高效的梯度提升实现，使用基于直方图的算法逐层生成树。它原生支持分类特征，并且对于大规模数据集具有高度可扩展性，非常适合用于从图像描述符中派生的结构化数据[37]。3.5. 深度学习模型我们的模型选择旨在对不同的CNN设计范式进行公平和代表性的比较，以便进行废物分类。根据Kunwar等人的见解[18]，他们展示了基于ResNet和EfficientNet的架构的有效性，我们选择了一组广泛采用的模型，涵盖了残差学习、密集特征重用和轻量级移动导向设计。具体来说，我们评估了基于ResNet的架构（ResNet50、ResNet101和定制的ResNet50）、DenseNet121、MobileNetV3和EfficientNetV2S。这种组合使得能够在经典深度CNN、密集连接网络和计算效率高的架构之间进行全面比较，提供了废物分类准确性与效率之间的平衡评估。•残差网络：ResNet系列[38]引入了残差连接以缓解梯度消失问题并稳定深度架构的训练。ResNet50和ResNet101都是广泛采用的卷积神经网络，它们在不同深度下平衡了准确性和计算成本。虽然ResNet50提供了一个用于迁移学习的有效主干网络，具有适中的复杂性，但ResNet101提供了更深的变体，具有增强的特征提取能力，适合捕捉更细粒度的视觉模式。这些模型在ImageNet等大规模数据集上预训练，可以有效地适应下游任务，如废物分类。在这项研究中，我们尝试了ResNet50和ResNet101架构，以评估它们在废物分类任务上的有效性。•定制的ResNet50：我们的定制模型是在预训练的ResNet50主干基础上构建的。原始的顶部分类层被GlobalAveragePooling2D层替换，后面跟着一个与目标类别数量相匹配的密集输出层。这种设计保留了从ImageNet学到的强大的高级特征，同时创建了一个特定于任务的轻量级分类器，可以高效地进行微调以适应废物分类。为了增强模型的稳定性并改善对难以分类样本的学习，定制的ResNet50使用了稀疏分类焦点损失（Sparse Categorical Focal Loss）进行训练。这种损失通过引入一个调节因子来降低分类良好的样本的权重，使模型能够专注于更具挑战性的实例。公式(2)由[39]提出，定义为：(2)LFL(pt)=?αt(1?pt)γlog(pt)，其中pt是真实类别的预测概率，γ是焦点参数，αt是特定于类别的权重（默认α=0.25）。这种配置增强了对抗不平衡的鲁棒性，并在没有额外采样技术的情况下提高了少数类废物的性能。•EfficientNetV2S：EfficientNetV2S [40]是一种针对准确性和计算效率进行优化的现代CNN架构。与主要调整深度的ResNet不同，EfficientNetV2采用了一种复合调整策略，同时调整网络深度、宽度和输入分辨率。“S”（Small）变体被选中，专注于适用于实际部署的架构，特别是在计算资源有限的场景中，提供快速的推理和可扩展的部署，同时保持最先进的性能。•MobileNetV3：MobileNetV3 [41]是一种专为资源受限环境设计的轻量级CNN架构。它结合了深度可分离卷积与神经架构搜索（NAS）、压缩和激励模块以及高效的激活函数（例如h-swish），以改善与早期MobileNet变体相比的准确性-效率权衡。MobileNetV3被包括进来，以评估现代移动导向架构的性能，并分析在实际部署约束下分类准确性和计算效率之间的平衡。•DenseNet121：DenseNet [42]引入了密集连接，其中每一层都通过连接接收来自所有前置层的特征图。这种设计鼓励特征重用，改善了梯度流动，并减少了参数冗余，与传统的深度CNN相比。DenseNet121在训练数据有限的场景中特别有效，因为其密集的特征传播促进了鲁棒的表达学习。在这项研究中，包括DenseNet121是为了评估密集连接对废物分类性能的影响。3.6. 混合方法混合方法利用了深度学习的特征提取能力，同时结合了传统机器学习分类器的效率和灵活性。在这个框架中，性能最好的CNN模型（无论是定制的ResNet50还是EfficientNetV2S）仅作为特征提取器使用。对于每个输入图像，提取GlobalAveragePooling2D层的输出，产生一个2048维的特征向量，该向量编码了高级语义信息。然后这些特征向量通过特征选择流程进行处理，以识别最有关的组件，减少冗余并提高下游学习的效率。选定的特征被输入到传统的ML分类器中，如SVM、LoR或RF。这种分离允许ML模型学习专门的决策边界，而无需重新训练整个深度网络，从而显著减少了每个样本的推理时间。总体而言，混合流程结合了深度网络的表征能力和传统ML方法的轻量级、适应性。它在需要低延迟推理或在资源受限设备上部署的场景中特别有利，同时保持了与CNN模型相当的分类准确性。4. 实验结果4.1. 数据集为了确保全面和稳健的评估，我们的研究使用了三个不同的、公开可用的数据集。每个数据集在类别多样性、图像组成和规模方面都有所不同，使我们能够严格评估所提出模型的泛化能力。数据集A - 垃圾分类该数据集[43]包含19,762张图像，分为10个废物类别。它广泛用于分类和对象检测任务，特别是对于回收和废物管理应用非常相关。数据集中包含的废物类别示例如图2所示。下载：下载高分辨率图像（568KB）下载：下载全尺寸图像图2. 来自垃圾分类数据集的样本图像。数据集B - 家用垃圾该数据集[44]包含15,150张图像，分为12类家用垃圾。它包括更广泛的类别，例如多种类型的玻璃，适合更细粒度的分类任务。数据集中包含的废物类别示例如图3所示。下载：下载高分辨率图像（542KB）下载：下载全尺寸图像图3. 来自家用垃圾数据集的样本图像。数据集C - TrashNet：TrashNet数据集[45]是一个广泛采用的废物分类公共基准。它包含2527张图像，分布在6个材料类别中：玻璃、纸张、纸板、塑料和垃圾。尽管规模较小，但它仍然是一个重要的基准数据集，用于基线评估。TrashNet数据集的代表性样本如图4所示。下载：下载高分辨率图像（676KB）下载：下载全尺寸图像图4. 来自TrashNet数据集的样本图像。这三个数据集被选中是为了代表互补的废物分类场景，而不仅仅是增加数据量。TrashNet提供了一个具有干净背景和单个对象焦点的受控基准，反映了理想的废物分类条件。垃圾分类数据集在背景杂乱、视角和图像质量方面引入了适度的变异性，介于受控和非受限设置之间。家庭垃圾数据集进一步增加了环境的复杂性，其特征包括不受限制的光照、异质背景以及较高的类内变异，这些都与用户生成的家庭垃圾图像非常相似。综合来看，这些数据集涵盖了从受控到不受限制的各种条件，使得能够更真实地评估模型在各种真实世界垃圾分类和部署场景中的鲁棒性和泛化能力。

4.2. 实验设置
所有实验都在统一的硬件和软件环境中进行，以确保运行时的公平性和可重复性。具体而言，所有的训练和推理评估都是在Kaggle上使用NVIDIA Tesla T4 GPU（带有16 GB的内存）并在标准Linux运行时下进行的，使用PyTorch实现。系统配备了Intel Xeon CPU和大约13 GB的系统内存。所有方法都在相同的硬件和软件配置下进行了评估。训练时间和推理延迟是使用墙钟时间来测量的，并且没有应用特定于方法的硬件优化。这种设置确保了报告的计算成本比较反映了相对效率，而不是执行环境的差异。

4.3. 结果与讨论
本节对提出的分类框架在三个选定数据集上的表现进行了全面评估。为了确保公平和一致的比较，在模型训练和评估之前，对所有图像应用了统一的预处理流程。具体来说，每张图像都被调整大小到400 × 400像素的分辨率，并经历了旨在增强模型鲁棒性和防止过拟合的数据增强技术。我们的分析首先对比了三种不同的建模范式：传统机器学习（ML）、深度学习（DL）和我们提出的混合方法，以确定最有效的框架。每种方法的详细性能在以下小节中进行了呈现。

4.3.1. 使用手工特征的传统机器学习方法的性能
a) 使用完整手工特征的传统机器学习方法的性能
跨三个数据集的实验结果（表1、表2、表3）显示了传统机器学习与手工特征的有效性的一致模式。线性模型如LoR和SVM的泛化能力有限，其中LoR的准确率始终最低（59-75%），而SVM仅在数据集B上取得了较好的结果（82.40%），但在其他数据集上明显下降。非线性的浅层模型，包括KNN和DT，也表现不佳，DT的整体表现最弱（53-63%），这表明仅依赖手工特征不足以提供足够的区分能力。相比之下，集成方法——尤其是提升算法—— consistently 成为表现最好的方法。XGBoost和LightGBM的准确率在78-85%之间，同时具有平衡的精确度、召回率和F1分数，明显优于其他模型。特别地，LightGBM在数据集B上获得了最高的分数（85.36%的准确率和85.29%的F1分数），而在数据集C上的表现下降（约78%），反映了该数据集的难度增加以及手工特征的有限泛化能力。总体而言，这些发现表明，虽然手工特征与强大的集成学习器的结合可以产生中等的性能，但它们不可避免地存在上限。这促使人们转向深度学习模型，后者能够自动从原始数据中学习更丰富、更具可转移性的特征表示。

表1. 传统机器学习方法在数据集A上的分类结果（%）。
模型 准确率 精确度 召回率 F1分数
LoR 66.42 66.24 66.26
KNN 62.34 62.19 61.92
SVM 70.58 70.13 69.51
DT 57.10 57.80 57.39
RF 74.89 75.13 74.89 73.85
XGBoost 80.79 80.73 80.79 80.43
LightGBM 80.11 79.88 80.11 79.69

表2. 传统机器学习方法在数据集B上的分类结果（%）。
模型 准确率 精确度 召回率 F1分数
LoR 75.09 75.56 75.09 75.21
KNN 73.96 74.25 73.89 73.89
SVM 82.40 82.12 82.40 82.19
DT 63.16 63.58 63.16 63.33
RF 79.02 78.58 79.02 78.49
XGBoost 84.79 84.69 84.79 84.62
LightGBM 85.36 85.36 85.37 85.29

表3. 传统机器学习方法在数据集C上的分类结果（%）。
模型 准确率 精确度 召回率 F1分数
LoR 59.88 60.72 59.88 60.16
KNN 63.64 63.85 63.64 63.58
SVM 69.76 71.00 69.76 69.41
DT 53.36 52.94 53.36 53.13
RF 70.55 71.82 70.55 69.93
XGBoost 78.46 79.38 78.46 78.32

为了评估分割阶段的贡献，通过比较有无基于GrabCut的分割的手工特征流程进行了消融研究。在无分割设置中，直接从原始图像中提取手工特征，而不进行背景去除，同时保持流程中的所有其他步骤不变，包括特征提取、特征选择和分类器配置。消融结果总结在表4中。总体而言，结合基于GrabCut的分割显著提高了基于集成的分类器（如RF、XGBoost和LightGBM）在三个数据集上的性能。这些模型对无关或冗余特征特别敏感；因此，抑制背景区域有助于减少特征噪声，并增强与物体形状和纹理相关的类别区分线索。

表4. 基于GrabCut的分割对三个数据集影响的消融研究（%准确率）。
数据集 无分割 分割
数据集A LoR 69.46 66.42
KNN 67.49 62.34
SVM 71.29 70.58
DT 58.82 57.10
RF 52.41 74.89
XGBoost 73.06 80.79
LightGBM 75.98 80.11

相反，线性分类器（例如LoR、SVM）和基于距离的方法（例如KNN）的性能变化混合或微小。这种行为可以归因于它们依赖于全局特征分布，而这些分布通常受到背景杂乱的较小影响。在某些情况下，去除上下文背景信息甚至可能略微降低它们的性能。这些结果表明，基于GrabCut的分割并不普遍提高所有分类器的性能，但它对增强手工特征的有效性起到了有意义且积极的作用，特别是当与基于树的和提升模型结合使用时，这些模型是手工特征流程中的最强表现者。

b) 使用简化手工特征的传统机器学习方法的性能
为了研究在传统机器学习流程中减少手工表示的维度的影响，我们比较了两种广泛使用的策略：使用主成分分析（PCA）的无监督降维和基于随机森林（RF）重要性の监督特征选择。这两种方法都应用于第3.2节中描述的原始1305维手工特征集，该特征集整合了异构描述符，包括颜色统计、基于关键点的特征（SIFT、ORB）、纹理描述符（GLCM、LBP）和全局特征（GIST）。
如表5所示，PCA（保留95%的累积方差）始终降低了数据集A和数据集B上所有评估分类器的分类性能。与全特征设置相比，准确率和F1分数都有显著下降，特别是对于基于树的和集成模型。这些数据集涉及更多的类别和样本，导致决策边界复杂，依赖于多样化的手工特征集。这种行为可以归因于PCA的无监督性质。PCA在优先考虑最大全局方差的方向时，没有考虑类别标签信息，从而抑制了对于类别区分至关重要的低方差维度。这种限制对于异构手工表示尤其有害，因为特征的重要性与方差大小的相关性较弱。因此，仅保留方差的降维不足以在大规模、多类别场景中保持区分能力。

表5. 使用PCA降维特征和RF选择特征的传统机器学习模型在数据集上的性能（%）。
数据集 模型 全特征 PCA 95% RF FS (Top-N)
DIM 准确率 F1分数 DIM 准确率 F1分数
数据集A LoR 1305 66.42 66.26 418 63.63 63.11 400 68.27 67.77
KNN 1305 62.34 61.92 418 62.80 62.36 400 63.36 62.66
SVM 1305 70.58 69.51 418 69.54 68.34 400 74.05 73.47
DT 1305 57.10 57.39 418 42.85 43.11 400 56.99 57.21
RF 1305 74.89 75.13 74.89 73.85 418 64.65 62.51 400 74.46 73.34
XGBoost 1305 80.79 80.43 418 70.59 80.46 80.10
LightGBM 1305 80.11 79.88 80.11 79.69

相比之下，基于RF的特征选择在降维后始终表现出更好的性能。通过在选择过程中明确利用类别标签信息，RF保留了对分类最相关的特征，即使它们对全局方差的贡献很小。如表5所示，所有ML方法在使用RF选择特征时与全特征设置相比，尽管特征维度减少了60%以上，但仍能保持相当的性能。

对于TrashNet（数据集C），其规模较小，类别较少，视觉区别更明显，PCA对某些分类器产生了适度的性能提升，因为全局方差与类别区分结构更为一致。然而，即使在这种有利的情况下，基于RF的特征选择也始终优于PCA，实现了更高的准确率和F1分数。这些结果表明，对于基于异构手工描述符构建的传统ML流程，监督特征选择提供了比无监督方差方法更可靠和有效的降维机制。

4.3.2. 深度学习模型的性能
为了确定是否应在深度学习和混合流程中应用传统分割，我们进行了初步实验，比较了使用GrabCut分割的图像和完整（未分割）图像。在TrashNet数据集上的实验表明，深度学习模型在使用完整图像训练时表现更好。具体来说，使用定制的ResNet50主干网络，使用完整图像训练的准确率为97.63%，而应用基于GrabCut的分割后准确率降至96.05%。这种性能差异表明，对于卷积神经网络来说，明确的前景分割并不一定有益，因为它们可以从原始图像中隐式学习空间注意力和层次化的特征表示。因此，本研究中的所有后续深度学习实验都采用了完整图像。

表6、表7、表8展示了深度学习模型在三个数据集上的分类结果。我们分析了每个数据集的性能，然后进行了总体观察。

表6. 深度学习方法在数据集A上的分类结果（%）。
模型 准确率 精确度 召回率 F1分数
ResNet50 94.23 94.22 94.22
ResNet101 97.07 97.07 97.05
定制ResNet50 97.37 97.44 97.27 97.33
EfficientNetV2 96.61 96.62 96.61
MobileNetV3 93.79 93.87 93.87 93.81
DenseNet 96.49 96.51 96.49 96.48

表7. 深度学习方法在数据集B上的分类结果（%）。
模型 准确率 精确度 召回率 F1分数
ResNet50 95.15 95.13 95.10
ResNet101 97.59 97.59 97.59
定制ResNet50 99.74 99.80 99.74 99.73
EfficientNetV2 97.56 97.58 97.56 97.56
MobileNetV3 95.67 95.67 95.64 95.64
DenseNet 98.07 98.19 98.07 98.07

表8. 深度学习方法在数据集C上的分类结果（%）。
模型 准确率 精确度 召回率 F1分数
ResNet50 87.45 87.80 87.45 87.48
ResNet101 97.59 97.61 97.59 97.59
定制ResNet50 99.74 99.74 99.73
EfficientNetV2 97.56 97.56 97.56 97.56
DenseNet 98.07 98.19 98.07 98.07

表6显示，深度学习模型在数据集A上的分类结果。数据集A中的图像在背景、光照和视角方面表现出高度变异性，目标对象在帧中的比例各不相同。这种多样性引入了背景噪声并增加了类别重叠。因此，DL模型取得了高但不饱和的性能：ResNet50（94.23%）、EfficientNetV2S（96.61%）、ResNet101（97.07%）和定制ResNet50（97.37%）。定制版本获得了最佳准确率，略优于ResNet101（+0.30%）和EfficientNetV2S（+0.76%）。与标准ResNet50相比，它提高了3.14%，表明简化的头部（GlobalAveragePooling2D + Dense）有效地抑制了无关的背景特征，并与数据集的类别分布对齐。相比之下，MobileNetV3的性能较低（93.79%），反映了在高度多样化的采集条件下轻量级架构的局限性。最佳ML模型（XGBoost，80.79%）落后了16.58%，突显了在手工特征下的局限性。

表7显示，数据集B中的图像更加以对象为中心，背景相对均匀，采集条件稳定。这减少了类内方差，使得迁移学习能够更有效地利用ImageNet特征。因此，DL模型达到了非常高的性能：ResNet50（95.15%）、ResNet101（97.59%）、EfficientNetV2S（97.56%）和DenseNet（95.67%）。定制的ResNet50的准确率达到99.74%，F1分数达到99.73%，优于DenseNet121（+1.67%）和EfficientNetV2S（+2.18%）。这表明，针对任务的相关性和类别可分性在降低高维手工特征表示时非常重要。

表8显示，对于基于异构手工描述符构建的传统ML流程，监督特征选择提供了比无监督方差方法更可靠和有效的降维机制。

4.3.3. 使用深度特征的传统机器学习方法（混合方法）的性能
由于定制的ResNet50被证明是最有效的深度学习模型，因此它被选为最终混合方法的特征提取器。该框架表现得异常出色，在所有三个数据集中都取得了最高的在分层5折交叉验证（均值±标准差）下，ML方法在TrashNet数据集上的性能表现。
| 方法 | 准确率 | 精度 | 召回率 | F1分数 | 端到端 |
|-------------|----------|-----------|----------|---------|
| Customized ResNet50 | 98.06 ± 0.77 | 97.93 ± 0.44 | 97.84 ± 1.13 | 97.85 ± 0.69 |
| Hybrid LoR | 99.72 ± 0.20 | 99.68 ± 0.32 | 99.76 ± 0.18 | 99.72 ± 0.25 |
| KNN | 96.52 ± 0.89 | 96.47 ± 0.99 | 96.20 ± 0.77 | 96.23 ± 0.78 |
| SVM | 99.60 ± 0.25 | 99.58 ± 0.32 | 99.67 ± 0.20 | 99.62 ± 0.26 |
| DT | 92.28 ± 1.66 | 90.75 ± 2.62 | 90.76 ± 2.30 | 90.71 ± 2.46 |
| RF | 98.58 ± 0.46 | 98.86 ± 0.34 | 97.55 ± 0.87 | 98.14 ± 0.64 |
| XGBoost | 98.97 ± 0.49 | 99.05 ± 0.60 | 98.64 ± 0.69 | 98.84 ± 0.64 |
| LightGBM | 99.17 ± 0.49 | 99.20 ± 0.58 | 98.83 ± 0.72 | 99.01 ± 0.65 |

对于数据集A（表9），LoR和SVM取得了最高的结果，准确率、精度、召回率和F1分数均达到99.87%。LightGBM的表现也相当出色，为99.65%。其他分类器的得分稍低（介于97%到99.5%之间）。值得注意的是，与这个数据集上最好的深度学习模型（使用定制的ResNet50时为97.37%）相比，混合方法提高了大约2.5%，这突显了将基于深度学习的特征提取与ML分类器结合的有效性。

对于数据集B（表10），混合方法的表现近乎完美。LoR再次优于所有其他方法，在所有指标上均达到了99.97–99.99%的成绩。RF、SVM和LightGBM紧随其后，得分在99.8%以上。尽管DT和KNN的得分相对较低（介于98%到99%之间），但它们仍然优于使用手工特征训练的模型。与深度学习基线（使用定制的ResNet50时为99.74%）相比，混合方法进一步优化了分类结果，几乎实现了无错误。

由于数据集C（TrashNet）的规模相对较小且样本数量有限，它更容易受到特定训练-测试分割方式的影响，因此与数据集A和数据集B相比，我们采用了分层5折交叉验证（5-CV）来进行评估，这种方法更适合小规模分类问题。如表11所示，TrashNet数据集的分层5折交叉验证结果显示大多数混合分类器的性能都稳定且强劲。LoR的平均准确率最高（99.72 ± 0.20），其次是SVM和LightGBM，它们也在各层间的方差较小。基于树的集成方法（包括RF、XGBoost和LightGBM）的表现具有竞争力，准确率在98.6%到99.2%之间，而KNN和DT的表现相对较低且方差较大。

与端到端的深度学习基线（98.06 ± 0.77）相比，混合模型在交叉验证下的平均准确率更高且方差更小。总体而言，各层间较低的可变性表明在TrashNet上观察到的近乎完美的性能并不是由于特定的数据分割造成的，而是反映了所提出的混合框架的稳定性和可靠性。

混合DL-ML方法的优越性能在图5中得到了直观的总结。首先，我们定制的ResNet50作为一个强大的特征提取器，生成的表示具有高度区分性，远超手工制作的特征。在所有三个数据集中都显示出经典ML方法与基于深度学习的两种范式之间的显著性能差距。

其次，结果表明混合框架相对于端到端方法具有持续的优势。通过将特征学习（DL）与分类（ML）分开，混合方法允许选择最适合特征空间的经典分类器。我们的发现表明，提取的深度特征几乎是线性可分的，这解释了为什么像LoR和SVM这样的简单分类器能够始终获得最佳结果，通常超过DL模型的密集层的性能。

最后，微调过的主干网络与匹配良好的ML分类器之间的协同作用带来了先进的性能。混合策略一致地利用了两种范式的互补优势，从而在不同的数据分布下获得了更优秀和更稳定的结果。

4.4 数据集完整性分析及修正
在初步分析过程中，我们发现Household Garbage数据集中有大量标签错误的图像。为了提高后续评估的可靠性，进行了手动检查和修正，共识别并重新标记了43张图像。图6展示了一个标签错误的示例。

为了确保标签的一致性，我们对整个数据集进行了手动筛查，以检测潜在的标签不一致性。只有43张图像与其原始标签（衣物）存在明显的矛盾，而其余样本在视觉上与其分配的类别一致。这三张图像由三名注释者根据明确的视觉标准独立重新标注，包括鞋底、鞋带和鞋形的存在，以及是否具有与服装相关的特征。所有注释者一致地重新分配了相同的标签（鞋子），实现了100%的一致性率。

为了评估数据质量问题的影响，我们对ResNet50架构进行了重点评估，比较了深度学习模型和混合方法在原始和修正后的Household Garbage数据集上的表现。表12总结了这些范式对标签噪声的响应差异。

表12. ResNet50模型在原始和修正后的Household Garbage数据集上的性能比较（%）
| 模型 | 数据集 | 准确率 | 精度 | 召回率 | F1分数 |
|-------------|----------|-----------|----------|---------|
| Customized Original| 99.74 | 99.74 | 99.74 | 99.74 |
| ResNet50 Customized| 99.16 | 98.85 | 99.08 | 98.96 |
| ResNet50 Customized| 99.97 | 99.98 | 99.99 | 99.99 |
| ResNet50 + LoR | Customized Corrected| 100 | 100 | 100 | 100 |
| ResNet50 + SVM | Original | 99.74 | 99.16 | 99.16 |

在原始数据集上，我们的混合框架ResNet50结合LoR实现了99.97%的准确率，超过了[6]报告的99.87%，树立了新的最佳水平。这一结果强调了即使在标签错误的数据上进行训练时，混合策略的稳健性。

标签修正后，两种方法之间的性能差距更加明显。混合方法进一步改善，ResNet50和SVM变体的准确率达到了100%。相比之下，深度学习模型的基线准确率从原始数据集的99.74%下降到修正后的99.16%，表明它可能过拟合了标签噪声。

综合来看，这些发现证实了混合方法的优越稳健性，其在修正数据集上的100%准确率是最可靠的基准。

4.5 特征选择对深度特征的影响
在混合方法中，我们使用从定制的ResNet50主干网络通过全局平均池化提取的2048维特征向量。尽管这显著提高了分类性能，但特征集仍然过大，可能导致冗余和较高的计算成本。因此，我们应用了特征选择来减少输入特征的数量，同时保持甚至提高模型的准确率。

**数据集A - 垃圾分类**
作为第一步，我们从2048个特征中选择了前100个，因为这代表了巨大的维度减少（95%），同时仍然足够保留最有信息量的信号，并为进一步比较提供合理的基准。观察到使用100个特征时性能强劲后，我们逐渐减少了选定的特征数量（90、80、70、60和50个），以确定最佳阈值，而不是从一开始就进行过度削减。

表13中的结果清楚地显示了特征选择对模型性能的强烈影响。当特征数量从100减少到50个时，大多数分类器保持了非常高的准确率，一些甚至仅使用一小部分特征就实现了接近完美或完美的分数。LightGBM模型仅使用前60个特征就实现了最高的准确率99.44%，紧随其后的是XGBoost和RF，在70–90个特征范围内实现了99.39%的准确率。有趣的是，在100个特征时性能略有下降，表明最具区分性的信息集中在一个紧凑的特征子集中，而增加更多特征可能会引入冗余或噪声。SVM和LoR的表现也非常出色，实现了完美准确率，但需要稍微更大的特征子集（80–100个特征），而KNN和DT的表现较弱，准确率在96%到98%之间。总体而言，这些发现证实了所提出的特征选择流程能够实现大约96–97%的巨大维度减少（从2048减少到最少60–100个特征），同时保持或提高了分类准确率，从而确保了混合流程的稳健性、效率和可部署性。

**数据集B - 家庭垃圾**
表14中的结果复制并扩展了从垃圾分类数据集中获得的发现，证实了所提出的特征选择流程的稳健性和一致性。最佳性能集中在前100个特征中：SVM仅使用前90个特征就实现了99.87%的最高准确率，RF同样使用90–100个特征也达到了99.84%。提升方法（XGBoost和LightGBM）表现出显著的稳定性，即使特征集减少到50–70个特征时，也能保持高准确率（99.7–99.8%），表明它们对维度减少的鲁棒性。LoR在更大的子集（80–100个特征）上也能取得有竞争力的分数（99.7–99.8%），而KNN和DT对减少更为敏感，准确率下降到97%–98%的范围。总体而言，这些结果表明在这个复杂数据集上大幅度减少维度（超过95%，从2048减少到90个特征）是可行的，同时仍然实现了接近最佳的性能；这强烈支持了我们提出的特征选择流程的通用性和效率。相邻子集大小（50–100）之间的性能波动较小，表明存在一个接近最优的特征集范围，而不是单一的尖锐最优值，这意味着实践者可以选择稍大的子集（例如80–100）以增加稳健性，同时最小化复杂性。

**数据集C - TrashNet**
最后，为了验证我们方法的通用性，我们在 TrashNet数据集上重复了实验，并对特征子集进行了细致的分析，范围从100个减少到50个。表15中的结果清楚地显示了特征选择对模型性能的强烈影响。当特征数量从100减少到50个时，大多数分类器保持了非常高的准确率，一些甚至仅使用少量特征就实现了完美分数。LightGBM模型仅使用前60个特征就实现了最高的准确率99.44%，紧随其后的是XGBoost和RF，在70–90个特征范围内实现了99.39%的准确率。有趣的是，在100个特征时性能略有下降，表明最具区分性的信息集中在一个紧凑的特征子集中，而增加更多特征可能会引入冗余或噪声。SVM和LoR的表现也非常好，实现了完美准确率，但需要稍大的子集（80–100个特征），而KNN和DT的表现较弱，准确率在96%到98%之间。总体而言，这些发现证实了所提出的特征选择流程能够实现大约96–97%的巨大维度减少（从2048减少到最少60–100个特征），同时保持或提高了分类准确率，从而确保了混合流程的稳健性、效率和可部署性。特征选择之后，特征空间变得更加紧凑和有序，类别之间的分离更加清晰，类别间的重叠减少，类的聚类也更加紧密。这种改进可以归因于冗余和区分能力较弱的特征维度的抑制，这增强了嵌入空间中的全局线性可分性。这种结构与线性分类器的假设非常吻合，有助于解释为什么SVM和逻辑回归在选定的深度特征表示上始终性能优于基于树的方法。

下载：下载高分辨率图像（1MB）
下载：下载全尺寸图像
图7. 深度特征的t-SNE可视化：特征选择之前的完整表示（上排）与表现最佳的线性分类器所使用的选定子集（下排）。样本按类别标签着色。

4.6. 计算时间分析
除了比较从手工特征到深度学习模型以及结合手工特征和深度特征的各种方法的分类性能外，我们还比较了这些方法在计算时间方面的差异。本节的重点在于训练时间、特征提取成本和每个样本的推理延迟，这些指标揭示了部署过程中的实际权衡。为了保持分析的简洁性和代表性，我们没有报告所有可能的方法；相反，我们（i）使用自定义的ResNet50模型作为代表性的DL模型，以及（ii）仅报告在之前的混合评估中识别出的表现最佳的ML分类器的混合结果。这种有选择性的呈现是有意的，它提供了一个有意义的比较，而不会包含多余的细节。

需要注意的是，在混合管道中，特征提取是在CNN训练之后进行的。这意味着CNN的训练成本是端到端和混合管道的先决条件。不同之处在于推理的实现方式：DL模型完全依赖CNN进行每个预测，而在混合方法中，特征提取是在训练数据集上一次性完成的，而在推理过程中每个新样本仍然需要进行基于CNN的特征提取，但随后的分类则委托给轻量级的ML模型。

关于测量的说明：特征提取延迟是通过在推理模式下对ResNet50主干网络进行单次前向传递来测量的，并在具有相同批量大小和数据管道的所有数据集上平均。这确保了延迟值可以在不同数据集之间以及端到端和混合管道之间直接进行比较。

数据集A - 垃圾分类
作为起点，我们分析了最大数据集上的计算时间。表16显示，自定义的ResNet50训练所需时间为7064.41秒，每个样本的推理延迟为12.67毫秒。在混合管道中，CNN训练后对数据集进行了一次性特征提取，耗时140.62秒，而SVM的训练时间为8.09秒，LoR的训练时间为122.12秒，总训练时间分别为7213.12秒和7327.15秒。在推理时，每个新样本仍然需要基于CNN的特征提取（约9.34毫秒），然后进行分类，导致总延迟分别为10.11毫秒（SVM）和9.36毫秒，比端到端的基线（12.67毫秒）快了几毫秒。

4.6. 计算时间分析
在比较各种方法（从手工特征到深度学习模型以及结合手工特征和深度特征的方法）的分类性能之外，我们还比较了这些方法在计算时间方面的差异。本节的重点在于训练持续时间、特征提取成本和每个样本的推理延迟，因为这些指标揭示了部署过程中涉及的实际权衡。为了保持分析的简洁性和代表性，我们没有报告所有可能的方法；相反，我们（i）使用自定义的ResNet50模型作为代表性的DL模型，以及（ii）仅报告在之前的混合评估中识别出的表现最佳的ML分类器的混合结果。这种选择性的呈现是有意的，它提供了一个有意义的比较，而不会包含多余的细节。

需要注意的是，在混合管道中，特征提取是在CNN训练之后进行的。这意味着CNN的训练成本是端到端和混合管道的先决条件。不同之处在于推理的实现方式：DL模型在每次预测时完全依赖CNN，而在混合方法中，特征提取是在训练数据集上一次性完成的，而在推理过程中每个新样本仍然需要进行基于CNN的特征提取，但随后的分类则委托给轻量级的ML模型。

数据集B - 家庭垃圾
表17显示，自定义的ResNet50训练所需时间为5243.63秒，每个样本的推理延迟为6.32毫秒。在混合管道中，CNN训练后对数据集进行了一次性特征提取，耗时76.55秒，而SVM的训练时间为8.09秒，LoR的训练时间为89.35秒，总训练时间分别为5325.12秒和5409.53秒。

数据集C - 垃圾网（TrashNet）
表18显示，自定义的ResNet50训练所需时间为1373.07秒，每个样本的推理延迟为9.97毫秒。在混合管道中，CNN训练后对训练数据集进行了一次性特征提取（18.14秒），在推理时每个样本仍然需要进行基于CNN的特征提取（约9.07毫秒），然后由轻量级模型进行分类。这种设计将分类器开销降低到0.21毫秒（SVM）和0.02毫秒（LoR），使得总延迟分别为9.28毫秒和9.09毫秒——与端到端的基线相比有所减少。总体而言，这些差异仅为几毫秒，但在特征在多个轻量级分类器之间重用的情况下，分类器的开销仍然很有吸引力。

在三个数据集中，可以观察到几个一致的模式：
- **训练成本**：自定义的ResNet50模型大约需要1.4千到7.1千秒的训练时间，而混合分类器（SVM或LoR）的额外训练时间从几秒到几分钟不等。
- **特征提取**：混合管道引入了基于CNN的特征提取阶段，这主导了推理成本，在所有数据集中平均每个样本大约为6-10毫秒。
- **推理延迟**：特征提取之后，混合ML分类器的操作延迟在几毫秒之内，始终比DL模型快；每个样本的净延迟差异通常只有几毫秒。

总体而言，端到端管道中的推理要求CNN完全处理每个输入并直接输出预测结果，因此延迟与深度模型相关。相比之下，混合管道将特征提取（CNN）与分类（轻量级ML）分开，将大部分成本转移到了CNN阶段。尽管绝对差异很小（几毫秒），但在高吞吐量或边缘部署中，尤其是在特征被重用或多个分类器共享相同特征的情况下，这些差异可能是重要的。

这些结果共同表明，混合设计提供了一种实用的部署策略：当特征提取可以离线进行或跨批次分摊时，轻量级分类器可以提供几乎即时的预测，使得这种方法非常适合实时或资源受限的环境（例如，边缘设备）。同时，端到端设计提供了统一的管道优势，但代价是每个样本的推理延迟更高。尽管绝对差异可能只有几毫秒，但在需要快速或重复推理的场景中，这种优势仍然具有重要意义。

4.7. 与以往研究的比较
此外，我们还进行了与先前工作的比较分析，以突出我们提出方法的优势。如图8所示，混合模型在三个数据集上始终优于现有的基准测试。

在大型垃圾分类数据集上，我们最佳的混合配置（自定义的ResNet50 + LoR/SVM）取得了99.87%的新最佳精度，明显超过了Kunwar等人[18]使用EfficientNetV2S并进行了超参数优化后报告的96.41%。

在家庭垃圾数据集上也观察到了持续的改进。虽然Celik等人[6]报告的准确率为99.87%，但我们的混合框架的准确率达到了100.00%，进一步证实了其在具有不同分布和类别特征的数据集上的鲁棒性。我们的模型的泛化能力在垃圾网数据集上也得到了进一步验证。Celik等人[6]使用他们的方法报告了99.40%的准确率。相比之下，我们提出的混合模型在5折交叉验证下的平均准确率为99.72% ± 0.02%。同时，Li等人[8]提出了一个改进的ResNet50，采用了冗余加权特征融合和深度可分卷积，但他们的方法在垃圾网上的准确率仅为94.13%，显著低于Celik和我们的混合结果。

这些结果表明，我们的混合框架在不同规模和特征的数据集上始终提供了稳健和可靠的改进。

5. 讨论
结果证明了所提出的混合框架的有效性，同时强调了准确性和效率。通过将来自自定义ResNet50主干网络的深度特征与经典机器学习分类器相结合，混合方法在所有三个公共数据集上始终提高了性能。这种协同作用源于两个组件的互补优势：经过微调的ResNet50作为强大的特征提取器，而轻量级分类器如SVM和LoR在学习的特征空间中建立了紧凑和可靠的决策边界。值得注意的是，这些分类器对标签噪声的敏感性较低，如在校正后的家庭垃圾数据集上得到验证，其中混合模型保持了近乎完美的性能，而端到端的深度学习模型则出现了轻微的退化。这一结果突显了混合范式的稳健性以及数据集完整性对于可靠基准测试的重要性。

特征选择实验进一步表明，超过95%的特征是冗余的。保留或略微改进了准确性的50-100个特征的紧凑子集，与完整的2048维表示相比，减少了计算成本，而没有影响性能。虽然基于CNN的特征提取仍然是主要的推理成本（每张图像6-10毫秒），但随后的分类阶段只贡献了可以忽略不计的开销（大约每张图像0.002毫秒）。这种效率与几乎完美的准确率相结合，突显了混合框架在资源受限平台（如实时废物分类系统）上部署的潜力。

所提出的管道的卓越性能源于处理分类任务方式的根本性转变，超出了简单的架构调整。与依赖于经常受到过度参数化和标签噪声困扰的标准端到端范式不同，我们的方法将表示学习与决策制定分离。这种分离允许通过焦点损失优化的自定义ResNet50专注于捕获高度区分性和可转移的特征线索。随后删除了超过95%的冗余特征，正如我们的特征选择实验所显示的，这不仅仅减少了成本；它还将特征空间重塑为更加紧凑、全局有序的结构。正如t-SNE分析所示，这一过程增强了线性可分性，使轻量级分类器能够建立更加稳定的决策边界，这些边界对现实世界数据集中的标签不一致性具有更强的抵抗力。最终，该框架的有效性不仅仅来源于精确度的逐步提高，还来源于这种刻意设计的协同效应：一个抗噪声的主干网络、简洁的特征集和适合分类器的表示。这种组合为废物管理系统提供了一个更加可靠和可扩展的基准，其中数据完整性和计算效率与预测能力同样重要。

尽管这些结果很有希望，但仍存在一些限制。应用于家庭垃圾数据集的标签校正范围有限，更全面的审查将增强基准的可靠性。此外，本研究使用的数据集由干净、光照良好且隔离的对象组成，并不能完全反映现实世界中的废物流，其中物品可能会重叠、变形或在光线不足的情况下出现。最后，当前的管道仅专注于预裁剪图像的分类，而实际应用需要与对象检测和分割模块集成。解决这些问题代表了未来研究的一个有前途的方向，旨在增强所提出方法的鲁棒性和适用性。

6. 结论
本研究通过系统地比较三种范式（经典机器学习、深度学习和混合框架）来研究自动废物分类。结果表明，利用自定义的ResNet50作为特征提取器的混合方法在所有数据集上都实现了最高的性能，在垃圾分类数据集上的准确率为99.87%，在垃圾网上为99.72%，在校正后的家庭垃圾数据集上达到了完美的100%。除了准确性之外，本研究还强调了数据完整性和计算效率的重要性。我们的分析表明，可以在不高的计算成本下获得顶级性能，因为特征选择实现了超过95%的维度 reduction，同时保持了准确性，从而显著加快了训练和推理速度。这种准确性、对标签噪声的鲁棒性和效率的结合凸显了所提出框架在现实世界部署中的实际潜力。尽管这些结果很有希望，但本研究仅关注数据集内的训练和评估，其中训练和测试样本来自相同的数据分布。因此，尚未明确解决在不同获取条件、背景特征和类别分布的数据集之间的潜在领域转换问题。跨数据集的泛化（例如，在一个数据集上训练，在另一个数据集上进行测试）仍然是一个挑战性问题，可能会导致由于领域差异而导致的性能下降。因此，未来的工作将研究跨数据集评估和领域适应策略，以提高模型在领域转换下的鲁棒性。其他研究方向包括引入可解释的人工智能技术来增强模型可解释性，探索深度特征与手工特征之间的融合，以及将该框架扩展到废物分类之外的其他应用领域。

**CRediT作者贡献声明：**
Ngoc-Bao-Quang Nguyen：撰写 – 修订与编辑，撰写 – 初始稿件，可视化，验证，方法论，研究，形式分析，数据管理，概念化。
Tuan-Minh Do：撰写 – 修订与编辑，撰写 – 初始稿件，可视化，验证，方法论，研究，形式分析，数据管理，概念化。
Cong-Tam Phan：撰写 – 修订与编辑，撰写 – 初始稿件，可视化，验证，方法论，形式分析，数据管理，概念化。
Thi-Thu-Hong Phan：撰写 – 修订与编辑，撰写 – 初始稿件，验证，项目监督，方法论，形式分析，概念化。

**关于写作过程中生成式人工智能和人工智能辅助技术的声明：**
在准备本手稿的过程中，作者使用了ChatGPT、Gemini和Grammarly等人工智能辅助工具来改进语法、润色表达并提升整体的清晰度。使用这些工具后，所有作者都仔细审查并修改了文本，以确保其准确性和连贯性。作者对本文的内容负全部责任。