混合多小波变换、VGG16和ResNet50特征，以及基于Light Gradient Boosting机器的多类肺部疾病诊断方法（利用胸部X光片）

《Franklin Open》：Hybrid Multi-Wavelet Transform, VGG16 and ResNet50 Features, and Classification Using Light Gradient Boosting Machine for Multi-Class Lung Disease Diagnosis Using Chest X-Rays

　　艾哈迈德·艾扎尔丁·阿卜杜拉|塞哈姆·艾哈迈德·哈希姆
伊拉克巴格达中间技术大学巴库巴技术学院机电技术系

**摘要**
人工智能在医学成像领域的影响力日益增强，支持更快、更可靠的诊断决策。胸部X光分析对于检测各种肺部疾病（如COVID-19、胸腔积液、肺纤维化、肺不透明、肺炎、结核病以及正常情况）仍然至关重要，尤其是在医疗资源有限的环境中。本研究提出了一个基于深度学习和机器学习相结合的强大自动化框架，用于肺部疾病的多类分类。预处理阶段通过中值滤波提高图像清晰度，随后将图像统一调整为256×256像素，并进行图像增强以改善模型的泛化能力。引入了一种新的特征提取策略，将二维离散小波变换（DMWT）与从VGG16和ResNet50中独立提取的特征相结合。2D-DMWT提供了具有区分性的多分辨率信息，而主成分分析（PCA）通过选择最有信息量的成分来减少冗余。深度特征提取利用卷积神经网络完成，生成了更稳健的混合表示，从而提高了分类的可靠性。最终分类器采用Light Gradient Boosting Machine（LightGBM），在七种疾病类别上的准确率达到98.18%，AUC为99.99%，维度降维率（Dim.R）为99.923%。该系统与标准放射成像工作流程完全兼容，可在依赖传统X光设备的临床环境中部署。本研究使用了总计39,693张胸部X光图像，形成了一个庞大且多样化的数据集，进一步增强了模型的稳定性和泛化能力。所提出的混合框架作为一种准确且计算效率高的工具，在肺部疾病的早期检测中展现出广阔潜力。

**1. 引言**
肺部疾病包括许多严重影响肺功能的呼吸系统疾病，导致严重的呼吸困难。下呼吸道感染（如肺炎和结核病）是老年人健康问题的另一个重要原因[1]。肺部疾病有多种形式，其原因各不相同，包括肺炎支原体感染、细菌性肺炎、病毒性肺炎以及细菌性和非细菌性感染。每种类型的肺部疾病都有相应的症状和风险因素，如虚弱、高龄、慢性疾病、营养不良和免疫力低下。COVID-19可以影响任何年龄段的人，但对吸烟者、酗酒者、近期接受过手术者或患有哮喘或其他病毒感染的人来说通常更为严重。还有数十种其他呼吸道病毒（例如流感）可能导致病毒性肺炎，占所有肺炎病例的30%。此外，患有病毒感染的人之后更容易发展成细菌性肺炎[2]。早期发现并管理肺部疾病显著提高了生存率。用于诊断病毒性或细菌性肺炎患者的医学成像技术正在快速发展。然而，在分析图像时存在诸多难点。为了正确诊断肺部疾病，医疗专业人员必须能够准确解读胸部影像。目前，许多医院和诊所正在采用计算机辅助诊断（CAD）技术，以提高诊断的准确性和可靠性。CAD技术的总体目标是为医疗专业人员提供更高的诊断准确性和效率，并帮助处理多种类型的肺部疾病。放射科医生或临床医生在查看胸部X光片时通常需要花费大量时间和精力系统地评估图像的各个部分，以准确判断患者的肺部状况。这要求能够准确识别X光片中每个区域的异常情况，包括空洞、实变、浸润、肋膈角变钝以及散在结节等放射学特征。这些特征的识别为放射科医生或临床医生提供了更直观、更快捷的诊断方法。持续研究和开发这些关键组件将进一步推动胸部成像技术在诊断中的应用和发展[3]。

从技术角度来看，深度学习（DL）正在对胸部X光（CXR）的医学分析带来革命性的变化[4]。深度学习与机器学习的结合使得医生能够更高效地整合这些技术到日常工作中，通过对大量复杂X光数据的分析来辅助疾病识别和诊断，从而为医学实践带来全新视角。深度学习的诸多好处之一是显著推动了胸部放射学的发展，这是成像领域发展最快的领域之一，基于深度学习的计算方法取得了前所未有的性能突破[5]。DL和ML系统经过大规模图像数据库训练，能够识别传统处理技术可能遗漏的详细复杂模式。因此，基于DL和ML的系统提高了CXR图像解释的准确性、灵敏度和可靠性，并提供了其他肺部疾病概率的更准确估计[6]。当应用于CXR分析时，DL显著提升了临床医生识别、诊断和管理肺部疾病的能力，从而显著改善了患者的治疗结果和临床管理[7,8]。

医学影像研究中的一个主要问题是类别不平衡的问题；然而，通过应用合成少数样本过采样技术（SMOTE）创建了比例均衡的数据集，解决了这一问题。本项目的主要目标是基于混合深度表示工程化特征创建一个肺部疾病的多类分类框架，以帮助进行维度降维和通过主成分分析（PCA）更好地表征数据。混合深度特征来自经过微调的预训练卷积模型（CNNs）VGG16和ResNet50，随后通过PCA对结果向量进行降采样；工程化特征通过两种方法生成——一种基于数据集的统计分析，另一种采用二维离散小波变换技术（2D-DMWT）；这使我们能够捕捉数据集中的最显著特征。最终预测采用Light Gradient Boosting Machine（LightGBM）分类器，对混合特征和工程化特征进行组合处理。在多类分类方面，该混合模型能够有效区分七种类别，包括六种肺部疾病（COVID-19、胸腔积液、肺纤维化、肺不透明、肺炎和结核病）以及正常类别。

**研究内容**
本研究分为七个主要部分：第2节回顾相关工作，第3节讨论方法论，包括预处理、数据集分割、小波变换、预训练模型深度特征提取、PCA（主成分分析）和维度降维，最后是LightGBM（梯度提升机）的实现。第4节介绍评估指标，第5节呈现实验结果和讨论，第6节对现有技术进行比较，第7节总结研究内容。

**2. 文献综述**
近年来，使用深度学习算法检测X光片（CXR）上的病理变化变得非常流行。许多人采用这些工具是因为它们能够识别传统方法可能忽略的复杂视觉模式和微小异常。多项研究显示，AI在提供准确结果和高效检测方面对临床诊断有积极影响[9]。根据参考文献[10]，提出了一种多尺度CNN架构，用于分类六种类型的肺部疾病，即病毒性肺炎、细菌性肺炎、肺纤维化、肺功能障碍和正常肺部。该模型使用包含5700张胸部X光片（CXR）的数据集进行训练和验证。为了评估不同VGG架构的性能，分别在相似条件下测试了VGG16和VGG19，结果显示VGG19的准确率为95.61%，而VGG16为95.79%。虽然[11]未采用任何提高分类准确率或降低架构复杂性的特征提取技术，但该研究仍评估了CNN与VGG16、VGG19和Inception-v3在六种肺部疾病（病毒性肺炎、肺纤维化、正常肺部、细菌性肺炎和COVID-19）上的分类准确性。2D CNN在准确性方面表现优于其他模型，准确率达到96.75%。然而，这种模型计算成本较高，预处理耗时较长。此外，2D CNN难以高效提取特征，难以减少输入数据的维度以简化模型使用。参考文献[12]描述了一种计算效率高的深度学习框架，使用ResNet50模型提取深度特征，并将其分类为五种不同类型的肺部疾病（结核病、细菌性肺炎、健康肺部和病毒性肺炎）。该模型在2,186张胸部X光片的数据集上训练，准确率为91.60%。但由于图像分辨率低和训练数据集样本量小，模型的结果生成能力受到限制。

参考文献[13]研究了多种深度学习架构，重点关注单模型架构（如ResNet152V2）和包含两个或更多深度学习模型的混合架构，用于从CXR和CT图像中检测肺炎、COVID-19、肺癌和正常情况。混合VGG19/CNN模型在本次研究中实现了最高的准确率（98.05%）。该研究的主要局限性在于架构的复杂性。参考文献[14]为MobileNetV2模型的进一步发展奠定了基础，用于分类CXR图像上的COVID-19病例、病毒性肺炎和正常肺部。两个模型都在包含21,165张CXR图像的大型数据集上进行训练/测试，原始MobileNetV2的准确率为90.47%，改进后的MobileNetV2准确率为95.80%。尽管这种规模的数据集足以用于训练/测试，但所有模型均未包含必要的预处理和特征提取步骤，这些步骤对于提高CXR图像的质量和表示效果至关重要。参考文献[15]提出了一种利用深度学习技术分类由感染引起的肺部疾病的框架，包括肺炎和COVID-19等重大疾病，通过胸部X光（CXR）扫描实现。该研究使用微调过的CNN对患者感染情况进行分类，并与八种预训练架构（AlexNet、GoogLeNet、InceptionV3、MobileNetV2、VGG16、ResNet50、DenseNet121和EfficientNetB7）进行了基准测试。VGG16达到了最高的准确率（92.95%），因此作者选择它作为LungNet22模型的架构。尽管使用了大规模数据集，但由于模型结构的复杂性以及缺乏有效的特征提取过程，仍需大量计算资源。参考文献[16]提出了改进版的VGG16架构，用于分类三种疾病（COVID-19、肺炎和正常情况），准确率为91.69%。然而，由于VGG16的建模复杂性和数据表示方法的不足，未来在该领域的性能提升仍受到限制。近期还有多项研究引入了不同的AI系统用于医学状况的诊断。在他们的研究中，Hoque等人[17]阐述了5G和物联网（IoT）技术如何提升人工智能（AI）诊断模型的性能，使其适用于开发实时诊断工具的目标。Ali等人[18]的研究描述了一个定制的神经网络，用于检测多种类型的肺部疾病，这与我们神经网络模型的总体设计类似。然而，我们的模型结合使用了VGG16、ResNet50和主成分分析（PCA）来降低维度，并展示了比他们模型更高的准确率（98.18%）和计算效率。Naim等人[19]提出了Smart-LungNet模型；不过，我们从VGG16和ResNet50中提取特征的混合方法在准确性和效率之间提供了更好的平衡，更适合临床应用。Rahman等人[20]使用机器学习算法（如逻辑回归）来预测肝硬化的发生，而我们的模型则结合了卷积神经网络（CNN）和LightGBM来处理复杂任务，如肺部疾病的分类。Kim等人[21]专注于实时分类多种呼吸道疾病，尽管他们的模型结构更复杂且计算要求更高，但我们的模型仍能达到相似的准确率（98.18%）。最后，Das等人[22]使用LGBM和SVM算法来分类乳腺癌；而我们的模型使用CNN提取特征并结合PCA，从而实现了比Das模型更高的准确率以及更低的复杂性。

通过整合上述元素，本文提出了一种新颖的胸部X光图像预处理方法，以改进以往研究的成果。作者提出了一种多分辨率预处理架构，可以去除图像中的噪声、模糊和不同的光照条件。此外，这种方法不仅提高了分类质量，还实现了快速高效的分类，同时降低了处理和存储需求。下表1总结了我们的模型与该领域最近研究的比较。

表1. 最近模型和方法的比较。

| 研究 | 方法 | 数据集 | 关键发现 | 优点/缺点 |
|------|------|---------|---------|
| Hoque等人（2024） | 5G和IoT在医疗保健中的应用 | 专注于基于IoT的智能医疗和AI诊断集成 | 强调了5G和IoT的实时诊断潜力 |
| Ali等人（2024） | 定制神经网络 | 胸部X光数据集（5700张图像） | 使用定制神经网络检测多类肺部疾病 | 我们的模型在准确率（98.18%）和效率上表现更优 |
| Naim等人（2025） | Smart-LungNet | 胸部X光数据集 | 基于深度学习的肺部疾病分类 | 我们的混合方法在准确性和效率之间提供了更好的平衡 |
| Rahman等人（2024） | 逻辑回归、朴素贝叶斯、KNN | 预测肝硬化 | 我们的模型使用深度学习方法结合CNN和LightGBM，性能更好 |
| Kim等人（2024） | 多类分类 | 呼吸道疾病数据集 | 实时多类分类 | 我们的模型结构更简单，计算需求更低，但准确率相同（98.18%） |
| Das等人（2022） | LGBM、SVM | 乳腺癌数据集 | 使用集成模型分类乳腺癌 | 我们的模型准确率更高，复杂性更低 |

本文介绍了一种结合多种技术的方法，用于从胸部X光图像中检测和描述六种类型的肺部疾病以及正常状态。该方法包括几个有序步骤：首先对图像进行预处理，然后使用二维离散小波变换（2D-DMWT）提取 engineered wavelet features，接着提取混合深度特征，再使用主成分分析（PCA）进行降维，最后使用LightGBM模型进行分类。为了应对医学图像中的一些挑战，如噪声、伪影和图像质量问题，采取了多种预处理措施，包括数据集标注、中值滤波、将图像尺寸调整至256×256像素、应用合成少数样本过采样技术（SMOTE）、通过旋转/翻转增强数据集，并将数据集分为训练集和测试集。

本文采用基于迁移学习的方法，利用预训练的VGG16和ResNet50模型从图像中提取深层特征。肺部疾病分类包括三个步骤：(a) 从两个预训练模型中提取深度特征向量；(b) 将这两个特征向量合并以创建增强特征集；(c) 使用LightGBM分类器对新特征集进行最终预测，从而提高了肺部疾病分类器的诊断能力。

3.1 算法
以下伪代码展示了所提模型中用于特征提取、PCA和分类的算法，具体内容见算法1。

算法1. 模型的伪代码：

```plaintext
# 步骤1：加载和预处理数据
1. 加载胸部X光图像数据集
2. 预处理图像：
a. 将图像尺寸调整为256×256（VGG16/ResNet50的标准输入尺寸）
b. 将像素值标准化（缩放到0到1的范围内）
c. 将数据集分为训练集和测试集（80/20的比例）

# 步骤2：使用VGG16提取特征
3. 加载预训练的VGG16模型（去除顶层）
4. 使用以下层提取VGG16的特征：
a. Block 4: Conv3_3（512个滤波器）
b. Block 5: Conv3_3（512个滤波器）
c. Block 5: 全局平均池化（GAP）层
5. 将最后一层的输出展平，形成每个图像的特征向量

# 步骤3：使用ResNet50提取特征
6. 加载预训练的ResNet50模型（去除顶层）
7. 使用以下层提取ResNet50的特征：
a. Block 4（512个滤波器）
b. Block 5（1024个滤波器）
c. Block 6（2048个滤波器）
d. 全局平均池化（GAP）层
8. 将GAP层的输出展平，形成每个图像的特征向量

# 步骤4：合并VGG16和ResNet50的特征
9. 将VGG16和ResNet50提取的特征合并成一个混合特征向量

# 步骤5：使用PCA进行降维
10. 对合并的特征向量进行PCA处理
11. 基于累积方差保留前50个主成分

# 步骤6：使用LightGBM进行分类
12. 使用50维PCA降维后的特征向量训练LightGBM模型
13. 在测试数据集上测试LightGBM模型
14. 使用准确性、精确度、召回率和F1分数等指标评估模型性能

# 步骤7：输出预测结果
15. 为输入图像生成预测结果（七个类别：COVID-19、积液、纤维化、肺密度异常、正常、肺炎、结核病）
16. 输出每个输入图像的预测类别
```

3.2 数据收集与标注
为包括DNN在内的机器学习（ML）分类任务准备数据是任何ML过程中最重要的活动之一。在本研究中，收集了39,693张胸部X光照片，进行了结构化处理并标注后分为训练集/验证集/测试集。数据集来源于Kaggle上的公开资源，特别是NIH胸部X光数据集和肺炎检测数据集（链接分别为：
- NIH Chest X-ray dataset: https://www.kaggle.com/datasets/nih-chest-xrays/data
- Pneumonia Detection dataset: https://www.kaggle.com/code/paultimothymooney/detecting-pneumonia-in-x-ray-images

这些数据集包含各种胸部X光片，使我们能够评估该框架在区分不同类型胸部感染方面的性能。本工作的一个主要挑战是构建一个足够大且具有代表性的数据集，以覆盖常见的肺部疾病类别，这对于监督式多类分类至关重要。该数据集提高了模型对未见过的胸部X光图像的泛化能力。

3.3 预处理
在预处理过程中，执行了几项重要的操作，以增强数据集并 preparatory imaging 数据以供后续分析使用。

3.3.1 图像尺寸调整
本研究的数据集包含了分辨率不同的胸部X光图像（分辨率范围从331像素×331像素到1024像素×1024像素）。为了使用卷积神经网络（CNN），我将所有图像的大小统一调整为256像素×256像素。

3.3.2 模糊处理
通过低通滤波器对图像进行模糊处理，这种平滑操作可以减少噪声并抑制图像的低级纹理。同时，还使用中值滤波器来减少不必要的变化。中值滤波器通过用特定区域（称为掩码或内核）内像素的中值替换每个像素的强度值，有效减少了噪声并防止强度波动的过度放大。这种技术应用于整个图像，既能减少噪声造成的失真，又能保留图像的重要特征。

3.3.3 数据平衡
深度学习（DL）和机器学习（ML）的性能受可用数据量的影响很大。平衡的数据集可以提高训练过程的稳定性并提高预测的准确性。我们通过使用SMOTE（合成少数样本过采样技术）来平衡数据集，为少数类别生成更多样本，从而使每个类别的样本数量相等。这样，我们可以创建一个平衡的训练分布，从而提高本研究的分类效果。

3.3.4 数据增强
使用的数据增强技术包括水平翻转、垂直翻转以及图像的360度旋转。这些技术增加了训练数据的规模和多样性，使深度学习模型能够从不同角度和条件下学习图像。这些技术对于减少过拟合风险和提升图像类型分类算法的性能至关重要，特别是对于视网膜图像和医疗成像应用。

3.4 离散小波变换（DMWT）
离散小波变换是常用的技术之一，它在降低多种医学成像模式的维度方面非常有效，同时与传统机器学习和深度学习模型兼容。该变换基于多分辨率分析原理，包含两个核心组件：尺度函数φ(t)和小波函数ψ(t)，分别对应低通和高通滤波器。离散小波变换在每个变换级别产生4个不同的子带（LL、LH、HL、HH）。

3.5 细节说明
- 图3展示了应用于胸部X光图像的DMWT矩阵的单级分解过程。
- 图4说明了低频和高频滤波过程。低频（LL）子带包含图像的主要信息；而高频（LH、HL、HH）子带分别包含图像的垂直、水平和対角细节。
- 二维图像的滤波过程可以用公式表示为：(I filtered(x, y) = Median{I(i, j) | (i, j) ∈ N(x, y)}。与传统的小波系统类似，这些多尺度函数共同构成了将所有不同分辨率组合成图像的基础，在压缩时提供了比单一尺度方法更加灵活和富有表现力的表示。(2)Φ(t)=2∑k=?∞∞Hk.Φ(2t?k)(3)Ψ(t)=2∑k=?∞∞Gk.Φ(2t?k)与传统的标量小波相比，GHM滤波器的背景系统具有更大的灵活性。GHM框架的设计特点允许实现正交构造、对称性等特性，这些特性都包含在其中（多尺度和多小波），并且都表现出高水平的平滑度[26]。GHM滤波器对这些多尺度和多小波函数使用的数学定义是[27]：(4)[Φ1(t)Φ2(t)]=2∑kHk[Φ1(2t?k)Φ2(2t?k)](5)[Ψ1(t)Ψ2(t)]=2∑kGk[Φ1(2t?k)Φ2(2t?k)]其中，膨胀方程（2）和小波方程（3）可以写为：(6)[Φ1(t)Φ2(t)]=H0Φ(2t)+H1Φ(2t?1)+H2Φ(2t?1)+H3Φ(2t?3)(7)[Ψ1(t)Ψ2(t)]=G0Φ(2t)+G1Φ(2t?1)+G2Φ(2t?1)+G3Φ(2t?3)GHM多小波系统的低通和高通滤波器组件分别由Hk和Gk矩阵表示。GHM变换核心滤波器组结构由所有四个（当n为0、1、2和3时）矩阵细化及其相关的小波滤波器组成，用于生成分解信息。H0=[35245?120?3102],H1=[352092012],(8)H2=[00920?3102],H3=[00?1200]G0=[?120?31021102310],G1=[920?12?91020],(9)G2=[920?31029102?310],G3=[?1200?11020]GHM滤波器比标量小波滤波器具有多个优势。其中一个最重要的优势是，由于GHM滤波器以矩阵格式表示，因此与标量小波滤波器相比提供了额外的自由度。伸缩函数和小波函数都有相同的支持区间，即伸缩函数为[0, 1]，小波函数为[0, 2]，并且具有相似的特性。此外，由于伸缩函数和小波函数在平移过程中保持正交性，并且在多个分辨率下表示时具有平滑性，因此它们的平移函数仍然保持正交性。GHM变换由变换矩阵T表示，它是构建离散多小波变换的基础。(10)T=[H0H1H2H300?G0G1G2G300?00H0H1H2H3?00G0G1G2G3????????]数据的分解过程包括将其分成四个主要部分，然后每个部分再分别分成四个部分（在第二层之后总共产生16个子带）。与DWT（离散小波变换）类似，DMWT（离散多小波变换）具有许多优点，包括正交性和精确重建、紧凑的支持集、更高阶的估计（消失矩）以及由于线性相位规律性而带来的更好性能，而这些在使用标量小波时是无法同时获得的；然而，多小波框架提供了更大的灵活性和更优越的性能，使得DMWT特别适用于高级信号和图像处理应用。DMWT的使用需要向量值信号，而不是大多数小波变换使用的标量信号。因此，在应用变换之前，DMWT包含了一个额外的步骤。在这个预处理步骤中，原始的标量图像被转换成一系列向量输入。这种转换产生的产物提高了DMWT的性能，因为这些序列为多通道分解提供了适当的基础。图4展示了DMWT的应用，其中原始的肺部图像被转换成用于分析肺部疾病所需的多分辨率表示方法。3.4.1. 空间分辨率降低的合理性我们展示了我们的消融研究结果，该结果证实了使用64×64 LL（低-低）平均子带从该子带（64×64）提取特征的合理性。1. 低频小波分解和多分辨率分析：2D离散多小波变换（2D-DMWT）后的LL平均子带包含了原始图像的主要低频近似信息，通常代表肺部组织的整体结构和主要模式。这个子带包含了所有基本的诊断特征，同时大大降低了计算复杂性。过去的研究表明，仅低频成分就可以包含医学图像中疾病诊断的重要区分特征，当与深度学习等先进技术结合用于特征提取时。2. 病理模式检测影响：根据我们的实验，我们发现LL子带仍然具有足够的区分特征来检测肺部疾病，包括纤维化、肺炎和小结节。这与包含39,693张胸部X光图像的大训练数据集一致，结合简化后的结果，为我们的实验中所有三种肺部疾病的分类提供了良好的准确性，表明低分辨率图像中仍有足够的细节来允许这些条件的分类。较低的分辨率图像使模型能够专注于图像的整体结构，这通常是确定疾病分类时更相关的部分，而不是任何对于区分这些条件价值较小的细节。3. 进一步验证这一分辨率选择，我们完成了比较使用不同分辨率（例如128×128、256×256）进行特征提取的分类性能的消融研究。结果表明，64×64 LL子带在性能和效率之间达到了一个折中点，因为它提供了高水平的分类准确性（98.18%），同时显著减少了所需计算时间。4. 消融研究的结果：消融研究还表明，使用更高分辨率的图像并不会在分类异常时带来更高的准确性。实际上，使用高分辨率图像时观察到了收益递减的情况，这证实了使用64×64像素大小的LL子带足以检测纤维化或结节等病理特征，而无需额外的复杂计算。3.5. 通过离散多小波变换（DMWT）进行特征提取首先将2D-DMWT应用于预处理的256×256图像，生成四个主要子带（LL、LH、HL、HH），每个子带的大小为128×128。然后这些带再次被分解成四个64×64的子带。如图5所示，有意义的信息集中在LL平均子带中；因此，只保留LL平均（64×64）子带，而其余子带被丢弃。下载：下载高分辨率图像（43KB）下载：下载全尺寸图像图5. DMWT分解过程应用于正常的胸部X光图像。3.6. 混合深度特征表示混合深度特征表示是指深度学习模型从原始输入自动学习的高级特征的融合。传统的特征工程方法涉及手动创建特征，而深度模型则自动从输入数据中提取层次化的特征表示，从而实现更好的分类和检测结果。迁移学习通过使用预训练的网络（如VGG16、DenseNet169、EfficientNet、ResNet50和MobileNetV3）作为特征提取器，进一步加强了这一过程。在这项研究中，使用两种预训练模型独立提取深度特征：VGG16和ResNet50。得到的特征图被连接起来形成更丰富的混合表示，并随后使用PCA进行最优维度降维和特征选择。3.6.1. 使用ResNet50进行迁移学习迁移学习是一种机器学习方法，它利用先前在大型数据集上训练的模型的知识来提高相关任务的性能，同时减少训练时间。ResNet50是一种广泛使用的架构，属于残差网络（ResNet）家族，由49个卷积层组成，后面跟着一个全连接层。该架构在其每个残差块中包含所谓的“快捷”或“跳跃”连接，允许梯度在整个深度网络训练过程中高效流动，最终实现更好的特征提取。ResNet50中的残差学习过程由[28]定义：(11)y=F(x,{W?})+x其中F(x,{W?})代表通过一系列具有可训练权重{Wi}的卷积层学习的变换，x表示通过快捷连接传递的原始输入。使用这个公式，由于通过反向传播保留了梯度流动，因此可以成功训练更深层次的网络。我们选择使用ResNet50进行肺部疾病分类的原因是，它具有稳定的架构（残差），有助于减少使用非常深的卷积神经网络（CNN）时出现的梯度消失问题。该模型提供了平衡的深度、强大的泛化能力和比轻量级网络（如MobileNet）和更重的架构（如ResNet101）更好的参数效率。它使用的跳跃连接保留了信息流——这对于噪声医疗图像特别有益——而全局平均池化允许灵活适应不同的输入大小。先前的研究已经证明了ResNet50作为使用ImageNet预训练权重进行肺部疾病分类的迁移学习骨干的有效性。参考图6，ResNet50架构从输入到输出依次经过零填充、卷积块、恒等块、池化层和全连接层。其残差（跳跃连接）结构有助于防止深度网络中的梯度消失。在我们的工作中，输入是应用2D-DMWT变换后获得的64×64×1灰度图像。下载：下载高分辨率图像（415KB）下载：下载全尺寸图像图6. ResNet50模型架构。在卷积操作之前，应用零填充以保持输入的空间维度。然后ResNet50架构通过五个连续的阶段进行：第1阶段包括一个卷积层（7×7内核，步长2，64个过滤器），接着是批量归一化、ReLU激活和最大池化。第2阶段包含一个卷积块和两个恒等块，第3阶段包含一个卷积块和三个恒等块。第4阶段扩展为一个卷积块和五个恒等块，第5阶段包括一个卷积块和两个恒等块。网络以7×7的平均池化结束，然后将其展开为1×1×2048的特征，接着连接到一个全连接层，该层的单元数等于目标类别的总数，因此最终输出是以每个类别的概率形式出现的。在本文中，使用经过微调的预训练ResNet50模型对七类肺部疾病进行分类非常有用：COVID-19、积液、纤维化、肺部密度增加、正常、肺炎和结核病。架构适应确保模型有效地捕获了2D-DMWT特征中嵌入的区分模式。在ResNet50的架构中，将进行一个7×7的卷积层，它包含64个过滤器，以及一个3×3大小、步长为2的最大池化层，以减少特征图的空间维度，同时保留图像的最重要特征。该架构分为五个（5个）不同的残差块分组阶段。每个阶段都结合了1×1卷积和3×3卷积，以适当地调整通道数量并捕获有用特征。Conv2包含3个残差块（64–64–256过滤器），Conv3有4个块（128–128–512），Conv4包含6个块（256–256–1024），Conv5包含3个块（512–512–2048）。在阶段之间，最大池化层进一步减少特征数量，从而提高计算效率。归一化层减少了激活输出的方差程度，而全局平均池化（GAP）层在特征到达最终分类阶段之前对通道响应进行池化。这意味着，在减少特征的同时，该架构保持了关键信息并增强了整个模型的鲁棒性。ResNet50的最终层旨在减少特征的维度，同时保留最佳特征以进行区分。GAP将每个特征图的输出压缩为一个值（1×1×2048）。这个向量被输入到两个全连接层中。第一层有2048个神经元。第二层有7个神经元，其中7代表类别的数量。最后，SoftMax给出分类概率（COVID-19、积液、纤维化、肺部密度增加、正常、肺炎、结核病）。3.6.2. 视觉几何组网络（VGGNets）VGG16，如Simonnyan和Zisserman [29]所描述，是一种流行的深度卷积神经网络（CNN）架构，以其直接、简单的设计、对所有卷积层统一使用3×3卷积核大小/尺寸的有效利用以及提取特征的能力而闻名。VGG16架构有16层：13个卷积层和全连接层，以及逐渐增加的64到512个过滤器（29%）。VGG16在每个卷积块之后使用2×2的最大池化层，以减小空间特征图的大小，并提高对平移不变性的经验验证，如图7所示。与其他许多CNN设计相比，VGG16架构具有许多优势：
1. 架构简单：在整个架构中均匀使用3×3卷积核，使得VGG16更容易设计、实现和解释。
2. 可靠的准确率基线：VGG16在大型图像分类基准测试集（如ImageNet）上表现出色。
3. 适用于迁移学习：可以将VGG16训练好的权重转移到其他形式的视觉识别任务中，从而在训练样本较少时也能获得良好的结果。

在这项研究中，我们使用未经顶部层处理且在ImageNet上预训练过的VGG16作为特征提取器。提取特征图后，将它们通过全局平均池化层进行处理，然后通过一个丢弃率为0.3的丢弃层来防止过拟合。这些隐藏单元的输出使用了ReLU激活函数，接着进行批量归一化以稳定训练过程。最后一层是一个包含7个神经元的SoftMax输出层，这些神经元代表了目标肺部疾病类别。模型使用Adam优化器进行训练（初始学习率为0.00005），并通过分类交叉熵来确保模型的多类分类能力。

3.7. 使用主成分分析（PCA）进行深度数据降维
PCA是一种广泛应用于图像处理和机器学习的降维技术，旨在捕捉高维数据中的主要变化源，同时丢弃冗余信息。在所提出的模型中，首先应用2D-DMWT进行一级分解以提取工程化特征，然后从两个预训练的网络VGG16和ResNet50中独立获取深度特征。这些特征表示被连接起来形成一个混合描述符，然后通过PCA进行压缩，以实现最佳的降维和有效的特征选择。PCA通过识别和保留特征之间的最强相关性来降低维度。它通过协方差矩阵C量化这些关系，使得原始数据能够转换到一个保留了最有意义方差的同时丢弃冗余信息的低维空间。

在这项工作中，x表示从应用于肺部图像的一级2D-DMWT中获得的特征向量。这些向量代表用于后续分析的输入特征。主成分是通过特征值和特征向量的计算得出的，这是通过特征分解方法实现的。这使得结果矩阵可以转换为具有最大幅度的主成分（即具有最高特征值的成分），从而得到最终的低维表示。研究者使用了单个VGG16模型的512个特征，加上单个ResNet50模型的2048个特征，总共得到2560个维度。这种组合是通过PCA过程实现的。通过评估从1到最大2560的各种可能维度，来确定数据集分类准确性最佳的指标。最终降维后的39,693×50个特征条目被输入到LightGBM分类器中。

3.7.1. PCA组件选择的解释
如图8所示，我们通过选择50个主要组件得分，在保持数据95%总方差的情况下降低了维度。这50个组件得分将与VGG16和ResNet50的特征得分结合，创建总共2560个混合特征，这些特征使用LightGBM模型进行分类，显示出98.18%的准确率。累积解释方差图显示，50个组件是在保留关键信息和降低维度之间的最佳折中方案，允许在增加计算负担的同时实现指定的准确率。

3.8. 使用Light梯度提升机（LightGBM）进行分类
Light梯度提升机（LightGBM）是一个快速高效的梯度提升框架，广泛用于分类任务，包括医学图像分析。LightGBM的性能由两种核心技术驱动：基于梯度的单侧采样（GOSS），它只选择产生高梯度的样本，从而提高模型学习效率；以及独特征捆绑（EFB），它通过组合互斥且稀疏分布的特征来降低维度。这两种技术结合在一起，使LightGBM能够快速准确地训练复杂模型。由于这些优势，LightGBM在许多不同的分类问题上非常受欢迎，并且在这些任务上表现非常好。其通用训练过程在算法2中进行了总结，而该方法的技术细节和数学基础分别在[32]和[33]中提供了。

最终提取的特征集被转发到分类阶段。所提出的系统有两种模式：训练和测试。数据集被分为两个子集，其中80%用于训练，剩余的20%用于测试。在训练过程中，输入图像依次通过预处理和特征提取模块，之后使用得到的特征图来训练深度学习模型。在这项工作中，LightGBM作为最终的分类器用于识别肺部疾病。在2D-DMWT特征提取、VGG16和ResNet50的混合深度特征提取以及基于PCA的降维之后，LightGBM处理优化后的特征向量以预测七个目标类别之一。其速度、鲁棒性和处理高维数据的能力使其非常适合医学图像分类，在COVID-19、积液、纤维化、肺 opacity、正常、肺炎和结核病等方面都能取得可靠的性能。

所提出的[VGG16+ResNet50]–LightGBM模型的架构从39,693张胸部X光图像开始，每张图像的大小调整为256×256像素，并使用2D-DMWT提取最具信息量的多分辨率特征。然后将得到的64×64表示通过基于VGG16和ResNet50的混合特征提取流程，随后在训练和测试阶段都使用LightGBM分类器进行处理，如图6所示。最后，LightGBM执行分类步骤并预测七个目标肺部疾病类别，作为连接到前面特征提取组件的最终决策层。通过连接VGG16（512个特征）和ResNet50（2048个特征）的混合特征向量（2560个维度），然后使用主成分分析（PCA）将其降维到50个维度。

为了去除冗余、减少噪声、提高计算速度并保留尽可能多的信息方差以进行有效分类，应用了降维技术。这样得到的PCA压缩特征可以用于训练LightGBM分类器；该模型具有“多类”目标，进行200次提升迭代（n_estimators=200），学习率为0.05，固定随机状态（random_state=42）以确保可重复性，并使用所有可用的CPU核心（n_jobs=-1）。模型训练完成后，将使用与研究过程中相同的评估函数在独立测试集上进行评估。所提出的混合框架（VGG16+ResNet50）和PCA-LightGBM的性能指标也将进行讨论。通过实验发现，这种新深度模型的最佳超参数设置是在仅仅60个周期后获得的，在此期间使用5折交叉验证（KF=5）和Adam训练算法优化了所有参数。

表3列出了我们分析中每个模型使用的详细超参数列表。它提供了所有调查模型的超参数完整列表，包括LightGBM分类模型的关键组件，以及用于微调VGG16和ResNet50模型的超参数设置。这些超参数是根据既定的最佳实践选定的，并经过优化以最大化肺部疾病检测的分类准确率和计算效率。

3.8.2. 中间层用于特征提取和混合特征融合
我们使用多种预训练的深度学习架构（VGG16和ResNet50）作为基于图像的任务的特征提取器。在每个架构中，选择特定的中间层来提取与肺部疾病分类相关的区分性特征。
1. 特征提取层：对于特征提取，VGG16使用了以下中间层：
- Block 4：Conv3_3（512个滤波器）：生成高级特征，如肺不透明度和肺纤维化的模式。
- Block 5：Conv3_3（512个滤波器）：生成更抽象的特征，但能帮助我们区分小异常，例如肺结节中的异常。
- Block 5：最大池化层：池化后的输出代表了关键的空间信息。

ResNet50包含三个残差块用于特征提取：Block 4（512个滤波器）、Block 5（1024个滤波器）和Block 6（2048个滤波器）；Block 4提取与简单肺组织结构相关的特征；Block 5包含识别更复杂特征所需的基本信息（例如尿液颜色、纹理）；Block 6包含区分不同肺部疾病类别所需的最详细和最高级的特征集。全局平均池化（GAP）层在降低提取特征集维度的同时保留了关键的空间特征。

选择ResNet中的残差块的原因是它们能够通过跳过连接保留深度特征，从而准确捕捉肺部疾病结构的高级抽象。

3.8.2. 混合特征向量的生成
从VGG16和ResNet50提取的特征向量被连接起来，创建一个混合特征向量，该向量涵盖了细粒度和高级细节。然后将混合特征向量输入到主成分分析（PCA）中进行降维，仅保留最具信息量的特征，同时去除多余的冗余，同时保持最大的分类效率。

3.8.3. 混合特征融合图
为了帮助可视化特征提取和融合的相似性和差异，我们创建了一个图，如图9所示，展示了：
- 从VGG16（512）和ResNet50（2048）指定层提取的特征。
- 从两个网络组合特征以创建一个混合特征向量（2560）。
- 使用PCA将混合特征向量的大小从2560个特征减少到50个特征，以便使用基于LightGBM的模型进行分类。R.(20) 降维比例 = (1 - 最终特征提取输入矩阵的维度) × 100% 表4和图10总结了使用0.00005的学习率和60个训练周期训练的两种深度学习架构的结果。当使用‘Adam’优化器进行训练时，VGG16和ResNet50深度学习架构分别取得了91.24%和91.77%的最佳分类准确率。这两个结果表明，这种混合模型提供了出色的准确性和性能。

表4. 使用从VGG16和ResNet50提取的深度特征获得的分类结果。

| 分类器 | 准确率（%） | 精度（%） | 召回率（%） | 降维比例（%） |
|------|---------|--------|---------|-----------|
| VGG16 | 91.24 | 92.32 | 91.84 | 93.75 |
| ResNet50 | 91.77 | 92.71 | 91.95 | 93.75 |

下载：下载高分辨率图片（269KB）
下载：下载全尺寸图片

图10. 使用2D-DMWT特征提取的所提模型的训练和验证性能：(a) VGG16 和 (b) ResNet50

为了评估未见数据的效果，使用了混淆矩阵来检查模型的性能，如图11所示，该图可视化了基于VGG16和ResNet50的深度特征模型的分类行为。

下载：下载高分辨率图片（255KB）
下载：下载全尺寸图片

图11. 混合深度特征表示在分类七个肺部疾病类别方面的性能：(a) VGG16 和 (b) ResNet50

之后，使用机器学习分类器评估了从VGG16和ResNet50的组合表示中得出的混合深度特征的性能。原始的2560维特征向量通过PCA压缩以减少冗余并保留最具信息量的成分。通过从1到2560迭代测试n_components来识别产生最高分类准确性的最佳特征大小。然后，将压缩后的特征集输入到LightGBM分类器中，其中80%的数据用于训练，20%用于测试。使用最优的PCA压缩特征大小（39,693 × 50），系统实现了98.18%的准确率，并且计算成本显著降低，同时具有较高的降维率。表5总结了LightGBM分类器的评估指标。训练和测试是在从VGG16和ResNet50网络中提取的集成深度特征集上进行的，然后使用PCA进行降维。

表5. 使用融合VGG16–ResNet50特征的LightGBM结果。

方法 | PCA特征 | 数据集 | 准确率（%） | 精度（%） | 召回率（%） | F1分数（%） | AUC（%） | 降维比例（%） |
|------|---------|--------|---------|---------|---------|------------|-----------|
| 混合深度特征 + PCA + LightGBM | 50Kaggle | 98.18 | 98.19 | 98.16 | 98.18 | 99.99 | 99.923 |

图12展示了集成混合深度特征和基于PCA的降维以提高多类肺部疾病预测能力的LightGBM分类器的混淆矩阵。

下载：下载高分辨率图片（137KB）
下载：下载全尺寸图片

图13展示了使用前50个PCA选定的特征的LightGBM分类器的ROC曲线。

5.1. 消融研究的结果
这项消融研究全面评估了每个组件的影响以及有助于模型开发的决策。

5.1.1. 小波变换
移除二维离散多小波变换（2D-DMWT）步骤导致准确率下降了4%。这表明小波变换在提取对疾病分类模型开发至关重要的低频特征方面的重要性。

5.1.2. VGG16特征提取
VGG16特征提取的准确率仅为91.24%，而结合ResNet 50的混合方法则达到了98.18%。这表明利用两个模型特征集将大大提高分类模型的整体性能。

5.1.3. ResNet50特征提取
仅使用ResNet50的模型产生的准确率为91.77%，因此尽管ResNet50在产生高准确率方面也是一个出色的模型，但其与VGG16的结合产生了更好的结果。

5.1.4. 特征融合（VGG16 + ResNet50）
通过融合两个模型的特征，比单独使用ResNet50或VGG16的特征获得了更高的准确率（提高了6.5%），支持了混合特征提取方法将产生更高准确率分类结果的假设。

5.1.5. PCA
当从分类过程中移除PCA步骤时，数据集的维度显著增加，对训练时间和模型性能产生了负面影响。因此，PCA有效地减少了冗余性，同时保留了大部分重要的分类特征。当从分类模型中省略PCA时，准确率略低于95%。

5.1.6. LightGBM分类器
准确率最高的分类器是LightGBM（98.18%），而逻辑回归和SVM分类器的准确率分别为90%和93%。因此，基于性能来看，LightGBM显然是最佳的分类器。

6. 讨论
本节的主要发现包括方法学错误、假阴性结果、模型复杂性、临床整合的未来方向以及与准确性和临床相关性相关的改进建议。

6.1. 方法学新颖性的夸大
本节探讨了用于通过2D离散多小波变换（2D-DMWT）使用GHM过滤器对胸部X光图像中的肺部疾病进行分类的方法是否新颖。我们将详细说明和证明我们工作的各个新颖之处，讨论我们如何通过开发和有效执行该方法为知识体系做出贡献，并提供如何利用该方法基于X光图像对肺部疾病进行分类的例子。

1. 实施：许多领域已经实施了2D-DMWT和GHM过滤器；然而，关于它们用于诊断胸部X光图像中的肺部疾病的研究有限，这也未能解决COVID-19、肺炎和结核病等多类肺部疾病的分类问题。

2. 整合：我们创建了2D-DMWT的混合版本，并从前训练的深度网络（VGG16和ResNet50）中产生了一组特征，同时结合了主成分分析（PCA）作为降维方法。将传统的小波方法与最先进的深度学习方法相结合是我们项目的核心方面。将这些方法整合到一个框架中是本项目的新颖之处。

3. 应用：这种集成方法应用于总计39,693张胸部X光图像的庞大集合中，用于多类肺部疾病的诊断，这使得我们的方法具有新颖性。这种集成方法还旨在通过解决与医学图像分析相关的一些常见问题来提高诊断的准确性和计算效率，特别是解决数据不平衡和噪声减少的问题。

6.2. 针对特定类别的错误分析
1. 混淆矩阵分析：我们分析了混淆矩阵，并指出了由于肺炎和COVID-19具有相似的放射学特征而在患者中观察到的具体误分类情况。分析表明，这些情况在临床表现轻微的患者中经常被误分类，或者如果他们的X光图像显示出两种情况的重叠放射学特征，则需要额外的诊断信息来进一步提高诊断的清晰度和准确性。

2. 错误模式：对误分类案例的更详细检查表明，有许多情况下肺炎被误分类为COVID-19，因为这两种情况都表现出类似的肺部实变/浸润模式。病毒性肺炎病例中表现出轻微的肺部实变/浸润模式的病例在初始诊断时区分起来最具挑战性。

3. 临床意义：我们详细说明了临床敏锐度和额外的诊断信息（如患者病史/实验室结果）在区分这两种非常相似的情况时的关键作用，尤其是在主要依赖自动化系统辅助诊断的情况下。

4. 模型改进：最后，我们建议可能的模型改进，特别是结合多模态数据源（例如CT扫描数据或临床数据）可能有助于更清晰地区分这些相似的情况。

6.3. 假阴性分析
我们的结果部分彻底分析了结核病（TB）的假阴性情况，强调了准确临床分类的重要性以及假阴性的严重后果。结核病的假阴性误分类可能导致治疗计划的延迟，如果不加以治疗，可能会因疾病继续传播给其他人而引发非常严重的健康问题。在某些情况下，结核病被模型误分类为“正常”或“肺部阴影”或“积液”。

为了进一步减少假阴性的发生，我们建议在未来的模型版本中添加额外的临床数据（如患者病史和症状列表）。还应探索其他多模态方法，将胸部X光片与临床数据或CT扫描结合，以降低结核病的假阴性分类率。因此，手稿已修改，包括讨论模型在结核病（TB）方面的敏感性和特异性。此次修改版本中的改进应该能让读者更详细地了解假阴性对高风险疾病（如结核病）的临床影响。

6.4. 模型复杂性
整合多个组件的多步骤过程，如2D离散多小波变换（2D-DMWT）、VGG16和ResNet50特征提取过程以及PCA降维和LightGBM分类，带来了非常高的准确率；然而，这种复杂性的增加也会影响计算复杂性和总训练时间。当使用两个深度学习模型（即VGG16和ResNet50）时，在特征提取过程中使用的计算资源（例如内存和处理能力）非常高，可能会在计算资源受限的情境下限制模型的可扩展性。除了增加复杂性外，基于PCA的降维还需要额外的数据预处理以获得最佳结果，并调整组件数量以实现最佳性能。

6.5. 工作的局限性
该模型的性能在很大程度上取决于用于训练的数据，因此其原始训练集（一组定制的胸部X光图像）在胸部成像的背景下会相对有效。当应用于所有其他潜在的数据集时，特别是引入新的和独特的肺部疾病时，模型的效果可能不会如此显著；这些案例可能没有包含在原始数据集中。该模型的多阶段复杂性也对计算资源提出了显著要求，使其难以在实时临床环境中使用，尤其是在硬件规格有限的情况下。此外，虽然像VGG16和ResNet50这样的深度学习模型为从输入图像中提取特征提供了良好的方法，但它们没有解释模型是如何得出结论的；因此，它们的临床实用性有限，因为临床医生需要清晰明确的诊断推理依据。

6.6. 未来方向
所提出的模型可以通过几种方式进行优化：
1. 多模态数据整合：将胸部X光图像与其他模态（如临床数据、实验室数据或CT扫描）相结合，以对复杂病例和罕见情况产生更准确的诊断。
2. 轻量级架构：通过尝试MobileNetV2或EfficientNet这样的模型来提高处理速度和计算能力，这些模型通常设计用于实时临床环境。
3. 可解释的决策制定：基于Grad-CAM或SHAP值提高人工智能支持设备的决策透明度，从而增强临床医生对AI辅助决策的信心。
4. 临床试验：进行大规模临床试验，以在临床相关条件下（即现实世界环境中）测试模型的鲁棒性和性能，适用于不同类型的患者和状况。

6.6.1. 临床整合的夸大声明
由于其设计兼容性，该系统在无缝整合到当前临床基础设施方面面临诸多问题。包括小波变换、CNN特征提取、PCA和LightGBM的多阶段流程需要对支持图像数据的PACS和DICOM数据格式进行大量调整；然而，这些协议必须进行修改以允许额外的预处理。将该系统整合到临床环境还需要以下实际步骤：数据格式转换、流程自动化以实现顺畅的数据流动，并考虑实时处理以避免患者护理的延迟。此外，采用所提出的AI诊断工具还需要解决用户培训和监管合规性问题，以及对这些诊断工具的临床验证。最后，实际应用将需要临床评估，以确保所提出系统能够有效整合到临床环境中。**比较分析**

在本研究中，通过结合工程特征与混合深度表示方法，将一个集成框架应用于CXR数据集，以提高分类性能。工程特征是使用二维离散多小波变换（2D-DMWT）提取的，而深度特征则来自预训练的VGG16和ResNet50模型，并通过PCA进一步压缩以消除冗余并提高效率。预处理包括使用中值滤波来消除噪声并提高图像质量。最终，集成提取和选择策略增强了数据表示的强度，降低了模型复杂性，并提高了肺部疾病分类系统的鲁棒性和准确性。表6中比较了现代最先进的方法，以提供相对评估，展示该系统在七个相互相似的肺部疾病类别中的表现。

**表6. 所提出的模型与基于预处理和特征提取标准的最先进方法之间的比较**

| 参考文献 | 数据集 | 工程特征 | 分类准确性（%） |
|---------|-------|---------|-----------|
| [10] | Kaggle-VGG16 | 97.47 | |
| [11] | Kaggle-CNN | 96.75 | |
| [12] | Kaggle-ResNet50 | 91.60 | |
| [13] | Kaggle-VGG19 | 98.05 | |
| [14] | Kaggle-MobileNetV2 | 95.80 | |
| [15] | Kaggle-LungNet2 | 92.95 | |
| [16] | Kaggle-PCA | VGG16 | 91.35 |
| 我们提出的模型 | 2D-DMWT + 混合特征 [VGG16 和 ResNet50] + PCA | LightGBM | 98.18 |

结果表明，预处理和特征提取方法可以影响诊断准确性；预处理流程和混合特征提取方法（2D-DMWT和深度特征）说明了为什么现有研究往往没有考虑预处理和特征提取，而应该这样做以提高模型的准确性和可靠性。

**表3**总结了过去几年中使用深度学习模型进行肺部疾病分类所取得的进展。引入了多尺度VGG16架构来辅助对多种类型的肺部疾病进行分类，总准确率为97.47% [10]。相比之下，传统的二维卷积神经网络获得了96.75%的分类准确率和3.25%的错误率，这表明仍有许多类型的肺部疾病可能被错误分类 [11]。参考文献[12]使用了ResNet50架构，没有通过额外的特征提取方法进行增强，获得了91.60%的总准确率。此外，参考文献[13]的研究人员调查了VGG19和CNN混合架构，对四种不同类型的肺部疾病进行了分类，获得了98.05%的分类准确率。据报道，改进后的MobileNetV2架构对四种类型的肺部疾病的分类准确率为95.80% [14]。在参考文献[15]中，作者开发了一种混合深度CNN架构，其中包含了VGG模块和三个Inception模块，对七种不同的肺部疾病进行了分类，准确率为96%。最近，其他研究人员提出了多种用于多类肺部疾病分类的深度学习模型。参考文献[16]中详细介绍的改进版VGG16模型在应用于三类数据集（正常、肺炎、COVID-19）时，获得了91.69%的分类准确率。最后，参考文献[15]的作者尝试通过使用CLAHE来提高图像分辨率以增强模型的准确性，但忽略了必要的特征提取步骤，因此尽管使用了大量的训练数据，模型仍然非常复杂。类似地，参考文献[16]的研究也没有进行必要的预处理步骤，这导致了分类准确性的下降，因为CXR图像质量较差。他们的改进主要集中在通过PCA降低特征选择的计算负担上，而不是最佳地表示输入数据。

本研究首次全面展示了预处理和提取技术在优化肺部疾病分类准确性方面的重要性。中值滤波技术通过减少噪声和模糊度增强了CXR图像的质量，使神经网络能够更好地学习CXR的特征，这是旧技术无法实现的。例如，使用二维鉴别多分辨率小波变换（2D-DMWT）产生了具有辨别力的多分辨率特征图，这些特征图随后与从VGG16和ResNet50架构中提取的混合深度特征合并，通过基于PCA的降维得到了适当区分，最终使用LightGBM进行了分类。由此产生的混合框架在所有六种肺部疾病和正常类别中实现了98.18%的分类准确率，由于疾病模式之间的相似性，误分类率显著降低。

**8. 结论**

在这项研究中，我们提出了一种基于卷积神经网络和LightGBM分类器的新型混合模型，用于自动分类肺部疾病。该系统结合了来自二维离散多小波变换（2D-DMWT）的工程特征和来自VGG16及ResNet50网络的工程深度特征。研究中将分类的七种疾病是COVID-19、渗出症、纤维化、肺部阴影、正常、肺炎和结核病，疾病分类基于胸部X光成像，这是最常用的医学成像技术之一。X光图像的预处理是通过应用中值滤波来提高对比度和去除噪声来进行的；这大大改善了使用2D-DMWT提取的特征。特征提取的第二阶段结合了2D-DMWT的多分辨率能力与预训练CNN学习到的高级深度特征；因此，所提出的混合特征提取技术大大提高了计算效率，同时保留了最相关的诊断特征。降维结果显示，使用DMWT方法（93.75%）和提出的混合模型使用PCA（99.923%）可以实现显著的降维。经过降维的特征被提供给LightGBM分类器，该分类器能够处理特征空间的大幅减少，并正确识别所有被分类的七种疾病。该模型98.18%的准确率表明临床医生可以将其作为辅助工具，帮助他们做出临床决策，并减少对具有复杂多类诊断（重叠情况）患者的错误诊断的可能性。此外，该模型展示了高效训练和使用非常大型数据集的能力；它能够处理来自多个来源的39,693张胸部X光图像。各种X光图像表明了该模型从一个数据集到另一个数据集的泛化能力，并且能够始终提供准确的结果。混合DMWT-2D CNN和融合深度特征模型的紧凑高效配置使得该模型占用更少的存储空间和计算资源（耗时更少），同时提供了极高的准确性；因此，该模型被推荐作为在线和基于云的环境中的首选方案，可以快速诊断早期肺部疾病，并有助于减少这些早期肺部疾病诊断延迟的潜在不良后果。

**cRediT作者贡献声明**

Ahmed Aizaldeen Abdullah：撰写 – 审查与编辑、撰写 – 原始草稿、可视化、验证、监督、软件、资源、项目管理、方法论、研究、资金获取、正式分析、数据管理、概念化。
Seham Ahmed Hashem：方法论、研究、资金获取、正式分析、数据管理、概念化。