潜在扩散技术与半监督学习的结合:在标签数量极少的情况下提升植物病害检测能力

《Computers and Electronics in Agriculture》:Latent diffusion meets semi-supervised learning: Enhancing plant disease detection with minimal labels

【字体: 大 中 小 】 时间:2026年05月01日 来源:Computers and Electronics in Agriculture 8.9

编辑推荐:

  伊齐亚尔·埃古斯奎扎(Itziar Eguskiza)、阿尔塔伊·皮孔(Artzai Picón)、莱雷·贝尼托-德尔-瓦列(Leire Benito-Del-Valle)、阿兰查·贝雷西亚尔图亚-佩雷斯(Arantza Bereciartua-Pérez)、劳拉·戈麦斯-萨马尼

  伊齐亚尔·埃古斯奎扎(Itziar Eguskiza)、阿尔塔伊·皮孔(Artzai Picón)、莱雷·贝尼托-德尔-瓦列(Leire Benito-Del-Valle)、阿兰查·贝雷西亚尔图亚-佩雷斯(Arantza Bereciartua-Pérez)、劳拉·戈麦斯-萨马尼略(Laura Gómez-Zamanillo)、安多尼·埃洛拉(Andoni Elola)、埃莉萨贝特·阿拉门迪(Elisabete Aramendi)、罗西奥·埃斯佩霍(Rocío Espejo)、克里斯蒂安·克卢卡斯(Christian Klukas)、拉蒙·纳瓦拉-梅斯特雷(Ramón Navarra-Mestre)

TECNALIA,巴斯克研究与技术联盟(BRTA),比斯开亚技术公园(Parque Tecnológico de Bizkaia),Geldo路700号,E-48160 Derio - 比斯开亚,西班牙

摘要
准确评估植物病害的严重程度对于可持续农业至关重要,但这一过程常常受到标注数据稀缺的限制。生成模型通过生成逼真的合成样本来提供有希望的解决方案,这些样本可以丰富训练数据集并提高模型的泛化能力。然而,大多数现有方法依赖于大型、完全标注的数据集,当专家标注成本高昂或难以获得时,这些方法的适用性就受到了限制。本研究介绍了一种半监督的潜在扩散模型,用于条件生成具有可控黄锈病(Puccinia striiformis)严重程度的小麦叶片图像。该模型根据叶片分割掩码和病害严重程度分数来进行生成,利用了一小部分标注样本和大量未标注样本。这使得能够创建出真实且严重程度可控的合成图像,有效补充了有限的训练数据集。实验结果表明,在标注极度稀缺的情况下,下游回归性能有了显著提升。值得注意的是,当仅使用十个标注样本(每个病害严重程度区间一个样本)时,仅基于真实标注样本训练的基线回归模型的R2值为0.44,而使用半监督合成图像进行增强后,R2值提高到了0.79——提升了0.35。在所有标注水平上都观察到了改进,MAE和RMSE也有所降低,这突显了结合半监督生成训练与平衡采样的有效性。这些发现证实,在生成扩散模型中利用未标注数据可以生成真实且可控的合成图像,从而丰富监督学习。

1. 引言
植物病害导致全球每年约10%至40%的作物产量损失,对粮食安全和经济稳定构成了重大挑战(Strange和Scott,2005;Savary等人,2019)。解决这一问题需要及时可靠的病害严重程度监测,这是精准农业的关键组成部分。早期检测不仅有助于防止产量损失,还能减少不必要的农用化学品使用,支持更可持续的农业实践。
传统上,病害严重程度是通过训练有素的专家进行视觉检查来手动评估的,这一过程耗时、成本高昂且具有主观性。评估者之间的差异以及同一评估者内部的不一致性可能会限制手动评估的可靠性和可扩展性,使得大规模监测变得具有挑战性(Verma等人,2024)。因此,自动预测病害严重程度的方法应运而生,成为有前景的替代方案。借助计算机视觉和机器学习的进步,这些方法提供了客观、可复制且可扩展的评估方式。
早期的自动化方法依赖于经典的图像处理技术,如颜色阈值分割、纹理分析和形状描述符,来检测和量化病害症状(Barbedo,2018;Khan等人,2021)。尽管在受控环境中有效,但这些方法在多变的环境条件或复杂背景存在的情况下往往难以泛化。深度学习(DL)的出现彻底改变了植物病害的分析方式。DL模型可以直接从原始图像中学习层次化表示,在病害分类和严重程度估计任务中取得了最先进的性能(Ferentinos,2018;Too等人,2019)。
成像技术的快速发展,包括无人机(UAV)、智能手机和高通量表型分析平台,促进了在多样化环境中大规模收集植物图像(Mahlein,2016;Picon等人,2019b;Zhang等人,2021)。尽管取得了这些进展,为这些图像生成准确的严重程度标注仍然是一个主要瓶颈,因为这需要专家知识和大量工作(Bock等人,2010;Picon等人,2025)。由此产生的标注数据稀缺限制了监督学习方法的性能,促使研究采用减少标注需求的方法。
最近提出了少样本学习技术,通过仅使用少量标注样本来训练模型,以缓解植物病害预测任务中的数据稀缺问题(Argüeso等人,2020;Li和Chao,2021a;Egusquiza等人,2022)。PDSE-Lite(Bedi等人,2024)结合了无监督特征提取和少样本分类及分割网络,使用每个类别仅两个标注样本即可识别和量化植物病害的严重程度。然而,这些方法通常依赖于像素级别的分割掩码,其获取成本高于回归任务中使用的图像级别严重程度分数。此外,少样本方法不会生成额外的训练样本,限制了它们扩展数据集的能力。
半监督学习技术在植物表型分析中也受到了关注,因为它们允许模型利用大量未标注数据和有限的标注样本来提高模型泛化能力(Li和Chao,2021a;Li等人,2023;Li和Chao,2021b;Zhu,2020)。常见技术包括一致性正则化、伪标记和对比学习,这些技术有助于模型从部分标注的数据集中提取稳健的特征(Oliver等人,2018)。尽管取得了这些进展,但半监督学习在基于回归的病害严重程度预测中的应用仍然很大程度上未被探索。
数据增强是另一种广泛使用的策略,通过人工扩展训练集来解决数据稀缺问题。常见技术包括几何和光度变换,如旋转、翻转和裁剪(Perez和Wang,2017)。尽管这些方法在某些程度上有效,但它们生成的样本与原始样本过于相似,无法创建新的病害模式或捕捉病害症状的全部变异性。
为了克服这些限制,使用深度生成模型生成合成数据已成为丰富植物病害数据集的强大方法。生成对抗网络(GANs)已成功用于创建具有不同病害状态的真实植物图像,从而增加了训练数据量并提高了模型鲁棒性(Mohanty等人,2016;Sandoval-Cárdenas等人,2021)。条件GANs使用语义掩码或病害标签作为条件输入,能够更可控地合成特定于病害的特征(Isola等人,2017;Zhang等人,2022)。然而,GANs训练难度较大,并且对于标注数据有限的情况容易遇到模式崩溃等问题(Arjovsky等人,2017)。
最近,去噪扩散概率模型(DDPMs)作为一种有前景的替代方案出现,与GANs相比,它们提供了更高的训练稳定性和图像保真度(Ho等人,2020;Nichol和Dhariwal,2021)。扩散模型在多种应用中显示出潜力,包括植物表型分析,它们可以模拟真实的植物特征并生成特定领域的变异(Wang等人,2023)。最近的研究应用扩散模型生成用于杂草检测的合成图像,解决了收集和标注植物数据集的高成本和高工作量问题(Chen等人,2024;Deng和Lu,2025)。尽管具有这种潜力,但它们在植物病理学中用于控制病害严重程度的图像合成方面的应用仍然很大程度上未被探索。
我们之前的工作介绍了DiffusionPix2Pix(Egusquiza等人,2025),这是一种条件扩散模型,旨在根据二值分割掩码和连续的严重程度分数生成受Puccinia striiformis(PUCCST)感染的小麦叶片图像。生成的图像在定量和定性上均得到了评估,显示出高度的真实性和对严重程度水平的精确控制。
尽管取得了这些进展,仍存在几个挑战。大多数生成方法仍然依赖于大型、完全标注的数据集,这限制了它们在标注数据稀缺情况下的适用性——而这正是合成数据最有价值的情况。虽然可以在真实的田间条件下轻松收集大量植物图像,但由于标注过程耗时且依赖专业知识,病害严重程度的标注往往很少。此外,现有的标注在严重程度级别上的分布不均,晚期病害阶段被低估。因此,基于有限且不平衡标注训练的生成模型可能难以学习准确的严重程度映射或再现实际观察到的病害症状的全部多样性。此外,大多数现有的条件生成框架假设完全监督,使它们对缺失的标签敏感,无法利用在田间捕获但未标注的大量植物图像——这对控制严重程度的图像合成是一个关键限制。
本文通过提出一种半监督潜在扩散框架来填补这些空白,该框架仅使用少量标注数据和大量未标注图像就能生成可控制病害的植物图像。虽然基础的DiffusionPix2Pix架构遵循了我们之前的工作(Egusquiza等人,2025),但主要贡献在于方法论:系统地分析了不同的训练协议,并引入了一种新的半监督生成训练策略,该策略利用未标注和标注样本生成受严重程度控制的合成图像。在本研究中,“半监督生成”一词用于描述一种训练设置,其中扩散模型同时使用标注和未标注样本,并且未标注样本中缺失的条件变量被明确屏蔽而不是预测。然后使用模型生成的合成图像来增强用于预测病害严重程度的回归模型的训练数据集,特别是在数据量较低的情况下提高性能。
本工作的关键贡献总结如下:
- 我们介绍了一种半监督潜在扩散框架,用于条件生成植物叶片图像,同时利用少量标注样本和大量未标注样本来控制病害严重程度。
- 我们证明了用所提出方法生成的合成图像增强真实训练集,显著改善了整个0%–100%病害范围内的下游回归性能,特别是在标注极度稀缺的情况下。
- 我们在受黄锈病影响的田间小麦叶片数据集上验证了所提出的半监督生成训练策略,证明了在最小标注数据量下下游回归性能的提高。
- 我们表明,这种方法在标注有限的场景中特别有价值,为大规模手动标注提供了一种成本效益高的替代方案。

2. 数据集
本研究基于之前工作(Egusquiza等人,2022)中引入的广泛数据集,该数据集于2014年至2019年间在德国和西班牙的农田中收集。原始数据集包含来自五种作物(小麦、大麦、水稻、玉米和油菜籽)的120,000多张叶片、茎和穗的图像,涵盖了17种不同的病害,如黄锈病、褐锈病、Septoria和白粉病。图像是在自然田间条件下使用各种消费设备获取的,导致光照、叶片大小、方向和病害发展阶段存在显著差异。每张图像都由专家进行了标注,标注了作物类型和病害严重程度信息,以感染叶片面积的百分比表示。
本研究关注受黄锈病(Puccinia striiformis,PUCCST)影响的小麦叶片图像,以及感染前的健康叶片。病害的严重程度在感染面积的0%到100%之间变化,但由于病害在田间的自然进展,分布偏向于早期感染阶段。数据集总共包含17,306张图像,分为训练集(80%)、验证集(10%)和测试集(10%)。图1显示了整个数据集中病害严重程度水平的分布。可以看出,分布明显偏向于早期感染阶段(0%–20%),高严重程度范围内的样本逐渐减少。
为了支持半监督学习实验,训练集进一步分为标注和未标注子集。标注子集包含带有病害严重程度标注的图像,而未标注子集包含其余未标注的图像。这种划分模拟了一个现实场景,即只有部分数据集可以被标注,反映了专家标注的高成本和高时间要求,同时提供了一个评估包含未标注数据影响的框架。考虑了两种策略来定义标注子集:
- 随机百分比减少:从训练集中随机选择一定比例的图像作为标注数据,从而得到不平衡的子集。测试了几种百分比值来进行实验。
- 按病害范围减少图像数量:为每个病害严重程度范围选择固定数量的标注样本,以确保数据集的平衡。严重程度分数被划分为10个等宽的区间(例如,0%、1%–10%、11%–20%、……、81%–90%)。选择不同的样本数量来进行实验。
表1总结了每种实验设置中训练集使用的标注图像数量。为了进行随机缩减,使用了整个数据集的0.1%到1%之间的百分比,从而得到了包含13到130张图像的标记子集。对于按范围划分的策略,通过为每个严重程度区间选择1到13张图像(总共10个区间)来构建标记子集,这样得到了大小相似的数据集,并且在疾病阶段上实现了平衡的表示。最后,为了便于分析,使用Picon等人(2019a)描述的方法将叶子从背景中分割出来,生成了干净的叶子及其分割掩膜的配对图像。图2展示了用于实验的无背景叶子图像及其分割掩膜的示例。所有图像都被调整大小为512×512像素,以确保实验之间的一致性。表1比较了应用于训练集的标注数据集大小缩减策略。

随机缩减
空白单元格
按范围缩减
图像百分比
图像数量
空白单元格
每个范围的图像数量
图像数量
1%
130
13
130
0.75%
97
10
10
0.5%
65
5
60
0.25%
32
33
0
0.1%
13
11
10

随机缩减方法根据全局图像百分比(从1%到0.1%)随机选择数据集的一个子集,而按范围缩减方法则在每个疾病严重程度区间内应用比例采样,以确保在整个回归谱系中实现平衡的表示。这种设置用于评估数据集大小和平衡对扩散和回归模型性能的影响。

下载:下载高分辨率图像(287KB)
下载:下载全尺寸图像

图2. 用于实验的数据集样本图像,展示了受条斑锈菌(Puccinia striiformis f. sp. tritici, PUCCST)影响的冬小麦叶子及其相应的分割掩膜。每对图像包括一个去除了背景的叶子图像及其关联的分割掩膜:(a) 健康的叶子,(b) 受到30% PUCCST感染的叶子,(c) 受到10% PUCCST感染的叶子,以及(d) 受到60% PUCCST感染的叶子。图像改编自Egusquiza等人(2025年)。

3. 方法论
本研究探讨了不同的扩散模型训练策略,以生成具有不同程度黄锈病水平的植物叶子合成图像,重点关注标注数据稀缺的情况。虽然图像获取是可行的,但分配精确的严重程度标签需要专家知识并且成本较高。因此,目标是通过利用大量未标注数据来生成带有标签的合成图像。为了模拟由于这些限制只有少量数据可以被标注的现实场景,将完全标注的数据集人为地分为两个子集:一小部分被视为已标注的,其余部分被视为未标注的。然后使用这些分区在不同的监督策略下训练扩散模型。目的是评估扩散模型是否能够生成真实且严重程度可控的合成图像,从而提高用于数据增强的回归性能。所提出的框架基于DiffusionPix2Pix架构(Egusquiza等人,2025年),该架构将变分自编码器(VAE)与去噪概率扩散模型(DDPM)结合用于条件图像生成。尽管该架构借鉴了先前的工作,但本研究重点比较了三种训练策略——监督学习、微调和半监督学习——以评估在标注数据稀缺的情况下,标记数据和未标注数据的整合如何影响生成性能。这些模型生成的合成图像随后被用来改进用于预测疾病严重程度的回归模型的训练集。

3.1. 数据集划分
本研究中使用的所有图像都对应于受黄锈病影响的小麦叶子及其相应的分割掩膜。数据集被分为一个小的已标注子集和一个大的未标注子集,如第2节所述。在这里,“未标注”一词专指在训练过程中故意省略了标量疾病严重程度注释的样本。尽管数据集中的所有图像都经过了完整标注,但在训练期间未标注样本的严重程度值被设置为-1以隐藏真实信息,而所有其他信息仍然完全可用。相反,“已标注”样本是指提供了严重程度分数和分割掩膜的图像。这些分区在以下部分描述的不同训练策略中用于评估标记数据的数量如何影响生成图像的质量和下游模型的性能。

3.2. 生成模型
生成流程基于两阶段架构。它结合了VAE和DDPM。图3的左侧面板展示了整个生成过程的概览,而右侧面板展示了扩散模型的架构细节。在第一阶段,VAE被训练用于将高分辨率叶子图像压缩到潜在空间并重新构建回图像域。这一步不需要注释,因此VAE是在不包含任何标签的情况下在整个训练数据集上训练的。这确保了潜在空间的表达能力和鲁棒性,捕捉到了叶子的结构和视觉变异性。一旦训练完成,编码器用于获取潜在表示,而解码器随后用于将生成的潜在表示映射回全分辨率RGB图像。

下载:下载高分辨率图像(496KB)
下载:下载全尺寸图像

图3. 潜在扩散模型的总体概述。左侧面板:两阶段潜在扩散流程的概览。变分自编码器(VAE)将输入图像x编码为低维潜在表示z。扩散模型在这个潜在空间中操作,通过前向扩散过程逐步将z转换为高斯噪声zT。在反向去噪过程中,模型在叶子分割掩码和疾病严重程度标签的条件下学习重建数据。最终的去噪潜在表示z’由VAE解码器解码以生成重建的图像x’。右侧面板:基于扩散变换器(DiT)的DiffusionPix2Pix扩散模型的架构细节。蓝色突出显示了与原始DiT架构的修改,包括基于回归的严重程度条件化和将叶子分割掩膜作为额外的条件输入。

在第二阶段,在VAE潜在空间的基础上训练扩散模型。扩散模型采用了基于变换器的架构——扩散变换器(DiT)(Peebles和Xie,2022年),它用视觉变换器风格的架构替换了传统的U-Net骨干。如图3的右侧面板所示,潜在表示z首先通过分块操作分解成一系列令牌,并由带有多头自注意力和前馈层的DiT块堆栈处理。通过时间步嵌入将扩散时间步t纳入网络,通过自适应层归一化进行调节。为了实现基于回归条件的、由掩码引导的图像到图像的生成,DiffusionPix2Pix架构对原始DiT框架进行了两项修改,这些修改在图3的右侧面板中用蓝色标出,并在Egusquiza等人(2025年)中详细描述。首先,用连续的疾病严重程度分数y∈[0,1]替换了类别条件化,该分数与时间步嵌入连接在一起。其次,使用二进制叶子分割掩膜作为额外的条件输入;掩膜被调整大小以匹配潜在分辨率,并在分块之前与z连接。这些修改使得能够连续控制严重程度,同时确保与规定的叶子形状对齐。

由于VAE不需要标签,它作为所有扩散模型实验中的共享元素,使我们能够分离并比较在扩散模型训练期间应用的不同监督策略的效果。

3.3. 扩散模型训练策略
为了了解有限标注对生成图像质量的影响,我们为扩散模型实现了三种训练策略。这些策略在如何利用数据集的标记和未标注子集方面有所不同。图4提供了每种策略对应的训练过程的概览,详细内容在以下小节中介绍。

(a). 监督扩散模型
(b). 微调扩散模型
(c). 半监督扩散模型

图4. 三种扩散模型训练策略的概览:(a) 监督模型仅在标记样本上训练,使用分割掩码和[0, 1]范围内的标准化严重程度分数(例如,50%的严重程度对应于0.5的值,0%的严重程度分数(健康)对应于0的值)。(b) 微调模型首先在未经严重程度条件化的未标注数据上进行预训练(步骤1),然后在标记样本上进行微调(步骤2),采用迁移学习方法。(c) 半监督模型同时在标记和未标注样本上训练,根据可用情况([0, 1]范围)对严重程度进行条件化,并对未标注输入使用-1。

3.3.1. 监督扩散模型
在监督设置中,扩散模型仅在标记子集上训练。每个训练样本提供一个分割掩码及其对应的疾病严重程度分数,使模型能够生成反映叶子形状和疾病水平的图像。尽管这种方法在概念上很简单,但其有效性受到标注数据有限可用性的限制。由于标记样本较少,模型可能难以泛化到未见过的严重程度或不常见的视觉模式,从而可能降低生成图像的真实性和多样性。

3.3.2. 微调扩散模型
微调策略遵循两阶段训练程序。在第一阶段,扩散模型在未标注子集上进行预训练,不考虑严重程度(使用-1作为严重程度输入的占位符值)。这一步允许模型捕捉健康和受感染叶子的总体外观和结构变异性。在第二阶段,预训练模型在标记子集上进行微调,这次考虑了真实的严重程度分数。这种顺序方法使模型首先学习叶子图像的总体分布,然后改进其生成能力以纳入疾病的严重程度。

3.3.3. 半监督扩散模型
半监督生成策略在单个联合训练阶段整合了标记和未标注数据。对于标记样本,模型同时考虑分割掩码和严重程度分数。对于未标注样本,只提供分割掩码,严重程度输入设置为-1以表示缺失的信息。这是联合半监督训练在回归设置中的新颖应用,其中未标注样本在训练过程中通过掩盖条件变量而不是丢弃它们来纳入。这种方法使模型能够从整个数据集中受益,同时仍然学习严重程度与视觉特征之间的关联。模型架构和训练循环在所有样本中保持一致。随着时间的推移,模型学会了在存在标签的情况下将严重程度值与图像特征关联起来,同时也从未标注数据提供的多样性中泛化。

3.4. 回归模型
生成合成图像的最终目标是提高用于预测植物叶子图像上黄锈病严重程度的回归模型的性能。为了评估每种扩散训练策略的影响,使用生成的合成图像作为数据增强来训练单独的回归模型。每个回归模型都使用真实标记图像和使用三种扩散策略(监督学习、微调或半监督)生成的合成图像的组合进行训练。所有实验中都使用相同的真实标注样本集,以确保公平比较,而合成图像根据使用的扩散模型而有所不同。这种设置使我们能够直接评估生成训练策略的选择如何影响下游回归性能,特别是在标注数据稀缺的情况下。

4. 实验
为了评估使用有限标注数据训练扩散模型的有效性,我们比较了三种提出的生成策略:监督学习、微调和半监督的学习效果。它们的效用通过一个下游回归任务进行评估,该任务从RGB叶子图像预测疾病严重程度。

4.1. 实验的数据集分割
如第2节所述,采用了两种不同的策略来减少标记训练数据的数量,以便在标注数据有限的场景下进行评估。第一种是随机缩减,涉及从整个数据集中随机选择固定百分比的图像,从而导致标记子集不平衡。第二种策略是按疾病范围进行数据减少,该方法从每个疾病严重程度范围内选择固定数量的图像,从而在不同感染阶段生成一个平衡的标记子集。对于随机减少方法,使用了整个数据集的0.1%到1%之间的百分比,从而得到包含13到130张图像的标记子集。对于按范围减少的策略,通过从每个严重程度区间选择1到13张图像(总共10个区间)来构建标记子集,从而得到大小相似的数据集,并在疾病阶段之间实现平衡表示。在这两种情况下,子集都是累积的,即每个较大的子集包含了所有较小子集的图像。对于这两种策略,所有实验都设计为保持可比较的总标记样本量,以确保公平评估。每种配置在三个独立的折叠中重复进行,以确保统计稳健性和可重复性。

4.2. 实施细节
4.2.1. 生成模型
如第3.2节所述,生成模型基于潜在扩散(latent diffusion)。它由VAE(变分自编码器)和DDPM(扩散概率模型)组成。VAE使用完整的数据集(无标签)进行了1000个训练周期的训练,使用了512×512分辨率的图像,学习率为0.0001,优化器为Adam,批量大小为32。DDPM的训练方法根据生成策略的不同而有所不同。对于监督学习和半监督学习方法,模型分别使用相应的标记数据集或混合数据集进行了2000个周期的训练。对于微调方法,模型首先在无标签数据上训练了1000个周期,然后使用第一阶段学到的权重在标记子集上再训练1000个周期。训练完成后,每个扩散模型生成了2000张合成图像。为了确保疾病分布的平衡,严重程度值被划分为20个区间([0%,1%–5%,…,90-95%]),每个区间随机采样100张图像。超参数值的选择基于我们之前的工作(Egusquiza等人,2025年),这些工作提供了具有高真实感和准确疾病严重程度控制的合成图像,以确保三种训练策略之间的一致性和公平比较。所有生成模型实验都是在PyTorch(v2.2.2)、PyTorch Lightning(v2.0.9)和visionnaire(v0.17.2)中实现的,并在配备了NVIDIA TITAN X GPU的Ubuntu 20.04服务器上执行。

4.2.2. 回归模型
回归模型用于评估合成图像在下游预测任务中的实用性。由于ResNet-50在植物疾病图像分析中的广泛应用和经验证的稳健性,因此被选为回归模型。ResNet-50在ImageNet上预训练过,提供了丰富的、可转移的特征表示,这在数据量较少的情况下特别有益,并已成功应用于许多植物病理学研究,包括基于少量样本的植物疾病分类、迁移学习的植物疾病检测以及优化的疾病识别系统(Egusquiza等人,2022年;Balavani等人,2023年;Kumar等人,2024年)。本工作的重点不是实现最先进的回归性能,而是了解在标记数据有限的情况下,由监督学习、微调和半监督学习扩散模型生成的合成图像如何帮助提高模型预测能力。回归模型被训练为预测疾病严重程度作为一个连续变量,其性能使用R2、MAE和RMSE等标准回归指标在仅包含真实图像的专用测试集上进行评估。所有模型都使用批量大小为16和学习率0.0001进行了200个周期的训练。使用的损失函数是平均绝对误差(MAE),优化器为Adam。所有图像都被调整为512×512大小,并通过随机水平/垂直翻转和转置进行了增强处理。

为了评估合成数据的影响,使用真实图像和合成图像训练的回归模型与仅使用相应真实图像训练的模型进行了比较。合成图像被用作数据增强,通过结合真实和合成样本来扩展训练数据集。对于每种扩散策略,我们生成了2000张合成图像,并将它们分布在20个严重程度区间内,其中0%(健康)构成一个独立的区间,其余区间对应5个百分点的步骤(例如,1%–5%,6%–10%,…,95%–100%)。在回归训练期间,每个小批量包含相同数量的真实图像和合成图像(1:1的比例),以确保平衡的曝光。在每个周期开始时随机打乱合成样本,在训练过程中需要额外的合成图像时,会重用之前生成的图像以保持预期的批量组成。在标注样本非常少的情况下,也会重用真实图像以保持真实数据和合成数据之间的平衡。在所有实验中,都使用了相同的验证集和测试集,两者都仅包含真实图像。验证集用于选择最佳模型权重,而测试集用于评估模型性能。所有实验都保持相同的训练设置,并且每种配置重复三次,每次选择不同的标记图像子集。报告的结果对应于多次运行的平均性能。所有回归模型实验都是在TensorFlow(v2.9.1)中实现的,并在配备了四个NVIDIA Tesla V100 GPU的Ubuntu 20.04服务器上执行。

4.3. 性能评估指标
为了定量评估回归模型的性能,使用了三个互补的指标:
- 决定系数(R2分数):衡量模型预测解释的地面真实疾病严重程度方差的比例。接近1的R2值表示更好的预测准确性。
- 平均绝对误差(MAE):表示预测值和真实值之间的平均绝对差异。较低的MAE值表示更准确的预测和较小的平均误差幅度。
- 均方根误差(RMSE):提供预测值和真实值之间平均平方差异的平方根。RMSE对较大误差的惩罚比MAE更强烈,因此反映了异常值或较大偏差的影响。这些指标共同提供了对带有和不带有合成数据增强的回归模型准确性和稳健性的全面评估。

5. 结果与讨论
为了评估在有限标注情况下所提出方法的有效性,实施了两种数据减少策略,如第2节所述。第一种策略是随机减少,从完整数据集中随机选择标记样本子集,这自然导致疾病严重程度水平的分布不平衡。第二种策略是按范围减少,通过从每个严重程度范围内选择相同数量的标记样本来确保平衡表示。对于这两种策略,回归模型要么仅在真实图像上训练(基线),要么在真实图像和由监督学习、微调和半监督学习扩散模型生成的合成图像的组合上进行训练。每个实验通过改变训练集中选定的标记图像重复三次,报告的值对应于这些运行的平均值和标准差,以确保统计稳健性。

5.1. 标记数据的随机减少
在第一个实验设置中,从完整数据集中随机选择了不同百分比的标记图像。标记子集的比例从1%减少到0.1%。图5显示了结果的R2分数。左侧的图表比较了仅在真实图像上训练的模型(基线)与同时在真实图像和合成图像上训练的模型。合成图像是使用三种扩散模型变体生成的:监督学习、微调和半监督学习。右侧的图表显示了相对于基线的R2变化,突出了合成数据增强带来的相对收益或下降。仅在真实数据上训练的回归模型对标记样本的减少表现出强烈的敏感性,R2从0.88(130张标记图像)下降到0.49(13张标记图像)。如表2所示,合成数据的影响取决于扩散模型训练策略。在标注最受限的情况下,监督学习和微调模型获得了与基线相当或略低的成绩。相比之下,半监督扩散模型始终优于所有其他配置。值得注意的是,当仅使用13张标记图像进行训练时,它将R2从0.49提高到了0.67——提高了0.18——显示出其补偿有限标注的强大能力。这些收益还得到了较低的MAE和RMSE值的支持(表3),证实了通过半监督训练生成的合成图像为回归学习提供了补充和有用的数据。

5.2. 按范围减少标记数据
第二种策略是解决疾病严重程度水平不平衡的问题。不是随机采样,而是从每个严重程度范围内选择固定数量的标记图像,以确保即使样本总数较少时也能所有级别都有代表。这种按范围减少的方法产生了更平衡的数据集,并且通常比随机选择情况下的基线性能更高。图6显示了结果的R2分数。这种设置比随机分割产生了更高的基线性能,突出了平衡采样的重要性。尽管如此,添加合成图像再次带来了进一步的改进,特别是在使用半监督扩散模型时。如表4所示,半监督增强始终优于基线,且随着标记图像数量的减少,性能差异变得更加明显。值得注意的是,当只有10张标记图像可用时(每个严重程度范围一张),基线回归的R2为0.44,而使用半监督合成数据增强的模型达到了0.79——提高了0.35——这表明合成图像可以有效丰富训练集,有效缓解了数据稀缺和不平衡带来的限制。除了R2的改进外,表5还报告了按范围减少策略下获得的MAE和RMSE值。这些指标显示,在所有配置中,半监督增强的MAE和RMSE值都较低,证实了合成图像为回归学习提供了补充和有用的数据。

5.3. 每个实验都使用了相同的验证集和测试集,两者都仅包含真实图像。验证集用于选择最佳模型权重,而测试集用于评估模型性能。所有实验都保持了相同的训练设置,并且每种配置重复三次,每次选择不同的标记图像子集。报告的结果对应于多次运行的平均性能。所有回归模型实验都是在TensorFlow(v2.9.1)中实现的,并在配备了四个NVIDIA Tesla V100 GPU的Ubuntu 20.04服务器上执行。半监督扩散模型在性能上始终优于基线模型,尤其在标注水平较低的情况下获得了最大的提升,这证实了平衡标签采样的好处。粗体数字表示每列中的最佳性能。表5显示了在每个范围减少策略下回归模型的MAE和RMSE分数。

表5. 每个范围减少策略下回归模型的MAE和RMSE分数
真实图像数量:130、100、60、30、10(每个范围的图像数量)
(13)、(10)、(6)、(3)、(1)
MAE
基线(仅使用真实图像):0.05±0.001、0.05±0.001、0.06±0.004、0.07±0.010、0.13±0.004
监督增强:0.05±0.004、0.05±0.004、0.06±0.004、0.08±0.001、0.12±0.03
微调增强:0.05±0.010、0.05±0.002、0.06±0.001、0.08±0.002、0.13±0.03
半监督增强:0.04±0.002、0.05±0.001、0.05±0.004、0.06±0.004、0.07±0.003
RMSE
基线(仅使用真实图像):0.08±0.001、0.08±0.002、0.08±0.010、0.10±0.020、0.18±0.02
监督增强:0.07±0.010、0.08±0.010、0.09±0.010、0.12±0.010、0.17±0.04
微调增强:0.08±0.010、0.08±0.001、0.09±0.001、0.11±0.003、0.19±0.04
半监督增强:0.07±0.004、0.08±0.001、0.08±0.001、0.09±0.004、0.11±0.010

半监督增强在所有配置下均表现出一致的MAE和RMSE指标降低,证明了其改进的回归性能和鲁棒性。粗体数字表示每列中的最佳性能(最低误差)。

5.3. 不同疾病严重程度区间内的质量评估
为了更好地理解标注不平衡如何影响模型行为,我们分析了在不同预定义的疾病严重程度区间内的性能。表6报告了两种代表性标注情况下的MAE值:高标注设置(130张标记图像)和极端低标注设置(13张标记图像用于随机减少,10张用于每个范围减少)。这些情况涵盖了预期标注稀缺性和严重程度偏斜效应最明显的情况。
在所有配置中,MAE随着疾病严重程度的增加而增加,这反映了晚期感染阶段的视觉复杂性增加以及它们在训练数据中的代表性不足。在随机减少的情况下,这种趋势尤为明显,因为标记样本非常少,高严重程度区间的误差显著更高。重要的是,半监督扩散模型在大多数严重程度区间内始终降低了MAE,与仅使用真实图像的基线相比,特别是在中等到高严重程度区间内,显示出最大的相对改进,表明未标记数据有助于缓解严重程度不平衡的影响。

5.4. 比较分析和关键见解
在两种标注减少策略下,半监督扩散模型始终生成了对下游回归最有益的合成图像。结果表明,将未标记数据纳入生成训练过程使模型能够更好地捕捉真实数据分布,从而生成在疾病表现上既真实又多样的合成样本。
图8显示了不同严重程度(0%、20%、40%、60%和80%)下生成的图像的定性比较。监督扩散模型生成的图像质量较低,具有明显的噪声和颜色伪影,掩盖了叶片结构;微调模型虽然实现了更好的真实感,但未能准确反映疾病症状的进展。相比之下,半监督扩散模型在视觉真实性和准确反映疾病严重程度方面都取得了平衡,尽管仍存在轻微的边缘伪影。

6. 结论
本研究引入了一种半监督潜在扩散框架,通过联合利用标记和未标记数据来生成可控制疾病表现的植物图像。所提出的方法解决了植物表型分析和类似视觉领域的一个关键限制:虽然收集大量原始图像是可行的,但专家标注既昂贵又耗时,导致标注数据集有限。在这种情况下,合成图像生成为数据增强提供了有希望的解决方案。然而,传统的扩散模型需要大型标注数据集来学习有意义的条件表示,这使得它们不适合标注数据稀缺的场景。
半监督扩散模型从标记和未标记样本中共同学习,即使在标注数据稀缺的情况下也能生成高质量、条件可控的合成图像。通过训练期间整合未标记数据,模型捕获了更丰富的植物外观潜在表示,同时保持了对疾病严重程度控制变量的控制。
三种基于扩散的策略——监督、微调和半监督——在各种数据减少场景下进行了比较。半监督方法始终生成了最真实和最具代表性的合成图像。当这些图像用于数据增强时,下游回归模型在极端标注稀缺的情况下表现出更好的性能。特别是使用随机减少时,半监督增强将R2提高了多达+0.18。当应用跨疾病严重程度的平衡采样时,即使只有十张标记图像可用,改进也更加显著,R2提高了+0.35。这些发现不仅强调了半监督扩散框架的有效性,还突出了平衡采样在最大化合成数据增强效益中的关键作用。
需要注意的是,本研究的目标不是开发半监督回归模型,而是探索生成模型通过合成数据增强来增强监督回归任务的潜力。虽然半监督回归可以直接利用未标记样本,但它并不扩大标记训练集。相比之下,所提出的基于扩散的方法学习了潜在的数据分布,并生成了新的标记示例,有效地缓解了标注有限的限制。
此外,依赖于严重程度的评估显示,预测误差随着疾病严重程度的增加而增加,反映了视觉复杂性和真实数据集中晚期感染阶段代表性不足的综合效应。值得注意的是,半监督扩散模型始终减轻了这种效应,在中等到高严重程度区间内减少了误差,并即使在极端标注稀缺的情况下也保持了有意义的严重程度依赖结构。这证实了所提出的方法不仅在平均性能上有所改进,还在数据不平衡最为明显的场景中增强了鲁棒性。
除了在数据增强方面的实用性外,所提出的框架生成的合成图像本身也是一种宝贵的资源。与其他半监督或少量样本学习技术不同,后者在不生成新标注数据的情况下提高模型性能,基于扩散的方法生成了在整个严重程度范围内具有可控疾病严重程度的真实合成图像。这种能力解决了植物疾病数据集中的一个根本挑战:难以在完整严重程度范围内获得标注样本,特别是在野外条件下难以捕捉到的代表性不足的严重程度。因此,能够程序化生成标记图像为扩展和平衡训练、验证和基准测试数据集提供了手段,其好处超出了本工作中评估的特定回归任务。
总体而言,结果表明,将未标记数据纳入生成模型训练使数据增强在标注稀缺的场景中也变得可行和有效。半监督扩散建模与平衡采样的结合提供了一种实用策略,可以在保持对目标变量(如疾病严重程度)的精确控制的同时,减少对大型标记数据集的依赖。未来的工作将探索将这一框架扩展到其他作物和疾病条件,以进一步验证其泛化能力。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号