《AgriEngineering》:Reproducible Machine Learning for Banana Postharvest Quality Assessment: Data Provenance, Statistical Inference, and Accuracy Efficiency Trade-Offs
编辑推荐:
针对香蕉成熟度识别所报告的高准确率往往缺乏可比性,其原因在于公开数据发布版本将原始图像与增强导出文件混合,且结果通常以点估计呈现。本研究提出一个可复现、按任务分离的视觉香蕉采后品质评估基准。在分类发布版本的官方562幅图像测试划分上评估了8个分类器(包括紧凑型
针对香蕉成熟度识别所报告的高准确率往往缺乏可比性,其原因在于公开数据发布版本将原始图像与增强导出文件混合,且结果通常以点估计呈现。本研究提出一个可复现、按任务分离的视觉香蕉采后品质评估基准。在分类发布版本的官方562幅图像测试划分上评估了8个分类器(包括紧凑型MicroNet_Banana以及轻量级与基于Transformer的模型),并在检测发布版本的官方757幅图像测试划分上评估了6个检测器(5种YOLO变体与RT-DETR-L)。与同一发布版本的既往工作相比,该框架新增了数据溯源审计、基于哈希的划分独立性检验、经Holm校正的配对McNemar检验与等效性检验、含Pareto分析的标准化效率协议,以及外部与跨源验证。EfficientNet-B0取得最高准确率(99.47%;95% CI:98.44–99.82%),并与另外三个轻量级模型在实际意义上等效;而MicroNet_Banana以0.41 M参数量和7.65 ms延迟达到94.66%。YOLO检测器(94.85–95.36% mAP@50)彼此在实际意义上等效,而RT-DETR-L较低(93.36%)。剔除近似重复的测试图像后准确率变化小于0.9个百分点,但在独立数据集上的准确率降至32.8–61.7%。因此,模型选择应综合考量准确率、不确定性、数据溯源、泛化能力与计算成本。
香蕉成熟度决定采后处理、市场适销性与货架期决策,果皮色泽与表面外观是最常用的分级线索,但人工检验主观、缓慢且在包装厂与出口链规模下不一致;无损替代方案涵盖色度计、叶绿素仪与光谱技术(spectroscopy)以及结合机器学习(machine learning)的相机系统,但可靠部署不仅需要高测试集准确率,还需刻画数据溯源、划分完整性、架构透明性、不确定性与硬件依赖效率。研究人员梳理了非成像与光谱方法、经典机器学习与混合流程、基于卷积神经网络(CNN)的成熟度分类以及面向果实成熟度的目标检测研究,指出已有报道的准确率虽高(如定制CNN验证准确率96.14%、微调ResNet101达99.2%、Xception达98.99%、轻量MobileNetV2变体F1-score达98%)却鲜具可比性:数据集、类别定义与划分各异,数据集与采集设备信息常不充分,结果多以单一点估计呈现而缺乏不确定性与配对统计检验,且存在数据泄漏(data leakage)风险。Chaowalittawin等使用与本研究相同的13,478文件分类发布版本,将导出文件重新划分为56%、14%与30%子集并训练轻量CST-MobileNetV2;由于该发布版本每个训练样本含三个增强输出,对导出文件的随机重划分可能将同一源图像的增强版本置于不同子集。据此,本研究并不以超越既有模型为目标,而是提出面向视觉香蕉采后品质评估的可复现基准框架,其增量贡献为:(i)在分类(3931对13,478)与检测(7546对18,074)两个公共发布版本中分离源图像与导出增强文件的数据溯源审计;(ii)基于精确字节、解码像素与感知哈希且以可执行代码发布的划分独立性检验;(iii)以多重性控制为特征的匹配统计推断(Wilson区间、经Holm校正的精确McNemar检验、bootstrap区间与按类别分层的重复测量检验),替代点估计排序;(iv)以任务特定Pareto前沿解读的标准化效率协议(参数量、FP32权重大小与同一GPU上的内核延迟);(v)分类与检测的任务分离评估,含无需重训练的外部与跨源验证,并为通过应用程序接口(API)同时服务两类模型的BanaLab(Banana Laboratory)概念验证系统界定明确的验证范围。研究提出三个研究问题:RQ1关注各分类器(含CNN与Transformer模型)在共同562幅图像分类测试集上的预测性能差异;RQ2关注YOLO变体与RT-DETR-L在共同757幅图像测试集上的检测性能与实测延迟比较;RQ3关注在考虑数据溯源、统计多重性、对其他图像的泛化及任务特定局限后,哪些结论仍然成立;测试集规模562与757分别为公共分类与检测发布版本的官方留出测试划分,保持不变以保证与其他使用同一发布版本的研究可直接比较。
在技术方法上,研究设计包含遵循相同七阶段的两条独立实验分支(分类与检测),报告单元为导出图像文件,推断独立性在源图像或父图像层面评估;分类分支自13,478个导出文件(11,793训练、1123验证、562测试)出发,检测分支自源自7546幅源图像的18,074个导出文件(15,792训练、1525验证、757测试)出发,均经过划分完整性审计、输入缩放(分类224×224像素、检测640×640像素)、模型训练(8个分类器与6个检测器)、统计评估与外部及跨源验证,并以任务特定Pareto前沿比较效率。数据集分别来自Shahriar的香蕉成熟度分类数据集(Apache License 2.0)与Roboflow Universe第2版香蕉成熟过程数据集(2022年3月15日生成,CC BY 4.0)。划分完整性分三阶段评估:精确字节哈希、解码像素哈希与感知相似性筛查;第四阶段父组验证因发布版本未提供父标识或原始文件而不可行,基准因此使用已发布划分并将父级独立性视为未解决,同时对每个发布版本随机抽取24幅被标记测试图像与其最相似训练或验证图像进行目视检查,并在剔除被标记测试图像后重算全部结果(变体A与变体B)。分类器方面,ResNet50V2与Xception采用ImageNet初始化,卷积基冻结20个epoch后以Adam、学习率1×10
?5、批大小64微调最后15层;MicroNet_Banana为从头训练的紧凑卷积网络,含三个3×3同填充卷积块,经全局平均池化、dropout与四类softmax输出,共410,308个参数(409,540可训练与768不可训练批归一化统计量),即0.41 M;另在相同协议下训练MobileNetV3-Large、MobileNetV3-Small、EfficientNet-B0、DeiT-Tiny与MobileViT-S。随机种子固定为20260904;所有分类器使用224×224输入、批大小64与基于验证损失的早停。检测器方面,YOLOv8n、YOLOv10n与YOLOv11n由Ultralytics预训练纳米级权重初始化,均使用640×640输入、最多100个epoch、批大小16、随机梯度下降与初始学习率0.01;YOLOv5n与YOLOv9t以相同配置训练,RT-DETR-L因12 GB显存限制以AdamW(初始学习率1×10
?4)与批大小8训练100个epoch。统计上采用Wilson 95%置信区间、经Holm校正的精确McNemar检验(12个预先声明比较)、双单侧检验(TOST)等效性分析、1000次图像级配对bootstrap与Friedman检验及Kendall's W的按类别分层重复测量分析。效率测量在统一工作站(AMD Ryzen 5 3400G、NVIDIA GeForce RTX 3060 12 GB、32 GB内存、Windows 11 Pro 64位;Python 3.11.9、PyTorch 2.6.0、Keras 3.15.1、timm 1.0.30、Ultralytics 8.4.173)上以批大小1、预热30次后进行。BanaLab以Python/FastAPI 0.116.2接口、Docker 28.4.0容器与PostgreSQL 15持久化实现。外部验证使用独立公共数据集BananaImageBD(CC BY 4.0,820幅孟加拉国四个本地品种四成熟阶段原始图像);跨源验证将分类器应用于检测测试集真值框裁剪图像,将检测器应用于分类测试图像与BananaImageBD图像。
研究结果显示,划分完整性审计未在任一发布版本的训练、验证与测试划分间发现精确字节或解码像素重复,但感知哈希(汉明距离≤5)将562幅分类测试图像中的240幅标记为至少一幅训练图像的近似重复、100幅为验证图像的近似重复,检测发布版本相应为10幅与143幅;对每个发布版本随机抽取24对被标记图像目视检查确认48对均显示同一果实;剔除被标记图像后分类准确率变化至多0.89个百分点且分类器排序保持,检测mAP@50在变体A中变化至多0.03个百分点、在变体B中下降0.49–0.78个百分点。分类性能方面,测试集含110幅unripe、154幅ripe、113幅overripe与185幅rotten;EfficientNet-B0准确率最高(559幅正确;99.47%,95% Wilson CI 98.44–99.82%),其后为MobileNetV3-Large与MobileViT-S(556;98.93%)、DeiT-Tiny(554;98.58%)、Xception(553;98.40%)、MobileNetV3-Small与ResNet50V2(552;98.22%)与MicroNet_Banana(532;94.66%,92.48–96.24%);MicroNet_Banana对overripe敏感度最低(92.04%)、对unripe平衡准确率最高(97.85%),预训练模型对overripe几乎完全识别(113幅中110–113幅)。检测性能方面,五种YOLO检测器在757幅测试划分上mAP@50介于94.85%与95.36%(跨度0.51个百分点),RT-DETR-L为93.36%;YOLOv11n的mAP@50与精确率最高,YOLOv9t的mAP@50–95最高(70.63%),YOLOv10n召回率最高;overripe检测最可靠(所有六种检测器AP@50≥97.8%),rotten的AP@50–95最低(54.9–57.5%)。计算效率方面,MicroNet_Banana延迟最低(7.65 ms)且参数量最少(0.41 M),代价是准确率较低;DeiT-Tiny是准确率高于98.5%的分类器中最快者(14.05 ms);Keras实现的MobileNetV3与EfficientNet-B0较其参数量所暗示的更慢(86.69–126.59 ms);检测分支中YOLOv5n(22.98 ms)与YOLOv8n(23.55 ms)最快,YOLOv9t(69.47 ms)与RT-DETR-L(69.22 ms)最慢。统计推断方面,MicroNet_Banana与所有其他分类器差异显著(Holm校正p≤0.0012),EfficientNet-B0与MobileNetV3-Large、MobileViT-S、DeiT-Tiny或MobileNetV3-Small间未检出差异(校正p=0.078–0.750),Xception与ResNet50V2间亦未检出差异(校正p=1.000);TOST分析显示Xception与ResNet50V2在±2个百分点界限下实际等效(差异+0.18 pp,90% CI ?0.70至1.06 pp,p<0.001),但在±1个百分点界限下等效性未建立(p=0.062),MobileNetV3-Large、MobileViT-S与DeiT-Tiny在±2 pp内与EfficientNet-B0等效(TOST p≤0.003),MobileNetV3-Small则未达等效(p=0.053)。配对bootstrap显示五种YOLO检测器间mAP@50在Holm校正后无显著差异且所有YOLO配对90%置信区间均位于±2个百分点内;mAP@50–95上YOLOv11n与YOLOv9t高于YOLOv5n(+0.85与+1.08点),但差异亦在±2点内;RT-DETR-L低于每种YOLO检测器1.25–2.34点。按类别分层分析显示六种检测器在精确率(Friedman χ
2(5)=6.381,p=0.271,Kendall W=0.213)、召回率(χ
2(5)=3.134,p=0.679,W=0.104)与F1(χ
2(5)=8.571,p=0.127,W=0.286)上均无总体模型效应。任务特定Pareto效率基准显示分类中EfficientNet-B0、MobileNetV3-Large、MobileViT-S、DeiT-Tiny、MobileNetV3-Small与MicroNet_Banana为Pareto有效,Xception与ResNet50V2被支配;检测中YOLOv11n、YOLOv9t、YOLOv8n与YOLOv5n为Pareto有效,YOLOv10n被YOLOv11n支配,RT-DETR-L被五种YOLO模型中的四种支配。BanaLab以Docker化客户端-服务器实现部署,具备功能性分类与检测推断路径,其模型级吞吐受内核延迟约束,但因端点负载、并发、可用性与安全性未评估,仅作为功能性概念验证报告。外部验证中,在616幅具有对应类别的BananaImageBD图像上,分类器准确率降至32.79–61.20%(下降37.7–61.6个百分点),六种检测器以最高置信度检测类别作为图像标签时达58.44–61.69%;主要错误模式为预测rotten(每模型178–319幅)、overripe召回低(3.9–54.7%),unripe识别最佳(召回至多95.8%);MobileNetV3-Small在分类器中外部准确率最高(61.20%),与最佳检测器RT-DETR-L(61.69%)和YOLOv9t(61.20%)相近;无对应类别的semi-ripe图像多被MicroNet_Banana判为unripe(78.4%),多被ResNet50V2、Xception、DeiT-Tiny与六种检测器判为ripe(58.8–83.8%)。跨源验证中,分类器应用于检测测试集的1519个真值裁剪后达70.31–79.59%准确率(低于自身测试集19.9–27.9个百分点),EfficientNet-B0与MicroNet_Banana降幅最小;六种检测器对562幅分类测试图像标注准确率91.99–93.95%,YOLOv8n最高、RT-DETR-L最低;在同一批图像上EfficientNet-B0优于最佳检测器YOLOv8n(仅分类器正确的32幅对仅检测器正确的1幅;精确McNemar p<0.001)。
讨论部分指出,分类结果证实ImageNet迁移学习在所评估测试集上产生最强的点估计:七个预训练分类器达98.2–99.5%准确率,轻量EfficientNet-B0、MobileNetV3-Large、MobileViT-S与Transformer类DeiT-Tiny至少与更大的ResNet50V2和Xception同样准确且参数量少约4–8倍;MicroNet_Banana作为唯一从头训练的模型参数量最少、延迟最低,但其准确率下降相对每个预训练模型仍显著,故最好将其解读为明确的精度-效率权衡而非普遍更优的分类器。按类别结果揭示了该权衡的集中之处:MicroNet_Banana对overripe敏感度最低(92.04%,113幅中104幅),8个错误判为ripe、1个判为rotten、无一判为unripe,而ResNet50V2与Xception分别仅误分3幅与1幅overripe,EfficientNet-B0无误分;MicroNet_Banana的Grad-CAM图显示其激活集中于果皮及其褐斑而非背景;overripe为过渡阶段,其与相邻类别的边界本就不如unripe锐利,混淆overripe与ripe会延迟应即售或加工果实的分流,混淆overripe与rotten则导致过早丢弃,但两者均为相邻阶段间错误,不混淆unripe与腐烂果实;相对于预训练模型3.6–4.8个百分点的准确率下降对于需人工确认临界病例的筛查与决策支持任务可接受——若将最大类别概率低于0.80的预测转人工复核(占测试图像9.8%),其在其余图像上的准确率升至97.83%;该模型适用于收货分诊、零售货架监测或基于智能手机的自评估,而不太适合出口批次的全自动分选。讨论亦强调统计非显著与实际等效须区分:McNemar检验未检出差异仅表明数据未提供差异的强证据,亦可能源于不一致观测不足,TOST分析补充了缺失信息,使在±2 pp内实际等效的模型可依目标框架下的参数预算与延迟进行选择。98–99%分类准确率的表面强度须结合数据集构建解读:划分完整性审计直接应对泄漏风险,尽管未发现精确重复,562幅分类测试图像中240幅在训练集中存在同一果实的感知近似重复,剔除后准确率变化小于0.9个百分点,故高测试准确率不能由记忆近似重复解释;但向其他采集条件的泛化是另一问题,在另一国家以其他品种与设备采集的BananaImageBD上准确率降至32.8–61.7%,主要因ripe与overripe果实的褐斑被解读为腐烂,且分类器向检测发布版本果实裁剪仅部分迁移(70.3–79.6%),故官方划分上的准确率应读作分布内性能,新场景部署需要该场景图像并可能需域适应。检测方面,五种YOLO检测器紧密聚集,配对bootstrap显示mAP@50无Holm显著差异且所有YOLO配对在±2个百分点内实际等效,分层分析显示精确率、召回率与F1均无总体效应;基于Transformer的RT-DETR-L的mAP低1.3–2.3点,参数量约多11–16倍、延迟为最快YOLO检测器的2.5–3倍,对该数据集与硬件无优势,故YOLO模型间的检测器选择更适合作为多目标工程决策;与已发表香蕉成熟度研究相比,分类结果与其他迁移学习方法处于同一范围,唯一直接可比的是使用同一分类发布版本的Chaowalittawin等,其以轻量CST-MobileNetV2报告98%精确率、召回率与F1-score,本研究MobileNetV3-Large(98.91%)与EfficientNet-B0(99.49%)的宏平均F1相近或略高,但测量于官方测试划分、避免了将同一源图像增强版本置于不同子集,并附有置信区间与配对检验;仅0.41 M参数的MicroNet_Banana(94.66%)优于表中所汇总的经典与混合流程。讨论还明确,将轻量香蕉分类器集成到微服务系统的工作已使用同一分类发布版本发表,故本研究的贡献不在于将紧凑CNN与Web应用结合,而在于可复现性、统计设计与性能-效率解读;BanaLab展示了软件集成但尚未确立可用性、可用度、并发性或现场有效性。
局限性部分指出:第一,因无公共香蕉数据集同时提供图像级成熟度标签与边界框标注而使用两个不同公共来源,分类发布版本为四类、检测发布版本为六类,故每类模型族在与自身标注类型匹配的来源上评估,分类器与检测器结果源于不同任务、类别体系、分辨率与数据集,不可直接比较;第二,两个发布版本的源图像溯源与采集协议规定不完整,导出增强文件并非独立的生物学或采集单元,官方划分上的结果描述分布内性能;第三,未在农场或包装厂采集图像,外部效度以独立公共数据集BananaImageBD与两发布版本间跨源验证评估,BananaImageBD在受控影棚条件下采集、不含rotten类且其semi-ripe阶段在四类体系中无对应,故性能尚不能推广至包装设施、零售场景或其他品种;第四,原生模型文件大小依赖序列化,延迟依赖软件栈,跨框架延迟比较仅为指示性;第五,原始训练笔记本与父级清单不可得,全部结果由最终训练模型及其逐图像预测重算,精确训练重跑可能因GPU非确定性操作略有差异;第六,等效性分析依赖作者选定的界限与少量不一致图像;最后,BanaLab未评估生产性能或用户。
结论部分译为:本研究表明,可辩护的香蕉成熟度评估基准需要同等关注预测性能、数据溯源、统计设计、泛化与计算测量。在八个分类器中,EfficientNet-B0取得最高准确率(99.47%),并在±2个百分点内与MobileNetV3-Large、MobileViT-S和DeiT-Tiny实际等效;后两者在任务内Pareto比较中支配更大的Xception与ResNet50V2。MicroNet_Banana以0.41 M参数量与最低延迟(7.65 ms)达到94.66%,尽管其准确率下降显著,仍作为紧凑端点保持Pareto有效,该下降集中于过渡性overripe类别,对于需人工确认的筛查应用可接受。五种YOLO检测器产生94.85%至95.36%之间的mAP@50并在±2个百分点内实际等效,而RT-DETR-L准确率较低(93.36%)且更慢。官方划分间同一果实的近似重复不能解释高准确率,但在独立公共数据集上准确率降至32.8–61.7%,故所报告性能应解读为分布内性能而非田间就绪的证据。与同一分类发布版本上先前的点估计工作相比,本研究的增量贡献由五个可验证要素构成:(i)将3931与7546幅源图像从13,478与18,074个导出文件中分离的数据溯源审计;(ii)以可执行代码发布的精确、解码像素与感知哈希划分独立性检验;(iii)以多重性控制与等效性检验替代点估计排序的匹配推断;(iv)经任务特定Pareto前沿解读的标准化效率协议;(v)分类与检测的任务分离评估,含外部与跨源验证,并为BanaLab概念验证界定明确有限的验证范围;这些要素可用所提供代码复现,并使其他研究人员能在相同协议下评估新模型。未来工作将应对第6节所列局限:(i)在厄瓜多尔包装厂与零售场景以多种设备与光照条件构建带标注的多品种香蕉数据集,在图像与果实两个层面标注,使分类与检测可在同一图像上评估;(ii)以多个随机种子重复所有模型训练,以量化训练变异性及测试集抽样不确定性;(iii)在边缘设备上评估域适应与量化模型,以在不损失效率的前提下缩小在BananaImageBD上观察到的泛化差距;(iv)端到端评估BanaLab,包括含预处理与后处理的延迟、并发负载、故障处理、安全性与采后操作人员的可用性。