《Big Data and Cognitive Computing》：Joint Search of CNN Training Parameters and Training Images Preserving Discriminative Features Required for Generalization Performance of CNN Models Using Interactive Genetic Algorithms
编辑推荐：
为训练卷积神经网络（Convolutional Neural Network, CNN）选择超参数并确定实现可靠泛化所需的训练图像数据量，仍是具有挑战性且往往耗时的任务，通常依赖人工试错。一般而言，用于训练CNN的图像数据集常包含冗余图像，因此需要剔除这些冗余
为训练卷积神经网络（Convolutional Neural Network, CNN）选择超参数并确定实现可靠泛化所需的训练图像数据量，仍是具有挑战性且往往耗时的任务，通常依赖人工试错。一般而言，用于训练CNN的图像数据集常包含冗余图像，因此需要剔除这些冗余图像，并利用可用训练数据中较少的部分重建一个精简的智能数据集。尽管遗传算法（Genetic Algorithm, GA）已被应用于超参数调优，但对于如何从原始完整数据集中系统地提取特征丰富的图像，以及训练数据使用率如何影响泛化性能，关注较少。本研究提出一种基于交互式遗传算法（Interactive Genetic Algorithm, IGA）的框架，同时优化关键训练参数与图像使用率（定义为学习过程中所用训练图像的比例）。通过应用交互式遗传算法，操作者不仅可在GA运行过程中改变各参数的搜索范围以进行优化，还可根据需要在观察GA所执行的优化过程时终止该过程。该方法在基于MATLAB的环境中实现，允许在优化过程中动态调整参数。在包括CIFAR-10与EuroSat在内的四个不同数据集上的实验结果表明，所提方法在使用可用训练数据较少部分的情况下，能够达到与人工调优模型相当的分类性能。尽管这是数据集特定的观察结果而非普遍的最小数据阈值，但其表明，视数据集而定，即使图像使用率约为43%也可达到相近的准确率水平，这提示并非所有训练样本对模型性能的贡献均等。这些发现表明，所提出的基于交互式遗传算法的框架能够在多个数据集上降低训练数据使用率，同时保持相当的分类性能。
研究背景方面，工业检测日益依赖基于深度学习的视觉系统，以减少对人工检测的依赖并提升质量控制过程的可重复性与可扩展性。然而，基于CNN的检测模型的开发与持续维护带来了两个相互耦合的实际挑战：一是确定合适的训练配置，二是确定在训练数据集不断扩张的情况下究竟需要多少数据才能保持可靠的泛化能力。在长期运行的工业应用中，图像数据随时间不断积累并可能包含大量冗余，这些问题尤为突出。研究人员指出，尽管GA已被广泛应用于CNN架构与超参数的自动优化，但这类方法通常假定训练数据集是预先给定且固定的；另一方面，数据剪枝研究虽已证明相当一部分训练数据可在保持测试性能的同时被剔除，但既有工作较少将训练数据使用量本身作为优化变量纳入进化搜索过程。基于此，本研究提出一种交互式遗传算法框架，将最大训练轮数（Max Epoch）、小批量大小（Mini-batch Size）、学习率（Learning Rate）与图像使用率（Image Usage Rate）四个变量纳入统一的进化搜索过程，并允许操作者在优化过程中以人在回路（Human-in-the-Loop, HITL）方式调整搜索范围，从而在同一搜索过程中同时回答"如何训练CNN"与"需要多少训练数据"两个问题。
研究人员开展了如下研究并得出相应结论：将图像使用率作为显式优化变量与常规训练参数联合搜索，在VGG19迁移学习条件下于四个异构数据集上进行了评估，结果表明视数据集而定，使用显著缩减的图像使用率仍可获得与使用更大训练集配置相当的分类性能，说明满意的泛化性能可借助缩减后的训练子集得以保持；该方法的重要意义在于为工业检测等场景提供了一种系统性的、数据高效的模型开发手段，可减少训练时间、计算成本与存储需求，并加速迭代式模型开发。需要说明的是，该方法在训练子集层面进行优化，给定使用率下的训练子集为随机采样，保留子集并非依据单独的特征准则对单幅图像进行显式排序或选择，因此"特征丰富"在本研究中是操作性地指与高适应度解相关联、能在缩减使用率下保持满意泛化的保留训练子集。
在关键技术方法方面，研究采用交互式遗传算法对四个变量进行联合搜索，基因型以8位二进制编码、种群规模N=12、精英数E=2、基因长度32位，采用锦标赛选择、50%均匀交叉与约3.13%变异率；适应度函数由分类准确率与图像使用率加权构成，权重系数α由用户指定；CNN模型基于VGG19迁移学习构建，预训练卷积层以基础学习率微调、全连接层学习率取其10倍，优化器为带动量的随机梯度下降（Stochastic Gradient Descent with Momentum, SGDM），开发环境为MATLAB R2025b。样本队列来源包括CIFAR-10（每类500幅训练、300幅测试）、EuroSat（同样每类500幅训练、300幅测试）、实验室本科生毕业研究中的机器人旋盖声音波形图像数据集（三类，每类300幅训练、50幅测试）以及来自数控（Computer Numerical Control, CNC）铣床主轴轴承时序声音块（Sound Block, SB）数据集（正常与异常各500个训练文件及等量测试文件）。需说明的是，用于GA适应度评估与人工参数调整的数据集同时参与了模型选择决策，故所报告准确率应理解为验证/模型选择性能而非独立测试性能。
研究结果方面：（1）在人工调参对照中，七名本科四年级学生使用相同VGG19模型与相同5000幅CIFAR-10训练图像进行人工试错训练，训练轮数为40至100轮，所获准确率作为人工调参的参照；（2）在基于所提交互式GA的自动调优中，五次试验表明GA能够自动获得实现高准确率的参数，且在不使用全部图像的情况下即可获得与使用整个数据集相当的准确率，每次适应度更新时对应训练子集被保存以保证可复现性，试验中权重系数α设为1，此时图像使用率项权重为零，故所得使用率为搜索配置的结果而非适应度函数直接奖励的数值；（3）在EuroSat上，人工训练平均准确率约96%，而GA方法在学习率0.0005、7轮、小批量28、图像使用率80%时达到96.8%，在图像使用率降至73%时仍获得96.4%，与CIFAR-10结果一致；（4）在旋盖/噪声/语音三分类数据集上，人工方法已获100%准确率，故目标转为在保持100%准确率的同时尽量减少训练数据量，通过交互式降低提取量上限，四次试验在图像使用率43%至51%（平均47%）下均获100%准确率，但作者指出因该数据集较小且使用完整训练集时已达100%，43%应视为观察案例而非普遍适用的缩减阈值；（5）在CNC声音块数据集上，五次试验中α取1.0、0.8、0.5、0.3、0.1分别对应图像使用率79%、70%、60%、50%、45%，所报告准确率介于96.8%至97.6%，说明不同用户指定α下的性能—数据使用权衡，但因每个α对应独立GA评估且其他优化参数亦可能不同，结果不应解释为α单独的因果效应。综合来看，与高性能配置相关联的图像使用率随数据集而异：CIFAR-10为86%至97%，EuroSat为73%至80%，旋盖数据集为43%至51%，声音块数据集在不同α下为45%至79%，这些数值不应被解读为可直接比较的最低需求，所观察到的训练数据缩减应理解为依赖于数据集与优化目标的而非普遍百分比。此外，研究还比较了优化成本与训练数据节省，单代计算时间因数据集而异，N=12与G=30固定，一次性优化成本可近似为N与G与单代实测墙钟时间之积，若缩减后的训练子集在后续再训练中重复使用，初始GA搜索成本可被摊薄，但盈亏平衡点取决于数据集规模、硬件、网络架构、所达使用率与实际再训练频率，属面向部署的未来工作。
讨论与结论部分，作者总结指出本研究开发了一种用于联合确定CNN训练条件与训练数据使用率的交互式遗传算法框架，将最大训练轮数、小批量大小、学习率与图像使用率纳入统一进化搜索，使训练数据使用量成为显式优化变量而非固定的预处理条件，人在回路机制使操作者能够监测优化过程并在GA执行期间调整相应搜索范围。在CIFAR-10、EuroSat、机器人旋盖声音波形图像与CNC铣削时序主轴轴承数据上的评估支持了该框架的核心前提：训练数据使用率可与常规CNN训练参数一同直接纳入搜索过程，视数据集而定可在显著缩减的图像使用率下获得相当的分类性能。作者同时指出，由于实验将框架作为整体系统评估，CNN训练参数优化、图像使用率优化与人在回路搜索空间自适应三者的独立贡献尚未分别量化，需在未来开展受控的逐组件消融分析；由于GA适应度评估与人工参数调整所用数据集亦参与模型选择，所报告结果为验证/模型选择性能，未来采用独立测试集可提供额外证据；当前评估基于VGG19迁移学习与四个分类数据集，未来可扩展至轻量网络等其他架构、其他应用领域以及目标检测、图像复原、图像增强、图像去雾与异常检测等任务，并与贝叶斯优化（Bayesian Optimization, BO）、随机搜索、粒子群优化（Particle Swarm Optimization, PSO）等方法在相同联合搜索问题与等效计算预算下进行比较；此外，重复或折叠加实验与统计分析、精确率、召回率、F1分数及混淆矩阵分析可进一步评估结果一致性与类别特定性能。研究结论可译为：本研究开发了一种用于联合确定CNN训练条件与训练数据使用率的交互式遗传算法框架，将最大训练轮数、小批量大小、学习率与图像使用率纳入统一进化搜索，使所用训练数据量成为显式优化变量而非固定预处理条件；人在回路机制使操作者能够监测优化过程并在GA执行期间调整相应搜索范围，从而为研究"如何训练CNN"与"保持满意泛化性能需要多少可用训练数据"提供了系统性手段；实验发现支持该框架的核心前提，即训练数据使用率可与常规CNN训练参数一同直接纳入搜索过程，视数据集而定可在显著缩减的图像使用率下获得相当的分类性能，表明借助缩减后的训练子集可保持满意的泛化性能；由于该方法在训练子集层面运行，通过联合搜索CNN训练参数与所用训练数据量实现，保留的子集保持了支持所需性能的充分判别信息，而给定使用率下训练子集为随机采样，重复或折叠加评估可提供关于子集组成敏感性的额外证据，此类分析未在本研究中开展，仍为未来工作方向。
