面向长尾矿物图像识别的多阶段重平衡训练方法

《Geosciences》:Long-Tailed Mineral Identification Based on Multi-Stage Training

【字体: 大 中 小 】 时间:2026年10月17日 来源:Geosciences 2.3

编辑推荐:

  基于宏观手标本照片的深度学习矿物图像识别已成为矿物识别的重要途径。然而,矿物天然分布与储量的固有不平衡导致矿物图像数据集呈现长尾分布(long-tailed distribution),使图像较少的矿物识别准确率显著降低。为解决该问题,研究人员提出一种多阶段训

  
基于宏观手标本照片的深度学习矿物图像识别已成为矿物识别的重要途径。然而,矿物天然分布与储量的固有不平衡导致矿物图像数据集呈现长尾分布(long-tailed distribution),使图像较少的矿物识别准确率显著降低。为解决该问题,研究人员提出一种多阶段训练框架(multi-stage training framework),通过特征提取器调整(feature extractor adjustment)、核心特征学习(core feature learning)和分类器再训练(classifier re-training)增强尾部类别(tail-class)矿物的识别性能。特征提取器调整提高尾部类别样本的logit分数(logit scores),核心特征学习提高低置信度实例(low-confidence instances)的采样频率,分类器再训练提高分类器对尾部类别实例的敏感性。该多阶段训练框架提高矿物识别的整体性能并增强模型的泛化能力(generalization ability)。在包含36个矿物类别的数据集上的实验结果表明,所提方法将数据量最少的三分之一矿物类别的平均准确率(mean accuracy)从67.47%提高至80.06%,最大提升为24.1%。此外,所有36个矿物类别的总体平均准确率从77.27%提高至81.27%,证实了所提方法的有效性。
研究背景与问题方面,矿物资源是现代社会的基础,钻孔剖面、地质剖面、地球物理/地球化学观测和卫星/遥感数据已被用于矿产勘探,但这些方法耗时且成本较高。基于宏观手标本照片的深度学习矿物识别被认为快速且经济。已有研究使用 Inception-V3、MiNet、VGG、ResNet、ConvNeXt、SwinMin、YOLOv8 以及多模态框架等进行矿物识别,验证了卷积神经网络(Convolutional Neural Network,CNN)和注意力机制等在矿物图像识别中的实用性。然而,这些方法大多忽略矿物图像数据集的固有数据不平衡。由于不同矿物的自然分布和储量不均,图像数据集通常呈长尾分布(long-tailed distribution):石英、方解石等常见矿物样本充足,而某些宝石或特殊矿物样本严重不足。以 ResNet-50 在 Minerals-36 数据集上的表现为例,总体识别准确率为77.27%,样本量前三分之一的头部类(head-class)平均准确率为87.14%,中间类(medium-class)为77.19%,样本量后三分之一的尾部类(tail-class)仅为67.47%。欠采样会减少头部类样本并可能降低其识别准确率,过采样通过重复尾部样本补偿但未提供新特征且可能导致过拟合。近期长尾识别研究通过头尾特征融合、类别外推、解耦骨干-分类器学习和决策边界感知生成等方法改善尾部表示,但仍需超越简单调整样本数量,引导模型学习尾部矿物更具代表性的特征。因此,研究人员提出多阶段重平衡策略,在不同训练阶段处理类别频率不平衡、类内属性不平衡和分类器决策边界偏差。研究结果表明,该方法显著提高尾部类和整体识别性能,并增强模型泛化能力,对长尾矿物图像分类具有重要意义。

关键技术与方法方面,研究人员采用多阶段重平衡策略,包括特征提取器平衡(feature extractor balancing,FEB)、核心特征学习(core feature learning,CFL)和分类器再训练(classifier re-training,cRT)。FEB将标准softmax交叉熵损失改为频率感知损失;CFL在训练后期以逆概率采样权重提高低置信度实例采样频率,并加入中心损失(center loss)约束;cRT冻结特征提取器,以类别平衡采样重新训练分类器。数据集Minerals-36为已有数据集增强版,图像主要通过网络爬虫从Mindat网站收集并人工筛选,共113,569张图像、36类,按8:1:1划分训练/验证/测试;感知哈希(Perceptual Hashing,pHash)识别出3529对可能同源变体。骨干网络为预训练ResNet-50,训练110轮;评价指标为平均类别精度(mean class accuracy,mAcc)、类间精度标准差(Class-Wise Accuracy Standard Deviation,CwASD)和类间精度范围(Class-Wise Accuracy Range,CwARange)。

研究结果方面:

3.1 数据集与评价指标:Minerals-36共113,569张图像、36类,呈长尾分布,不平衡因子为81.4。数据集按8:1:1随机划分。pHash发现3529对相似图像,约5%测试集图像可能曾用于训练,但基线模型使用同一数据集,其准确率膨胀可能更大。评价采用mAcc,并分头、中、尾三组报告,引入CwASD和CwARange。结论是该数据集高度不平衡,需要公平指标评估。

3.2 超参数设置:实验在NVIDIA Tesla P100 GPU、CentOS Linux release 7.9.2009 (Core)、PyTorch 3.8.18上进行,使用预训练ResNet-50。总训练110轮;FEB全程应用;CFL在第60至100轮引入,γ=0.0003,中心学习率固定为0.5,每5轮更新样本统计;前100轮后冻结特征提取器,分类器重初始化并再训练10轮。结论是参数设置遵循已有研究。

3.3 多阶段重平衡策略性能:尾部类平均准确率从67.47%升至80.06%,中间类从77.19%升至80.37%,头部类从87.14%降至83.37%,总体从77.27%升至81.27%。若数据集不含相似图像,该方法准确率提升可能更高。逐类准确率显示尾部矿物一致改善;CwASD由0.15降至0.11,CwARange由0.52降至0.40。混淆矩阵左下区域变浅,二维可视化显示类别分离更清晰。结论是多阶段策略显著提升尾部和中间类,仅轻微牺牲头部类,整体分类性能更好。

3.4 各平衡阶段性能评估:

3.4.1 特征提取器调整:单独应用使尾部类平均准确率提高7.06%,总体提高2.47%,CwASD和CwARange分别降低0.02和0.07。以 Albite 为例,其最终训练损失未调整时为8.06 × 10?5,调整后增至4.95 × 10?2。平均logit分数显示尾部类显著增加,头部类略降。结论是增强欠代表类别学习,缩小类别差距。

3.4.2 核心特征学习:单独应用使中间类提高1.16%,尾部类提高1.51%,总体提高0.86%,头部类仅下降0.08%。二维可视化显示类别分离更清晰、重叠减少。结论是能感知类内多样性,在不显著牺牲优势类的情况下改善识别性能。

3.4.3 分类器再训练:单独应用使尾部类提高6.15%,总体提高1.94%,CwASD和CwARange分别降低0.03和0.06。分类器权重L2范数更平衡,尾部权重增强,头部偏差降低。结论是类平衡采样纠正了偏向多数类的决策边界。

3.5 消融研究:FEB与cRT组合使尾部类平均准确率提高12.01%,总体提高3.16%,CwASD和CwARange分别降低0.04和0.11,但头部类下降5.03%。FEB与CFL组合对头部影响更温和。cRT与CFL因均涉及类别平衡采样,协同效应不强。三者联合取得最佳整体平衡。结论是三个组件互补,联合应用最优。

讨论部分总结:研究人员未与LDAM(label-distribution-aware margin)、CB(class-balanced)损失、OLTR(Open Long-Tailed Recognition)或解耦训练等长尾基线比较,原因是所用logit调整已被系统比较并报告有竞争力或更优;OLTR面向开放集长尾识别,需检测未知类,而本研究为闭集36类识别。所提方案在损失、采样和分类器层面,与架构无关,采用同一骨干网络配对评估。数据集可能含3529对相似图像,未来将在去除相似对的数据集上实验。mAcc在单标签闭集设置下等价于平衡准确率,未来测试macro-F1等。二维可视化用于体现效果,未提供类间距离或轮廓系数。数据按图像级划分,覆盖36种常见造岩、矿石和宝石矿物,未来计划比较相对丰度与各类识别性能。ResNet特征提取为自动化黑箱,难以指出目标特征及其与真实分类器的联系。实际中,该框架作用于宏观手标本照片,可在专业手段确认前提供快速自动初筛。论文贡献在于提出基于深度学习的宏观手标本照片识别中的数据不平衡问题及解决方案;数据来自现有数据库,非特定地点;未来将在特定地点数据、额外骨干网络和更多指标上验证,并与钻孔剖面、地质剖面、地球物理/地球化学观测、卫星/遥感数据结合,加强与地质学家合作。

研究结论翻译:为解决矿物图像识别中的数据不平衡问题,本研究提出多阶段重平衡策略,显著增强矿物识别模型的整体性能。该策略处理矿物图像识别中三个不同且互补的不平衡来源:特征提取器调整按类别频率重加权损失,处理类别间频率不平衡;核心特征学习通过向低置信度实例重加权采样并强制类中心一致性,处理类内属性不平衡;分类器再训练纠正偏向多数类的残差决策边界偏差。消融研究证实其互补性:最强的双组件组合(特征提取器调整与分类器再训练)使尾部平均准确率提高12.01%,加入核心特征学习进一步提高尾部和整体准确率且对头部类影响温和,获得最佳整体平衡。通过整合特征提取器调整、核心特征学习和分类器再训练,所提方法在36类矿物数据集上将底部三分之一(尾部类)的平均识别准确率从67.47%提高至80.06%,最大提升24.1%;同时总体平均识别准确率从77.27%提高至81.27%,表明该策略能有效缓解矿物分类中的长尾识别挑战。未来将在额外骨干网络、更多指标和特定地点数据上开展实证验证;加强与地质学家沟通合作,并期望将该方法与钻孔剖面、地质剖面、地球物理/地球化学观测和卫星/遥感数据结合,用于快速准确矿产勘探。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号