GeoTransGAT:一种利用Transformer和图注意力网络识别矿化相关地球化学异常的新方法

《Geochemistry》:GeoTransGAT: A novel approach for identification of mineralization-related geochemical anomalies using Transformer and graph attention network

【字体: 大 中 小 】 时间:2026年06月28日 来源:Geochemistry 3.0

编辑推荐:

  严宁|王永志|田江涛|卢继龙|盛世亭|王少辉|陈伟 中国长春市吉林大学地质勘探科学与技术学院,130026 摘要 地球化学异常识别是矿产勘探中的关键任务。传统方法往往依赖统计假设或阈值,在提取与矿化相关的地球化学特征(如空间分布关系和多元素关联)方面表现不佳。尽管当

  严宁|王永志|田江涛|卢继龙|盛世亭|王少辉|陈伟
中国长春市吉林大学地质勘探科学与技术学院,130026

摘要
地球化学异常识别是矿产勘探中的关键任务。传统方法往往依赖统计假设或阈值,在提取与矿化相关的地球化学特征(如空间分布关系和多元素关联)方面表现不佳。尽管当前的深度学习方法颇具前景,但在捕捉空间分布相关性及元素间关联方面仍存在局限。由于矿床数量有限,数据类别本身存在不平衡性,这使得基于监督的学习方法难以有效训练模型。本文提出一种无监督训练方法,结合Transformer和图注意力网络来识别地球化学异常。该方法利用自注意力机制全面捕捉地球化学样本之间的空间相关性,同时通过图注意力网络分析各组成元素之间的关联。它从两个角度重构地球化学样本,通过Transformer整合空间分布相关性,通过图注意力网络处理不同元素的特征表示。与传统深度学习方法不同,该方法采用无监督训练策略,直接以地球化学数据作为输入,从而减少人为干预带来的不确定性。所提出的方法已成功应用于中国新疆巴里坤海山头地区的地球化学异常识别。与几种常用的传统方法及其他无监督方法相比,该方法识别的异常区域与已知矿床的空间分布更为吻合。与最优基准方法相比,该方法的ROC曲线AUC值提升了约5.8%。此外,通过消融实验等多次验证进一步证明了各组件的有效性,凸显了该方法在地球化学异常识别中的可靠性。

引言
矿产资源为人类提供了丰富的商品和服务,继续支撑着工业文明与信息文明交汇时期的经济发展。随着矿产资源供需矛盾的加剧,寻找矿床显得尤为重要(Christmann, 2018; Yu et al., 2021)。识别与矿化相关的地球化学异常是矿产勘探的重要环节(Zuo, 2014a; Liu et al., 2024)。由于成本较低且实施快速,地球化学分析被广泛用于资源勘探(Xie and Ren, 1993)。地球化学异常识别是地球化学勘探中的核心任务(Chen et al., 2014)。这些异常对矿产资源勘探具有重大价值(Zuo et al., 2009; Zuo, 2014b; Yu et al., 2019)。

矿床是由特定地质过程导致的元素积累形成的,因此矿床及其周边区域的地球化学数据与整体模式存在差异。识别这些异常有助于缩小矿产勘探的目标范围,提高勘探效率。目前已有多种传统方法用于识别地球化学异常,如标准差法(Hawkes and Webb, 1963)、移动平均法(Zuo et al., 2016)、探索性数据分析(Kürzl, 1988)、主成分分析法(Jimenez-Espinosa et al., 1993)、趋势面分析法(Wang and Zuo, 2015)以及分形小波模型(Pourgholam et al., 2021)。然而,多元素联合响应及地球化学样本间的空间分布关系中蕴含着隐性的与矿化相关的地球化学模式,而这些信息无法仅通过单一元素或阈值来表示。同时,不同地球化学元素之间以及背景样本与异常样本之间的关系属于复杂的非线性模式,难以用简单的线性组合或理想化的分布假设来描述。这些传统方法基于理想化假设,无法从地球化学数据中有效提取复杂模式以识别异常。

近年来,由于具备自动学习和解决非线性问题的优势,深度学习方法能够从地球化学数据中提取复杂关系,因此被广泛用于地球化学异常识别领域(Chen and Shayilan, 2022; Farhadi et al., 2022; Wu et al., 2022)。例如,有研究使用深度自编码器网络识别地球化学异常(Xiong and Zuo, 2016),还有研究采用多卷积自编码器进行异常识别(Chen et al., 2019)。Bayes by Backprop方法被应用于卷积神经网络,以提取与矿化相关的地球化学异常(Huang et al., 2022)。另有研究结合随机森林与度量学习,用于识别与铁多金属矿化相关的地球化学异常(Wang et al., 2019)。还有一种混合模型将无监督深度信念网络与一类支持向量机相结合,用于检测高维地球化学异常(Xiong and Zuo, 2020)。深度学习架构还与空间机器学习处理器相连接,以考虑局部邻域信息及空间非平稳性,从而实现具有空间感知能力的异常检测(Soltani et al., 2024)。

图神经网络和Transformer方法能够建立地球化学数据之间的关联,因此常被用于地球化学异常识别任务。例如,地球化学采样点数据被转换为图结构,再通过图学习方法提取地球化学模式(Guan et al., 2022)。有研究采用图注意力网络模型,识别中国河南省西部小秦岭-熊儿山地区与金矿化相关的地球化学异常(Xu et al., 2023)。另一种基于Transformer模型的端到端地球化学异常提取方法,利用自注意力机制从整体视角全面捕捉地球化学样本之间的全局及局部关联,从而实现地球化学背景的重建(Yu et al., 2024)。

地球化学数据包含复杂的模式信息,这些信息不仅体现在空间相关性上,还体现在矿床的形成过程中,通常伴随着伴生元素的生成。现有的深度学习模型在地球化学异常识别方面存在诸多挑战。例如,卷积神经网络及其变体虽擅长捕捉数据的局部特征,但受输入窗口大小的限制,难以捕捉地球化学数据中的长距离依赖特征。传统的图卷积网络未能考虑不同相邻节点对中心节点的重要性差异。此外,由于拓扑图的影响,深层特征和关联也无法被有效捕获。同时,由于研究区域内矿床(即正样本)数量较少,进行监督训练时会出现类别不平衡问题。

本文提出了一种基于Transformer和图注意力网络的无监督训练方法,用于地球化学异常识别,称为GeoTransGAT。该模型以无监督方式训练,通过挖掘地球化学数据中的深层信息,从大部分地球化学数据中学习背景模式,而异常数据则通过重建误差来识别。这种训练方式解决了正样本不足的问题。为探索空间分布相关性,我们使用了空间分布相关性融合模块,分析研究区域内地球化学样本之间的空间分布关系。具体而言,我们利用Transformer的自注意力机制分析不同位置地球化学样本之间的关联。为融合不同元素的数据信息,我们使用元素相关性融合模块分析各元素之间的关联,即通过GAT自动学习元素间的关联,并对不同元素的数据信息进行融合操作。由于地球化学异常区域通常只占总面积的一小部分,大部分地球化学数据代表的是某一区域的总体背景(Guan et al., 2021)。该方法可以从大部分地球化学数据中学习背景模式,而少量的异常数据对模型学习的影响较小。因此,在数据重建时,异常数据的重建误差会高于背景样本,重建误差越大,异常程度越高(Feng et al., 2022; Esmaeiloghli et al., 2023)。

本文的主要贡献如下:
(1) 我们提出了一种用于地球化学异常识别的无监督训练方法。该模型以地球化学样本数据作为输入,无需标签或数据增强即可进行模型训练。同时,它能够以无监督方式从输入数据中学习复杂的空间和元素关联,并通过重建误差识别地球化学异常,从而减少因标签缺失、人工干预及数据增强所带来的不确定性。
(2) 所提出的模型通过空间分布相关性融合模块和元素相关性融合模块,充分挖掘地球化学数据背后的深层信息,并根据这两个模块有效融合地球化学数据信息,从而学习背景模式并识别异常样本。
(3) 我们对中国新疆巴里坤海山头地区的铬铁矿床进行了研究。实验结果表明,所提出的模型优于基准方法,且通过消融实验进一步验证了各组件的有效性。

章节节选
地质背景
研究区域位于新疆准噶尔盆地东部,该地区的断层结构主要为NW向,褶皱不发育(图1)。其地质构造属于哈萨克斯坦-准噶尔板块和准噶尔微板块。新疆北部兴安地层区的出露地层包括长城系的扎满苏群、中下奥陶统的齐阿甘布拉克组以及上……

概述
本文提出了一种用于地球化学异常识别的深度学习方法(图3)。首先,原始地球化学数据经过最小-最大归一化处理后输入模型。该模型由两个主要模块组成:空间分布相关性融合模块和元素相关性融合模块。这两个模块分别处理地球化学数据中的空间分布相关性以及组成元素之间的关联。在……

实验设置与评估指标
我们对输入数据采用最小-最大归一化处理,计算公式如下:
xnor = (xorg ? xmin) / (xmax ? xmin)
其中,xnor表示归一化后的数据,xorg为原始数据,xmin为最小值,xmax为最大值。通过最小-最大归一化,归一化后的数据具有相似的尺度,这有助于加快模型的训练速度,使其更快找到最优解。

Transformer自注意力机制中的注意力头数量为……

结论
本文提出了一种基于Transformer和GAT的地球化学异常识别无监督训练方法。该方法利用Transformer的自注意力机制分析地球化学样本之间的空间分布相关性,同时利用GAT分析地球化学样本组成元素之间的关联。最后,利用这两个模块的输出重建目标样本,并通过计算重建误差来判断异常程度。

CRediT作者贡献说明
严宁:写作——初稿撰写、可视化、验证、方法论、形式分析、数据整理、概念构建。王永志:写作——审稿与编辑、资金获取、数据整理、概念构建。田江涛:数据整理。卢继龙:资金获取、形式分析。盛世亭:写作——审稿与编辑。王少辉:写作——审稿与编辑、可视化。陈伟:写作——审稿与编辑。

利益冲突声明
作者声明,本研究是在没有任何可能被视为潜在利益冲突的商业或财务关系的情况下进行的。

致谢
本研究得到了国家自然科学基金重点项目(42230810)、国家重点研发计划(2023YFC2906903, 2023YFC2907105)、中国新疆维吾尔自治区地质勘查基金(K24-XJ009)以及中国自然资源部关键科技支撑项目(ZKKJ202419)的支持。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号