编辑推荐:
地基成像在北极光研究中发挥了重要作用。Time History of Events and Macroscale Interactions during Substorms(THEMIS)项目拥有现存最大的全天空图像数据库,自2006年以来从24个站点收集了超
地基成像在北极光研究中发挥了重要作用。Time History of Events and Macroscale Interactions during Substorms(THEMIS)项目拥有现存最大的全天空图像数据库,自2006年以来从24个站点收集了超过十亿幅图像,且收集目前仍在进行。该数据库的规模使得识别短寿命的中尺度极光形态(如极光珠、极光流带或omega bands(Ω带))的发生成为一项繁琐、耗时且易出错的人工过程,从而限制了研究人员对此类现象开展严格的大尺度统计和基于机器学习研究的能力。为解决这些问题,研究人员介绍THEMISim,这是一个Python库,结合了最先进的自监督机器学习模型以及向量相似性搜索的最新进展,以在整个THEMIS全天空图像数据库中实现高效且有效的相似性搜索。THEMISim将使研究人员能够严格研究meso-scale极光形态与地球上观测到的地磁扰动之间的关系。
一、研究背景
地基极光成像是研究极光以及地球磁层与高层大气耦合电磁过程的重要基础。自2006年以来,THEMIS(Time History of Events and Macroscale Interactions during Substorms)项目通过北美24个站点以3 s节奏收集了超过十亿幅夜空图像,形成了目前规模最大的极光全天空图像(ASI, all-sky image)数据库。该数据库虽然规模巨大,但有效利用困难:数据质量差异显著,且数据库规模使得人工检索特定极光现象繁琐、耗时且易出错。因此,研究人员需要能够高效检索此类资源信息的软件工具。THEMISim通过高效且有效的相似性搜索缓解这些问题,使研究人员能够快速、全面地识别特定极光形态的高质量图像,从而支持此前难以开展的研究。
二、研究开展与意义
研究人员提出并实现了THEMISim,一个用于在THEMIS全天空图像数据库上执行相似性搜索的Python库。该工具将自监督机器学习模型与向量相似性搜索(vector similarity search)进展结合,以低维潜在表征(latent representation)为基础进行图像相似性检索。其意义在于:使研究人员能够高效、有效地搜索稀有且重要的极光形态,支持严格的大尺度统计与机器学习研究,并促进地基极光研究的可重复性与透明度。
三、关键技术与方法
研究人员采用基于SimCLR(Simple Framework for Contrastive Learning of Visual Representations)算法改编的对比自监督学习获得512维潜在表征;构建嵌入数据库,并用FAISS(大规模向量搜索开源库)建立索引。查询时先进行近似候选预筛选,再对未压缩向量计算精确余弦相似性(cosine similarity)进行重排,并以内存映射、按需分页方式降低内存占用。软件提供nprobe、prefilter、diversify seconds等超参数及站点和时间过滤。样本队列来源于THEMIS项目自2006年起在北美24个站点、以3 s节奏收集的超过十亿幅全天空图像。
四、研究结果
2.1 软件架构:通过软件架构说明,THEMISim包含Build和Query两条主要功能路径;Build路径下载数据并构建相似性搜索所需工件,Query路径由用户指定查询图像并返回包含站点、日期时间、源CDF(source CDF)和相似性得分的CSV;另有Validate路径用于在不运行完整构建路径时进行基准测试和性能评估。
2.2.1 构建:通过构建流程,软件下载ASI数据和模型检查点,依据固定的SHA-256摘要验证检查点,按既定流程预处理数据并经由网络构建潜在嵌入数据库;该嵌入阶段可耗费GPU日级时间,并可按站点—小时恢复。嵌入数据库以16位内存映射文件存储,全局ID按站点优先、再按时间顺序分配;随后按工厂方法规格“OPQ64_64,IVF65,536_HNSW32,PQ64 × 8”构建FAISS索引。
2.2.2 查询:通过查询流程,用户指定查询图像后,软件从FAISS索引中识别近似候选,从向量数据库提取候选对应的未压缩向量并计算精确余弦相似性以完成精确重排,最后返回最高得分图像。软件公开nprobe(默认64)、prefilter和diversify seconds(默认30 s)等参数;返回结果数可设为固定n(默认24)或由最小相似性阈值确定。过滤查询可限制站点、日期范围或其组合;对不超过4,000,000行的过滤搜索采用暴力搜索,超过该阈值时回退至上述搜索路径。
2.2.3 性能:通过性能评估,FAISS索引、内存映射向量数据库及附加元数据占用1.048 TB磁盘空间;软件按需加载页面,使用中约保持19 GB常驻内存。召回率recall@10随nprobe和prefilter变化;查询延迟随超参数变化。与暴力搜索相比,单次查询需完整扫描,而THEMISim默认工作点(nprobe=64,prefilter=500)的暖缓存中位延迟为118 ms,单查询暖缓存加速约21,854 ×,500查询批处理吞吐加速约163 ×,保留recall@10为0.937。
3 示例:通过提供的可视化工具进行示例查询,图2展示了一幅查询图像及使用默认参数找到的11幅最相似图像。
4 影响:通过影响分析,该软件使此前难以开展的研究成为可能。研究人员首要动机是全面识别极光珠和omega bands(Ω带)图像,并编目过去20年中这些现象的发生;该工具还可帮助改进极光图像分类标签,对既有粗标签进行微调并纠正误标;并支持连接磁层与电离层测量的多仪器共轭研究(multi-instrument conjugacy studies),促进跨仪器比较及相应极光形态验证。
五、讨论与结论
讨论部分表明,THEMISim通过对比自监督学习获得高质量潜在表征,通过带精确校正重排的近似搜索实现大规模效率,并以内存映射、流式方式降低内存占用;其可用性有助于地基极光研究的可重复性和透明度,并使研究人员首次能够高效、有效地在THEMIS全天空图像数据库中搜索稀有且重要的极光形态,进而支持此前不可能开展的严格大尺度统计和机器学习研究。研究结论翻译如下:本文介绍THEMISim,一种用于在THEMIS全天空图像数据库上执行相似性搜索的软件工具;该数据库包含来自北美24个站点、历时20余年收集的超过10亿幅全天空图像。THEMISim结合了机器学习、人工智能和信息检索领域的最先进技术。具体而言,THEMISim所获得结果的质量源于对比自监督学习期间获得的潜在表征的质量,而大规模相似性搜索的效率则源于带有精确校正重排的近似搜索策略,所有这些均以内存映射、流式方式实现,以最小化软件的内存占用。THEMISim的可用性有助于地基极光研究的可重复性和透明度,并使研究人员首次能够高效且有效地在THEMIS全天空图像数据库中搜索稀有且重要的极光形态。这反过来将使得对这些现象开展此前不可能进行的严格大尺度统计和基于机器学习的研究成为可能。