基于级联多模态框架的电子文档近重复图表检测方法

《Information》:A Multilevel Visual and Textual Framework for Near-Duplicate Diagram Detection in Electronic Documents

【字体: 大 中 小 】 时间:2026年09月16日 来源:Information 4.3

编辑推荐:

   摘要

  

摘要

电子文档中的近重复图表检测极具挑战性,因为图表的身份取决于图形结构、空间构图和文本标签,而复用的图像可能会经历压缩、裁剪、旋转、光度变化或透视扭曲。本研究提出了一种级联多模态框架,结合了感知哈希、18层孪生残差网络(Siamese ResNet18)、无标签蒸馏(DINOv2)视觉表示以及文本相似度分类器。该研究基于人工智能二维图表数据集(AI2D)构建了受控基准,采用轻度、中度和困难变换,并按 base_id 进行源分组拆分,以防止训练集、验证集和测试集之间的数据泄露。感知哈希达到了受试者工作特征曲线下面积(ROC-AUC)= 0.7483,而孪生ResNet18将ROC-AUC提升至0.8599。DINOv2提供了最强的视觉性能,达到准确率 = 0.9933、F1分数 = 0.9933、ROC-AUC = 0.9992、平均精度 = 0.9994;对于困难变换,F1分数仍保持在0.9901。视觉融合将ROC-AUC提升至0.9995,完整的多模态融合达到ROC-AUC = 0.9998。在早退出阈值为0.95的情况下,27.6%的配对在哈希层面即可被解决。这些结果支持了在所构建的AI2D衍生基准上采用由粗到精的设计。针对困难负样本的压力测试显示,在故意匹配的空间布局下,假阳性率显著更高,DINOv2的整体假阳性率(FPR)为0.48,而完整的多模态融合为0.16。对于自然复用或重绘的图表、更大且更多样的困难负样本集合以及基于光学字符识别(OCR)的文本的泛化能力仍有待评估。
相关新闻
生物通微信公众号
微信
新浪微博

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号