《Evidence-Based Toxicology》:AI-assisted, human-in-the-loop pipeline for converting historical documents into structured database: a feasibility study of environmental application in Michigan
编辑推荐:
大多数州均制定有环境指南或法规,要求对任何已知地下污染场地进行基线环境评估(Baseline Environmental Assessment),以记录污染物类型、浓度及地下特征(土壤类型、地下水位等)。由此产生的公开文档对于理解既往污染来源及这些场地未来迁移
大多数州均制定有环境指南或法规,要求对任何已知地下污染场地进行基线环境评估(Baseline Environmental Assessment),以记录污染物类型、浓度及地下特征(土壤类型、地下水位等)。由此产生的公开文档对于理解既往污染来源及这些场地未来迁移或暴露潜力至关重要。多数州此类文档海量存档且仅存纸质版,较新文档虽有数字版,但旧文档极难高效评估利用。文档中嵌入的化学数据由多家实验室以各异格式生成,难以整合用于数据分析与报告。存在未满足的需求:系统高效地提取化学数据,确保数据兼具人读与机读性并符合FAIR原则(Findable, Accessible, Interoperable, Reusable)。本研究旨在评估一种AI辅助、人在回路管线在真实条件下从遗留环境文档中提取、重建、调和与标准化表格化化学数据的可行性。研究人员开发了CLEAR-Extract,一种可扩展、灵活、模块化的管线,集成光学字符识别(OCR)、AI辅助表格重建与结构化人工质量保证。两种配置——强调灵活性的单AI配置与强调效率稳定性的双AI配置——依次应用于密歇根州历史棕地文档。可行性在地址层面评估,基于合格化学表格的成功重建、非合格文档的正确排除、真实处理失败的识别及所需人工干预程度。在99个候选地址中,管线通过重建合格化学浓度表格或正确排除无相关数据文档,成功处理98%场地。仅2个地址因严重文档质量限制被归类为真失败。所得调和数据库捕获跨越数十年的挥发性有机化合物(VOC)测量及异构报告格式,标准化为适用于下游环境健康分析的共同模式。本文证明CLEAR-Extract这一AI辅助、人在回路管线可从异构遗留环境文档实现高重建成功率,并展示了一个可扩展可迁移的框架,用于将非结构化历史文档转化为面向环境健康研究与监管决策的FAIR对齐可分析数据库。
研究背景方面,计算机时代推动档案数字化,但环境文档(尤其棕地场地化学危害记录)大量以非结构化异构格式留存,美国约45万棕地场地中仅不足7%完成全面评估或修复,主因之一是监管框架内数据受限决策,许多文档仅以图像文件扫描存储,信息静态且无法被现代计算工作流访问。挥发性有机化合物(VOC)作为 legacy 棕地常见污染物,与早产等不良出生结局相关,但跨实验室异构表格难以提取。FAIR原则为异构环境数据管理提供黄金标准,而现有AI方法在遗留文档表格化学数据提取上仍缺建立协议。为此,韦恩州立大学CLEAR中心研究人员开展本研究,目标是开发评估可扩展AI辅助人在回路管线,将密歇根州EGLE的RIDE系统中99个韦恩县棕地地址(1980s–2020s,多实验室来源)的异构PDF/扫描文档转化为结构化VOC数据库,并验证其可行性。论文发表于《Evidence-Based Toxicology》。
关键技术方法上,研究人员构建CLEAR-Extract模块化管线,含文档过滤预处理、OCR文本提取(实验1用Tesseract v5,实验2先LayoutParser表格检测再用Google Vision API v3.13)、关键词过滤(苯、甲苯、乙苯、二甲苯异构体、三氯乙烯等)、AI表格重建(实验1用Gemini Pro 1.0,实验2用ChatGPT 4.1)、结构化人工质量保证(4名研究人员在文本与表格阶段迭代审阅,规则校验列头对齐),最终调和至含10字段的共同模式(File FMT、File ID、page number、Parameter、unit、result、RL、Dilution、Date PREP、Date Analyzed)。样本为EGLE RIDE库7539地址中筛出的99个韦恩县Part 201/213程序地址,超1000文档。
研究结果部分,按原文小节浓缩如下:
4.1 Address-level corpus overview:主库7539唯一地址,按EGLE程序、文档可得性、韦恩县CLEAR研究区三准则选99地址进入实验1,按需进实验2。
4.2 Feasibility assessment: Experiment 1-single AI configuration:99地址全经单AI处理,49地址产出符合结构变量准则的化学表格进入调和,50地址转双AI。
4.3 Feasibility outcome: Experiment 2-dual AI configuration:50地址中40地址产出合格表格;余10地址里8个被正确排除(无表格2、有表无相关化学1、有化学名但缺浓度必需变量3),仅2地址因低分辨率扫描等严重质量限制归真失败。
4.4 Failure modes and human evaluation:失败模式限于低分辨率与图像退化;人工回路关键在区分“正确排除”与“真失败”,正确排除非合格文档视为成功以防伪结构化数据。
4.5 Characteristics of the harmonized VOC database:89地址159 PDF共4270页入最终库,时间跨度1982–2023,识别8种表格格式;初提1099化学名经清洗至373(含目标VOC);84/89地址(94%)有VOC测量,占全部记录6.8%,未检出以LOD/2填补,VOC异常率约20%,均值中位数差异示右偏。
讨论部分总结:研究人员指出极端文档异构性、效率与可靠性权衡(实验2加页面级表格检测降上下文漂移)、正确排除作为显式设计目标、调和阶段延后严格标准化是四大实践权衡;治理上CLEAR-Extract为AI辅助非自主,高重复结构任务交AI、语境判断留人,契合AI-in-the-loop(AI2L)范式;FAIR向度上,统一命名单位字段提升Findable/Interoperable,集中版本控制库保Accessible,开放提取逻辑模板促Reusable;局限含源文档质量天花板、语料异质泛化边界、未做金标准精度基准、99地址规模下算力与人工成本平衡。
结论部分原文翻译浓缩:研究人员开发CLEAR-Extract可扩展AI辅助人在回路管线,从遗留环境文档提取重建调和标准化表格至结构化可分析库;以98%地址级成功率(含成功重建与正确排除非合格)证实用真实世界变异下保数据完整;超越技术实现,研究凸显人类领域专长在定向AI操作不可替代——从初筛、中间QA到最终调和清洗,人判据为建立鲁棒准则、消歧、保可行可靠之决定因素;最终产出对齐FAIR的VOC库,提升环境化学数据长期可发现可访问可互操作可复用性,为AI现代化环境数据提供可复现且治理感知模型。