使用可解释人工智能方法对化学事故进行分类

《ACS Chemical Health & Safety》：Classifying Chemical Accidents Using Explainable Artificial Intelligence Methods

　　

研究人员利用韩国国家化学安全研究所（NICS）2014年至2025年期间发生的事故报告，训练了五个机器学习模型，用于对事故原因进行分类。尽管某些原因在事故报告中使用了相似的语言描述而难以区分，但这些模型仍表现良好，逻辑回归（LR）、随机森林（RF）、支持向量机（SVM）、XGBoost和韩国双向编码器表示（KoBERT）的F₁分数分别为0.7608、0.8086、0.7687、0.8070和0.8215，精确率-召回率曲线下面积（AUPRC）分数分别为0.8284、0.8354、0.8548、0.8434和0.8807。研究人员应用了局部可解释模型无关解释（LIME）可解释人工智能（XAI）方法分析决策过程，发现对称的关键词依赖关系，反映了NICS定义的两个主要原因——“设施缺陷”和“违反安全标准”——之间固有的概念重叠。研究结果提供了克服NICS数据集固有局限性的建议，并强调了使用XAI方法建立细粒度分类框架的必要性。

**论文解读：基于可解释人工智能的化学事故分类方法**

**研究背景与问题**
近年来，化学安全管理领域的研究聚焦于引入人工智能技术，并设计高效模型作为新兴工具。机器学习（ML）技术已被用于分析化学事故，例如通过识别化工企业事故报告中的关键风险因素，以及利用历史数据集对危险物质事故严重程度进行分类。然而，大多数现有研究优先追求预测准确性，而忽视了模型透明度，黑箱分类器的决策逻辑在工业事故分析中尚未得到充分探索。在韩国，国家化学安全研究所（NICS）负责提供安全管理信息和事故历史，调查化学事故原因以预防复发，并发布事故案例集。这些事故记录主要以非结构化自由文本叙述形式记录，因此自然语言处理（NLP）技术成为大规模自动化提取和分类事故原因的理想工具。尽管已有研究使用KoBERT等模型对韩国化工事故原因进行分类并取得较高准确率，但可解释性（XAI）技术尚未被系统应用于韩国化学事故报告。现有分类体系（NICS）采用扁平的单标签方案，将事故原因归为“设施缺陷”（C1）、“违反安全标准”（C2）、“运输车辆”（C3）和“自然灾害”（C4）四类，但C1和C2在语义上高度重叠，导致模型难以区分。此外，国际先进数据库（如欧盟重大事故报告系统，eMARS）采用多标签、层次化分类，而NICS的简单标签体系限制了模型性能。因此，本研究旨在提出一种可解释的文本分类框架，利用XAI方法揭示NICS数据集的固有局限性，并为未来数据库改进提供建议。该论文发表在《ACS Chemical Health》。

**主要关键技术方法**
本研究使用了NICS提供的2014年至2025年期间韩国工业综合体发生的1026起化学事故报告。研究人员采用了回译（back-translation）数据增强方法，通过将原始韩语句子翻译成多种中间语言（英语、日语、中文、法语、德语、西班牙语、俄语）再翻译回韩语，并利用余弦相似度（≥0.90）和SequenceMatcher（≤0.96）进行质量控制，仅保留语义相似但表达不同的增强样本。最终数据集从1026个样本扩充至1192个样本。评估指标重点采用宏平均F₁分数、加权平均F₁分数、受试者工作特征曲线下面积（AUROC）和精确率-召回率曲线下面积（AUPRC），以应对类别不平衡和语义重叠。可解释性分析使用了局部可解释模型无关解释（LIME）方法，通过生成局部代理模型来量化每个关键词对预测结果的正负贡献。

**研究结果**

**3.1 NICS数据集**
NICS数据集包含1026起事故，原始标签分为四类，其中“自然灾害”（C4）因样本极少被排除。剩余三类中，“运输车辆”（C3）样本量最小（184个）但具有高度特异性词汇，因此分类性能良好；而“设施缺陷”（C1，370个）和“违反安全标准”（C2，463个）的描述性语言极为相似（例如，均涉及“废水收集罐”和“硫化氢气体”），导致语义重叠。通过回译增强后，C1扩充至448个，C2扩充至560个，C3保持原样。

**3.2 机器学习与KoBERT结果**
将数据集按70%训练、20%验证、10%测试划分，数据增强仅应用于训练集以避免数据泄露。经过超参数调优后，五模型表现如下：LR、RF、SVM、XGBoost和KoBERT的宏平均F₁分数分别为0.7608、0.8086、0.7687、0.8070和0.8215，AUPRC分别为0.8284、0.8354、0.8548、0.8434和0.8807。其中KoBERT表现最优。混淆矩阵显示，所有模型在C3类上准确率极高（如SVM达0.96，KoBERT达0.95），但在C1和C2类之间存在显著的交叉误分类：例如，KoBERT中34.7%的C1实例被误判为C2，9.5%的C2实例被误判为C1。PR曲线和ROC曲线进一步证实KoBERT在C1和C2类上的平均精度（AP）和AUC均为最高。

**3.3 XAI分析**
利用LIME提取每个模型对各类别预测的正负贡献关键词。对于C3类，所有模型均依赖高度特定的运输相关词汇（如“道路”、“罐车”、“装载”、“车辆”）。对于C1类，模型主要依赖物理基础设施词汇（如“地下”、“储存”、“工艺”、“阀门”）；对于C2类，模型则依赖行动和结果导向词汇（如“工作”、“受伤”、“实验”、“残留”）。此外，不同模型表现出独特的依赖模式：SVM在C3预测中依赖“登记车辆数”、“容器”、“国道”等宽泛环境词汇，而KoBERT则使用“侧路”、“货舱”、“拖车”等具体空间和车辆词汇，表明即使预测性能相似，解释策略存在差异。

**3.4 分类误差分析**
对全数据集194个误分类实例进行LIME分析，发现C1?C2双向混淆占93.8%（182个）。其中，C1被误判为C2占所有误分类的54.1%（105个），C2被误判为C1占39.7%（77个）。具体而言，C1→C2误分类中，行动导向词（如“工作”、“工人”）频繁出现（分别32次和28次），且平均LIME得分与正确C2预测中的得分相近（0.1480 vs 0.1563，0.0942 vs 0.1074），误导模型将设施缺陷归因于人为操作。反之，C2→C1误分类中，物理设备词（如“储罐”、“阀门”、“管道”）出现18次，平均得分0.0769（与C1正确预测中的0.0706相当），导致模型将人为错误归因于设备缺陷。这一对称性证明，当前单标签体系迫使模型依赖表面关键词进行捷径学习，而非理解真实因果链。

**3.5 NICS与eMARS对比**
NICS采用扁平四类单标签方案，而eMARS（欧盟重大事故报告系统）使用五类因素类型（设备、人为、组织、外部、其他），每类包含数十个子类别，并允许一个事故分配多个原因。eMARS还提供独立的自由文本字段描述原因、事件序列、应急响应和经验教训，而NICS只有一个单一的结构化“原因”字段和一段非结构化叙述。这种结构差异导致NICS无法捕捉复杂事故中多种因素的交互作用，进一步解释了模型为何在C1和C2之间产生混淆。

**总结与结论**
讨论部分指出，本研究基于NICS非结构化化学事故记录，提出了集成高级机器学习和XAI技术的可解释文本分类框架。通过回译数据增强缓解类别不平衡和语义重叠。在五模型中，KoBERT表现出最稳健的预测性能，宏平均F₁分数和AUPRC最高，这些指标被优先用于严格评估重叠和不平衡数据集。更为关键的是，LIME的应用不仅验证了预测准确性，还作为系统性诊断工具揭示了数据集的固有局限性。XAI分析显示，C1和C2之间存在深度的双向混淆（占所有错误的93.8%）。通过提取底层语义驱动因素，研究人员实证证明，这一边界模糊性源于对称性脆弱性：模型过度依赖物理设备关键词判定C1，过度依赖工人行动关键词判定C2，从而人为割裂了现实中相互关联的事故原因。这些发现明确表明，当前数据库的扁平单标签方案是根本瓶颈，迫使算法进行捷径学习。因此，本研究结论为：为有效支持数据驱动的预防性安全管理，未来政策必须首先推动数据库结构改进，向细粒度、多标签或层次化分类框架过渡，以捕捉化学事故的真实因果复杂性，从而使未来研究超越单纯算法改进。