《Technologies》:Human–AI Collaboration in Occupational Risk Prevention: A Scoping Review of Explainability, Decision Authority, and Safety Governance
编辑推荐:
工业5.0(Industry 5.0)倡导以人为本的工业安全,但基于人工智能(AI)的风险预防系统究竟支持有意义的人类决策,还是仅使人类名义上处于控制地位,仍不明确。本范围综述(scoping review)遵循PRISMA-ScR,考察了2021—2026年
工业5.0(Industry 5.0)倡导以人为本的工业安全,但基于人工智能(AI)的风险预防系统究竟支持有意义的人类决策,还是仅使人类名义上处于控制地位,仍不明确。本范围综述(scoping review)遵循PRISMA-ScR,考察了2021—2026年发表的65项研究(初始检索20项,更新检索45项)。人类权威几乎普遍得以保留:61个已实施系统中有98.4%将最终决策留给人类,且无系统自主运行。然而,仅24.6%明确规定了人类角色,34.4%要求人类对黑箱输出(black-box outputs)作出决策。证据以回顾性或模拟性为主:仅3项研究在实际运行工作场所(operating workplaces)评估,1项评估用户反应,无研究比较性测量预防效果。报告的强预防贡献与具有操作场景根基的证据相关(Fisher精确检验 p = 0.004;Holm校正 p = 0.019),而可解释性(explainability)无此关联(p = 0.602)。AI主要作用于危害源(hazard source,53.8%,多为回顾性分析)或受体(receptor,32.3%),很少作用于暴露途径(exposure pathway,4.6%)。仅3.1%引用ISO 45001,75.4%未嵌入任何安全管理标准或流程(safety-management standard or process),揭示技术监督与正式安全治理之间的报告缺口。研究人员提出九项最低报告集(minimum reporting set)以回应这些缺口。
1 引言:职业风险预防正从反应性监督转向预测性风险智能,工业5.0(Industry 5.0)将人类判断、价值与福祉置于工业设计中心;本综述关注AI预测、可解释性与人类决策权、问责结构之间的分配是否一致。2 材料与方法 2.1 综述设计与研究问题:采用PRISMA-ScR范围综述设计,基于人群–概念–情境(Population–Concept–Context, PCC)框架提出RQ1—RQ10,覆盖预测能力、可解释性、来源–介质–受体(Source–Medium–Receptor, SMR)风险路径、决策权、标准整合、预防贡献、局限、可持续发展目标(Sustainable Development Goals, SDGs)与混合预防框架。2.2 数据来源与检索策略:检索Scopus、Web of Science、IEEE Xplore与ScienceDirect,围绕AI/自动化、安全系统与职业风险、以人为本/可解释/预测导向三概念块构建策略;Scopus与ScienceDirect在查询层面未完全强制三块,筛查时以I2与I3补足概念要求。2.3 纳入标准与选择过程:纳入标准为I1—I3(2021—2026年、AI或自动化用于风险预防、涉及预测/可解释/人本方法),排除标准为E1—E3;第二波检索456条记录,去重后354条,72篇寻求全文,13篇不可得,59篇全文评估,14篇排除,45篇纳入,连同第一波20篇形成65项研究。2.4 批判性评价方法:按PRISMA-ScR与JBI指南未实施正式偏倚风险评估,而以RV1—RV4四项纳入与报告核验项确认情境、方法、安全相关结局与局限讨论;所有纳入研究均满足四项,故不用于比较方法学质量。2.5 纳入与报告核验及最终选择:核验项采用二元评分,双评审独立评估并以共识解决分歧,65项研究均为4/4,未因核验排除研究,且该评分不用于排序或加权。2.6 数据提取、编码与评分者间信度:使用标准化编码矩阵提取文献特征、AI技术、人类参与、可解释性、预防贡献、证据基础与局限;RQ8局限归纳为数据、技术、组织或伦理三域九类;16项子集独立重编码显示解释性κ = 0.89、SMR κ = 0.83、预防贡献κ = 1.00、决策权κ = 0.76、标准对齐κ = 0.43,冲突以共识解决。2.7 证据分类与统计分析:将报告预防贡献分为强、中、有限,将证据基础分为六类并区分操作场景根基证据;采用Fisher精确检验、Holm校正、Cramér’s V与四个限制性子集敏感性分析,结果定位为探索性、假设生成性。2.8 AI工具使用:生成式AI与写作工具仅用于语言编辑与可读性改进,作者独立核验方法、分析、解释与结论并承担最终责任。3 文献综述:基于AI的职业风险预防的概念基础 3.1 从反应性监督到预测性风险智能:传统安全管理依赖事件报告、人工监督与合规审计,机器学习、网络–物理系统与数据密集监测推动风险推断连续化,并改变操作者角色。3.2 使能技术:机器学习(machine learning, ML)、集成学习、自动化机器学习(automated machine learning, AutoML)、大语言模型(large language models, LLM)、物联网(Internet of Things, IoT)、边缘计算、可穿戴传感、数字孪生、计算机视觉与可解释AI(explainable AI, XAI)共同支撑预测与预防,但多数系统仍为预测与监督性而非自主。3.3 以人为本设计、可解释性与权威问题:人本AI文献与XAI文献多平行发展,综述质疑二者在安全关键情境中可独立处理,提出可解释性可能是有意义行使人类决策权威的结构性条件。3.4 行业应用:建筑、制造、医疗、交通与航空应用较多,能源、采矿与海事相对不足;隐私与数据治理问题突出,联邦学习等方案亦影响透明性、可追溯性与责任归属。3.5 与职业安全管理体系的整合:AI可支持危害识别、风险评估、事件分析与持续改进,但多数方案仍为独立组件,未嵌入ISO 45001与计划–执行–检查–处理(Plan–Do–Check–Act, PDCA)循环,治理与问责缺口明显。3.6 研究缺口与本综述贡献:现有研究存在孤立模型、系统级验证不足、解释性与人本设计平行、治理整合概念化四类缺口;本综述以SMR框架联合分析风险路径与人–AI系统架构。4 结果 4.1 语料库总体概览:65项研究中Scopus 22项、IEEE Xplore 17项、Web of Science 15项、ScienceDirect 11项;49项发表于Q1期刊,48项发表于2024—2026年;研究来自30个国家,中国、韩国与印度合计43.1%,亚洲机构占53.8%。4.2 RQ1—研究趋势、方法与技术演化:经典ML 29项、深度学习10项、自然语言处理/LLM/生成式AI 7项、IoT或数字孪生平台5项,预测建模合计40项(61.5%);技术类别逐年多样化,但经典ML仍为最大类别。4.3 RQ2—用于早期风险检测与分类的预测性AI:44项(67.7%)采用预测模型,15项(23.1%)实施实时检测,6项无预测或实时检测;预测能力已成为功能基线,差异化转向解释、沟通与预防行动。4.4 RQ3—可解释AI:透明性、可解释性与信任:61个已实施系统中部分可解释34项(55.7%)、完全可解释6项(9.8%)、黑箱21项(34.4%),40项(65.6%)至少具部分可解释性;可解释性与报告预防贡献无检测到的关联(p = 0.602;Cramér’s V = 0.07)。4.5 RQ4—SMR框架的操作化:来源层35项(53.8%)、受体层21项(32.3%)、介质层3项(4.6%)、来源与受体联合2项(3.1%)、无可识别干预4项;来源层中28项为回顾性或基准分析,三项现场部署分别位于受体与介质层。4.6 RQ5—人–AI协作:决策权与决策自主性:61个系统中60项(98.4%)由人类保留最终决策,1项为监督自动化,无全自主系统;仅15项(24.6%)明确人类角色,45项角色隐含;21个黑箱系统均要求人类决策;明确角色与可解释性差异未达统计可检测(p = 0.218)。4.7 RQ6—与职业安全管理标准的一致性:16项(24.6%)在设计中操作化嵌入标准或管理过程,其中6项嵌入职业安全管理过程、10项嵌入技术标准或标准化评估方法;21项仅在背景提及,25项未引用,仅两项明确引用ISO 45001且一项用于结构化决策逻辑。4.8 RQ7—报告预防贡献及其证据基础:强贡献29项(44.6%)、中等31项(47.7%)、有限5项(7.7%);强贡献中仅4项在真实使用中检验;操作场景根基证据与强贡献相关(Fisher精确检验 p = 0.004;Holm校正 p = 0.019;OR = 5.91,95% CI [1.74, 20.02]),但仅一项在真实运行条件下报告量化预防效果,且无比较设计。4.9 RQ8—技术、组织与数据相关局限:50项(76.9%)报告至少一类局限,数据相关39项(60.0%)、技术相关39项(60.0%)、组织或伦理仅6项(9.2%);作者多强调数据量与模型性能,少承认现场验证、可解释性、人类角色与治理整合不足。4.10 RQ9—对可持续发展目标的贡献:仅2项明确链接2030议程;全部研究隐含对应SDG 8.8,22项涉及SDG 3,10项明确以工业5.0或人本AI框定SDG 9;环境共益仅3项,未涉及SDG 5与SDG 10,也缺乏按性别、年龄与就业状态的差异分析。4.11 RQ10—传统与AI驱动安全框架的混合整合:61个系统中27项(44.3%)与传统框架混合,34项为独立数据驱动;混合模式包括传统方法作为真值或输入10项、知识结构化模型7项、传统标准应用于AI输出6项、AI嵌入传统安全过程4项;混合系统更常报告强贡献(p < 0.001;OR = 16.97)且更常有操作场景根基(p = 0.003;OR = 6.96),但整合多为单向。4.12 敏感性分析:可解释性与预防贡献的零结果在各设定中稳定;决策权相关检验因仅1项委托自动化而不具信息量;证据基础与强贡献关联为唯一稳健发现(Holm校正 p = 0.019),混合整合与明确人类角色方向一致但校正后未达统计可检测(校正 p = 0.276)。5 讨论 5.1 人–AI协作:保留权威、角色未明确:人类权威几乎普遍保留,但约四分之三系统未明确谁接收输出、通过何种界面及采取何行动,黑箱系统使正式权威可能弱化,且缺乏对过度依赖、警报疲劳与信任校准的实证评估。5.2 可解释性作为有意义人类权威的条件:部分可解释系统多依赖SHAP、LIME、逐层相关性传播或映射至REBA、OCRA等标准化评分,完全可解释系统稀少且多为混合系统;可解释性不仅具伦理与透明价值,也可能是操作者评估、接受或否决AI建议的认识论基础。5.3 技术监督与正式安全治理之间的报告缺口:仅3.1%引用ISO 45001、75.4%未操作化嵌入任何职业安全标准或管理过程;工人参与、能力、变更管理、事件调查等治理机制鲜被涉及,形成技术监督与制度化责任之间的报告缺口,而非已证实的部署缺陷。5.4 AI干预与控制层级:来源层研究虽多,但多为回顾性危害识别而非消除或替代;受体层多支持行政与行为控制;介质层与工程控制极少,存在AI强化控制层级较低措施而替代上游根本控制的潜在风险,需纵向研究判别。5.5 面向人–AI职业安全系统的最低报告集:将缺口转化为九项最低报告集,涵盖决策权、人类角色、解释性获取、风险路径位置、控制层级、安全管理体系链接、现场验证、比较性预防结局、组织伦理与公平性;现有TRIPOD+AI、DECIDE-AI、CONSORT-AI与模型卡不足以覆盖职业安全治理组合。5.6 局限与未来研究方向:语料库规模中等且地理集中,仅检索四个数据库的同行评议文献,灰色文献与前向/后向引文检索缺失,两波检索与13篇全文不可得可能引入偏倚,2026年覆盖不完整;信度子集仅16项且部分变量类别后续细化未重估;关联为观察性,不应因果解释;未来需现场前瞻部署、人–AI交互实证、ISO 45001整合、介质层与工程控制、纵向替代/补充研究及代表性不足人群研究。6 结论:65项研究显示预测能力已广泛存在,人类权威几乎普遍保留但常缺乏明确角色与解释性支持;证据以回顾性或模拟性为主,预防效果尚未在真实运行条件下以比较设计证实;技术监督与正式安全治理之间报告缺口突出;下一阶段需在操作验证、以人为本设计与制度整合三方面推进,并以最低报告集提升可审计性与问责性。