《Safety and Health at Work》：A Review of Legal Precedents and Industry Expectations for Integrating Machine Learning in Safety and Engineering
编辑推荐：
尽管机器学习（ML）引起了广泛兴趣，但工程师和利益相关者仍对监管机器学习（ML）的法律和监管框架不确定。这一差距仍未得到解决，因为工程师的决策过程通常受职业道德和实践指南约束，现在与复杂的算法输出相交织。为弥合这一差距，本叙述性教义审查通过综合具有控制性和说明
尽管机器学习（ML）引起了广泛兴趣，但工程师和利益相关者仍对监管机器学习（ML）的法律和监管框架不确定。这一差距仍未得到解决，因为工程师的决策过程通常受职业道德和实践指南约束，现在与复杂的算法输出相交织。为弥合这一差距，本叙述性教义审查通过综合具有控制性和说明性权威的主要判例法、法规和标准，探讨工程师如何驾驭支持或反对部署机器学习（ML）技术的法律原则和立法理由。借鉴从其他领域获得的最新先例，研究人员认为类比推理可以为将机器学习（ML）嵌入现有工程规范提供基础，同时保持专业责任和满足安全要求。在探讨这些问题时，讨论侧重于已建立的责任原则，并强调法院如何评估预测模型的使用。研究人员进一步分析立法机构和标准制定组织如何提供等同于先前对新兴技术认可的明确指导。这项探索强调了理解技术理由与法律先例之间的相互作用对于形成对机器学习（ML）合法性的知情立场的重要性。
1. Introduction
本节介绍机器学习（ML）在工程领域的显著潜力，但指出专业法规和行业标准尚未严格涵盖基于机器学习（ML）的方法，这引发了对在法律和监管框架沉默时部署机器学习（ML）模型的合理性问题。以建筑规范和测试标准为例，说明大多数司法管辖区采用规定性框架，而机器学习（ML）的纳入仍未解决，导致工程师在责任风险与创新压力之间挣扎。立法理由可通过灵活的义务条款支持机器学习（ML）的应用，而法院采用的合理性标准可延伸至机器学习（ML）输出，前提是工程师验证模型输出并处理可预见的风险。法律先例如美国Daubert框架及其国际对应方（L. Jurs等，2024），强调可测试性、同行评审和普遍接受，为评估基于机器学习（ML）的工程证据提供结构化基础。标准制定机构（如美国土木工程师协会（ASCE）和结构工程师学会（IStructE））已考虑数据驱动方法，但缺乏明确规定。跨领域比较显示医疗和汽车行业法规的适应性，例如自动车辆法规逐步规范化传感器验证与实时决策，为工程领域提供可借鉴的监管模型。代码适应面临静态代码与动态机器学习（ML）模型之间的矛盾，但可通过试点项目或临时批准逐步采纳。数据治理和网络安全问题（如数据篡改）需纳入加密标准与生命周期管理。方法论上，本文为叙事性综述，主要贡献在于法律原则的解释与综合，来源包括美国联邦和州判例法、欧盟人工智能法案（EU AI Act）提案及国际标准化组织/国际电工委员会（ISO/IEC）标准，但以美国法律为核心，其他材料作为可转移推理模式。
2. Legislative bodies and standard setting in engineering contexts
本节阐述立法机构与标准制定组织如何影响机器学习（ML）的整合。历史上，建筑规范和标准（如ASCE 7、Eurocodes）强调经过验证的数学模型和规定性公式，机器学习（ML）面临基于传统方法的演示和接受挑战。委员会决策过程需平衡创新与风险，共识缺失可能导致立法机构不愿认可机器学习（ML）。保险和承保人的责任不确定性可能推高保费或排除覆盖，阻碍工程公司采用机器学习（ML）。性能导向的规范（如国际建筑规范（IBC）第104.11节）允许任何能证明等效或更优安全性的方法，为机器学习（ML）提供灵活性，但需系统记录假设、验证程序和敏感性分析。部门特定法规（如美国联邦航空管理局（FAA））的严格认证协议可树立先例，例如获得批准的机器学习（ML）诊断工具在航空领域的可靠性证据可影响土木工程标准。专业执照委员会通过道德规范与继续教育要求间接塑造标准，可强制或推荐机器学习（ML）培训。软法工具（如共识报告、操作手册和技术指南）虽无法律约束力，但可通过行业压力和最终纳入法规影响实践，委员会、工作组和专家小组的立场文件可作为最佳实践的指示。这些概念汇总于本节的主要概念总结（见表1，但移除图示标识）。
3. Legal precedents and legislative justifications
本节聚焦法律先例与立法理由。尽管传统工程规范（如国际建筑规范（IBC））未明确涵盖算法决策，但安全、可靠性和专业责任的核心原则仍适用。Daubert标准（Daubert v. Merrell Dow Pharmaceuticals, Inc., 509 U.S. 579）确立了评估专家证词科学有效性和相关性的标准，并通过Kumho Tire Co. v. Carmichael（526 U.S. 137）延伸至工程专家。General Electric Co. v. Joiner（522 U.S. 136）确认初审法官有权排除基于未支持或过度推测方法的专家证据，Weisgram v. Marley Co.（528 U.S. 440）则澄清上诉法院可在专家证词不满足Daubert可靠性要求时作出判决。这些先例表明法院可能评估机器学习（ML）方法是否遵循公认的科学或工程方法。立法理由通常基于公共福利与安全目标，美国多数州的专业工程法规强调合理谨慎工程师概念（reasonable prudent engineer），不规定具体工具，而是要求高能力与谨慎的判断，机器学习（ML）模型可通过同行评审研究或验证纳入此框架。欧洲视角下，欧盟人工智能法案（EU AI Act）提出基于风险的分级框架，高风险应用（如基础设施）需满足数据治理、记录和人工监督要求。跨国标准（如国际标准化组织（ISO））虽无法律效力，但可作为监管机构判断最佳实践的参考。侵权责任案例提供先例，类比有限元（FE）方法的接受过程。具体案例包括Farnsworth v. Steiner（601 P.2d 266, Alaska）认可高级结构计算的可采性，Barabin v. AstenJohnson, Inc.（700 F.3d 428, 9th Cir.）强调专家证词需经可靠性审查，Primiano v. Cook（598 F.3d 558, 9th Cir.）要求专家结论基于相关专业社区的可靠方法。在预测性维护应用中，法院会评估可预见性和因果关系，工程师可通过稳健的训练策略满足可预见性要求。监管沙盒（regulatory sandbox）概念（如亚利桑那州金融沙盒）可作为工程领域机器学习（ML）的试点机制，法院通常将此类认可项目视为技术合规的证据。
4. Negligence, liability doctrines, and accountability
本节探讨过失、责任原则与问责。工程中的过失源于侵权原则，专业护理标准基于合理谨慎从业者（例如Glanzer v. Shepard引用的标准）。机器学习（ML）的引入使确定过失更具挑战性，尤其是依赖专有或黑箱算法时，因果关系链可能不透明。发现规则（如美国联邦民事程序规则26）允许广泛获取源代码、验证研究和内部文档，以审查建模过程。可预见性问题中，机器学习（ML）模型可能因训练数据未涵盖罕见事件而无法预见后果，案例Bily v. Arthur Young & Co.（834 P.2d 745, Cal.）和Ultramares Corp. v. Touche（255 N.Y. 170）强调专业标准要求严谨的方法与透明度。即使机器学习（ML）模型按预期运行，若输出偏离规范合规程序（如安全系数不足），工程师仍可能因批准不符合规范标准的设计而承担责任（如Beacon Residential Community Assn. v. Skidmore, Owings & Merrill LLP, 59 Cal. 4th 568; Bilt-Rite Contractors, Inc. v. The Architectural Studio, 866 A.2d 270, Pa.）。严格责任（strict liability）通常适用于产品缺陷，但工程服务与产品的界限可能模糊，例如机器学习（ML）结构分析软件的开发商可能面临产品责任索赔。案例East River S.S. Corp. v. Transamerica Delaval, Inc.区分产品缺陷与专业服务，Greenman v. Yuba Power Products, Inc.（59 Cal. 2d 57）确立制造商对缺陷产品的严格责任。职业责任或过失原则（国家专业工程师学会（NSPE）道德规范）要求工程师无论是否使用自动化方法都需维护合理护理标准。替代责任（vicarious liability）在工程师与分包商合作时显现，传统代理原则可能将责任归于主要工程公司，若其监督不周；分包商若失职也需负责。合同责任与侵权理论重叠，但法院通常拒绝执行完全免除重大过失责任的合同条款。问责还涉及公司治理，案例In re Caremark International, Inc.和Stone v. Ritter（911 A.2d 362, Del.）强调董事对监督机制的义务。社会问责层面，公众信任可能因算法失败而下降，形成反馈循环：公众对算法可靠性的认知影响立法者对机器学习（ML）的编码或限制决定。
5. Future research directions and needs
本节提出未来研究方向。首要需求是开发开源标准化基准与测试平台，用于验证各种工程应用中的机器学习（ML）算法，借鉴软件验证经验，并与现有数值方法比较。需研究许可模式、同行评审机制与开放数据倡议以保持科学严谨性，跨学科合作应纳入法律学者以指导责任原则与隐私法规的交互。先进风险模型需考虑结构不确定性、算法和网络威胁，其发现可更新规范确保基于实践结果的结构化实施路径分三阶段：第一，专业机构召集联合工作组起草临时指导文件，定义机器学习（ML）模型文档、验证和披露的最低要求，作为软法工具；第二，工程委员会或市政当局授权受控试点项目（类比监管沙盒），在低后果项目类型（如初步尺寸确定、非承重构件优化）中部署机器学习（ML）辅助设计，并加强监测与强制性后占用评估；第三，积累足够记录后，标准制定组织通过专门附件或评注将机器学习（ML）条款纳入现有规范，保留母规范的规定性结构。高优先级研究领域还包括解释性机器学习（Explainable ML），通过嵌入基于物理的约束（如平衡和兼容性定律）确保输出符合工程原理，增强信任并简化司法审查。生命周期管理方面，需定义重训练、版本控制和算法回滚协议，包括持续集成管道与失效安全机制；研究加密与区块链解决方案以防范数据中毒和对抗性输入。规范修订周期可采用强制性审查间隔或日落条款，以适应技术成熟度。保险模型需跨学科研究，开发专门覆盖算法误算责任的新保单，法律与工程研究者可合作确定保险商要求的最低性能期望。最后，需进行实证研究分析工程师、业主、监管机构和公众对算法可靠性的态度，以厘清公众认知如何影响立法意愿。
6. Conclusions
本节总结，尽管机器学习（ML）具有潜力，但工程师需将新技术与既定责任原则、规范和专业规范协调。性能导向的规范为引入新颖方法提供灵活途径，但需更一致的开发与验证程序以确保安全水平。工程师、律师、政策制定者和数据科学家有责任塑造促进创新与问责的监管环境。未来研究方向强调标准化基准、可解释框架与多学科合作。本文识别出的法律路径源于其他技术和领域的先例推断，直接针对工程和施工的机器学习（ML）判例法尚不充分，其适用性取决于法院在具体纠纷中的解释。因此，这些框架不应视为既定法律。
