《Journal of Safety Research》:Building a credible case for safety: Approach proposal for Automated Driving Systems
编辑推荐:
本文概述了一种系统化的方法,用于解决无驾驶员操作的自动驾驶系统(ADS)安全案例的创建问题。安全案例是一种正式的方式,用于解释ADS开发者如何确定其系统足够安全,能够在没有人类驾驶员的情况下部署在公共道路上,并且包含支持该决定的证据。它涉及对系统的解释、用于开
本文概述了一种系统化的方法,用于解决无驾驶员操作的自动驾驶系统(ADS)安全案例的创建问题。安全案例是一种正式的方式,用于解释ADS开发者如何确定其系统足够安全,能够在没有人类驾驶员的情况下部署在公共道路上,并且包含支持该决定的证据。它涉及对系统的解释、用于开发系统的方法论、用于验证系统的指标以及验证测试的实际结果。然而,为了制定一个有价值的安全案例,首先重要的是理解什么使其具有可信度且制作完善,并就评估准则达成一致。本文通过提供基础性的思考来帮助实现这种一致,不仅涉及如何确定一个系统已准备好部署,还涉及证明在这种确定中采用的一组接受准则(AC)是充分的,并且它们的评估(以及相关方法)是可信的。该陈述以承认绝对零风险是无法实现的为基础,根据最先进的安全标准,围绕“不可接受风险缺失”(AUR)的概念构建安全的定义。该出版物围绕三个互补的安全视角构建:分层的主动安全方法;动态的安全方法;以及可信的安全方法。每个视角都侧重于原则和方法论途径,而不是通常属于专有的特定结果,并且本文不包含完整的安全案例或支持它的证据。虽然以SAE 4级ADS为例进行阐述,但所提出的方法与技术无关且与方法论无关,使其能够被该领域的任何实体全部或部分地采用。
随着自动驾驶系统(ADS)技术的发展及其在公共道路上的部署,如何确保在探索该技术的同时保障公众安全,成为了全球监管机构面临的关键问题。ADS及其规模化应用构成了一个极其复杂的社会技术系统,融合了先进硬件技术、前沿人工智能和大型车队运营。在当前的监管和标准化讨论中,安全案例的概念已成为确定ADS是否具备部署就绪状态的核心方法。安全案例是一种结构化论证,由一系列证据支持,以提供令人信服、可理解且有效的案例,证明系统在给定环境中的应用是安全的。然而,目前行业内对于如何构建一个有价值且具备可信度的安全案例尚未达成广泛共识,特别是未能明确如何系统化地确定系统的安全就绪状态,以及如何论证所采用的一组接受准则(AC)的充分性及其评估方法的可信度。为了应对上述挑战并增进公众对该技术的信任,研究人员开展了关于构建ADS安全案例的方法论研究,并提出了一种系统化的方法框架。该研究强调绝对零风险是无法实现的,将安全定义建立在“不可接受风险缺失”(AUR)的概念之上。研究提出了一种包含三个互补视角的框架:分层的、动态的以及可信的安全方法。这一方法论框架同样适用于车队层面的ADS服务整体。该论文发表在《Journal of Safety Research》上,其重要意义在于为ADS开发者及整个行业提供了一条可复制的路径,不仅能够提高安全实践的透明度,还能促进关于如何满足社会期望的对话,并减少确认偏差和发表偏差带来的自然担忧。
在开展本研究的过程中,研究人员采用的关键技术与方法主要包括:首先,基于最新行业标准建立因果链分析模型,将场景触发条件映射至危害表现,以识别和评估体系结构、行为及在役操作三类风险。其次,构建了一个应用于行为危害的多维接受准则(AC)框架,涵盖了严重度潜能、冲突角色、行为能力、ADS功能状态及聚合程度五个维度。再者,引入安全决定生命周期的概念,通过迭代评估将安全视为一种涌现的开发属性、可接受的预测和观察,以及连续的置信度增长。最后,设计了案例可信度评估(CCA)机制,结合自下而上的证据可信度与自上而下的论证可信度,并采用经过改良的声明-论证-证据(C-A-E)表格结构,以明确声明、限制和反驳论点。
2. 分层的主动安全方法
本节探讨了安全案例的顶层目标,即确定不可接受风险的缺失(AUR)。研究人员通过研究指出,AUR的确定需要基于对三类危害的识别和适当管理:体系结构危害、行为危害和在役操作危害。通过对危害引发有害结果因果链的分析,研究人员认为可以明确与每类危害相关的安全性能指标,并因此构建一个用于评估行为危害的接受准则(AC)框架。通过此方法得出结论,分层的风险评估能够确保残余风险被控制在可接受的水平,同时要求针对各类危害明确相应的风险接受准则。
2.1 确定不可接受风险的缺失
该部分基于最新道路车辆行业标准对AUR的确定进行了详细说明。研究人员通过分析指出,确定AUR需要规范一个或多个接受准则及其相关的验证目标。这些接受准则对所评估的具体功能甚至所采用的具体方法非常敏感,但无论条件是定性还是定量的,都需要设定一个可测量的目标,以确定是否处于不可接受风险缺失的状态。
2.2 分解不可接受风险的缺失
研究人员进一步将顶层的AUR目标分解为已定义的三类危害。体系结构危害是指由于平台架构选择而固有嵌入的潜在伤害源;行为危害是指由于ADS展示的驾驶行为导致的潜在伤害源;在役操作危害则是指由于ADS在复杂生态系统中运行而产生且不属于前两类的潜在伤害源。通过这种分类机制,研究人员得出结论:可以将特定残余风险精确锚定到适当类别的危害上,这是制定安全案例的基础,且能够通过不同层面的干预措施有效防止伤害的发生。
2.2.1 奠定对因果链的理解
对于每一个已识别的危害,研究人员基于相关安全标准评估了导致伤害发生的因果链。该因果链详细描述了如果发生特定场景使自动驾驶车辆暴露于危害可实际导致伤害的条件中,且由此产生的危险事件未被控制时,已识别的危害将如何显现为伤害。研究表明,这种因果链的映射概念不仅适用于传统的碰撞,也可推广至火灾、排放、袭击等多种伤害机制,为有效识别干预杠杆提供了理论依据。
2.3 应用于行为危害的接受准则框架
该部分提出了针对行为危害的接受准则框架。研究人员将这一评估空间定义为一个由五个属性构成的五维问题空间:严重度潜能、ADV所扮演的冲突角色、行为能力类型、ADS功能状态以及聚合程度。研究得出结论,每一个行为评估方法都可以通过其声明的一个或多个接受准则,覆盖该五维空间的一部分。通过这种方式,开发者能够将自身指标映射到该框架中,从而论证行为层面的不可接受风险缺失。
2.3.1 严重度潜能维度
此维度用于建立事件严重度范围内的适当覆盖。研究表明,事件严重级别的确定需要对伤害风险进行评估,其中潜在伤害结果的严重程度可以使用简明伤害评分(AIS)来测量。除了伤害严重程度外,研究人员指出该维度还可以扩展用于评估其他形式的风险,例如与不遵守地方法规相关的潜在风险。
2.3.2 冲突角色维度
该维度通过研究将道路使用者区分为冲突的发起者和响应者。研究人员得出结论,评估ADS行为是否适当可能取决于ADS在加剧一系列事件危险性中所扮演的角色。该维度使研究人员能够适当考虑ADS部署可能引入的新风险,以及从人类驾驶员使用案例中衍生出的风险。
2.3.3 行为能力维度
接受准则框架中引入了三类广泛的行为能力:法规合规性、冲突避免和碰撞避免。研究人员发现,这三者之间的顺序性可以通过持续适用的法规合规性来平衡。该分析进一步表明,ADS需要在以上三种行为能力上均达到相应标准,以确保道路行驶的安全性与合法性。
2.3.4 ADS功能状态维度
该维度考虑了标称(即非降级)性能和降级性能。研究表明,这一维度得到了传统汽车功能安全最佳实践的支持。在设置覆盖降级功能的接受准则时,由于人类降级性能的数据可能稀缺而难以量化,因此必须谨慎考虑不同数据的可用性及适用方法。特别是对于某些ADS系统故障,可能无法找到合适的人类驾驶员类比,此时需要特殊处理。
2.3.5 聚合程度维度
最后一个维度集中在建立接受准则的聚合程度上。该维度区分了能够进行事件级推理的接受准则与仅允许聚合级推理的准则。通过研究,人员得出结论:聚合风险度量如果孤立地作为绩效的唯一衡量标准,可能无法揭示某些形式的风险,如单一场景中的事件级性能。因此,必须将事件级与聚合级的接受准则相结合,以实现二者的平衡。
3. 动态的安全方法
为了对上一部分的分层方法进行补充,研究人员进一步详细阐述了安全决定生命周期的动态迭代性质。安全被定义为一种涌现的开发属性、一种可接受的预测和/或观察,以及一种连续的置信度增长。通过生命周期机制的构建与持续监控,研究人员指出,系统部署后的安全置信度会随着数据量的增长而提高,此阶段对于理解预测数据与实际观测数据之间可信度的差异至关重要。
3.1 安全决定生命周期
安全决定生命周期包含三个连续的阶段视角:首先,安全被视为一种随着严谨工程开发实践而逐渐出现的涌现属性;其次,在特定的时间点,安全被视作一种可接受的预测或观察,ADS开发者需对配置的部署就绪状态做出离散判断,通过汇总当前发布周期内收集的信号与历史发布数据,来判断性能指标是否达到目标;最后,安全表现为一种连续的置信度增长。通过适当的反馈机制与运行监控,研究人员得出结论,随着部署规模扩大与可用数据量增加,风险确定的统计置信度也会不断提升。
4. 可信的安全方法
本部分引入了案例可信度评估(CCA)的概念。研究人员指出,没有任何单一的方法能够全面证明ADS的安全性,因此安全案例必须结合多种方法。研究得出结论,一个全面的安全案例需要评估证据本身的可信度,以及论证整体可信度,二者构成了CCA的核心支柱。
4.1 案例可信度评估
案例可信度评估(CCA)旨在填补当前行业中缺乏统一标准来确立安全案例可信度的空白。该框架包含三个主要组件:一是论证可信度,即采用自上而下的方式评估每个接受准则的合理性及整体论证的适用性;二是证据可信度,通过自下而上的方式分析现有方法生成证据的置信度与覆盖率;三是实施可信度,通过公司的安全管理体系中的持续监控与评估来确保体系的长期有效性。研究表明,该结构能够为开发者提供明确的实施指导,以建立经得起推敲的安全论证。
4.2 声明的格式与结构
为保证安全案例的实用性与表达清晰,研究采用改进后的声明-论证-证据(C-A-E)表格模板来构建声明结构。每个声明提出一个明确的接受准则,并辅以证明其合理性的论据与支撑其满足度的证据。在研究中,以碰撞避免测试(CAT)方法为例展示了声明结构的使用方法。该研究在论据栏中创新性地加入了限制范围与反驳论点两列,以对抗潜在的证实偏差。研究表明,这种结构设计不仅仅作为内部论证用途,更能够推动同行评审及公众沟通。
5. 局限性与结论
研究人员认为,对ADS的安全评估必须考虑如何将与人类驾驶员共有的风险以及ADS自身引入的新风险降至可接受水平。本文所提出的方法是技术无关的,适用于行业内各类实体。研究总结了四点关键结论:首先,提出的AC框架针对行为危害具有灵活性,允许使用多种基准来实现对评估空间的覆盖;其次,安全案例编写和审查的独立性对于识别认知缺陷至关重要;再次,编制正式安全案例的时机需与公司及产品成熟度相匹配,以避免案例频繁大修;最后,安全案例依赖于高度专业且技术复杂的文档,在推进广泛理解的同时必须坚持技术保真度。综上所述,安全案例作为促进持续沟通的宝贵工具,将成为持续质量改进周期的重要组成部分。