基于人工智能的关键系统的功能安全架构模式

《ACM Transactions on Cyber-Physical Systems》：Functional Safety Architectural Patterns for AI-Based Critical Systems

本文提出一种面向安全关键嵌入式人工智能系统的模块化参考架构，结合ISO/IEC TR 5469和ISO/PAS 8800标准，通过渐进式安全模式在NVIDIA JETSON ORIN平台验证，有效解决AI模型不确定性和异构计算架构带来的风险，确保功能安全与合规性。

　　

摘要

具身人工智能（EAI）系统通过与动态环境的复杂交互正在改变各个行业。然而，将其集成到安全关键应用中面临诸多挑战，尤其是在满足功能安全要求方面。现有的标准（如IEC 61508和ISO 26262）为风险缓解提供了指导，但缺乏针对人工智能驱动系统的明确解决方案。人工智能模型的随机性，加上日益增加的硬件和软件复杂性，引入了诸如模型不足和异构计算架构中的故障等风险。本文提出了一种模块化的参考架构，用于安全关键EAI系统，该架构符合功能安全标准（包括ISO/IEC TR 5469和ISO/PAS 8800）。借鉴了汽车领域中的E-gas概念等成熟的安全模式，所提出的参考架构被应用于NVIDIA JETSON ORIN平台上的三种渐进式安全模式中，逐步满足安全要求的同时促进了系统的可重用性和合规性。这项工作通过定义一系列架构、安全技术和措施，为将人工智能集成到关键系统中提供了结构化的路径，从而确保了系统的可靠性、可预测性以及符合功能安全框架的要求。