《RELIABILITY ENGINEERING & SYSTEM SAFETY》：Safety and Security Priorities of Smart Embedded Devices in a Technology Enterprise
编辑推荐：
本文提出一个人工智能辅助的物联网风险识别与优先级排序框架，整合文献分析与系统建模方法，通过TF-IDF语义分析和多维度风险评分系统，识别高频率风险（如网络攻击）和低频但高破坏性风险（如合规性不足和供应链漏洞），构建动态安全机制，支持复杂技术企业的风险资源分配与系统韧性规划。
Negin Moghadasi | Zachary A Collier | Davis C Loose | Mattew C Gunn | Megan E Gunn | Igor Linkov | Karen R Jackson | James Lambert
美国弗吉尼亚大学夏洛茨维尔分校
摘要
随着物联网（IoT）支持的嵌入式设备在复杂的技术企业中日益普及，组织在系统层面识别、优先处理和管理相互依赖的安全、隐私和运营风险方面面临着越来越大的困难。本文提出了一个可扩展的、由人工智能辅助的框架，用于识别和优先处理与物联网密集型系统相关的风险源。该框架结合了对学术文献的自动化分析以及基于系统的风险建模，以捕捉那些被广泛认可的风险以及那些虽然代表性较低但可能具有破坏性的风险。通过将文献的显著性与破坏性影响因素结合起来，该框架能够超越单纯基于事件频率的风险优先级评估。研究结果表明，虽然网络攻击仍然非常显眼且至关重要，但诸如法规违规和供应链漏洞之类的风险——尽管较少被强调——由于其系统性后果，同样需要或甚至需要更多的管理关注。所提出的框架为复杂的网络物理系统和技术企业中的韧性规划及基于风险的资源分配提供了决策支持。
引言
预计到2025年，连接到物联网的设备数量将达到300亿台[1]，到2030年将达到411亿台[2]。过去十年中，尤其是在第四次工业革命（Industry 4.0）[3]的推动下，技术进步的速度非常快，这从根本上改变了各个行业的运营方式。Industry 4.0的特点是物理系统和数字系统的融合，其中物联网[4,5]通过实现全面的感知、可靠的数据传输和智能处理[6]发挥了关键作用。物联网设备包括嵌入式系统、自动化服务和智能设备[7]，已成为从家庭安全系统到工业自动化、能源、交通、医疗保健、电信等各个领域的核心组成部分[8], [9], [10]]。
与此同时，基于人工智能的知识自动化[11]已成为这些互联生态系统中决策支持、情境感知和动态风险响应的关键推动因素。通过从大规模的物联网数据中学习，人工智能系统可以自主地对威胁进行分类、优先排序风险因素[12]，并在无需人工干预的情况下调整运营策略。
利用传感器、对象和智能技术来增强现有系统的概念可以追溯到20世纪80年代。最早的物联网应用之一是1982年卡内基梅隆大学的一台可口可乐[13]自动售货机[14]，它通过ARPANET连接以监控库存和饮料温度。ARPANET是由高级研究计划局（ARPA）构建的一组交互式计算机网络，后来更名为国防高级研究计划局（DARPA），而ARPANET正是今天互联网的前身[15]。Kevin Ashton后来创造了“物联网”这一术语，强调了射频识别（RFID）在实现物联网功能方面的重要性[8,14]。从那时起，物联网已经彻底改变了众多行业，改变了库存管理、智能交通[16]、医疗保健和设施运营等业务流程的执行方式。
如果物联网设备没有得到适当的部署、管理和保护[19,20]，它们会引入严重的安全漏洞[7,17,18]。随着物联网设备越来越多地融入人们的日常生活中，它们生成、传输和存储了大量关于个人的数据。虽然这些数据为创新和改进服务提供了重要机会，但也带来了严重的隐私和安全风险[17]。从跟踪日常活动到监测健康指标，这些设备收集了专有和受控的数据。如果没有保护措施，这些数据可能会被未经授权的人员访问，导致隐私泄露、身份盗窃和潜在的监控[21,22]。此外，随着物联网设备在医疗保健[10,23,24]、智能建筑[16]、基础设施、交通[16]、仓库等领域的普及，它们在提高运营效率的同时也扩大了潜在的攻击面。这种日益增长的互联互通性凸显了制定强有力的风险管理策略的重要性，以在整个系统生命周期内识别[7,18]、评估和缓解漏洞[10]。物联网设备由于其机电和数字组件，带来了复杂的威胁和风险，需要对其进行全面评估以保护系统免受潜在的入侵[25]。尽管如此，消费者往往在不完全了解这些设备所带来的隐私和安全风险的情况下仍然信任制造商，从而加剧了漏洞问题[19]。
Riaz等人指出，物联网安全可以分为两种类型：静态安全和动态安全。静态安全在预定义的条件下运行，无法应对不可预见的情景[26]。鉴于物联网环境的实时性质和潜在威胁的广泛性，仅依靠静态安全措施是不够的。为了应对这些不断变化的风险，需要动态安全措施。动态安全系统被设计为能够随着风险水平的提高而适应并变得更加复杂。这些系统可以自主识别威胁和漏洞，分析情况，并根据实时评估做出决策，从而提高物联网系统的整体韧性[27]。
图1展示了一个先进的技术设施示例，其中各种物联网支持的系统（如货物跟踪、起重机自动化、环境传感器和访问控制）创建了一个复杂的网络物理环境。该图说明了潜在的动态、相互依赖的威胁如何在各个运营领域传播，强调了基于破坏性的风险优先级评估的必要性。
鉴于物联网风险的动态性和演变性，需要系统的工具来识别和优先处理风险因素。本文提出了一个框架，用于开发一种评分系统，以评估和管理先进技术设施中与物联网设备相关的风险因素。通过利用多层次全息建模（HHM）[28], [29], [30]等多视角工具以及风险过滤、排名和管理（RFRM）[32]等系统流程，该框架使组织能够有效分配资源，专注于最相关和最普遍的风险。该框架将应用于物联网风险尤为突出的实际场景。这种方法旨在解决由硬件、网络和中间件漏洞相互作用所带来的多标准决策挑战，为物联网设备的安全性优先级评估提供结构化的解决方案[19]。在这些风险管理方法的基础上，不仅要评估风险的出现频率或语义相关性，还要评估它们在技术企业内部引发连锁故障和系统性破坏的潜力[33]。破坏性排名方法[24,34]将层次建模的洞察力与以破坏性为重点的标准（如传播潜力、相互依赖性和停机严重性）结合起来，以识别和突出那些最有可能引发广泛后果的风险。这种额外的视角增强了框架的决策支持能力，有助于主动缓解风险和设计具有韧性的系统。因此，本研究主要是一种方法论和决策支持贡献，用于早期风险优先级评估，而不是预测事件发生或失败概率的模型。
鉴于连接设备的规模和复杂性前所未有，通过人工智能进行自动化风险评估和知识整合不再是可选的，而是确保韧性和运营连续性的迫切需求。
本文的其余部分介绍了几层分析，这些分析使用大型语言模型和自然语言处理方法从多个相关性、暴露性和破坏性维度提取、分类和绘制物联网风险。为了指导下面介绍的结构化框架的开发，首先进行了基于大型语言模型（LLM）辅助的初步文献驱动的风险提取[35,36]分析。利用LLM的上下文理解和可扩展性，将从IEEE Xplore、arXiv和Semantic Scholar[37]中提取的摘要进行解析，以识别不同应用领域中的物联网相关风险。这一过程将能够发现和聚类高频风险（例如，网络攻击、性能故障）和语义上显著但频率较低的风险（例如，法规违规、用户跟踪）[38]，尽管术语可能存在差异。这些结果将确保后续的TF-IDF向量化[39]和基于分类法的建模[40]基于上下文相关的风险词汇[41]。
技术方法
本节介绍了一个用于识别、分类、可视化和优先处理技术企业中与物联网相关风险的框架。该框架包括几个部分：文献驱动的数据挖掘、结构化分类法、层次建模和多维度风险评分框架。
1. 文本库编译和文本预处理
使用自动化查询从arXiv、Semantic Scholar和IEEE Xplore中编译了一个目标学术摘要文本库，共计2,322篇摘要。
多层次全息建模（HHM）
接下来，使用多层网络图来建模类别、子类别和术语之间的关系。图5展示了一个图表，该图表显示了[28,30,31]场景建模、传播分析和相互依赖性的可视化。该图描述了关键基础设施系统中嵌入式设备的知识自动化和安全分类法中的风险因素之间的相互依赖性。
图6提供了一个知识图谱，展示了相互依赖性的可视化。
风险评分和优先级框架
通过一种综合风险评分方法，结合了来自语义和频率热图的洞察力，该方法旨在进行优先级评估而非概率估计。TF-IDF不是用来表示可能性的；相反，它用于衡量文献的显著性——即风险术语在文本库中的具体性和信息量——而原始术语频率反映了讨论的普遍性。
为了确保可比性并防止任何单一指标主导评分结果，
破坏性风险排名顺序
为了识别那些可能被低估但在运营上非常严重的系统性威胁，应用了破坏性指数（DI）。该指标量化了给定风险在多个维度上的连锁效应：
