综述:工业物联网中的TinyML:应用、系统组件和方法的系统性综述 Shahad Alharthi, Muhammad Rashid, Malak Aljabri

《Sensors》:TinyML in Industrial IoT: A Systematic Review of Applications, System Components, and Methodologies Shahad Alharthi, Muhammad Rashid and Malak Aljabri

【字体: 大 中 小 】 时间:2026年04月22日 来源:Sensors 3.5

编辑推荐:

  摘要 微型机器学习(TinyML)使得机器学习(ML)模型能够在资源受限的设备上运行,这对于需要低延迟、高能效和本地决策能力的工业物联网(IIoT)系统至关重要。然而,由于应用场景、硬件、框架和部署方法的多样性,将TinyML部署到IIoT中仍然具有挑战性,这突显了进行结构化、有

  摘要
微型机器学习(TinyML)使得机器学习(ML)模型能够在资源受限的设备上运行,这对于需要低延迟、高能效和本地决策能力的工业物联网(IIoT)系统至关重要。然而,由于应用场景、硬件、框架和部署方法的多样性,将TinyML部署到IIoT中仍然具有挑战性,这突显了进行结构化、有针对性的综述的必要性。现有的综述文章主要关注通用物联网或边缘人工智能(AI),在统一系统地理解IIoT环境中TinyML的应用、系统组件和方法论方面存在重大空白。因此,本系统文献综述(SLR)通过分析2018年至2026年间发表的35篇经过同行评审的研究,提供了关于基于TinyML的IIoT系统的全面而结构化的综合分析。所选研究从三个主要维度进行综合:应用、系统组件和方法论。在应用方面,TinyML主要用于预测性维护、设备监控、异常检测、能源管理以及通用应用。通用类别包括无法归类为特定工业应用的跨领域解决方案。所有应用类别在准确性、延迟、内存和能源消耗方面进行了比较分析。在系统组件方面,结构化比较展示了硬件、软件和传感选择如何影响性能和适用性。硬件平台按微控制器家族分组,突出了主流类型。软件框架进行了总结,显示出轻量级工具链在设备端推理中的广泛应用。传感器类型也进行了分类,其中振动传感最为常见。此外,该SLR还探讨了数据基础、模型选择和优化策略等方面。总之,这篇SLR整合了多样化的TinyML-IIoT应用、基于微控制器的硬件、轻量级软件框架、传感方式、不同类型的数据集以及优化策略,同时指出了挑战和未来的研究方向。

1. 引言
工业物联网(IIoT)起源于20世纪中叶,当时工厂采用电子控制系统来提升制造过程[1]。1968年可编程逻辑控制器的引入是工业计算领域的一个重要里程碑[2]。20世纪70年代和80年代,分布式控制系统将自动化从单个机器扩展到了传感器和执行器的协调网络[3]。90年代,互联网和无线通信技术的广泛使用使工业设备能够连接到更大的数字网络中。这些发展为新的工业集成奠定了基础。到了21世纪初,“IIoT”一词出现,描述了物理系统与网络系统在工业4.0环境下紧密融合的形态[4,5]。
如今,IIoT已成为许多工业领域数字化转型的核心组成部分[6,7]。它使关键基础设施能够持续监控设备并收集操作数据以支持实时决策[8]。因此,它实现了预测性维护,提高了能源效率,并降低了工业资产的运营成本[9]。IIoT还促进了智能工厂概念的发展,其中网络物理系统能够自主且适应性地优化生产线[10]。然而,大规模IIoT部署在数据安全、可扩展性和能源消耗方面仍面临重大挑战,尤其是在大型、异构的工业网络中。这些挑战促使人们开始使用新兴技术,如微型机器学习(TinyML)[11]。TinyML被认为是人工智能的一个子领域,专注于在超低功耗微控制器设备上部署ML模型。这些设备通常具有不到1MB的RAM[12]。
在传统的IIoT系统中(图1),传感器节点将原始数据发送到网关,然后网关将这些数据转发到云端进行存储和模型训练与推理。然而,这种架构存在较高的通信成本、更高的能源消耗和增加的延迟,使其不太适合对时间敏感或带宽有限的场景。相比之下,基于TinyML的IIoT架构(图2)引入了分布式智能层,使得传感器和嵌入式系统能够在本地进行数据分析并做出实时决策,而无需持续依赖云端连接[13]。换句话说,只有定期的模型更新会被发送到云端。离线或周期性同步保持了边缘模型的准确性。这种方法减少了数据传输需求,降低了延迟,并提升了隐私性和能源效率[14]。

图1. 基于集中式云中心数据处理的传统IIoT架构,其中传感器节点将原始数据传输到网关和云服务器进行存储、分析和推理。
图2. 基于微控制器本地执行的分布式智能的TinyML支持的IIoT架构。
虽然TinyML代表了资源受限的设备端智能形式,但它属于更广泛的基于边缘的机器学习方法论范畴[15]。嵌入式机器学习(ML)指的是在嵌入式系统(如微控制器、DSP(数字信号处理器)或轻量级SoC(系统级芯片)上执行的ML,不一定需要像TinyML那样极低的memory和能源效率[16]。边缘AI的应用范围更广,包括在数据源附近(网关、工业计算机或边缘服务器)进行的所有AI处理,具有更高的计算能力[17,18]。在这个层次结构中,TinyML是嵌入式ML和边缘AI中最为受限的子集,它独特地在IIoT环境中实现了传感器级别的实时智能。
在IIoT环境中,TinyML在振动分析、预测性维护、质量检测、异常检测、结构健康监测和智能能源管理等领域展现了潜力[19]。通过将轻量级学习模型直接嵌入工业传感器节点和微控制器中,TinyML将传统的IIoT设备转变为能够做出情境感知决策的智能边缘代理。

1.1. 对IIoT中TinyML进行系统文献综述的动机
TinyML在IIoT系统中的集成程度正在增加;然而,这种融合带来了显著的复杂性[20]。应用场景、组件、方法的多样性以及标记数据集的有限性使得部署变得具有挑战性。同样,设计TinyML模型通常需要先进的优化技术,如量化、剪枝和知识蒸馏[21]。这也需要标准化工具链和库来支持跨异构资源受限微控制器架构的可移植性[22]。尽管兴趣日益增长且成果令人鼓舞,但现有研究仍然分散在多个领域。因此,系统文献综述(SLR)对于整合当前知识至关重要。它不仅应识别出应用、系统组件、模型设计和部署方法上的空白,还应指出未来的研究方向。这样的综述可以加速TinyML在IIoT环境中的采用,同时解决可扩展性、可靠性和互操作性等关键问题。

1.2. 关于IIoT中TinyML的现有综述概述
现有的综述可以分为三类:专注于TinyML的综述、ML在IIoT中的综述,以及关于TinyML和设备端边缘智能的最新调查。这些调查的总结见表1。
表1. 现有系统文献综述的总结:关注领域和主要局限性。

专注于TinyML的综述:早期研究探讨了在微控制器上实现ML推理的框架和优化技术,讨论了模型压缩、量化和剪枝等方法[23]。虽然这些综述为TinyML设计提供了宝贵见解,但并未涉及工业环境或IIoT特有的挑战,如延迟和可靠性。较新的综述将TinyML研究分为算法导向、硬件导向和协同设计方法三类,然而缺乏对实时工业应用的分析[24]。另一项综述专注于预测性维护,展示了如何利用振动和温度数据检测故障,但其范围仅限于维护领域,排除了能源优化和质量检测等其他IIoT领域[19]。
专注于ML在IIoT中的综述:多项系统综述分析了ML在IIoT系统中的集成,但没有明确考虑TinyML[25]。其中一些研究提供了关于工业数据分析的宝贵见解,但依赖于云端或服务器端处理[25]。另一项研究讨论了模型的可重用性和跨领域适应性,但未涉及TinyML或嵌入式设备上的能效推理[26]。还有研究探讨了在物联网数据上使用ML,强调了可解释性和模型透明度,但忽略了本地学习和资源受限硬件的限制[27]。还有一项研究提出了智能制造的ML方法分类[28],按数据类型和工业目标进行分类;然而,它没有涉及TinyML、边缘级部署或节能计算[28]。
关于TinyML和边缘智能的调查:近期的一些调查开始在更广泛的边缘计算环境中研究TinyML[29,30]。其中一些研究讨论了嵌入式AI架构、硬件平台以及在不同物联网场景下的性能考虑,但分析仍集中在通用物联网和嵌入式AI设置上,未解决IIoT系统的特定部署挑战[29]。最近的一项研究探讨了TinyML在工业4.0向工业5.0过渡中的作用[30],不过主要侧重于概念性视角,没有提供TinyML部署架构、数据集或优化技术的详细综合。

1.3. 研究空白
尽管之前的综述文章和调查为IIoT环境中的TinyML技术和ML应用提供了宝贵见解,但其范围仍然碎片化且不完整。一些研究在通用物联网背景下探讨了TinyML[23,24,29],但未解决工业系统的独特限制。其他综述则专注于工业环境中的ML[25,26,27,28],但这些研究主要依赖于云端或服务器端处理,忽视了基于TinyML的设备端智能。此外,一些调查将其范围限制在特定用例(如预测性维护[19]),限制了其在更广泛IIoT领域的适用性。即使是最近在工业5.0背景下讨论TinyML的研究[30],也侧重于概念性视角,而非提供该领域的技术综合。
如表1所述,尽管在工业边缘对能效高、实时性和可扩展性的智能需求日益增加,但之前的综述并未提供对IIoT中TinyML的全面分析。TinyML通过能够在超低功耗微控制器上实现设备端推理,提供了一个有前景的替代方案;然而,缺乏统一的视角,阻碍了对硬件平台、软件框架、模型设计策略和实际IIoT部署所需优化技术的理解。本系统文献综述通过提供工业环境中TinyML应用的统一综合,研究了部署架构、工业用例、传感方式、硬件限制及塑造未来TinyML支持IIoT系统的开放研究挑战,填补了这一空白。

1.4. 研究问题
为解决已识别的研究空白,本SLR旨在回答以下研究问题(RQs):
RQ1:TinyML已在IIoT系统的哪些工业领域和操作任务中得到应用?
RQ2:哪种系统组件(硬件平台、软件框架和传感器类型)最常用于在IIoT中部署TinyML?
RQ3:在TinyML-IIoT中采用了哪些方法(数据集、模型架构和优化策略)来适应资源受限的IIoT设备?
RQ4:如何评估TinyML在IIoT应用中的性能,最常报告的指标是什么?
RQ5:将TinyML应用于IIoT面临的关键限制和未来研究方向是什么?
这些问题指导了整个综述过程,从研究选择到结果的综合,并旨在提供TinyML在IIoT领域的当前状态和未来机遇的全面概述。

1.5. 贡献
据我们所知,本研究是首批在IIoT背景下全面探讨TinyML的系统文献综述之一。与以往分别讨论TinyML和IIoT的综述不同,本SLR将两者结合起来,对其交叉点进行了统一而深入的分析。主要贡献包括:
1. 对IIoT中TinyML的全面综合:明确探讨了TinyML在不同领域(如预测性维护、质量控制、异常检测和智能能源管理)中的应用。
2. 硬件和软件生态系统的分析:识别了在IIoT中部署TinyML时最常用的微控制器单元(MCU)/边缘设备、软件框架(例如TensorFlow Lite Micro、Edge Impulse)和传感器类型。
3. 数据集、模型架构和优化技术的评估:分析了用于适应资源受限工业环境的数据集、模型类型和优化技术,包括模型压缩、量化和剪枝。
4. 性能评估和基准测试:总结了评估TinyML在IIoT中性能的方法,重点介绍了常用的指标,如准确性、推理延迟和能源效率。
5. 挑战和未来研究方向的识别:指出了文献中报告的技术和方法学限制,包括部署复杂性、可扩展性以及缺乏标准化的基准测试,并提出了有前景的未来研究方向。
通过这些贡献,本SLR为旨在设计、优化和部署基于TinyML的智能系统的研究人员和实践者提供了综合的基础。

1.6. SLR的结构
本SLR按照采用的方法论工作流程组织成明确定义的章节。引言之后是研究方法(第2节),概述了研究选择的类别和详细介绍了综述协议。选定的研究根据它们解决的问题进行分类(第3节),接着是涵盖硬件、框架和传感器的系统组件分类法(第4节)。接下来,综述研究了与数据集、模型架构和优化策略相关的方法论(第5节)。随后,研究总结了关键挑战和未来研究方向(第6节)。基于第3节、第4节、第5节和第6节的内容,提供了对所提出研究问题的回答,以及本系统评价(SLR)的局限性(第7节)。最后,文章以第8节结束。

2. 研究方法论
本系统评价采用了既定的系统评价指南,以确保方法论的透明性和可重复性。第2.1节首先定义了构建分析的背景类别,然后第2.2节详细介绍了评价协议。该协议概述了研究选择标准、搜索策略和数据提取程序。这些小节共同描述了如何识别、筛选和综合相关研究,以解决研究问题。

2.1. 背景类别
选定的研究文章被组织成三种互补的分类类型,反映了不同的分析视角:(1)问题驱动的分类根据它们主要解决的行业挑战进行分组,使人们能够从应用层面理解TinyML在工业物联网(IIoT)环境中的使用情况。(2)系统组件分类法按硬件平台、软件框架和传感器类型进行分组,突出了核心技术要素。(3)方法论分类关注数据集、模型架构和优化策略,捕捉了研究人员如何调整机器学习(ML)技术以适应IIoT系统的约束。这三种分类类型共同提供了TinyML-IIoT研究的结构化和多维视角。

2.1.1. 问题驱动的分类
在系统评价中,根据主要研究问题对研究进行分类是很常见的,特别是在像TinyML支持的IIoT系统这样的多学科领域。这种分类组织了多样化的贡献,并提供了TinyML在行业挑战中的应用层面视图。通过关注每项研究的主要目标,这一类别明确了TinyML解决方案的行业背景[11]。换句话说,问题驱动的分类强调主要系统目标和行业环境,而不是具体的算法、模型架构或使用的硬件平台。这些技术方面是分开分析的[31]。
选定的研究被分为五个以问题为导向的类别:智能制造和预测性维护、工业设备和状态监测、智能能源管理、生产线中的质量控制与异常检测以及通用应用。尽管这些类别是单独定义的,但在实际的工业系统中它们之间可能存在重叠,因为单一的TinyML解决方案可能服务于多个运营目标。因此,当某些研究的贡献涉及多个行业领域时,它们可能会出现在多个类别中,这反映了IIoT环境的实际性质,其中TinyML解决方案通常同时支持多个运营目标。这种以问题为导向的分类突出了TinyML在不同IIoT应用领域的灵活性,并为综述的其余部分提供了比较分析的一致基础。需要注意的是,所研究的内容在实现程度上有所不同,从基于仿真的评估到实验室原型,再到工业验证的系统。

2.1.2. 系统组件分类法:硬件、框架和传感器
这一类别展示了IIoT环境中TinyML系统组件的结构化分类法。它强调了三个相互关联的维度:硬件处理平台、软件框架/库和传感模式。这些维度构成了大多数TinyML-IIoT系统共享的基本技术构建块。这使得文献描述具有统一性,尽管应用领域存在差异[32],如图3所示。图3显示了从传感器数据采集到应用层面决策的TinyML在工业物联网中的层次结构。如图3所示,TinyML-IIoT的层次架构始于传感层,该层从工业物理环境中获取数据[33]。这一层作为输入数据的主要来源,对后续的系统设计选择具有重大影响。接着是嵌入式硬件层,它为工业边缘的TinyML模型提供了执行环境,并施加了与内存容量、能耗和连接性相关的约束[34,35]。在硬件层之上是TinyML软件层,包括模型部署和设备上的推理流程[36]。这一层充当原始传感器数据与更高级系统行为之间的中间层。最后,架构还包括一个可选的应用逻辑层,该层使用TinyML模型的输出来支持工业决策和行动,具体取决于系统的性质。
图3的层次化组织反映了这样一个原则:传感选择决定了输入数据的特性,硬件平台定义了执行约束,而软件框架则管理模型在资源受限设备上的构建、部署和执行方式。因此,本节通过结构化分类表提供了这些层次的方法论概述:一个按架构家族分组硬件的分类法,一个描述开发和部署环境的软件分类法,以及一个按观察到的物理现象类型对测量结果进行分类的传感器分类法。这一框架为后续小节中详细的分类建立了一致的基础,而在这个阶段并未引入性能分析[37]。

2.1.3. 方法论:数据集、模型架构和优化策略
这一类别关注三个相互关联的技术维度:数据集、模型架构和优化技术。首先,数据集维度涉及用于训练和评估的数据来源类型。数据集被分为两类:(1)操作数据和真实世界传感器数据集,反映了工业或实验环境中的实际操作条件;(2)公共数据集、基准数据集和合成数据集,包括用于支持可重复实验的标准数据和模拟数据[33,38]。这种分类明确了模型训练和测试的背景,但没有评估数据质量或结果。

2.2. 评价协议开发
制定一个结构化且定义明确的评价协议是进行系统文献评价的基本步骤。本文采用了与PRISMA(系统评价和元分析的优先报告项)指南相一致的系统文献评价方法。它确保了评价过程的透明性和可重复性[39]。它包括三个主要阶段:定义选择和排除标准、执行搜索过程以及进行数据提取和综合。类似的方法论方法已成功应用于医学成像中的AI方法[40]、水下声学通信[41]、桥梁健康监测[42]和嵌入式系统开发[43]等领域的评价中,证明了该框架在不同领域的稳健性和适应性。

2.2.1. 选择和排除标准
为了确保包含高质量、相关的研究,在搜索之前建立了一组纳入和排除标准。研究的选择基于以下标准:
- 主题相关性:研究必须明确涉及工业或IIoT环境中的TinyML或设备上的机器学习,并提供至少与一个研究问题(应用、系统组件、方法论、性能或挑战)相关的证据。
- 与分类类别的对齐:每项研究必须至少对背景中定义的三个维度中的一个有所贡献:(i)问题驱动的分类,(ii)系统组件(硬件、框架、传感器),或(iii)方法论(数据集、模型架构、优化策略)。
- 发表时间:仅包括2018年至2026年间发表的研究,以捕捉TinyML在IIoT领域的出现和发展。除非是对TinyML或嵌入式ML的基础性工作,否则较早的研究被排除。
- 出版来源:仅考虑在IEEE Xplore、Elsevier(ScienceDirect)、SpringerLink和ACM Digital Library中索引的经过同行评审的期刊文章和会议论文,以确保科学的严谨性。
- 工业相关性:包含的研究必须展示TinyML技术与工业或IIoT应用之间的明显联系。
- 结果导向的证据:研究必须报告实验结果、定量评估、原型或现实世界/工业测试床。没有实证验证的概念性、理论性或纯粹基于调查的工作被排除。
- 重复性:移除了重复或实质性重叠的出版物,优先考虑最完整、最新或扩展的研究版本。

2.2.2. 搜索过程
在四个主要的科学数据库中进行了系统文献搜索:IEEE Xplore、Elsevier(ScienceDirect)、SpringerLink和ACM Digital Library。文献搜索在2025年12月17日至2026年3月16日期间进行。在所有选定的数据库中使用了相同的布尔搜索字符串,以确保一致性。搜索和筛选过程遵循系统文献评价的标准阶段,包括识别、筛选、资格评估和最终纳入。为了确保广度和准确性,搜索策略结合了TinyML相关术语和IIoT特定关键词,使用布尔运算符。搜索限于2018年至2026年间发表的研究,以捕捉该领域的最新发展。本评价中使用的主要布尔查询如下:
- (“TinyML” OR “Tiny Machine Learning” OR “on-device machine learning” OR “micro ML” OR “embedded machine learning” OR “low-power ML”)
- AND (“Industrial Internet of Things” OR “IIoT” OR “industrial IoT” OR “Industry 4.0” OR “smart factory” OR “connected industrial devices”)
为了验证搜索覆盖范围并更好地理解文献中常用的术语,最初在选定的数据库中分别探索了单个和组合关键词查询。表2总结了每个关键词和关键词组合检索到的记录数量。这些计数仅用于探索目的,并非累积统计,因为重复记录经常出现在多个查询和数据库中。结果显示,广泛且通用的术语(例如Edge AI、Low-power ML或Industry 4.0)会产生大量记录,其中许多记录超出了基于TinyML的IIoT研究的范围。因此,有意采用了更严格的布尔组合来减少噪声并提高结果的相关性。尽管组合查询产生的记录较少,但它们提供了更聚焦、特定于领域的数据库,适合系统筛选和定性综合。

2.2.3. 数据提取和综合
在选择了最终的研究集之后,应用了结构化的数据提取和综合过程,以确保评价的一致性和可追溯性。从每项研究中系统地提取了关键信息,包括IIoT领域和应用背景;实验性能指标;硬件平台;软件框架;传感模式;数据集;模型架构;以及优化技术。提取的数据被组织成用于比较分析的主题综合维度,如表3所示。研究根据主要的IIoT领域进行分类(表4),而性能属性(如准确性/F1分数、延迟、内存和能耗)则在特定于应用的表格中进行了综合(表5、表6、表7和表8)。

表3. 数据综合维度及其对应的结果表概述。
- 综合结果(表格)
- IIoT领域分类:表4:按工业领域和应用分类的TinyML-IIoT研究。
- 性能评估:表5、表6、表7、表8和表9:TinyML-IIoT应用在准确性、延迟、内存和能耗方面的性能结果。
- 硬件平台:表10:按微控制器家族、处理器架构、集成加速器和连接特性分组的硬件平台。
- 软件框架:表11:TinyML-IIoT研究中的软件框架和平台。
- 传感器模式和属性:表12:TinyML-IIoT中的传感器类型及其测量属性。
- 数据集:表13:TinyML-IIoT研究中使用的操作数据和真实世界传感器数据集。
- 模型架构:表14:审查的TinyML-IIoT研究中使用的模型架构总结。
- 优化技术:表16:TinyML-IIoT系统中应用的优化技术类别。
- 额外综合维度:表17:数据类型、模型家族和典型优化技术的总结映射(综合自表13、表14、表15和表16)。

表4. 根据主要研究问题分类的选定TinyML-IIoT研究。
表4. 根据主要研究问题分类的选定TinyML-IIoT研究。参考文献。
- IIoT领域:文章数量
- 智能制造与预测性维护:[34,44,45,46,47,48]
- 工业设备/状态监测:[45,47,49,50]
- 智能能源管理:[46,55,56,57,58,59]
- 质量控制与异常检测:[33,36,37,38,60,61,62,63,64,65,66,67,68,69,70,71,72,73]
- 通用应用:[18]**智能制造与预测性维护中的比较实验结果**
**表5. 智能制造与预测性维护中的比较实验结果。**

| 参考文献 | 准确率/F1 (%) | 内存(Flash/RAM,KB) | 延迟(ms) | 每次推理的能量 [44] | 99.05 | 12/64 | 自供电(压电采集器)[34] | – | (RUL: RMSE/分数) |
| --- | --- | --- | --- | --- | --- | --- | --- | --- |
| [44] | 99.05 | 12/64 | – | – | 2048/512 | 1.81 | – |
| [45] | F1-正常:91.3 | F1-异常:67.9 | 1024/256 | – | 13.3 | – | 20.6 J/推理 | [46] |
| F1-正常:87.6 | F1-状态:96.8 | 1024/256 | 0.106 | 1.16 μJ/推理 | [47] | 99.36 | 1024/256 | 30 | – |

**表6. 工业设备/状态监测中的比较实验结果。**

| 参考文献 | 准确率/F1 (%) | 内存(Flash/RAM,KB) | 延迟(ms) | 每次推理的能量 [47] | 99.36 | 1024/256 | 30 | – |
| [49] | F1:96.64 | 8192/512 | 25 | [45] | F1-正常:91.3 | F1-异常:67.9 | 1024/256 | – | 13.3 | – | 20.6 J/推理 | [50] | – | 1024/256 | – |
| [46] | – | – | – | [50] | – | 0.106 | 1.16 J/推理 | [46] |
| – | – | – | [50] | – | 0.106 | 1.16 μJ/推理 | [47] | 99.36 | 1024/256 | 30 | – |

**表7. 智能能源管理研究中的比较实验结果。**

| 参考文献 | 结果/贡献 | 内存(Flash/RAM,KB) | 延迟(ms) | 能量指标 [51] | – | – | [52] | 能源效率提升:38% | – |
| --- | --- | --- | --- | --- | --- | --- | --- | – |
| [51] | SoC错误指标 | 1024/256 | – | [52] | 能源分析(TinyEP) | 2048/264 | 0.1 | – |
| [53] | 能源减少:29%;压缩增益:18% | 2048/786 | – | [54] | 能源减少:29%;压缩增益:18% | 2048/786 | – | – |

**表8. 生产线中的质量控制与异常检测比较结果。**

| 参考文献 | 准确率/F1 (%) | 内存(Flash/RAM,KB) | 延迟(ms) | 每次推理的能量 [46] | F1-正常:87.6 | F1-状态:96.8 | – | 0.106 | 1.16 J/推理 | [55] | 99/98 | – | 240/233 | 192/186 mJ | [56] | 100/99.8 | 8.1 | 1.16 | – |
| [57] | 98 | – | – | [58] | – | – | [59] | F1:97.46%;TTFL:96.92% | 1616,490 | 4.28 | – |

**表9. IIoT中的通用TinyML应用:类型、角色、相关性和最佳报告结果。**

| 参考文献 | 贡献类型 | TinyML在IIoT中的角色 | 相关性 | 最佳结果 | [60] | 模型管理及设备上的学习 | 在动态和不断变化的工业环境中使用 | 最高可提高12%的准确率 |
| --- | --- | --- | --- | --- | --- | --- | --- |
| [61] | TinyML部署工作流程 | 适用于任何基于MCU的IIoT部署 | ESP-FOMO(60–70%准确率) | [62] | 嵌入式AI基准测试 | 支持IIoT集成商选择工具 |
| [63] | 分布式TinyML学习 | 在多个边缘节点上进行学习 | 适用于大型工业传感器网络 | 89%延迟减少 | [64] | 联合学习(FL + TL) | 保留隐私的设备上训练 |
| [65] | LoRa网状网络上的FL | 适用于远程和带宽受限的IIoT系统 | 低功耗、低带宽的协作学习 | [66] | 分布式TinyML在传感器网络上的应用 | 模型分割与分布式执行 |
| [67] | 持续TinyML学习 | 适应变化的IIoT运行条件 | [33] | 通用振动分类 | 在MCU上运行状态识别 | 可迁移至工业移动资产 |
| [68] | 基于TinyML的数据压缩 | 减少SHM及其他IIoT系统中的无线负载 | 99.96%压缩率 | [69] | 基于TinyML的视觉系统 | 适用于工业机器人和无人机 |

**IIoT中的通用TinyML应用:类型、角色、相关性和最佳报告结果。**
**参考文献**指出,TinyML在IIoT中的应用类型多样,包括模型管理、设备学习、部署流程、硬件加速、能源管理、质量控制、异常检测等方面,并提供了具体的应用案例和成果。这些应用在提高生产效率、节能、优化设备性能和提升产品质量方面发挥了重要作用。

**系统级特性**汇总了不同硬件、软件和传感器层的特点(见表10、表11和表12)。数据集类型(包括真实世界、公共和合成来源)在表13和表14中总结,模型架构和优化策略在表15和表16中介绍。表17综合了数据类型、模型家族和典型优化技术,强调了TinyML-IIoT研究中的方法论模式。由于应用和评估指标的多样性,采用结构化表格进行定性分析以突出主要趋势和研究空白。

**参考文献**列出了用于TinyML IIoT研究的硬件平台和软件框架,包括微控制器家族、连接性、集成加速器和传感器类型等。在内存占用方面,参考文献[44]提供了最轻量级的解决方案,仅需要512 KB的Flash内存和64 KB的RAM;而参考文献[34]则需要最多的资源,分别为2048 KB的Flash内存和512 KB的RAM。最快的推理速度由参考文献[46]实现,其延迟仅为0.106毫秒。同一研究还展示了最高的能效,每次推理仅消耗1.16焦耳的能量,优于参考文献[45](后者每次推理消耗13.3–20.6焦耳)。总体而言,这些结果突显了准确性、内存使用和效率之间的权衡,不同的研究在不同的性能维度上表现出色。尽管表5中的几项研究没有报告所有性能指标,但该表对于比较分析仍然具有很高的信息价值。它能够清晰地比较准确性、内存占用、延迟和能效(在提供这些数据的情况下)。同时,空白条目揭示了TinyML–IIoT文献中报告实践的一致性问题,指出了限制全面跨研究基准测试的差距。这种对比本身很有价值,因为它强调了未来TinyML部署中需要更标准化的评估指标和透明的报告方式。因此,即使数据不完整,该表也提供了当前证据的结构化概述,并指出了该领域需要更统一的方法论的领域。

总体而言,表5表明,基于TinyML的预测性维护系统可以在保持严格内存、延迟和能耗限制的同时,在各种工业领域提供高准确性和F1分数性能。这些结果共同证明了TinyML可以直接嵌入到IIoT监控工作流中,从而实现智能、高效和实时的决策支持。

3.2. 工业设备/状态监测
工业设备监测和状态评估是TinyML在IIoT环境中的一个核心应用领域,其驱动力是早期故障检测、减少计划外停机时间以及提高运营可靠性。表6总结了代表性的研究,突出了不同设备类型的准确性、F1分数、内存占用、推理延迟和能耗。
在工业设备和状态监测的综述研究中(表6),参考文献[47]在最小的内存占用(69.7 KB Flash和29.3 KB RAM)下实现了最高的准确性(99.36%),展示了性能和资源使用之间的有效平衡。参考文献[49]也报告了出色的性能,F1分数为96.64%,尽管是在一个能力更强的平台上(8192 KB Flash和512 KB RAM),反映了准确性和硬件成本之间的权衡。参考文献[45]的准确性适中(正常类别为91.3%,异常类别为67.9%),但提供了详细的能耗测量数据,在1024/256 KB的设备上每次推理消耗13.3–20.6焦耳的能量。相比之下,参考文献[50]没有报告准确性、延迟或能耗指标,尽管它使用了一个典型的TinyML兼容平台(1024 KB Flash和256 KB RAM)。总体而言,这些研究展示了不同的设计选择:一些优先考虑极低的内存使用,另一些则通过更强大的硬件来最大化准确性,只有少数研究提供了能耗或延迟的基准数据。

3.3. 智能能源管理
智能能源管理是IIoT中的一个关键领域,在这里TinyML技术可以提高能源效率、降低运营开销,并在资源受限的边缘设备上实现实时决策。表7总结了代表性的研究,强调了TinyML的直接应用及其对能源感知操作的间接贡献。
在智能能源管理研究(表7)中,定量结果表明硬件能力和优化目标存在显著差异。参考文献[51]使用了一个中等规格的TinyML平台(1024 KB Flash和256 KB RAM)来评估充电状态误差指标,而参考文献[52]在使用最小内存占用(512/64 KB)的情况下实现了38%的能源效率提升,突显了轻量级部署的可行性。相比之下,参考文献[53]使用了一个更强大的2048/264 KB设备来支持高分辨率的能源分析,并报告了最低的延迟(0.1毫秒)。参考文献[54]在资源最丰富的平台上(2048 KB Flash和786 KB RAM)实现了29%的能源消耗减少和18%的压缩比。
值得注意的是,大多数研究没有报告延迟或每次推理的能耗指标。这主要是由于几个原因:(i) 许多研究优先考虑算法改进或能源管理策略,而不是嵌入式部署的评估;(ii) 一些研究依赖于仿真或离线评估,而不是实时MCU执行;(iii) 能源和延迟测量需要专门的仪器和标准化基准测试程序,这些在TinyML研究中尚未得到一致采用。总体而言,这些结果清楚地展示了硬件复杂性、优化深度和报告完整性之间的权衡,反映了TinyML驱动的能源管理研究的早期阶段和多样性。

3.4. 生产线中的质量控制与异常检测
质量控制(QC)和异常检测是现代工业生产系统的核心支柱,不间断的运行、一致的产品质量和快速检测异常情况是必不可少的。表8汇集了代表性的研究,重点介绍了在不同QC和异常检测任务中的准确性、F1分数、内存占用、推理延迟和能耗。
在质量控制和异常检测研究中(表8),报告的定量指标显示了性能、硬件使用和测量完整性的显著差异。参考文献[46]表现出强大的性能,F1分数分别为87.6%(正常情况)和96.8%(异常情况),实现了最快的延迟(0.106毫秒)和最低的能耗(每次推理1.16焦耳),尽管没有报告内存使用情况。参考文献[55]实现了高准确性(99%)和F1分数(98%),但运行在一个面向视觉的平台上面,具有显著的更高延迟(240/233毫秒)和能耗(192/186毫焦耳),反映了基于图像的检测的计算成本。相比之下,参考文献[56]使用了极其轻量级的模型(8.1 KB Flash和0.8 KB RAM)实现了接近完美的准确性(100/99.8/100),以及适度的延迟(1.16毫秒),展示了适合微控制器的架构的效率。参考文献[57]实现了98%的准确性,但没有提供硬件或能耗指标,而参考文献[58]则完全没有报告定量结果。最后,参考文献[59]为联邦式TinyML提供了详细的指标,报告了F1分数分别为97.46%(TinyFL)和96.92%(TTFL),但由于通信开销导致了异常高的延迟(16,490毫秒)和每次推理4.28毫焦耳的能耗。
几项研究中缺失的条目可能是由于不同的研究优先级:许多研究强调算法准确性或联邦学习设计,而不是嵌入式部署的评估;其他研究依赖于离线或仿真评估,而不是实时MCU执行;还有一些由于缺乏标准化的TinyML基准测试工具而省略了延迟或能耗指标。总体而言,这些研究展示了广泛的设计权衡,有些优化了极低的内存使用和快速推理,而其他研究则优先考虑准确性或分布式学习能力,以牺牲计算效率为代价。

3.5. 通用TinyML对IIoT的贡献
在本节中,重点介绍了不局限于单一工业任务的通用TinyML对IIoT的贡献,而是提供了可在多个领域重用的架构、算法和工作流程级别的解决方案。表9对这些贡献进行了结构化总结,详细介绍了它们的类型、角色、相关性和最佳报告结果。该表展示了TinyML的进步如何跨越部署流程、分布式学习和联邦学习、通用监控以及计算级别优化,共同实现了工业环境中的可扩展和自适应智能。

3.5.1. 框架和部署流程
几项贡献针对部署工作流和生命周期管理。Xu [36]为微控制器引入了一个量化和部署流程,使用ESP-FOMO实现了60–70%的准确性,从而为基于MCU的IIoT部署提供了一个可重用的工作流程。Ren [60]通过在线元学习和自适应边缘模型改进了模型管理,在动态环境中报告了高达12%的准确性提升。互补的研究对TinyML工具链进行了基准测试,提供了关于准确性、延迟和内存权衡的比较见解,以指导从业者选择合适的框架[61,62]。这些贡献共同为在异构IIoT环境中的可扩展TinyML部署奠定了基础。

3.5.2. 分布式、联邦式和持续学习
第二组研究强调了分布式、联邦式和持续学习。Grfe [63]通过将模型分布在边缘节点上来展示分布式TinyML学习,实现了89%的延迟减少——非常适合大型传感器网络。Ficco [64]整合了联邦学习和迁移学习,在去中心化的IIoT系统中实现了86.48%的准确性,同时保护了隐私。Llisterri-Giménez [65]将联邦学习扩展到了LoRa网格网络,实现了低功耗的协作训练。Yuan [66]通过在密集传感器网络上的分布式执行实现了95.5%的验证准确性,而Ravaglia [67]通过量化潜在重放引入了持续学习,以适应非静态运行条件下的模型调整。这些贡献共同推动了适用于长期工业使用的自适应、去中心化的TinyML智能。

3.5.3. 通用监控和传感应用
通用监控和传感应用展示了TinyML的多功能性。Zhou [33]在MCU上实现了基于振动的运行状态识别的超过99%的准确性,证明了其可移植性到移动工业资产。Medeiros [38]使用基于TinyML的振动信号压缩技术实现了99.96%的压缩率,减少了结构健康监测(SHM)系统中的无线传输负载。Katsidimas [68]在MCU上使用随机森林模型实现了98.71%的冲击定位准确性,展示了轻量级SHM的适用性。Santoro [69]开发了用于自主无人机降落的嵌入式视觉系统,这种系统可转移到工业机器人和检测任务中。Sun [73]引入了内存高效的异常检测技术,实现了2–7倍的内存减少和低于0.1秒的推理延迟,使其适用于实时异常检测流程。这些工作共同为不同工业领域的监控和传感提供了可重用的设计模板。

3.5.4. 计算级别和架构优化
最后,计算级别和架构优化提高了TinyML的效率。Armeniakos [37]展示了近似的CNN内核,使用近似的AlexNet实现了72.4%的准确性,同时减少了视觉工作负载的能耗。Tabanelli [70]为超低功耗处理器优化了经典ML算法,实现了每次推理3.7焦耳的能耗,适用于电池供电的IIoT传感器。Tabrizchi [71]引入了在传感器前端直接执行三级MLP(多层感知器)的处理架构,以减少通信开销。Katib [72]将TinyML应用于物联网设备中的实时异常检测,支持IIoT的安全性和设备保护。这些架构创新确保了TinyML能够在工业部署中满足严格的资源和寿命限制。
总体而言,表9显示,通用TinyML的贡献超越了特定的工业任务,解决了部署、适应性、监控和效率方面的跨领域问题。报告的结果(如最高12%的准确性提升、89%的延迟减少、99.96%的压缩比和每次推理3.7焦耳的能耗节省)证明了TinyML作为IIoT可扩展解决方案的成熟度。这些贡献共同强调了如何在不同的工业层次中嵌入轻量级智能,从而实现强大、高效和自适应的IIoT系统。
综上所述,本节中介绍的问题驱动分类展示了TinyML在工业环境中的广泛应用范围,并强调了研究工作是如何受到每个领域运营优先级的塑造的。无论是针对预测性维护、能源优化、异常检测还是更广泛的跨领域传感任务,所研究的内容都表明,TinyML越来越被视为工业边缘实时智能的实际推动者。同时,应用目标的多样性强调了理解使这些解决方案成为可能的基本技术基础的重要性。基于这一应用层面的分析,下一节(第4节)将探讨支持IIoT环境中TinyML部署的系统组件(硬件平台、软件框架和传感模式),提供了更深入的视角,了解影响性能和适用性的架构和实现选择。

4. 系统组件分类:硬件、框架和传感器
本节介绍了TinyML–IIoT系统中涉及的主要技术组件的结构化分类,重点关注硬件平台、软件框架和传感模式。

4.1. 硬件平台和约束
IIoT中的TinyML研究使用了多种嵌入式板和微控制器,从低功耗的BLE设备到具备集成加速器的Wi-Fi平台。这种多样性反映了在不同工业应用和部署场景中平衡能源效率、连接性和计算能力的需要。如表10所示,大多数研究依赖于nRF52、STM32和ESP32系列的32位微控制器,而其他研究则探索了基于专门加速器的平台、异构多处理器系统或仅限仿真的环境。该表突出了所使用的设备、它们的CPU架构、集成加速器和连接选项,提供了支持工业环境中TinyML部署的全面硬件视图。在nRF52系列中,研究经常使用nRF52832和nRF52840微控制器,以及Arduino Nano 33 BLE Sense板。这些平台被应用于预测性维护、基于振动的异常检测和边缘学习任务,受益于蓝牙低能耗(BLE)连接性和浮点单元(FPU)的支持[44,45,46,50,58,60,63,68]。一些研究将nRF52840与RP2040或Raspberry Pi Pico板结合使用,以比较不同核心上的推理行为,展示了如何在异构硬件上使用Mixed Hardware来评估TinyML在相同工业环境下的性能。STM32系列被用于评估TinyML模型性能或支持需要灵活外设接口的工业应用的研究中。这些研究中使用的板卡来自STM32F、STM32U和STM32L系列,通常没有专用加速器,但具备FPU支持和广泛的外设连接功能[34,37,38,61,62]。这些平台既用作基准测试工具,也用于振动分析、压缩和异常检测的实际部署。ESP32和ESP8266系列则被用于强调集成无线连接(包括Wi-Fi和BLE)的研究中。例如ESP32、ESP32-S3、ESP32-CAM和Seeed XIAO ESP32S3(配备AI加速器)等板卡支持分类、运行状态检测和边缘视觉应用[33,36,49,66,73]。这些平台特别适合需要直接网络访问、MQTT通信或基于相机的检测的智能节点的分布式部署。

对于基于加速器和以视觉为导向的平台,专门的板卡如OpenMV Cam H7 Plus被用于嵌入式视觉检测和自主导航[55,69]。GAP8(GAPUINO)和FPGA(VCU118)平台被探索用于在基于加速器的架构上实现传统的机器学习算法,主要用于性能评估而非完整的工业部署[70]。Wio Terminal也被用于环境感知任务,提供集成Wi-Fi、BLE和LCD支持[56]。

一部分研究调查了多板和混合硬件平台,结合了Raspberry Pi Pico W、Portenta H7、ESP32-S3和Arduino Nano 33 BLE Sense等设备。这些设置允许在不同架构(Cortex-M0+、Cortex-M4、Xtensa核心)之间进行比较评估,并在现实连接限制下支持分布式学习或多模态感知[51,53,57,64]。

在异构和多处理器平台的类别中,有一些研究将VEGA SoC(RISC-V)与STM32微控制器结合使用,或将Portenta H7与LoRa模块集成。这些系统在严格的功耗和带宽限制下探索了持续学习和分布式推理,展示了TinyML如何适应复杂的工业环境[65,67]。

最后,有些研究没有具体说明他们的硬件平台,而是专注于算法评估、仿真或基准测试,没有详细的硬件报告[47,48,52,54,71,72]。这种报告上的差异限制了方法之间的直接比较,但强调了在TinyML–IIoT研究中透明硬件文档的重要性。

总体而言,表10显示TinyML在IIoT中的应用涵盖了广泛的硬件范围(从支持BLE的微控制器和集成Wi-Fi的板卡到以视觉为导向的加速器和异构多核系统)。报告的结果突出了准确性、延迟、连接性和能源效率之间的权衡,强调了硬件选择对于TinyML在工业部署中的可行性和可扩展性的关键决定作用。

4.2. 框架和工具链

TinyML–IIoT研究中采用的软件框架表现出多样性,如表11所总结的。该表列出了九种不同的框架和平台类别,从标准化的TinyML运行时到定制的工具链、直接在设备上的实现以及基于仿真的方法。文章在这些类别中的分布既反映了广泛采用的运行时的成熟度,也体现了针对特定工业约束定制的解决方案的实验性质。

最多的研究(13篇文章)使用了定制或专有的框架,这些框架通常是为了解决特定应用的需求而设计的,例如分布式执行、异常检测、持续学习、联邦学习或语义模型管理[38,46,52,53,60,62,63,64,66,67,70,73]。这表明TinyML在适应多样化的IIoT场景方面的灵活性,因为在这些场景中标准化运行时可能不够用。第二常见的框架是TensorFlow Lite Micro(TFLM),出现在11篇文章中[33,34,36,44,51,55,56,57,61,62,69]。TFLM使得在内存受限的微控制器上部署量化神经模型成为可能,并被应用于视觉检测、气体传感、振动分类和基准测试等任务。它的普遍性突显了其作为TinyML在IIoT中事实上的运行时的角色。有10篇文章依赖于不使用任何TinyML运行时的经典机器学习模型的直接设备实现[45,47,50,60,63,64,65,68,70,73]。这些工作将决策树、随机森林及相关算法转换为轻量级的C/C++或MicroPython,实现了适合资源受限工业设备的确定性、低延迟执行。

Edge Impulse平台在4篇文章中被使用[33,36,49,57],提供了从数据采集到特征提取、模型设计和代码生成的端到端自动化。它的采用突显了集成开发环境的重要性,这些环境简化了基于振动的和视觉的TinyML工作流程。另有4篇文章采用了基于仿真的方法[54,58,71,72],侧重于算法设计、优化或安全性,而不是嵌入式推理。这些研究展示了TinyML研究通常如何从离线验证开始,然后再过渡到硬件部署。低级优化库如ARM CMSIS-NN(Cortex微控制器软件接口标准–神经网络库)/CMSIS-DSP(Cortex微控制器软件接口标准–数字信号处理库)在3篇文章中出现[37,53,62],使得在Cortex-M设备上高效执行内核成为可能。同样,STM X-CUBE-AI工具链在2篇文章中被使用[34,62],将训练好的模型转换为特定于STM32目标的嵌入式推理代码。较少见的是,专门工具如Imagimob Studio(1篇文章)[46]被用于数据准备,而Larq/QKeras(1篇文章)[61]支持高度量化的神经网络设计。这些小众框架展示了TinyML软件生态系统的广泛实验性。

总体而言,表11表明,在TinyML–IIoT研究中,软件框架的选择不仅受到模型类型的驱动,还受到部署限制、内存预算、通信需求和系统级设计选择的影响。定制框架和直接实现的大量使用反映了工业环境中对灵活性的需求。同时,TFLM和Edge Impulse的广泛使用突显了标准化运行时和集成平台对于可扩展TinyML部署的价值。

4.3. 传感模式

传感模式的选择在塑造TinyML系统的IIoT环境设计中起着关键作用。如表12所总结的,回顾的研究依赖于六种主要类别的传感器:运动和振动、压力和流量、环境和化学、视觉和成像、电气和能量测量以及声学和音频。每个类别反映了不同的工业需求和约束,总体上展示了它们对异构传感环境的适应性。

运动和振动传感器是使用最广泛的模式,出现在九项研究中[33,38,44,47,49,50,58,68,73]。这些包括加速度计、陀螺仪、IMU和压电传感器,它们在预测性维护、机械状态监测和人体运动评估中起着核心作用。应用范围从铁路车辆状态识别和轴承故障检测到多模态泵诊断和可穿戴提升风险评估。在某些情况下,压电传感器同时提供振动传感和能量收集,突显了它们在无电池TinyML节点中的双重用途。

压力和流量传感器虽然不那么常见,但对工业过程监测非常相关。Martinez-Rau [46]使用了液压和差压传感器以及电机速度测量来表征周期性的机器工作周期。这种模式能够在不需要高带宽振动数据的情况下有效进行故障识别,为过程诊断提供了一种轻量级的替代方案。

环境和化学传感器出现在三项研究中[50,56,66],支持上下文感知和危险条件检测。这些包括气体传感器、温度和湿度传感器。应用范围从分布式TinyML节点间的协作环境监测到使用热指示剂的泵诊断,以及使用MOS基气体传感器阵列的VOC分类。它们的低带宽特性使其特别适合微控制器级设备。

视觉和成像传感器在三项研究中得到应用[55,57,69],在工业环境中实现空间和视觉理解。RGB相机支持制造业中的缺陷检测和无人机着陆引导,而红外相机为光伏模块的故障检测提供热成像。这些模式引入了大量数据,需要在受限硬件上实现高效的预处理和优化的CNN架构。

电气和能量测量传感器在两项研究中起到核心作用[51,53]。电压和电流传感器以及燃油表IC和基于ADC的测量能够实现实时电量估计和详细的能耗分析。这些信号支持从电气观测直接推断设备功率行为的TinyML模型,推动了能源感知的边缘智能。

声学和音频传感器在两项研究中被报道[48,65],包括低功耗音频命令识别和高频结构分析。麦克风在LoRa网络中支持联邦学习,而声学发射传感器捕获与材料损伤传播相关的超声波波形。尽管在带宽和计算需求上存在差异,这两种模式都为TinyML应用提供了有价值的信号。

总体而言,表12表明,TinyML–IIoT研究中的软件框架选择不仅受模型类型的驱动,还受到部署限制、内存预算、通信需求和系统级设计选择的影响。定制框架和直接实现的普遍使用反映了工业环境中对灵活性的需求。同时,TFLM和Edge Impulse的广泛使用突显了标准化运行时和集成平台对于可扩展TinyML部署的价值。

4.3. 传感模式

传感模式的选择在塑造TinyML系统的IIoT环境设计中起着关键作用。如表12所总结的,回顾的研究依赖于多种传感器,这些传感器分为六大主要类别:运动和振动、压力和流量、环境和化学、视觉和成像、电气和能量测量以及声学和音频。每个类别反映了不同的工业需求和约束,共同展示了它们对异构传感环境的适应性。

运动和振动传感器是最广泛采用的模式,出现在九项研究中[33,38,44,47,49,50,58,68,73]。这些包括加速度计、陀螺仪、IMU和压电传感器,它们在预测性维护、机械状态监测和人体运动评估中起着核心作用。应用范围从铁路车辆状态识别和轴承故障检测到多模态泵诊断和可穿戴提升风险评估。在某些情况下,压电传感器同时提供振动传感和能量收集,突显了它们在无电池TinyML节点中的双重用途。

压力和流量传感器虽然不常见,但对工业过程监测非常重要。Martinez-Rau [46]使用了液压和差压传感器以及电机速度测量来表征周期性机器工作周期。这种模式能够在不需要高带宽振动数据的情况下有效进行故障识别,为过程诊断提供了轻量级的替代方案。

环境和化学传感器出现在三项研究中[50,56,66],支持上下文感知和危险条件检测。这些包括气体传感器、温度和湿度传感器。应用范围从分布式TinyML节点间的协作环境监测到使用热指示剂的泵诊断,以及使用MOS基气体传感器阵列的VOC分类。它们的低带宽特性使它们特别适合微控制器级设备。

视觉和成像传感器在三项研究中得到应用[55,57,69],在工业环境中实现空间和视觉理解。RGB相机支持制造中的缺陷检测和无人机着陆引导,而红外相机为光伏模块的故障检测提供热成像。这些模式引入了大量数据,需要在受限硬件上实现高效的预处理和优化的CNN架构。

电气和能量测量传感器在两项研究中起到核心作用[51,53]。电压和电流传感器以及燃油表IC和基于ADC的测量能够实现实时电量估计和详细的能耗分析。这些信号支持从电气观测直接推断设备功率行为的TinyML模型,推动了能源感知的边缘智能。

声学和音频传感器在两项研究中被报道[48,65],包括低功耗音频命令识别和高频结构分析。麦克风在基于LoRa的网络中支持联邦学习,而声学发射传感器捕获与材料损伤传播相关的超声波波形。尽管在带宽和计算需求上存在差异,这两种模式都为TinyML应用提供了有价值的信号。

总体而言,表12表明,运动和振动传感器在机械监测任务中占主导地位,而压力、环境、视觉、电气和音频传感器解决了特定但同样重要的IIoT用例。传感器选择直接影响了模型设计、特征提取策略以及在严格能量和延迟限制下进行高效设备推理的可行性。多种传感模式的多样性凸显了TinyML在适应不同工业环境方面的灵活性,使得在IIoT系统中实现强大且具有上下文意识的智能成为可能。

总结来说,本节强调了TinyML在IIoT环境中的部署是如何由硬件能力、软件框架和传感模式之间的相互作用所塑造的。回顾的研究表明,系统级设计选择(从微控制器架构和内存限制到框架支持和传感器特性)直接影响TinyML解决方案的可行性、效率和鲁棒性。这些组件构成了构建特定应用智能的技术基础,并决定了模型复杂性、延迟和能耗在边缘的实际限制。在建立了这一系统级框架后,下一步是研究研究人员如何使用数据集、模型架构和优化策略在这些限制条件下实现TinyML。这种方法论视角对于理解TinyML解决方案如何满足现实世界IIoT场景中的工业需求至关重要。

5. 方法论:数据集、模型架构和优化策略

基于第4节概述的系统级基础,该节探讨了实现TinyML在IIoT环境中的部署所需的硬件平台、软件框架和传感模式,然后将重点转向这些系统的方法论层面。虽然系统组件决定了在边缘上技术上可行的内容,但TinyML解决方案的有效性最终取决于用于满足严格工业约束的数据集、模型架构和优化策略。因此,本节综合了回顾研究中观察到的方法论选择,强调了数据特性、模型家族和资源感知优化技术如何影响性能、可扩展性和在现实世界IIoT场景中的适用性。

5.1. 数据集特征和挑战

回顾的TinyML–IIoT文献揭示了用于训练和评估嵌入式机器学习模型的数据集的巨大多样性。为了提高清晰度和可解释性,数据集被分为两个互补的类别:(1)操作性和真实世界传感器数据集,代表从物理系统、工业环境或受控实验室实验中收集的测量数据;(2)公共的、基准的和合成数据集,包括广泛使用的开放数据集、标准化基准和为实验设计的模拟数据集。表13和表14总结了这些数据集,突出了它们的来源、模式和大小。

5.1.1. 操作性和真实世界传感器数据集

表13列出了18项依赖于直接从工业过程、机械系统、环境传感网络或人类参与者收集的数据集的研究。这些数据集捕获了自然变化、传感器噪声和操作波动,因此密切反映了IIoT环境中的部署条件。其中相当一部分数据集来源于运动和振动传感,这是预测性维护和结构健康监测的基础。例如,用于自供电传感的压电振动信号[44]、基于IMU的泵监测[50]、用于电机诊断的三轴振动测量[49],以及包含771个实例和每个5000个样本的冲击事件波形[68]。铁路车辆运行状态识别[33]和轴承故障检测[47]进一步展示了振动数据集在TinyML研究中的核心作用。

其他数据集捕获了操作性工业信号,例如来自输送系统的工作周期序列[45]、包含170,000个样本和603个周期的液压压力和电机速度信号[46],以及从真实IIoT安装中收集的用于异常检测的时间序列测量[73]。这些数据集使模型能够在延长的工作周期内学习系统级模式。一些研究结合了来自工业或环境背景的视觉数据集。例如,用于光伏面板检测的红外热成像图像(2000张图像)[57]、用于制造质量评估的RGB图像[55]、超过26,000个标记样本的无人机着陆图像[69],以及在不同光照条件下捕获的工业对象图像[36]。这些数据集突显了嵌入式视觉在TinyML–IIoT中的日益重要的作用。

额外的数据集包括能量和电气测量,例如嵌入式功耗的轮廓[53]以及来自锂离子循环实验的电池电压、电流和温度读数[51]。声学数据集包括用于涡轮叶片损伤评估的超声AE波形[48],而以人为中心的 数据集包括用于人体工程学运动评估的IMU数据[58]。来自ESP32网络的环境物联网传感器读数[66]和Queen’s Park Bridge的桥梁振动/应变信号[38]进一步扩展了范围。总体而言,这些数据集体现了真实的传感器条件和操作挑战,为在部署级别约束下评估TinyML模型提供了必要的测试平台。尽管有几项研究使用了来自真实工业系统和操作环境的数据集,但许多TinyML–IIoT研究仍然主要通过实验室实验、原型平台或受控测试床进行验证。在某些情况下,使用的是公共基准数据集或自定义实验数据集,而不是来自大规模部署的连续工业数据流。这一观察结果反映了TinyML在工业物联网(IIoT)中的当前成熟度水平,即与基于实验室的评估相比,实际应用仍然相对有限。5.1.2. 公共、基准和合成数据集表14总结了15项依赖于公共可用的基准、标准化评估套件或合成数据集的研究。这些数据集通过提供可重复的实验条件、可控的变量性和标准化的基线,补充了真实世界的数据收集,以便比较轻量级学习模型。图像数据集被广泛使用,包括CIFAR-10 [37,67]、MNIST和Fashion-MNIST [71]、CBCL Face [71]以及CIFAR-100和Visual Wake Words (VWW) [62]等混合基准数据集。这些数据集的样本数量从60,000到70,000不等,支持嵌入式视觉实验和量化卷积神经网络(CNN)的评估。音频和语音数据集包括语音命令、关键词检测语料库和机器声音异常数据集(ToyADMOS),见于[60,62,65,67,70]。数据集的大小从480个样本(GitHub KWS)到超过105,000个样本(Speech Commands)不等,使得能够系统地评估用于低功耗语音识别和声音分类的TinyML模型。时间序列数据集也很重要。UCR Archive支持通用信号分类[63],而NASA C-MAPSS提供了退化和剩余使用寿命(RUL)数据[34]。轴承振动数据集(Afshar,10,000个样本窗口)[47]、ECG数据集(MIT-BIH, PTB)[64]以及移动数据集(Car Trips,DeepEST,45,500个样本)[64]将TinyML应用扩展到了健康监测和操作诊断领域。ToN-IoT基准数据集(23,500个实例)[72]支持网络化IIoT系统中的异常检测,而PAMAP2、SHL(750小时)和CWRU数据集[61]为嵌入式分类任务提供了活动和振动数据。最后,当真实工业数据不可用时,会使用合成数据集。例如,包括地下采矿网络的流程模拟[54]和用于边缘调度优化的任务能量模拟[52]。这些数据集便于进行受控实验,使研究人员能够在可重复的条件下分析特定系统行为并评估优化策略。总体而言,表13和表14表明TinyML–IIoT研究同时利用了真实世界的传感器数据集和标准化基准。真实世界的数据集捕捉了操作变异性和部署挑战,而公共和合成数据集提供了可重复性和受控的基线。它们共同使得能够全面评估TinyML模型,平衡了实际部署验证与系统化基准测试和泛化评估。5.2. 模型架构在回顾的TinyML–IIoT研究中,模型架构的分布显示了在资源受限的嵌入式平台上优先采用的模型类型层次结构。如表15所总结并在图5中可视化,卷积神经网络(CNN)是最常见的架构,出现在12项研究中。其次是经典机器学习模型和多层感知器(MLP)/人工神经网络(ANN)架构。相比之下,循环神经网络(RNN)/长短期记忆(LSTM)网络、混合架构和强化学习模型的出现频率较低。这种分布反映了IIoT环境的实际限制,其中模型大小、延迟和能耗通常比表示深度更为重要。图5. 回顾的TinyML–IIoT研究中使用的模型架构分布。CNN因其强大的性能而在提取局部空间或时间模式方面表现突出,同时在量化后仍保持相对紧凑,因此成为主导架构类别。它们被广泛用于基于图像的检查、热分析和振动分类等任务。例如,轻量级CNN变体被部署在嵌入式视觉系统中用于质量检查[55]、红外热分析[57]和无人机着陆引导[69]。优化的1D-CNN也被用于ESP32设备上的基于振动的故障诊断[47,49],而其他工作则在模型压缩方案[34]或跨工业TinyML工具链[61]中评估CNN的效率。这些研究表明,CNN在TinyML部署中提供了准确性和计算可行性之间的良好平衡。基于MLP的架构出现在9项研究中,适用于低维传感器信号或表格化工业数据。它们的全连接结构在计算上可预测且易于量化,适合分布式TinyML计算[66]、基于加速的状态分类[33]、气体传感[56]和能量分析[53]。其他研究将MLP直接嵌入传感器前端[71],或在联合学习和元学习框架中使用[60,64,65]。这些架构突显了当不需要空间特征提取时,浅层神经网络作为CNN的有效替代方案的作用。基于RNN的架构出现频率最低,仅出现在两项研究中。它们的主要用途是模拟电信号中的序列依赖性——例如,LSTM网络用于电池电量估计[51]。尽管它们在建模方面有优势,但由于循环层的记忆和计算需求,它们在TinyML部署中的使用不如卷积或前馈模型普遍。经典ML由于其低计算成本和可解释性,在TinyML中仍然非常有竞争力。九项研究采用了随机森林、SVM、KNN、梯度提升或孤立森林等模型。这些架构用于异常检测[44,50,73]、工业占空比分类[45,46]、结构监测[38,68]或分布式学习管道[63]。当特征可以手动工程设计时,经典ML特别有吸引力,可以实现微秒级的推理和极低的能耗。混合架构出现在七项研究中,将深度学习特征提取器与经典ML决策层结合使用。例如,CNN–SVM管道用于声发射结构监测[48],直接嵌入传感器硬件的三元MLP[71],以及在紧凑神经网络 backbone之上构建的元学习或在线学习扩展[60]。其他研究将优化算法与ML组件结合用于决策支持[54]。这些混合策略展示了如何通过混合不同的架构范式来定制TinyML以适应特定的工业约束。基于RL的架构出现频率最低,仅有一项研究采用了自适应RL代理来优化边缘计算的延迟和能耗[52]。尽管RL在动态资源管理方面很有前景,但由于策略更新的计算开销,它在嵌入式TinyML中并不常见。总体而言,架构格局显示出明显趋势:CNN适用于高维感测任务,而经典ML模型和紧凑的MLP仍然是资源受限微控制器的最实际选择。循环和混合架构仅出现在需要时间建模或多阶段处理的特定场景中。5.3. 优化技术在严格的内存、延迟和能耗限制下,优化技术对于实现TinyML模型的部署至关重要。如表16所总结的,回顾的研究确定了六种主要的优化类别:训练后量化、剪枝/权重减少、近似计算、元学习/在线优化、强化学习优化和Metaheuristic优化。每种技术都有助于减小模型大小、降低计算成本或提高系统级效率。训练后量化是最常采用的优化方法,出现在五项研究[34,47,49,55,56]中。通过降低数值精度(例如INT8量化),这些工作展示了显著的内存节省和延迟减少,同时精度损失很小。应用范围包括ESP32平台上的基于振动的故障诊断、使用量化的MobileNetV2和SqueezeNet的嵌入式视觉检查,以及基于CNN的剩余使用寿命估计。因此,量化成为IIoT中TinyML部署的基础优化技术。剪枝和权重减少在三项研究[34,49,55]中被报道,其中删除了冗余参数或应用了矩阵分解来简化模型。这些方法减少了计算开销和内存占用,同时保持了准确性。例如,在[34]中,剪枝结合权重聚类将CNN参数减少了多达58%,而在[55]中的嵌入式视觉任务中得益于剪枝带来的效率提升。近似计算出现在[37]中,其中精确的卷积内核被近似乘法-累加(MAC)操作所取代。这种方法在保持精度在1%内的同时,实现了高达30%的推理延迟减少。近似计算表明,算法近似可以补充或替代传统的量化-剪枝流程,为节能的TinyML提供了新的范式。元学习和在线优化由[60]代表,它引入了TinyOL、TinyReptile和TinyMetaFed。这些方法专注于在动态IIoT环境中的适应性,优化能量使用、通信开销和训练迭代,而不是模型大小。报告的收益包括50%的能量节省和60%的通信减少,突出了自适应学习策略对于资源受限部署的重要性。强化学习优化在[52]中被采用,其中基于RL的调度器动态分配边缘任务。这种自适应调度机制将能量效率提高了38%,并降低了系统延迟,相比静态调度有所改进。Metaheuristic优化在[54]中被报道,其中应用了Aquila优化算法(AOA)来提高IIoT网络中的压缩比和路由效率。该方法实现了29%的能量消耗减少和18%的压缩增益,展示了全局优化策略在通信密集型工业环境中的价值。然而,选择合适的优化策略涉及重要的权衡。诸如量化和剪枝之类的技术可以减少内存占用和推理延迟,但过度压缩可能导致精度下降或鲁棒性降低。同样,提高模型精度或适应性的方法可能会增加计算复杂性和能耗。因此,IIoT系统中的TinyML优化需要仔细平衡精度、延迟和能量效率,以满足资源受限微控制器的操作约束。总体而言,表16显示,TinyML优化技术涵盖了多个层次——从模型级别的精度减少和参数剪枝到系统级别的自适应调度和启发式优化。量化 and 剪枝由于对内存和延迟的直接影响而占主导地位,而近似计算、元学习、强化学习和Metaheuristic扩展了优化范围,以解决适应性、能量效率和通信开销问题。尽管方法论存在差异,所有方法都朝着在资源受限的IIoT微控制器上实现高效、准确和实时智能的共同目标发展。为了提供回顾研究中观察到的方法论模式的简洁总结,我们包括了表17,它总结了(i)TinyML–IIoT系统中使用的主要数据类型,(ii)最常应用于这些数据的模型家族,以及(iii)通常用于在资源受限微控制器上实现部署的优化技术。该表并不替代表13、表14、表15和表16;相反,它通过提供从中派生的高层次映射来补充它们。表13和表14描述了数据集特征,表15总结了模型架构,表16概述了优化策略。将所有这些信息放入一个详细的表中会导致重复并降低可读性。因此,以下总结表提供了一个紧凑的、综合的视图,捕捉了基本关系,而不会重复先前表中已经呈现的详细信息。第5节展示了TinyML方法如何在IIoT环境中跨越数据集、模型架构和优化策略。然而,这些方法论见解也揭示了目前限制大规模工业部署的重要限制。这些限制并不局限于特定技术,而是贯穿于传感、硬件、软件和部署工作流。因此,下一节综合了回顾研究中持续存在的关键挑战。目的是突出仍未解决的技术和操作方面的差距。它还概述了必须解决的问题,以实现稳健、可扩展和节能的工业部署。6. 挑战和未来方向尽管TinyML在IIoT环境中的成熟度不断提高,但仍有几个挑战限制了其可扩展性、可靠性和长期适用性。第6.1节讨论了这些挑战,而第6.2节概述了这些挑战的潜在解决方案。6.1. 挑战这些挑战源于硬件限制、能源限制、数据集问题以及缺乏标准化的评估实践。以下段落详细阐述了这些问题。内存和计算限制:如表10所示,像ESP32和nRF52这样的微控制器通常提供的RAM不到1MB,时钟速度也较低。这限制了可部署模型的深度和复杂性。关于振动监测和实时诊断的研究证实,只有紧凑的CNN或经典ML模型可以可靠地执行(第3节)。第5.3节的结果表明,量化 and 剪枝被广泛用于将模型适应受限设备[23,24]。然而,这些技术通常会降低精度,尤其是在需要细粒度异常检测的任务中[25,27]。这突显了在TinyML支持的IIoT部署中效率和可靠性之间的持久权衡[28]。能源限制:电池供电的IIoT系统面临严格的能源预算,这直接限制了连续TinyML推理的可行性[12]。Chen等人[44]强调,长时间的推理显著减少了电池寿命,尤其是在需要高频采样的振动监测任务中。系统回顾证实,大多数部署采用周期性推理或压缩数据传输来节省能源[19]。虽然这种策略减少了通信开销并延长了设备寿命,但它影响了在时间敏感型应用(如预测性维护和异常检测[25])中的响应速度。早期的研究[23,24]也指出,能源效率仍然是限制TinyML在工业物联网(IIoT)中规模扩展的最持久障碍之一。

**恶劣的工业环境**:在工业环境中部署TinyML时,还必须应对实验室实验中很少遇到的物理和环境挑战。工业系统通常在高温、机械振动、电磁干扰以及严重的传感器噪声等恶劣条件下运行。这些因素会影响传感器的可靠性以及嵌入式推理系统的稳定性,引入测量变异性,从而降低模型的准确性和鲁棒性[33,38,50,73]。因此,提高模型对噪声数据的抵抗力、增强传感器校准以及设计容错的数据流仍然是IIoT环境中的重要研究方向。

**硬件加速器支持不足**:大多数通用处理设备缺乏专用的矩阵运算加速器,这使得CNN和混合模型的执行效率低下(表10)。结果,推理时间变长,每次操作的能耗也更高,限制了实时部署的可行性[12]。只有少数平台集成了专用加速器,例如ARM Ethos-U,但由于成本和可用性有限,这些加速器在工业原型中的作用仍然没有得到充分利用。系统评价确认,大多数部署依赖于软件优化的运行时环境,如TensorFlow Lite Micro和CMSIS-NN,虽然提供了可移植性,但加速效果有限[23,24]。在预测性维护和振动分析任务中,这一限制迫使研究人员采用可以在通用设备上运行的紧凑型CNN或传统机器学习模型,但代价是精度和可扩展性的牺牲[19]。因此,未来的研究必须探索硬件能力与算法需求相协调的协同设计方法,包括用于卷积运算和注意力机制的轻量化加速器。

**设备上学习能力有限**:在微控制器上,持续学习和自适应推理仍然缺乏支持,这限制了TinyML系统适应不断变化的工业环境的能力。尽管Ren[60]展示了轻量化的适应策略,但这些方法仍处于实验阶段,并且会引入非显而易见的能源和内存开销,超出了大多数IIoT设备的处理能力。系统评价显示,目前的TinyML部署主要依赖于离线重新训练和定期云同步[23,24],在传感器特性和机器状态频繁变化的环境中,这降低了系统的适应能力。例如,基于振动的预测性维护[19]需要模型能够处理新的故障特征,但由于缺乏有效的设备上学习机制,这些系统会随时间变得静态。同样,IIoT中的异常检测[25]也突出了自适应推理的必要性,但大多数实现仍然以云为中心。更广泛的制造业评估[27,28]也更重视可解释性而非适应性,使得嵌入式设备上的持续学习研究大多未被探索。如果没有实际的设备上学习机制,基于TinyML的IIoT系统可能会面临鲁棒性降低、对不断变化的操作环境的响应速度变慢以及在多样化工业领域中的可扩展性受限的问题。

**精度-延迟-尺寸之间的权衡**:在基于TinyML的IIoT系统中,平衡精度、延迟和内存占用是一个核心挑战。紧凑型模型为了满足严格的内存和时间约束(尤其是在RAM小于1 MB的微控制器上)往往会降低预测精度[12]。在高频感应任务(如结构监测和异常检测)中,这种权衡尤为重要,因为精度降低可能会影响安全性[25]。尽管量化和技术剪枝可以提高效率,但多项评估报告指出,这些技术经常会导致精度下降[23,24]。系统评价进一步表明,虽然轻量级CNN和传统机器学习模型适用于基于振动的预测性维护[19],但在安全关键场景中,它们往往难以捕捉复杂的工业模式,从而限制了系统的鲁棒性。更广泛的制造业调查[27,28]也指出,轻量级模型在推理速度和预测性能之间存在持续的不平衡。这些挑战强调了需要集成协同设计方法,以在资源严格限制下共同优化算法、硬件和感应方式,以实现可靠的精度。

**缺乏标准化指标**:不同研究之间的性能报告不一致,这使得在IIoT环境中比较TinyML部署变得困难。Hasanpour[62]强调了缺乏统一的TinyML评估基准,指出当前的评估实践是碎片化的且常常不完整。一些研究报告了延迟、能耗或内存占用,但这些指标在各个出版物中差异很大,缺乏共同的定义[23,24]。即使使用了基准测试,它们也往往无法捕捉到工业环境中的实际约束,如传感器噪声、工作负载变化和长期可靠性[25]。例如,基于振动感应的预测性维护研究[19]报告了精度和推理速度,但很少包括每次推理的能耗或设备寿命性能指标。关于制造业中机器学习的评估[27,28]也指出了报告的一致性问题,有些研究关注可解释性而忽略了资源效率。这种不一致性阻碍了可重复性和可比性,使得难以评估不同部署的进展,并确定工业应用的最佳实践。因此,未来的工作必须建立反映现实工业条件的标准化评估场景和统一基准,包括噪声数据流、异构硬件和长期运行监控。

**数据集限制**:大多数研究依赖于小型、特定领域的数据集,这限制了TinyML模型在更广泛工业环境中的泛化能力。虽然基准测试有助于提高可重复性,但它们往往缺乏真实性和多样性,无法捕捉到现实世界工业环境的变异性[23,24]。这一限制在预测性维护和振动分析任务中尤为明显,因为这些数据集的范围狭窄,无法反映长期的操作条件[19]。系统评价结果显示,振动数据集目前占主导地位,而视觉、声学和环境感应等其他模式的研究较少[25]。因此,当这些TinyML模型应用于异构的IIoT场景时,可能会出现过拟合和性能不佳的问题。关于制造业中机器学习的评估[27,28]也指出,数据集的稀缺性和多样性不足阻碍了可解释性和可扩展性,进一步强调了需要更丰富的数据集。如果没有更大、更具代表性的数据集,基于TinyML的IIoT系统将继续面临在多样化工业领域中实现强大、可转移和可靠性能的挑战。此外,由于不同工业环境中机器、操作条件和传感器配置的差异,工业数据集通常具有非独立同分布(non-IID)特性。因此,在特定系统上训练的模型可能无法很好地泛化到其他部署中。再加上有限的故障样本和类别不平衡,这些非独立同分布特性进一步复杂化了为现实IIoT应用开发鲁棒TinyML模型的过程。

**IIoT系统中TinyML的安全性和安全性**:确保基于TinyML的IIoT系统的安全性和安全性是一个关键挑战,特别是因为这些模型运行在资源受限的设备上,这些设备通常部署在物理暴露和操作敏感的工业环境中。与基于云的AI不同,TinyML模型在微控制器上本地运行,使其更容易受到对抗性操纵、模型提取、固件篡改和物理攻击的影响。处理设备的有限计算和内存资源进一步限制了使用加密、安全启动或运行时异常检测等传统安全机制[37,67]。当受损或故障的模型生成错误的预测时,也会带来安全风险,这些预测可能会影响实时工业决策,从而影响设备可靠性或工人安全。最近关于联邦学习和设备上学习的研究强调了与安全模型更新、隐私保护以及分布式工业环境中抗 poisoning 攻击相关的额外挑战[52,74]。解决这些问题需要轻量级的安全框架、强大的模型完整性验证、安全更新机制以及针对TinyML硬件限制的安全意识模型设计。随着TinyML应用的普及,将安全设计原则纳入其中将是确保可靠和弹性IIoT部署的关键。

**总体见解**:系统评价(SLR)指出,IIoT中的TinyML仍然具有潜力,但尚未完善。硬件瓶颈、能源限制、适应能力弱、数据集稀缺以及评估不一致性继续限制其可扩展性和可靠性。解决这些挑战需要结合硬件、软件和算法创新的协同设计方法。同时,还需要标准化基准和更丰富的数据集来保证可重复性和工业相关性。

### 6.2 未来方向
解决上述挑战将开辟几个有前景的研究方向,显著推进TinyML在工业系统中的作用。这些方向直接针对当前部署的局限性,包括硬件限制、数据集有限、适应能力不足以及评估实践不一致等问题。以下领域突出了改进和创新的机会:

- **先进的模型优化技术**:内存和计算资源限制仍然是TinyML在ESP32和STM32等微控制器上部署的重大障碍。未来的工作应探索量化感知训练、结构化剪枝和近似计算,以在保持精度的同时减小模型大小[37]。系统评价表明,当前方法主要依赖训练后的量化和剪枝,这往往会降低精度。早期的研究[23,24]强调了压缩和协同设计策略,但缺乏工业验证。将优化集成到训练过程中,并与硬件感知的调度相结合,可以更好地平衡精度、延迟和内存占用,特别是在振动监测和异常检测任务中。
- **元学习和设备上适应**:持续学习的支持不足限制了在动态工业环境中的适应性。元学习和轻量级的设备上适应方法可以使模型在最小化通信开销的情况下进行本地更新[60]。这将减少对云重新训练的依赖,并在设备磨损或环境变化等非静态条件下提高系统的鲁棒性。评估结果确认,大多数当前部署依赖于离线重新训练,这强调了高效适应策略的必要性。关于预测性维护的最新研究[19]展示了基于振动的适应潜力,但更广泛的IIoT领域尚未得到探索。未来的研究还应探索为微控制器定制的联邦学习方法,允许在多个设备之间进行分布式更新,同时不牺牲能源效率。
- **开发真实的工业数据集**:数据集的局限性仍然是一个关键问题,大多数研究依赖于小型、特定领域的数据集。未来的工作应专注于构建更大、更真实的振动分析、多传感器融合和长期运行监控数据集。这样的数据集将提高模型的泛化能力,减少过拟合,确保TinyML模型在多样化工业环境中的可靠性能。系统评价发现,振动感应目前是研究的主要焦点[19],而视觉和声学感应等模式的研究较少。扩大数据集的多样性将增强TinyML在多个IIoT领域的应用性。行业间共享匿名传感器数据的协作数据集倡议可以加速进展,并提供反映实际部署条件的基准测试。
- **标准化评估场景和基准**:缺乏标准化的性能指标阻碍了研究之间的可重复性和可比性。EdgeMark[62]等新兴框架为延迟、能耗和鲁棒性的统一评估提供了基础。未来的工作应扩展这些基准,以涵盖真实的工业场景,包括噪声环境、可变的工作负载和长期可靠性测试。标准化将确保报告的结果具有一致性和意义,从而加速TinyML研究和部署的进展。早期研究[25,26,27]指出了IIoT中机器学习报告的一致性问题,强调了需要统一的具体于TinyML的基准。
- **创建特定领域的IIoT场景**:许多当前的研究强调算法改进,但没有展示其与实际工业工作流程的整合。未来的研究应优先考虑特定领域的IIoT场景,如预测性维护流程、能源优化系统和质量检测流程。基于应用的验证将弥合实验原型与实际部署之间的差距。系统评价指出,大多数TinyML研究仍处于概念验证阶段,这强调了需要更多具有工业相关性的案例研究。关于IIoT中机器学习的评估[27,28]虽然对技术进行了广泛分类,但没有针对TinyML的边缘部署进行探讨。开发集成感知、推理和决策的端到端原型将在真实工厂环境中提供更多关于TinyML工业价值的实质性证据。
- **增强硬件支持**:弱化的加速器支持继续限制了通用MCU上的推理速度和能源效率。未来的硬件平台应集成原生加速器和低功耗AI引擎,以扩大可行的TinyML工作负载范围。这样的硬件将缩小实验模型与可部署的工业解决方案之间的差距。评估结果表明,当前部署依赖于TensorFlow Lite Micro和CMSIS-NN等软件优化的运行时环境,虽然提供了可移植性,但加速效果有限。增强的硬件支持将使更复杂的模型能够在对延迟敏感的IIoT应用中高效运行。结合硬件能力和算法需求进行协同设计可以最大化效率。例如,针对卷积运算或注意力机制的专用加速器可以开启新的工业应用,如基于视觉的质量检测或多模态传感器融合。

**总体展望**:总的来说,这些未来的方向将解决TinyML在IIoT中的核心挑战:硬件瓶颈、能源限制、数据集稀缺、适应能力弱以及评估不一致性问题。优化、适应、数据集开发、基准测试和领域特定验证方面的进步将使TinyML从实验原型发展成为可扩展、可靠且能源效率高的工业解决方案。通过弥合研究与部署之间的差距,TinyML可以成为工业4.0的基石,支持预测性维护、智能能源管理和自主工业运营。上述挑战和未来方向为理解本综述的发现提供了必要的背景。为了整合这些见解并直接解决第1.4节中定义的目标,以下部分将根据五个研究问题综合研究结果。这种结构化的综合将跨应用、系统组件、方法论和局限性的证据联系起来,为本系统评价(SLR)的核心目标提供了清晰而全面的回答。

7. 对提出的研究问题的回答和SLR的局限性
基于第5节中介绍的方法论见解以及第6节中讨论的挑战和未来方向,本部分通过回答第1.4节中定义的五个研究问题来综合SLR的总体发现。这些回答整合了来自应用领域、系统组件、数据集、模型架构和优化策略的证据,提供了关于TinyML在IIoT环境中的当前状态和未来潜力的统一视角。第7.1节的回答基于对选定研究的综合,并由汇总表支持。第7.2节然后概述了方法论上的局限性,以确保透明度。

7.1. 对提出的研究问题的回答
RQ1:TinyML在IIoT系统的哪些工业领域和操作任务中得到了应用?
回答:回顾的研究表明,TinyML已被应用于多个IIoT领域,主要用于需要低延迟、节能的设备智能的操作任务。如表4所示,最常见的应用领域包括智能制造和预测性维护、工业设备与状态监控、智能能源管理以及生产线中的异常检测质量控制。预测性维护和状态监控应用占主导地位,其中TinyML模型处理振动和基于传感器的时间序列数据,以实现早期故障检测和定位诊断(表5和表6)。在智能能源管理中,TinyML主要用于在严格的资源限制下进行能源分析和效率优化(表7)。质量控制和异常检测应用利用嵌入式视觉和传感器数据直接对工业设备进行实时检查(表8)。几项研究讨论了TinyML在IIoT中的通用应用,重点关注适用于多种工业场景的部署工作流程和可转移解决方案(表9)。总体而言,这些发现突显了TinyML在需要本地决策且基于云的分析受到延迟或能源限制的IIoT环境中的适用性。

RQ2:在IIoT中部署TinyML时,最常用的系统组件(硬件平台、软件框架和传感器类型)是什么?
回答:回顾的研究表明,TinyML在IIoT环境中的部署主要依赖于低功耗微控制器平台,这反映了工业边缘设备的严格资源和能源限制。如表10所示,nRF52、STM32和ESP32/ESP8266等微控制器系列因其计算能力、能源效率和外围支持之间的平衡而最常被使用。基于加速器的平台和面向视觉的平台(例如GAP8、FPGA、OpenMV Cam)较为少见,主要用于涉及图像或基于视觉处理的应用场景。多板和异构平台(例如Portenta H7、Raspberry Pi Pico W、VEGA SoC)也被用来评估在现实连接限制下的分布式推理和持续学习。从软件角度来看,文献明显集中在少数几个广泛采用的框架上。如表11所述,TensorFlow Lite Micro(TFLM)、直接的设备实现和定制专有框架是最常用的解决方案,因为它们具有灵活性,并适合资源受限的硬件。此外,还使用了Edge Impulse等平台和ARM CMSIS-NN/CMSIS-DSP等低级库,特别是在需要简化部署工作流程和优化推理内核的情况下。其他工具链如STM X-CUBE-AI、Imagimob Studio和Larq/QKeras出现在一些特定应用中,反映了实验性工作流程的尝试。传感器集成在硬件选择中起着核心作用。如表12所示,运动和振动传感器(加速度计、陀螺仪、IMU、压电设备)在预测性维护和状态监控任务中占主导地位。其他类型传感器包括用于过程监控的压力和流量传感器、用于危险检测的环境和化学传感器、用于缺陷检测的视觉传感器、用于能源分析的电气传感器以及用于基于音频的异常检测的声学传感器。传感类型的多样性直接影响了模型设计、特征提取策略以及高效设备推理的可行性。

RQ3:在TinyML-IIoT技术中,采用了哪些方法论(数据集、模型架构和优化策略)来适应资源受限的IIoT设备?
回答:回顾的研究显示,在适应IIoT设备的ML模型时,数据集、架构和优化策略存在显著多样性。数据集分为两类:操作数据和真实世界传感器数据集(表13)以及公共的、基准的和合成数据集(表14)。模型架构表现出明显的层次结构(表15)。由于量化后的紧凑性,CNN在振动分析、图像检查和热成像中占主导地位(12项研究)。经典ML模型(9项研究),如随机森林、SVM和KNN,由于计算成本低,仍适用于异常检测和状态监控。MLP/ANN用于低维传感器信号和分布式学习管道。混合架构(7项研究)结合CNN或MLP与经典ML层以完成特定任务,而RNN/LSTM模型(2项研究)主要用于顺序电池状态估计。自适应强化学习较为罕见,仅有一项研究将其用于边缘调度优化。优化策略(表16)在资源严格限制的情况下至关重要。训练后的量化是最常用的技术,可以在最小化准确性的同时减少内存和延迟。剪枝和权重减少通过移除冗余参数来简化CNN和视觉模型。近似计算通过用近似内核替代精确的MAC操作来降低延迟。元学习和在线优化提高了动态IIoT环境中的适应性,而强化学习优化实现了能源高效的边缘计算调度。元启发式优化应用全局搜索策略来提高IIoT网络中的路由和压缩效率。

RQ4:如何评估TinyML模型在IIoT应用中的性能,哪些指标最常被报告?
回答:TinyML-IIoT研究中的性能评估结合了预测准确性和资源效率指标。如表5、表6、表7、表8和表9所示,分类准确性、精确度、召回率和F1分数等与准确性相关的指标在各种应用中最为一致。这些表格还显示,能源消耗也很重要,但报告的频率较低。此外,评估实践因模型类型、硬件平台和优化策略而异(表10、表11、表12、表13、表14、表15和表16)。总体而言,研究结果表明缺乏标准化的评估协议,不同的研究之间的性能指标差异显著,从而限制了直接比较。未来的工作应建立统一的基准框架,整合准确性、延迟、内存和能源效率,以便对IIoT系统中的TinyML进行可复制和公平的评估。

RQ5:在将TinyML应用于IIoT时存在哪些关键限制和开放的研究挑战,提出了哪些未来研究方向?
回答:回顾指出了TinyML-IIoT部署中的几个限制(第7.1节)。性能评估不一致。虽然经常报告准确性,但延迟、内存和能源指标缺乏标准化(表5、表6、表7、表8和表9)。数据集的可用性有限。大多数研究使用的是小规模、特定领域的数据集(表13和表14),这限制了可重复性和泛化能力。自适应学习和多传感器融合很少被探索。元学习和强化学习仅在少数研究中出现,大多数系统依赖于单一模式的传感。硬件和软件的多样性使得部署复杂化(表12)。平台种类繁多(表10),框架从TensorFlow Lite Micro到定制工具链不等(表11)。可扩展性和可靠性尚未解决。大多数部署都是原型或实验室规模的系统,缺乏大规模工业集成的证据。总之,TinyML-IIoT研究必须改进评估标准、数据集可用性、自适应学习和传感器融合以及跨平台支持。未来的工作应侧重于开放的工业数据集、统一的基准测试、自适应和联邦学习、多传感器集成以及适用于异构硬件的可扩展工具链(第7.2节)。

7.2. 研究的局限性
尽管这项系统文献综述遵循了清晰严格的方法论,但仍应承认几个局限性,以便为发现提供适当的背景。
搜索过程的局限性:搜索过程依赖于预定义的关键词和选定的科学数据库。因此,如果某些相关研究使用了替代术语或在选定来源之外发表,可能会被排除。此外,大量的初始搜索结果使得彻底的手动筛选不切实际,可能导致一些标题不明显的相关研究被忽略。
现有研究中的报告局限性:TinyML在工业物联网(IIoT)是一个相对较新的研究领域。因此,一些已发表的研究缺乏必要的技术细节,例如使用的硬件平台的精确描述、能源消耗测量或关于数据集的详细信息。这种不完整的报告限制了研究之间的直接比较,并降低了某些报告结果的可重复性。
范围和选择限制:与人工智能和物联网研究的快速增长相比,选定的研究数量可能显得有限。然而,本综述更重视研究质量和工业相关性而非数量。许多文章因缺乏实验验证、提供的部署细节不足或重复类似想法而未被纳入。
研究之间的异质性:所选研究中的应用领域、硬件平台、软件框架和评估指标的多样性阻碍了定量比较和元分析。尽管存在这些局限性,回顾的研究提供了当前TinyML支持的工业物联网系统研究趋势、挑战和机会的扎实和代表性的概述。这些局限性也突显了未来研究中对更好报告实践、标准化基准和更全面的工业数据集的需求。

8. 结论
本综述分析了35项关于TinyML在IIoT系统中的同行评审研究。这些研究来自主要数据库,重点关注在资源受限的工业设备上实现机器学习(ML)推理。发现结果按照应用领域、硬件平台、软件框架、传感器类型、数据集、模型架构和优化技术进行了组织。TinyML被应用于预测性维护、状态监控、异常检测、质量检测和能源管理。硬件多样性包括nRF52、STM32和ESP32/ESP8266板、视觉加速器和异构多处理器系统。框架包括TensorFlow Lite Micro、Edge Impulse、定制工具链、直接的C/C++实现和CMSIS-NN库。传感器分为六类,其中运动和振动传感器占主导地位,而视觉、化学、环境和电气以及声学传感器支持特定任务。数据集结合了真实世界的工业信号和公共基准,平衡了部署的真实性和可重复性。CNN在模型架构中占主导地位,而经典ML和MLP仍适用于资源受限的设备;混合和循环模型出现在特定应用中。优化策略主要依赖于量化和剪枝,辅以近似计算、元学习和强化学习。研究空白包括标准化评估、能源和内存报告、开放工业数据集、自适应学习和多传感器融合。这一综合强调了需要高效模型、统一评估协议和现实数据集,以促进TinyML在工业环境中的采用。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号