用于物联网安全与通信的变压器：一项全面调查

《IEEE Internet Computing》：Transformers for Internet of Things Security and Communications: A Comprehensive Survey

　　

摘要：

物联网（IoT）彻底改变了设备之间的交互方式，产生了大量来自不同应用领域的异构数据，包括智能医疗、智能监控和工业自动化。连接数十亿物联网设备的通信基础设施在可扩展性、互操作性和安全性方面面临着前所未有的挑战。尽管 transformer 模型在理解长距离依赖关系和处理多模态数据方面表现出了出色的能力，但在资源受限的 IoT 环境中部署这些模型则面临重大挑战。本综述全面探讨了 transformer 在物联网通信系统和安全保障中的应用，首先介绍了 IoT 架构和 transformer 机制的基础概念。我们系统地分析了 transformer 如何提升网络协议、通信优化、入侵检测、隐私保护和安全数据传输等关键 IoT 功能。特别关注了实现过程中的挑战，包括计算复杂性、能耗限制、延迟要求以及对抗性漏洞。我们回顾了专为物联网设计的最先进的基于 transformer 的模型，并研究了其在智慧城市和工业环境中的实际应用。最后，总结了面向部署的权衡因素，指出了在哪些条件下 transformer 相对于简单替代方案具有明显优势，并为这一快速发展的领域指出了未来研究的方向。

引言

物联网（IoT）的爆发性增长从根本上改变了技术格局，已有数十亿设备被部署在各个领域，包括智能家居、工业自动化、环境监测和医疗系统[1][2]。这些互连设备形成了庞大的网络，产生了大量异构且具有时间序列特征的数据。这需要复杂的处理和分析能力[3][4]。支持这些设备的通信基础设施必须处理多种协议、不同的数据传输速率以及严格的延迟要求，同时保持强大的安全性[5][6]。传统的数据处理方法难以应对现代物联网环境的复杂性和规模要求，因为它们需要高度的智能性和实时决策能力[7]。现有的物联网通信和安全机器学习解决方案存在重大局限性，这些局限性在当前文献中尚未得到充分解决。传统的机器学习方法，如支持向量机（SVM）和随机森林，严重依赖于人工特征工程，在物联网环境中尤其成问题，因为物联网的流量模式具有高维度和时间复杂性[8][9][10]。更严重的是，这些方法无法捕捉网络流量序列中的长距离依赖关系，而这种能力对于检测跨越长时间跨度发生的多阶段攻击至关重要。尽管循环神经网络（RNN）和长短期记忆（LSTM）网络在一定程度上解决了时间建模问题，但它们的序列处理架构带来了严重的瓶颈：训练并行化难以实现，尽管采用了门控机制，梯度消失问题仍然存在，且计算复杂度随序列长度的增加而急剧增加[11][12][13]。卷积神经网络（CNN）虽然计算效率较高，但其仅限于在固定感受野范围内进行局部模式识别，无法建模理解物联网网络中复杂协议交互和分布式攻击行为所需的全局上下文[14]。