SBERT-HCube：一种基于超立方体的多模态图变换器，用于物联网网络中的语义行为分析

《Knowledge-Based Systems》：SBERT-HCube: A Hypercube-Based Multimodal Graph Transformer for Semantic Behavior Analysis in IoT Networks

　　

摘要

物联网网络由于数据量巨大、数据类型多样且时间变化性强，给行为分析、持续监控和语义异常检测带来了极大挑战。如何整合传感器数据与数值数据、解读文本信息以及识别渐进式行为偏差等问题，凸显出目前尚缺乏一种全面且易于理解的多模态解决方案。在本研究中，我们提出了SBERT-HCube这一混合深度学习框架，它结合了基于SBERT的语义嵌入技术、多维超立方体表示空间以及基于图结构和时间序列的双流变换器模块，从而实现对物联网节点行为的自适应建模。该框架可并行处理数值数据、传感器数据与文本数据，再通过多模态注意力融合模块将它们整合起来，构建动态行为图。这些行为图可用于提取联合嵌入向量，进而实现语义聚类、异常检测和行为趋势预测。在SWaT、WADI、SMAP和MSL四个基准数据集上的实验结果表明，SBERT-HCube的性能始终优于DDGCT、M-STGAT和Stack VAE-G等现有先进方法。对于没有文本信息的数据集（SMAP和MSL），则关闭了文本处理模块，仅利用现有的数值数据和传感器数据进行分析。需要指出的是，完整的文本-数值-传感器数据处理流程仅应用于SWaT和WADI数据集，而SMAP和MSL数据集由于不存在对应的文本日志，因此仅使用数值/传感器数据进行分析。具体而言，该模型在SWaT数据集上的F1分数为0.9652，在WADI数据集上为0.9088，在SMAP数据集上为0.9587，在MSL数据集上为0.9561，同时具备较高的精确度和召回率。这些结果证明了该模型在大规模、高噪声且动态变化的环境中的有效性，也展现了其在现实物联网网络中实现可扩展、精准且易于理解的行为建模的潜力。

引言

随着物联网基础设施中连接设备的数量呈指数级增长，各种异构数据源不断产生海量数据。这些数据包括传输速率、延迟和能耗等数值数据，温度、压力和光照等连续传感器信号，以及系统日志、错误信息和状态报告等半结构化文本数据。准确分析这类数据对于监测设备行为、检测异常以及预测网络性能可能出现的问题至关重要，而这些正是保障物联网网络安全和稳定的核心任务。图1展示了这类系统中常见的数据类型（文本、传感器数据及数值数据）及其在异常检测任务中的作用。

传统的基于规则或统计的方法由于假设过于简单，且无法准确描述多源数据之间的复杂关系，因此效果有限[1,2]。为克服这些局限，近期研究开始聚焦于深度学习模型——尤其是用于时间序列分析和物联网网络异常检测的时间序列变换器和图结构变换器[[3], [4], [5]]。这类模型利用注意力机制来捕捉节点间的复杂交互关系和时间趋势。不过，大多数相关研究主要针对数值数据[6]，往往忽视文本或传感器数据，或者将它们与其他类型的数据孤立开来处理。

此外，这类模型所使用的图结构通常较为静态，是通过欧几里得距离或数值向量间的余弦相似度等简单指标来定义的[7]。而实际中的设备交互则是高度动态、多维度且受上下文影响的。

对现有文献的梳理表明，目前尚未出现一种能够利用语义嵌入和自适应图结构来整合数值数据、传感器数据与文本数据的综合框架。同时，利用SBERT这类大型语言模型从文本数据中提取语义嵌入以用于物联网异常分析的技术也几乎未被探索。目前缺乏可用于多模态数据整合的可学习通用嵌入空间，且多模态变换器的应用也相对有限，这些都使得相关研究存在较大缺口。

为填补这一空白，我们提出了名为SBERT-HCube的新框架。该框架借助自适应多模态嵌入、基于超立方体空间的行为图结构以及混合图结构-时间序列变换器架构，实现了对物联网设备行为的精准、可解释且可扩展的分析。该框架通过整合基于SBERT的语义文本嵌入、传感器信号的统计特征以及标准化数值属性，将多维设备向量映射到同一个嵌入空间中，进而构建动态图结构，并通过基于注意力的学习方法来识别异常并预测行为趋势。

综上所述，本研究的主要贡献如下：

• •
  首次提出了一种综合多模态框架，能够整合数值数据、文本数据和传感器数据，用于物联网网络中的行为分析及异常检测。
• •
  创新性地运用SBERT语言模型从系统日志中提取语义嵌入，并将其与其他数据源整合到同一个嵌入空间中。
• •
  引入了基于自适应超立方体的行为空间，通过学习不同数据源特征的权重，实现更精细的行为建模。
• •
  通过结合混合相似性系数和自适应加权机制，根据节点间的语义、数值和传感器数据相似性自动构建动态行为图。
• •
  设计了由图结构变换器、时间序列变换器以及多模态注意力模块组成的混合架构，可同时分析图结构、时间序列模式和语义信息。
• •
  能够通过分析最终的嵌入向量来检测异常并预测行为趋势，这对保障物联网网络安全具有重要意义。

本文的结构安排如下：第一部分介绍研究背景、问题定义、面临的挑战以及现有研究的不足。第二部分回顾相关研究，并对以往成果进行批判性分析。第三部分详细阐述所提出的SBERT-HCube框架。第四部分介绍实验设置与评估结果。最后，第五部分总结研究成果，指出存在的局限性，并提出未来研究的方向。

章节要点

相关工作

近年来，针对物联网网络中的异常检测，人们开发出了多种不同的方法，这些方法大致可分为五类。这种多样性恰恰体现了该领域的复杂性与重要性。

第一类方法是基于深度学习的技术及高级架构，如变换器、卷积神经网络和长短期记忆网络，这类方法在分析复杂的物联网数据时具有很高的准确性。

背景知识

本部分介绍了所提方法所依赖的基本算法和计算技术，涵盖了Sentence-BERT、动态时间规整算法、基于注意力的机制、图注意力网络、时间序列变换器以及用于基于中心点异常评分的K均值聚类算法[28]。这些内容阐述了各类技术如何提升分析精度，从而为SBERT-HCube框架提供有力的决策支持。

系统描述

所提出的SBERT-HCube框架是一种多模态学习架构，旨在监测大规模物联网网络中的行为模式、检测异常并识别时间趋势变化。该系统由七个相互关联的处理阶段组成，每个阶段负责将原始的多模态数据逐步转化为层次更深入、信息更丰富的表示形式。各阶段紧密协作，共同为在动态变化的环境中做出可靠决策提供支持。

实验部分

实验部分经过精心设计，包含多个关键子部分，以确保结果的清晰性和可重复性。首先，“数据集”子部分简明扼要地介绍了用于评估的各个基准数据集。接着是“模型配置”子部分，详细说明了SBERT-HCube框架的超参数及架构组成。随后是“评估指标与基线方法”子部分，明确了用于评估的标准和方法。

结论

本研究提出了SBERT-HCube这一新型多模态学习框架，可用于大规模物联网网络中的实时异常检测和行为趋势分析。该框架通过七个紧密相连的处理阶段，整合了数值数据、传感器数据与文本数据，结合基于SBERT的语义编码、基于注意力的数据融合以及双流变换器模型，从而生成具备上下文感知能力的 behavior嵌入向量。在SWAT、

局限性

尽管实验结果表现良好，但评估过程仍易受协议设置的影响，比如基于验证的阈值设定以及固定的参数配置；在极低假正率的情况下，实际结果的解读也需要格外谨慎。另外，由于SMAP和MSL数据集没有文本数据，因此多模态分析带来的优势在这两个数据集上可能被低估。不过这些因素并不会改变我们的核心结论，反而为我们指出了未来的研究方向，比如开展以降低假正率为目标的分析工作。

未引用参考文献

[55]

CRediT作者贡献说明

马赫萨·阿巴西：撰写原始稿件、验证研究结果、提供研究资源、设计研究方法。纳希德·德拉赫尚法尔德：参与论文审阅与编辑、指导研究工作、提供研究资源、设计研究方法、明确研究概念。阿里·加法里：参与论文审阅与编辑、承担研究指导工作。

利益冲突声明

作者声明，他们不存在任何可能影响本文研究结果的已知财务利益冲突或个人关系。

Mahsa Abbasi|Nahideh DerakhshanFard|Ali Ghaffari