面向多模态时间序列异常检测的语义干扰抑制方法研究

《AI》：SISAD: Semantic Interference Suppression for Multimodal Time-Series Anomaly Detection

　　

摘要专业翻译 多模态时间序列异常检测（Multimodal Time-Series Anomaly Detection）引入关于外部事件的文本数据，为数值波动提供上下文信息；这有助于解释复杂系统中由灾害、公共事件或环境变化等引发的突发波动，并能够识别出无法由现有上下文解释的数值波动。然而，现有方法通常将文本视为增强用的辅助特征，仍主要依赖数值序列的偏离程度来检测异常；因此，它们难以区分由真实外部事件驱动的可解释波动与缺乏事件语义支持的波动。此外，冗余、不匹配或弱相关的文本可能扰乱正常时间模式（temporal pattern）的建模，从而可能引发跨模态负迁移（cross-modal negative transfer）。为解决上述问题，研究人员提出SISAD——一种基于语义干扰抑制的多模态时间序列异常检测方法。首先，该方法采用趋势解耦（trend decoupling）与多尺度编码（multiscale encoding）提取局部时间变化模式，从而减轻低频趋势对局部或细粒度时间变化建模的影响。其次，研究人员构建了基于原型（prototype）的语义融合模块，整合外部事件文本、内生统计文本与领域先验知识（domain prior knowledge），通过检索学习到的历史原型来增强当前片段（segment）的语义可解释性。最后，研究人员设计了语义干扰抑制模块，用于度量跨模态冲突程度并自适应调整文本融合强度；这使得相关文本能够对重建与判别作出贡献，同时衰减不可靠文本带来的干扰。在覆盖三个领域的七个数据集上开展的实验表明，SISAD在大多数数据集和关键指标上优于现有方法，在区分具有相关上下文支持的波动与无法由现有上下文解释的波动方面表现出更优性能。消融实验与文本扰动实验进一步验证了在所评估设置下，基于原型的语义融合与语义干扰抑制的贡献。

论文解读文章

一、研究背景与问题提出

时间序列异常检测（Time-Series Anomaly Detection, TSAD）作为重要的序列数据分析任务，通过建模正常时间模式来识别偏离该模式并可能带来风险的事件。然而，仅凭数值偏离本身无法判断一个波动究竟是真正的异常，还是对外部事件的合理响应。地震、飓风、洪水等真实事件可能引起气象、水文或交通变量的显著变化；当此类变化与相关外部事件文本在语义上一致时，它们可能是系统对环境的合理响应。相反，当缺乏相关上下文解释时，该波动应获得更高的异常风险评分和更多关注。现有主流多模态方法，如MindTS，虽然引入了文本以改进检测，但其主要决策仍基于对正常数值模式的偏离，文本仅作为辅助表征。因此，一个与相关文本解释一致的大幅变化，仍可能仅因其数值幅度而获得高异常分数。此外，背景描述、延迟报告、弱相关事件及无关细节等文本信息可能扰乱时间表征，引发跨模态负迁移，增加误报风险。针对上述问题，研究人员将研究聚焦于一个特定子问题：判断数值波动能否由可用的事件上下文解释。由相关事件语义支持的波动被视为可解释变化，而缺乏可用上下文支持的波动则获得更高的异常风险评分。

二、研究内容与核心结论

研究人员提出SISAD方法，一种基于语义干扰抑制的多模态时间序列异常检测方法。该方法通过趋势解耦与多尺度编码提取局部时间变化模式，构建基于原型的语义融合模块整合外部事件文本、内生统计文本、领域先验知识与学习到的语义原型，并设计语义干扰抑制模块度量跨模态冲突程度、自适应调整文本融合强度。在覆盖气象监测、城市交通和电力系统运行三个领域的七个数据集上的对比实验表明，SISAD在大多数数据集和关键指标上优于现有方法。消融实验验证了各结构组件与语义来源的贡献，文本扰动实验表明语义干扰抑制机制能有效限制无关文本的影响。独立故障注入实验进一步表明，相关上下文信息不会掩盖额外的数值故障。

三、关键技术与方法

研究人员采用以下主要技术方法。其一，趋势解耦多尺度编码架构：通过移动平均算子分离趋势分量与残差分量，对残差序列进行多尺度池化与分块嵌入，构建N尺度时间金字塔，并采用块对角注意力掩码保持尺度结构。其二，原型语义融合模块：以预训练GPT-2作为可训练文本编码器，结合外部事件文本、内生统计描述、由Qwen-Plus离线生成的固定领域先验文本，以及由可学习键和语义原型构成的原型库，通过基于注意力的检索机制获得样本特定的原型组合。其三，语义干扰抑制模块：将时间序列表征与融合文本表征投影到共识子空间和模态特定互补子空间，构建基线分支与联合分支，以二者间均方差异度量文本引起的表征位移，并通过指数门控自适应控制联合分支的贡献。其四，多目标联合损失函数：包含焦点重建损失、形状对齐损失、跨模态对比学习损失和解缠损失。其五，基于多尺度动态容差的异常评分策略，结合原型偏差评分形成最终异常分数。数据来源方面，气象数据源自CrisisTS数据集（基于IDRISI-RE灾难推文与NOAA NCEI气象数据），城市交通数据源自NYC Taxi 2023数据集，电力系统数据源自US Grid ERCOT Outage数据集。

四、研究结果

4.1 多领域总体对比评估结果

在七个数据集上，SISAD与11种基线方法进行了对比。传统无监督基线（OCSVM、PCA、IForest、LODA）将异常主要视为静态特征空间中的离群点，SISAD在所有七个数据集的两项指标上均优于这四种方法。深度时间基线（Anomaly Transformer、DADA、Timer、CrossAD）提供了更丰富的时间表征，但基于关联或预测的模型可能对大幅但可解释的波动赋予高分；SISAD在十四个数据集-指标组合中取得十三项最佳，唯一例外是Florida数据集的VUS-PR，CrossAD得分为0.2486而SISAD为0.2204。预训练与多模态基线（GPT4TS、LLM-Mixer、MindTS）在跨模态交互方面有所改进，但语言与数值数据之间的表征差距可能导致负迁移；SISAD在所有七个数据集的两项指标上均超过这三种方法。

4.2 消融与诊断分析

研究人员在California、Carolina和New York数据集上评估了四种结构变体与四种语义来源消融。结构消融结果表明，移除原型库与注意力检索、移除融合模块、移除联合分支均导致性能下降。语义来源消融表明，移除四种语义来源中的任何一种均使平均VUS-ROC和平均VUS-PR下降，其中移除领域先验导致的平均性能下降最大。诊断输入变体实验表明，完整模型在两项指标上均优于仅数值模型和可用性标记模型，说明原始语义内容提供了超越文本存在性二元信息的额外判别能力。

4.3 超参数敏感性研究

在五个气象数据集上对原型偏差权重、动态容差系数、原型库容量和频率路由器选择数量top-k四个超参数进行了敏感性评估。结果表明，各数据集上的VUS-ROC和VUS-PR曲线随参数变化保持相对平稳，模型对这些超参数选择不敏感，表现出鲁棒性。

4.4 语义干扰鲁棒性实验

在三种文本条件下（原始文本、事件加无关文本、完全替换为无关文本）评估了语义干扰抑制模块的效果。当无关文本附加到匹配事件描述时，SIS使文本敏感性在Carolina、New York和Texas上分别降低59.5%、46.9%和65.4%。当匹配描述被完全替换时，带SIS的模型在三个数据集上平均异常分数均上升。代表性案例可视化表明，无关文本条件产生更大的分支差异D，通过门控函数降低联合表征的贡献；而移除SIS模块后，不同文本条件间的分数差异变小。

4.5 独立故障注入实验

在California数据集的蒸发通道上注入五种合成故障类型（尖峰、偏置、漂移、卡死、方差变化），在事件窗口与非事件窗口两种上下文条件下进行因子设计。全部90种配置中，89种的目标通道分数上升，平均配对增幅为0.990。在匹配文本条件下，全部45种配置均产生正向目标通道响应，平均增幅为1.687，VUS-ROC为0.873，VUS-PR为0.372。结果表明，事件语义可以解释背景事件驱动的波动，但不会阻止SISAD响应独立注入的数值故障。

4.6 计算复杂度与效率分析

SISAD约含126.20M参数，推理时间为每批0.0360秒。移除原型检索仅使参数减少至126.13M，推理缩短至0.0351秒，但平均VUS-PR下降0.0288。移除SIS融合模块使参数降至125.53M，推理时间降至0.0255秒（约降低29.2%），但平均VUS-PR下降0.0289。参数数量主要由GPT-2文本编码器主导，因此移除轻量级SISAD组件对总参数数量影响较小。

五、讨论与结论

讨论部分指出，原型库通过注意力检索提供输入条件化的适应性，但原型内容在离线训练中学习，验证和推理期间保持固定，因此当前实现支持对固定原型库的动态检索，但不支持在持续分布或概念漂移条件下的在线原型演化。研究结论表明，SISAD通过联合考虑数值观测与多模态上下文信息，能够区分由相关事件上下文支持的波动与无法由可用上下文解释的波动，从而有助于减少不必要的异常警报。原型语义融合模块与语义干扰抑制机制分别增强了时间-文本对齐能力并限制了不可靠文本的干扰。在三个领域的七个数据集上的实验验证了该方法的有效性，表明事件语义与多尺度时间建模具有互补性，且语义干扰抑制机制能够在不损失相关语义贡献的前提下有效应对文本干扰。