面向资源受限边缘设备的LLM驱动上下文感知健康监测

《Electronics》：LLM-Driven Context-Aware Health Monitoring for Resource-Constrained Edge Devices

　　

资源受限边缘设备需要高效且自适应的健康监测，以在动态工作负载下保障可靠运行。本文提出一种LLM驱动、上下文感知的框架，该框架集成实时系统指标、历史数据与任务特定重要性等级，用于异常检测与预测。具体而言，该框架基于近期监测观测值预测边缘设备未来五分钟的语义健康状态，从而在达到关键运行条件前实现主动干预。CPU、内存、温度、网络负载与进程信息等多维指标被转化为结构化时间序列表示，并作为预训练机器学习模型的输入。大语言模型（LLM）充当编排层，根据系统上下文与资源约束动态选择最合适的预测模型。这使得在准确性、延迟与计算成本之间实现自适应权衡成为可能。在树莓派（Raspberry Pi）设备上的实验结果表明，与静态方法相比，所提方法在降低资源占用的同时取得了相当或更优的性能。

研究背景与动机

物联网（IoT）部署的快速扩张使边缘设备成为关键基础设施组件，但其受限于CPU容量、内存带宽、散热与存储等资源。传统静态阈值监测是被动式的，无法应对资源受限硬件上因热节流、内存泄漏与进程干扰等复杂相互依赖指标交互引发的退化。现有基于机器学习的异常检测虽提升了灵敏度，但模型选择静态，忽视了系统上下文、可用算力与任务关键性之间的权衡。同时，将大语言模型（LLM）作为资源受限硬件上实时设备健康监测的上下文感知编排层仍属空白。为此，研究人员在《Electronics》发表题为Do-Or-Die的框架，旨在将异构硬件指标转化为语义健康状态，并以前瞻方式支持纠正决策。

主要关键技术方法

研究人员在五台树莓派5（Raspberry Pi 5，8 GB RAM，Raspberry Pi OS 64位）上开展六个月（2025年12月至2026年5月）监测，采集CPU利用率、内存、温度、网络、磁盘与进程信息，形成约130万条记录的多变量时间序列。指标经特征工程映射为九级语义健康状态（SAFE至SOS），构成健康状态向量（Health State Vector）。历史上下文存于轻量NoSQL时序库（如InfluxDB）。预测模型池离线训练并现场侧写（profiling）四种回归模型：岭回归（Ridge Regression）、XGBoost、LightGBM、CatBoost，用于短期光伏（PV）发电预测。双阶段LLM均采用Mistral 7.2B（Q4_K_M量化，上下文32768 token），经Ollama REST API在外部GTX 1060主机卸载推理，边缘端仅发REST请求。任务重要性等级（Task Importance Level，TIL）分低中高三级参与编排。

研究结果

3.1 Do-Or-Die总体框架

框架由边缘感知、健康状态生成、历史上下文存储、预测模型池、LLM健康预测、仪表盘、LLM编排与自适应执行八组件构成闭环。第一LLM从健康状态向量与历史推演未来状态；第二LLM据预测状态、资源、TIL选模型，临界态可暂停推理复用缓存。

3.2 边缘感知层与健康数据工程

原始指标按边界转为九级语义状态，边界由设备自身行为导出而非静态预设。历史上下文存储（Historical Context Store，HCS）用InfluxDB支撑时序查询。

3.3 预测模型池

池含统计、机器学习与深度学习候选；本文实验用Ridge、XGBoost、LightGBM、CatBoost。各模型离线训练后于树莓派侧写延迟、CPU、内存、温控影响。

3.4 基于LLM的健康状态预测

以近n个间隔m的观测加HCS摘要构造提示，LLM输出JSON含趋势T、预测值、预测健康态、置信度c，健康态预测准确率98%，趋势推理准确率100%，远程推理402 ms加RTT 12 ms，端到端414 ms。

3.5 LLM编排的自适应模型选择

编排LLM输入预测态、HCS、TIL与模型侧写（准确率a、延迟l、CPU u、内存mem、温升ΔT），正常态输出选型与理由，临界态（HIGH至SOS）改发复用缓存指令。编排推理410 ms加RTT 14 ms。

3.6 自适应模型执行与健康仪表盘

执行层按编排部署模型或降级；仪表盘以JSON驱动可视化并把反馈回写HCS。

4.2 LLM健康状态预测实验

六个月内正常与压测场景下，语义健康态预测精度98%，数值预测对齐实测，趋势解释全对，通信负载请求2.4 KB响应0.8 KB，相对1分钟采样间隔可忽略。

4.3 LLM编排自适应模型选择实验

相较静态策略（Ridge精度91.8%但最轻，XGBoost/CatBoost精度高却致CRITICAL，LightGBM久跑WARNING），LLM编排平均精度95.4%，CPU 64.8%、内存56.2%、温度66.5 ℃，全程SAFE；正确选型率满足上下文准则。

4.4 端到端评估与讨论

双LLM解耦预测与编排，外挂推理保边缘算力；临界态停REST调用跌缓存，证框架非转移成本而是屏蔽边缘负担。编排带Decision/Reasoning/Recommendation三段可解释报告。

4.5 其他平台部署与局限

框架非硬件绑定，换平台仅需重建指标与阈值语义；局限为当前靠外部Ollama、候选池固定，后续研轻量片上LLM、在线学习、多边缘协同与数字孪生。

结论部分翻译

本文提出Do-Or-Die，一种面向资源受限边缘设备的LLM驱动上下文感知健康监测与自适应模型编排框架。不同于依赖静态阈值或预设规则的常规方案，该框架将连续硬件监测、语义健康状态表示、LLM健康预测与智能编排统一为决策架构，联合当前设备条件、历史上下文与任务需求主动适配预测策略，维持预测性能与算力消耗的平衡。在树莓派5上的实验表明，LLM健康预测模块语义态准确率98%且趋势判断全对；编排模块选型使平均预测精度95.4%媲美最优静态模型，同时大幅压低CPU、内存与温升，长期运行保持SAFE。框架另提供含选型理由与操作建议的可解释编排报告。未来工作将转向轻量片上LLM、持续学习、动态扩池与多边缘协同，并引入数字孪生与联邦边缘智能以增强预测性维护与大规模分布式管理。