利用大型语言模型实现智能家居中可解释的活动识别：一项关键性评估

《ACM Transactions on Internet of Things》：Leveraging Large Language Models for Explainable Activity Recognition in Smart Homes: A Critical Evaluation

可解释人工智能（XAI）在物联网（IoT）系统中用于提升传感器数据处理透明度，以支持智能家居中的日常活动识别（ADLs）。现有XAI方法依赖简单规则生成固定解释，存在灵活性差和扩展性不足的问题。本文探讨LLMs与XAI结合的两种途径：一是利用零样本能力减少标注数据需求，二是通过LLMs增强传统XAI的解释生成。实验表明LLMs能显著提升解释质量但面临传感器数据专业性和计算资源限制的挑战。

　　

摘要

可解释人工智能（XAI）旨在揭示机器学习模型内部的推理机制。在物联网（IoT）系统中，XAI 提高了模型处理来自多种异构设备的传感器数据的透明度，确保最终用户能够理解并信任模型的输出结果。在众多应用场景中，XAI 还被用于智能家居中基于传感器的日常生活活动（ADLs）识别。现有的方法会确定哪些传感器事件对每个预测的活动最为关键，并利用简单规则将这些事件转换为非专业用户能够理解的自然语言解释。然而，这些方法生成的解释较为刻板，缺乏自然语言的灵活性且不具备可扩展性。随着大型语言模型（LLMs）的兴起，探索它们是否能够提升解释生成能力变得很有意义，因为这些模型在理解人类活动方面表现出色。本文研究了将 XAI 与 LLMs 结合用于基于传感器的 ADL 识别的潜在方法。我们评估了 LLMs 是否可以：a) 作为可解释的零样本 ADL 识别模型，从而避免昂贵的标注数据收集工作；b) 在有训练数据的情况下，自动化为现有的数据驱动型 XAI 方法生成解释，以提高识别率。我们的评估为使用 LLMs 进行可解释 ADL 识别提供了有益的见解和面临的挑战。