基于剪枝时序卷积网络的智能建筑室内温度与占用联合预测轻量化方法

《Future Generation Computer Systems》：iBTEC: A tiny deep learning approach for indoor temperature and occupancy prediction in Smart Buildings

　　

专业术语翻译的论文摘要 在现代建筑中，维持热舒适性同时确保能源效率是一项关键挑战。智能建筑（Smart Buildings, SBs）通过集成互联传感器和物联网（Internet of Things, IoT）技术来自动化供暖、通风、空调（Heating, Ventilation, Air Conditioning, HVAC）、照明和水加热等系统来解决这一问题。然而，实现最优的HVAC控制需要精确的预测建模，以有效平衡居住者舒适度和能源消耗。为此，本文介绍了智能建筑热-能控制器（Intelligent Building Thermal-Energy Controller, iBTEC），这是一种利用现代剪枝技术增强的时间卷积网络（Temporal Convolutional Network, TCN）的创新解决方案。所提出的iBTEC同时预测室内温度和占用情况，将温度预测视为回归问题，将占用预测视为分类问题。为了促进在网络边缘的高效部署并与绿色人工智能（Green AI）的原则保持一致，本研究采用了两种剪枝策略，旨在产生适用于资源受限环境的轻量级模型。这些剪枝技术被证明是一种使方法更环保的手段，在保持精度的同时减少了计算开销。研究人员开发了iBTEC的原型，并在意大利A.E.I Srl公司的办公室中利用实时多变量传感器数据进行了测试。研究人员使用了多种性能指标进行了广泛评估。此外，iBTEC方法与几种基线TCN架构进行了对比测试，重点强调了模型复杂度、推理时间和训练时长的减少，以识别适合SBs边缘计算的候选方案。此外，通过交叉验证和使用最先进的数据集验证了iBTEC方法的稳健性和可靠性，确认了其在实际应用中的适用性。实验结果表明，与基线深度学习模型相比，所提出的iBTEC模型在提高预测精度的同时，通过剪枝显著降低了计算复杂度。特别是，与基线架构相比，混合剪枝实现了高达51.6%的参数减少、52%的算术运算减少以及33%的推理时间提升，同时在室内温度和占用两项任务上保持了相当或更优的预测性能。

论文解读文章

1. 研究背景与问题提出

人们约90%的时间在室内度过，因此建筑对人类健康、舒适度和生产力影响巨大。同时，建筑也是主要的能源消耗者，约占美国总能耗的40%和电力消耗的73%，并贡献了约40%的温室气体排放。智能建筑（Smart Buildings, SBs）通过集成传感器、执行器和计算能力，利用人工智能（Artificial Intelligence, AI）和机器学习（Machine Learning, ML）分析室内条件、占用模式等因素，以优化包括HVAC控制在内的各种服务。然而，现有文献要么专注于占用预测，要么专注于温度预测，忽视了整合这两个方面及其相互依赖关系的潜力。结合这两种预测对于在SBs中实现卓越的能源效率和增强居住者舒适度至关重要。为填补这一空白，研究人员提出了智能建筑热-能控制器（Intelligent Building Thermal Energy Controller, iBTEC），这是一种数据驱动的方法，使用专为边缘部署设计的单一轻量级方法，在SBs中联合预测室内温度和占用情况。据研究人员所知，这是首批在研究此联合预测任务时明确考虑方法效率和SBs中边缘相关约束的轻量级研究之一。虽然多任务学习已被应用于室外温度预测和能源负荷预测等相关问题，但其在室内温度和占用的联合预测中的应用尚未被探索。

2. 研究方法与技术路线

研究人员采用了时间卷积网络（Temporal Convolutional Network, TCN）作为核心模型架构，并集成了两种剪枝技术以提升效率，使其特别适用于边缘设备。选择TCN是因为它支持并行序列处理，优于循环神经网络（Recurrent Neural Networks, RNNs）和长短期记忆网络（Long Short-Term Memory, LSTM）模型，后者通常具有更高的延迟，并且在捕捉多元时间序列传感器数据中动态变化的长距离时间依赖性方面可能存在困难。此外，尽管基于Transformer和图结构的架构表现出强大的预测能力，但它们巨大的计算和内存需求通常限制了其在资源受限的边缘场景中的实际部署。相比之下，TCN的超参数（包括核大小、膨胀率、滤波器数量和丢弃率）是通过验证凭经验选择的，以平衡预测精度和计算成本。为进一步提升性能并降低计算需求，iBTEC集成了两种剪枝技术：（1）权重剪枝（Weight pruning）：移除不重要的单个权重。（2）混合剪枝（Hybrid pruning）：同时移除单个权重和整个滤波器，以更好地平衡模型大小和精度。这些剪枝策略不仅提高了模型的效率和紧凑性，也符合绿色人工智能（Green AI）的原则，即强调减少训练和部署AI模型的能源与环境成本。研究人员采用剪枝而非其他压缩方法（如量化和知识蒸馏）是出于实际原因：量化通常需要专门的低精度硬件才能实现真正的速度提升，而知识蒸馏需要一个独立的、通常更大的教师网络和一个额外的训练流程。剪枝避免了这两项要求：它在相同的训练流程内直接减少参数数量和计算成本，并且不改变TCN的因果结构及其建模时间依赖性的能力。由于剪枝并非对所有模型都自动安全，研究人员将其作为一个实证研究来处理，构建了未剪枝基线、权重剪枝版本和混合剪枝版本三种模型，并在相同条件下进行评估，包括交叉验证和公共数据集验证。iBTEC的原型是在意大利A.E.I Srl公司的办公室中开发和测试的，利用了实时的多变量传感器数据。

3. 研究结果

3.1. 总体性能评估：研究人员使用多种性能指标对iBTEC方法进行了广泛评估。实验结果表明，与基线深度学习模型相比，所提出的iBTEC模型在提高预测精度的同时，通过剪枝显著降低了计算复杂度。特别是，与基线架构相比，混合剪枝实现了高达51.6%的参数减少、52%的算术运算减少以及33%的推理时间提升，同时在室内温度和占用两项任务上保持了相当或更优的预测性能。

3.2. 与基线模型对比：iBTEC方法与几种基线TCN架构进行了对比测试，重点强调了模型复杂度、推理时间和训练时长的减少。结果表明，iBTEC能够识别出适用于SBs边缘计算的合适候选方案。

3.3. 稳健性与可靠性验证：通过使用交叉验证以及一个公开的最先进数据集，研究人员验证了iBTEC方法的稳健性和可靠性，确认了其在实际应用中的适用性。

3.4. 不同时间跨度预测：研究人员还测试了模型在不同时间跨度（如5分钟、10分钟、15分钟和30分钟）下的预测性能。

4. 讨论与结论

讨论部分总结：本研究通过引入iBTEC方法，解决了现有SBs研究中缺乏联合预测室内温度和占用情况的轻量级模型的问题。该方法的核心创新在于将TCN架构与现代剪枝技术相结合，成功地在保持高预测精度的同时大幅降低了模型的计算复杂度和存储需求，使其非常适合部署在资源受限的边缘设备上。与传统的分别预测方法以及复杂的混合模型相比，iBTEC提供了一种更高效、更绿色的解决方案，有助于实现实时的HVAC优化，从而平衡能源效率和居住者舒适度。研究结果证实了剪枝作为一种模型压缩策略在此特定联合预测任务中的有效性，尤其是混合剪枝策略在性能和效率之间取得了最佳平衡。

研究结论部分翻译：本文提出了iBTEC，一种用于智能建筑中室内温度和占用联合预测的创新性轻量级方法。通过利用增强有现代剪枝技术的TCN，iBTEC能够在边缘设备上高效运行。在意大利A.E.I Srl公司办公室进行的真实世界案例研究以及在一个公开数据集上的验证表明，与基线模型相比，iBTEC在显著降低计算复杂度（例如，混合剪枝实现高达51.6%的参数减少和33%的推理时间提升）的同时，保持了相当或更优的预测性能。这项工作证明了剪枝技术在创建适用于SBs边缘部署的绿色、高效且准确的预测模型方面的潜力。