针对资源受限的嵌入式设备进行优化的随机森林记忆表示方法

《IEEE Embedded Systems Letters》：A Memory Representation of Random Forests Optimized for Resource-Limited Embedded Devices

随机森林模型在嵌入式设备上的内存优化研究，提出叶节点数据嵌入决策节点的结构优化方法，使分类任务RAM需求降至144字节，回归任务48字节，CPU周期占用27%，预测时间59-75微秒，适用于实时应用场景。

　　

摘要：

随机森林（Random Forests，RFs）是一种多功能且高效的机器学习技术，广泛应用于各种任务中。随着在资源受限的嵌入式设备（如微控制器）上部署机器学习模型的需求不断增加，现代数据集的复杂性也随之增加，这带来了新的挑战。这些挑战通常导致模型在内存和存储需求上过大，无法在小型设备上实际应用。在本文中，我们提出了一种无损内存表示方法，该方法显著减少了预测任务所需的内存（RAM）量，同时降低了存储模型所需的非易失性内存的用量。该方法通过将叶节点的数据嵌入到决策节点中，简化了树结构，从而提高了效率。此外，它支持无需解压即可进行预测。为了评估我们的方法，我们在四个微控制器平台上实现了四个基于真实世界数据集的随机森林模型。实验结果表明，分类任务最多只需144字节的RAM，回归任务最多只需48字节的RAM，且内存访问仅占总CPU周期的27.0%。在最快的平台上，预测时间介于59到75微秒之间，这凸显了该方法适用于多种实时应用的潜力。

引言

随机森林（RFs）是多种机器学习任务中强大的工具，因其鲁棒性、可解释性和易于实现而广受欢迎。由于结构简单，RF模型可以用于在资源受限的设备上进行实时预测[1]。然而，随着现代预测任务复杂性的增加，模型规模也会扩大，往往超出嵌入式设备的处理能力。尽管如此，在边缘设备上执行机器学习任务仍具有显著优势：可用的数据更多、可获得的洞察更丰富、数据传输量减少、延迟降低以及连接终端设备的功耗降低[2]。因此，亟需开发出能够使资源匮乏的设备（如低端微控制器）处理更大、更复杂机器学习模型的方法。