组合式神经符号表示方法能够实现高效的主动探索

《Nature Communications》：Compositional neurosymbolic representations enable efficient active exploration

　　

摘要

能够在长期范围内进行学习和探索的自主系统面临一个难题：传统方法在处理大量观测数据（用符号 n 表示）时效率低下，这使得它们无法在资源有限的硬件上持续运行。我们发现，受神经计算启发的组合型高维向量表示方法能够有效解决这些限制。利用这些表示方法，我们构建了一种贝叶斯优化（BO）算法，该算法能够在复杂的空间中运行，并且在多种任务上的时间和内存需求方面均低于现有的最先进BO算法。传统方法的时间复杂度为 O(n^3)，内存复杂度为 O(n^2)，而我们的方法在嵌入维度 d 上的时间复杂度仅为 O(d^2)，且该维度在整个算法运行过程中保持不变。我们的算法在确保精确度不受影响的情况下，将计算时间降低了60到200倍；此外，在神经形态硬件上的实现将每个样本的能耗降低了30到188倍。这些效率提升得益于将样本选择过程转化为在紧凑域内的连续优化过程，这一过程可以通过梯度方法或神经动力学来实现，从而支撑自主系统的长期、资源受限的探索行为。