HyperMetric：利用度量学习实现高效的高维计算，以支持可靠的边缘智能

《IEEE Transactions on Computer-Aided Design of Integrated Circuits and Systems》：HyperMetric: Efficient Hyperdimensional Computing With Metric Learning for Robust Edge Intelligence

超维计算(HDC)通过高维向量映射实现高效推理，但其鲁棒性机制尚不明确。本文提出HyperMetric框架，基于汉明距离边际优化训练，结合ReRAM加速器，在内存错误和位错误场景下分别提升20%和10%准确率，且在3倍电阻方差和20%误码率下仍保持35%和20%的优越性能。

　　

摘要：

超维度计算（HDC）作为一种高效且稳健的计算范式正在兴起，它对各种类型的错误具有很强的抵抗力。HDC的这种抗错特性使其非常适合容易出错的内存系统。然而，HDC抗错机制的原理尚未完全被理解。在这项工作中，我们提出了HyperMetric框架，用于训练高度稳健且对硬件友好的HDC模型。我们发现，HDC的抗错能力是由超向量之间的汉明距离 marg 决定的。基于此，我们提出了基于度量学习的HyperMetric训练方法，以优化模型的抗错性能。实验表明，使用HyperMetric训练的HDC模型能够实现高达17倍的汉明距离 marg 提升，并且准确率提高了14.3%。我们使用ReRAM加速了HyperMetric训练的模型。与现有的最先进的HDC算法OnlineHD和HyDREA相比，HyperMetric ReRAM加速器在内存计算（CIM）错误方面的准确率提高了20%以上，在面对变化时，其在比特错误方面的准确率也提高了10%以上。此外，在面对3倍的ReRAM抗性变化时，HyperMetric硬件的准确率比现有的tinyHD和GENERIC加速器高出35%；同时，在电压缩放的情况下，其比特错误率（BER）降低了20%，同时在面积、功耗和处理延迟方面保持了良好的平衡。

引言

由于智能人工智能（AI）应用在各个领域的蓬勃发展，机器学习（ML）在物联网（IoT）和边缘设备上的推理变得越来越重要[1]、[2]。这些嵌入式设备在资源受限的环境中运行，延迟和能效是关键因素。例如，医疗或物联网设备通常需要实时响应能力和超高的能效[2]、[3]、[4]、[5]。