面向人工智能应用的基于快速近似压缩器的低功耗近似乘法器设计

《Integration》：Low-power approximate multiplier design based on fast approximate compressors for AI applications

　　

• AC5-2/AC6-2 实现直接的 5-2/6-2 部分积压缩。
• 约束驱动的布尔映射提供非正误差。
• 线性与折线混合树提供能耗—精度设计权衡。

引言

近年来深度学习领域的重大进展显著拓展了人工智能在诸多领域的实际应用部署 [1]–[6]。与此同时，神经网络规模和复杂度的快速增长导致计算工作负荷急剧上升，使模型训练和推理的能耗成本成为日益重要的关注点 [7]–[9]。在此背景下，绿色人工智能的概念引起了越来越多的关注，它倡导在提升计算能力的同时降低能耗 [10]。

乘法是深度神经网络中最主要的运算之一，尤其在卷积神经网络（CNN）和 Transformer 等架构中更是如此 [11]。由于单次推理任务可能涉及大量乘法运算 [12]，乘法器的效率直接影响系统的整体能耗表现。幸运的是，许多面向人工智能的工作负载天然具有误差容忍性。在图像处理、语音增强和视频处理等应用中，微小的偏差通常对最终的感知或语义结果影响有限 [13]。通过允许经过精心控制的计算不精确性，近似计算可以在保持可接受的应用级性能的同时，有效降低电路复杂度和功耗，使其成为人工智能加速器的一个有前景的解决方案 [14]–[19]。

在乘法器设计中，部分积约简（PPR）阶段在整体复杂度中起主导作用，这使得近似压缩器成为提升乘法器硬件效率的有效途径。因此，近期的研究工作集中于设计简化的近似压缩器并将其集成到不同的近似乘法器结构中 [20]–[33]，这些工作可根据其近似策略分为三类。

诸如 HEAM_M2b [20]、AM8EC-1 [21] 和 AC [27] 等近似设计使用简化的 3-2 或 4-2 压缩器来约简部分积（PP）。其主要优点是结构简单且误差特性明确。然而，由于每个压缩器仅处理 3–4 个输入，需要多个级联阶段，导致延迟和布线复杂度增加。此外，大多数这些设计并未专门解决基于 ReLU 的卷积神经网络中常见的零漂移或稀疏激活模式问题。

截断是一种广泛使用的近似技术，通过从部分积阵列（PPA）中移除选定的最低有效部分积或完整列来降低硬件复杂度 [29]、[30]。对于 n 位无符号乘法器，精确乘积为：

P = ∑_{i=0}^{n-1} ∑_{j=0}^{n-1} a_i b_j 2^{i+j}

如果移除一组最低有效部分积 T 而不进行正向补偿，截断结果为：

P?_tr = P ? ∑_{(i,j)∈T} a_i b_j 2^{i+j} ≤ P

因此，传统的无补偿截断仅产生非正误差，并保持零输入条件。动态截断在运行时更改截断区域，以提供可配置的能耗—精度权衡 [31]、[32]。补偿或舍入电路可以减小截断导致的系统性低估；然而，使用这些电路可能会引入混合或正误差，并且根据实现方式不同，可能会改变零输入行为。

本文提出的 AC5-2 和 AC6-2 压缩器在全零输入组合下同样产生零输出。其区别在于，零保持是由 AC5-2 和 AC6-2 的布尔映射直接强制执行的，无需完全删除近似 PPA 列，也无需额外的零检测电路。基于截断的近似方法与本文提出的高阶压缩之间的对比见表 1。

一些近期的研究探索了具有更多输入（如 5-3、6-4）的压缩器 [24]、[33]、[34]。Esposito 等人 [33] 系统地开发了一系列无异或近似压缩器，包括 4-2、5-3 和 6-3 压缩器，以及由这些基本单元构建的高阶压缩器。这些压缩器使用与-或逻辑，对精确输入计数进行低估，并在全零输入时产生零输出。他们还提出了一种权重感知的分配算法，用于将这些压缩器集成到 PPR 树中。

然而，5-3 和 6-3 压缩器保留了三个等权重的输出，因此在 PPR 矩阵达到最终的两行形式之前，仍需要进一步的约简。对于大于六的输入数，高阶压缩器通常通过组合多个较小的近似压缩器来构建，这可能会增加中间逻辑数量，并使多个子压缩器的误差贡献累积。此外，解析误差模型假设操作数位独立且均匀分布，因此可能无法完全反映依赖于工作负载的部分积统计特性。

基于上述研究，本文提出了两种低复杂度高阶近似压缩器 AC5-2 和 AC6-2，并将其集成到两种权重感知的混合 PPR 架构中。本文的主要贡献总结如下：

• 约束驱动的高阶压缩器设计：AC5-2 和 AC6-2 在统一的联合输出编码约束下推导得出。它们将五个或六个等权重的部分积直接约简为仅两个输出。这种更强的约简减少了传递到后续压缩阶段的中间部分积数量。独热输入最小项以均衡方式划分，以最小化所需的配对检测项。对所有 32 和 64 种输入组合的穷举评估验证了所得映射。

• 权重感知的混合架构：分别为 LPAM1 和 LPAM2 开发了线性和折线混合压缩树，提供了两个用于平衡硬件效率和计算精度的设计点。

• 面向人工智能的评估：除电路级误差指标和图像乘法外，还使用 ResNet-18/ImageNet 和 MobileNetV2/CIFAR-10 对所提出的乘法器进行评估，以量化在实际卷积神经网络操作数分布下的应用级精度和乘法器级动态功耗。

本文其余部分组织如下。第 2 节介绍相关工作。第 3 节介绍所提出的快速近似压缩器的设计及误差分析。第 4 节描述所提出的低功耗近似乘法器的架构。第 5 节系统评估所提出的乘法器的硬件性能和计算精度。第 6 节通过图像处理和卷积神经网络推理任务中的验证，进一步展示它们在人工智能相关应用中的实用性和有效性。第 7 节为本文的结论。

小节摘要

精确 5-2 和 6-2 压缩器

传统的精确 5-2 压缩器采用三个级联全加器（FA）实现 [35]，而传统的精确 6-2 压缩器由两个并行 FA 后接一个精确 4-2 压缩器组成 [36]。由于精确 4-2 压缩器本身包含两个 FA，因此精确 6-2 结构总共包含四个 FA。相应架构如图 1 所示。对于输入为 A、B 和 C_in 的 FA，传播信号、和信号及进位信号分别为：

p = A ⊕ B
S = p ⊕ C_in
C_out = A·B + C_in · p

提出的快速近似压缩器

为了进一步降低约简树的最终逻辑深度，本节开发了两种更激进的高阶压缩器 AC5-2 和 AC6-2，它们可以直接将更多的部分积约简为两个输出。

低功耗近似乘法器设计

基于第 3 节提出的快速近似压缩器，本节使用不同的混合压缩策略构建了两款低功耗近似乘法器 LPAM1 和 LPAM2。

硬件与精度评估

本节分析了所提出的低功耗近似乘法器 LPAM1 和 LPAM2 的硬件和精度指标，并将其与现有的低功耗近似乘法器架构进行对比 [20]–[28]、[33]。

近似乘法器在人工智能任务中的验证

为了验证所提出的近似乘法器架构在实际人工智能任务中的有效性，本节从两个角度对乘法器进行了深入评估，即低层图像处理（图像乘法）和高层视觉感知（卷积神经网络分类推理）。

结论

本文提出了两种低复杂度高阶近似压缩器 AC5-2 和 AC6-2，以及两款对应的 8 位无符号近似乘法器。压缩器层面的贡献是统一的联合约束饱和编码方法，该方法精确表示不超过二的输入计数，并结合均衡的独热划分来减少所需的配对检测逻辑。在乘法器层面，根据局部列高选择 AC5-2 和 AC6-2。

CRediT 作者贡献声明

唐西琴：概念化、方法学、形式分析、调查、软件、验证、可视化、初稿撰写、资金获取。
尚德龙：概念化、方法学、形式分析、监督、审校编辑。
刘伟：数据整理、调查、软件、验证、可视化、审校编辑。
刘雪春：监督、项目管理、资源、审校编辑。

论文准备过程中生成式人工智能及人工智能辅助技术的声明

在本作品的准备过程中，作者使用了 DeepSeek 来完善语言表达并提高文稿的语法准确性。作者根据需要审查和编辑了输出内容，并对已发表文章的内容承担全部责任。

利益冲突声明

作者声明以下财务利益/个人关系，可能被视为潜在利益冲突：唐西琴报告获得浙江省教育厅科研基金的资助。其他作者声明，他们没有已知的可能影响本文所报告工作的竞争性财务利益或个人关系。

唐西琴出生于中国湖南。她于 2020 年获得中国北京华北理工大学微电子科学与工程学士学位，并于 2025 年获得中国科学院微电子研究所博士学位。她目前就职于中国杭州的杭州职业技术学院。她的研究方向包括数字集成电路设计、近似计算和微处理器。

唐西琴 | 尚德龙 | 刘伟 | 刘雪春