基于Cu/CuBiSe2/SrNbO3/W忆阻器的可编程语音识别技术

《ACS Omega》：Programmable Speech Recognition Based on Cu/CuBiSe2/SrNbO3/W Memristors

　　高分辨率图像下载 MS PowerPoint 幻灯片

传统的speech识别系统严重依赖于手工设计的声学特征，并且受到模型的内在限制，这些模型忽视了连续性和动态特性。这导致识别精度降低和能耗增加。循环神经网络（RNN）由于其强大的自主学习能力和众多可调参数，在处理时间序列数据方面展现出巨大潜力。在这里，我们介绍了一种高性能的 Cu/CuBiSe2/SrNbO3/W 半忆阻器的设计，该忆阻器能够对时间信号做出响应，实现了 10^6 的开/关比、47.5 pW 的切换功率、10^5 次的循环寿命以及低于 200 ns 的切换时间。这种忆阻器能够很好地模拟几种关键的突触行为，如双脉冲 facilitation 和长期增强/抑制。基于这种忆阻器的交叉阵列构建了一个高效的半硬件 speech识别系统。作为演示，该阵列能够准确识别和区分四种常见的方向声音。当前的工作表明，这种高性能忆阻器在类脑计算、图像识别和存储技术中具有广阔的应用前景。

引言

深度学习人工神经网络在各个领域都显示出巨大潜力，如图像处理、语言分析、环境感知和 speech识别（1?4），尤其是张量计算可以更高效地进行（5,6）。当前的 speech识别系统只能从句子中的单个单词中提取和组合特征，忽略了单词在上下文中的额外含义（丢失了时间信息）。这一限制阻碍了 speech识别精度的提高（7?11）。当前的特征提取和集成仍然受到传统计算-存储分离（冯·诺依曼架构）的限制，导致数据传输和存储期间的高能耗（12?14）。Speech识别的关键操作涉及傅里叶变换后的频率数据进行张量计算（15）。张量计算是神经网络训练过程中的关键组成部分，涉及权重状态的更新（16,17）。这一权重更新过程与忆阻器在电刺激下的电导变化密切相关（18）。

先进的过渡金属硫化物（TMS）忆阻器在张量计算应用中提供了显著优势，包括仿生视觉、数字识别和信号去噪（19?21）。Cu+ 在 CuBiSe2 中在电场下的迁移反映了神经突触之间的信息传输，使其能够在很大程度上模拟突触活动（22,23）。TMS 对外部电刺激表现出快速和精确的响应，能够生成多样化的电阻状态，从而模拟人工神经网络的广泛参数（23,24）。然而，单层 TMS 设备的电阻变化较小，这是在开发具有高开/关比的忆阻器时面临的主要挑战。

锶铌酸盐（SNO）作为高 K 介电材料在电子元件中表现出巨大潜力（25）。尽管通过简单的磁控溅射（在室温下制备）得到的 SNO 薄膜是无定形的，但该薄膜为 Cu+ 的迁移提供了途径，从而实现高开/关比（26?28）。因此，结合了过渡金属硫化物和 SNO 的功能层忆阻器可能实现 speech 识别中的并行张量计算。

在这项工作中，输入信号和输出信号之间的转换过程是基于软件的，而所有涉及电流信号的步骤都基于忆阻器阵列。我们使用磁控溅射技术制备了 Cu/CuBiSe2/SrNbO3/W 忆阻器。该设备展示了 10^6 的开/关比、低于 200 ns 的响应时间、低写入能量消耗（47.5 pW）、10^5 次循环寿命以及在脉冲刺激下的可调导电性，并且对时间信息有特征性响应。由忆阻器构建的交叉阵列在人工神经网络中展示了出色的 speech 识别能力，对于四种常见方向声音的分类准确率达到了 99.84%。这为忆阻器 speech识别的低成本应用开辟了道路。

结果与讨论

图 1a 展示了使用循环神经网络（RNN）进行 speech 处理和识别过程。输入的 speech 经过傅里叶变换，转换为频域信号。Cu/CuBiSe2/SrNbO3/W 忆阻器在不同电信号下表现出不同的导电状态（29,30）。这类似于神经突触对外部刺激的学习和遗忘过程。它们从频率和时间信息中提取和组合特征，实现了自然的 speech 识别和分类（31）。

图 1a：基于人工神经网络的 speech 识别和设备原理示意图。(a) 基于人工神经网络的自然 speech 识别和处理。(b) 多层 Cu/CuBiSe2/SNO/W 忆阻器的 TEM 图像。(c) 设备结构示意图。(d) 典型的忆阻式 RS I–V 恒磁回线。

图 1b 展示了忆阻器的截面 TEM 图像，显示了 40 nm 的 SNO 层和 150 nm 的 CuBiSe2 （CBS）层，层间界面平滑。图 1c 说明了设备结构，包括 Si/SiO2 基板、W 下电极、SNO 层和 Cu 上电极。红色球体代表 Cu+。当在施加偏压下形成导电路径（即 Cu 丝）时，忆阻器进入低电阻状态（SET，或在信息处理中表示为高权重状态）。图 1d 显示了在 100 μA 顺应电流（Icc）下进行循环电压扫描时忆阻器的典型非易失性曲线。设备在 0.3 V 时经历 SET 过程（从高电阻状态转换为低电阻状态），在 ?0.18 V 时经历 RESET 过程（从低电阻状态转换为高电阻状态）。

研究了设备中每层的化学组成。图 S1a 显示了当 X 射线照射到 CuBiSe2 层表面时的全谱 X 射线光电子能谱（XPS）分析结果。图 2a–c 显示了局部化的 XPS 元素拟合结果。铜显示了两个 Cu 2p1/2 和 Cu 2p3/2 能级峰，分别位于 933.06 和 952.86 eV（32）。接近 942 eV 处没有 Cu2+ 的卫星峰，说明存在 Cu+。Bi 元素显示了四个峰（164.55、162.85、159.25 和 157.60 eV），对应于 Bi 4f 5/2 和 Bi 4f 3/2 能级，表明 Bi 在化合物中处于 +3 价态。Se 3d 谱显示了两个峰，分别位于 54.45 和 53.7 eV（对应于 Se 3d 3/2 和 Se 3d 5/2），表明 Se 处于 -2 价态（19,33）。图 2d 显示了 CBS 层的原子级晶格图像。扫描透射电子显微镜（STEM）用于分析设备中每层的化学组成。FFT 分析和与原子模型的比较表明，晶粒沿着 [4 4? 1?] 晶向轴排列（1）。图 2e 显示了各层的能量色散 X 射线能谱（EDS）图以及高角度环形暗场（HAADF）STEM 图像。制备的多层设备显示出均匀的元素分布，没有元素分离。EDS 谱谱见图 S1b。为了研究电阻变化机制，还使用聚焦离子束（FIB）制备了 SET 后的样品（即电阻变小的样品），并与其原始样品的微观结构进行了比较。图 2f 显示了低电阻状态下忆阻器的微观结构。左侧面板显示了沿着箭头方向铜信号强度随距离的变化。图 2g 显示了在形成 Cu 丝过程中 Cu+ 向 W 电极迁移的情况。在锥形导电丝形成之前，设备表现为半导体。当 Cu+ 接触 W 电极时，它会获得电子，变为金属状态，并形成导电丝，使设备从高电阻状态（HRS）切换到低电阻状态（LRS），如图 S2 所示。图 S3 中的双对数 I–V 拟合曲线证实了这种行为是电化学导电机制（ECM）（34）。

通过改变设备中每层的厚度，我们优化了设备性能。如图 S4 和 S5 所示，我们研究了不同顶部电极（Ag、Cr 和 Cu）、SNO 层厚度（50、100 和 150 nm）以及 CBS 层厚度（30、50 和 80 nm）对设备性能的影响。我们发现，性能最好的设备是顶部电极为 Cu、CBS 为 50 nm、SNO 层为 50 nm 的设备。图 3a 显示了该设备在 100 循环内的优异循环保持能力和稳定的高低电阻切换特性，Icc 为 100 μA。图 1c 中的 Cu 上电极作为电源的正极。设备的初始状态是 HRS（对应于 RNN 中的低权重状态）。施加 0 到 0.6 V 的电压时，Cu+ 在电磁力的驱动下穿透 SNO 层，在 0.3 V 时形成锥形导电丝。在此电压下，设备转换为 LRS（对应于 RNN 中的高权重状态，即 SET 电压 VSET）。在电压从 0.6 降至 0 V 的过程中，电阻状态保持不变，表现出非易失性。在 ?0.2 V 时，导电丝断裂，导致设备从 LRS 状态恢复到 HRS 状态。这个电压定义为 RESET 电压 VRESET。这两种状态下的电流比率定义为开/关比（ILRS/IHRS），得到了 10^6 的开/关比。在图 S6a 中，通过控制 Icc，我们可以将设备调节到不同的电阻状态（对应于 RNN 中的权重状态）。为了构建集成式人工神经网络，忆阻器应具有足够集中的工作电压。经过 100 循环后，我们通过高斯拟合统计分析了工作电压，得到 VSET = 0.319 V 和 VRESET = ?0.178 V；σVSET 和 σVRSET 均小于 0.045（如图 3b 所示）。同时，在 SET 过程中，切换功率消耗保持较低，平均为 47.5 pW。我们在表 1 中添加了类似设备的相关参数。数据结果适用于大规模集成。获取功率消耗和计算方法的示意图见图 S7。图 3c 显示了在图 3a 条件下经过 103 循环后设备的测试结果。设备在整个循环过程中显示出稳定的高-低电阻切换，开/关比超过 10^5，表明在重复操作后结构退化最小。这使得忆阻器能够在短时间内多次稳定地写入和擦除电阻，适用于模拟神经网络。

表 1：基于不同金属/氧化物结构的忆阻器设备特性比较

| 结构 | 开/关电阻 | 切换电压 | 耐用性（循环次数） |
|---------------|-------------|---------------|-----------------|
| Ag/PEI-AgClO4/Pt | 10^3 | 1.2 | –1.2 |
| |Nano Lett., 2022, 22, 7246–7253 |
| Ag/Mn–ZnO/ITO | 2.7 | ×10^3 | 0.7 | –0.6 |
| |Mater. Sci. Technol., 2022, 119, 123–130 |
| Au/MoS2/Au | 10^2 | 1.0 | –1.0 |
| |Nano Lett. 2018, 18, 434 |
| Cu0.3Te0.7/HfO2/Pt | 10^4 | 1.5 | –2 |Nat Commun 15, 3245 (2024) |
| Pt/AlOx/ZnO/Ti | 10^2 | 5 | –8 |
| |IEEE Trans. Electron Devices 2022, 69, 838 |
| Ni/SiNx/HfO2/p++Si | 10^2 | 4 | –2 |Phys. D: Appl. Phys. 2020, 53, 435 |
| |10^2 | | |
| Gr/MoS2–xOx/Gr | 10^2 | 1.5 | –2.5 |Nat Electron 1, 130–136 (2018) |
| Cu/CuBiSe2/SrNbO3/W | 10^6 | 0.3 | –0.18 |10^5 |

图 3：设备低采样率响应图。(a) 100 循环内设备 I–V 扫描的对数图。(b) 100 循环权重写入和擦除操作期间对应的工作电压直方图（曲线代表高斯拟合）。(c) 1000 I–V 循环内两种权重状态的循环稳定性图。(d) 三种权重状态的时间保持特性。(e) 100 I–V 循环内四种权重状态的累积频率图。(f) 7 周内设备 I–V 循环的对数图。

用于 RNN 的设备应能够在较长时间内保持其电阻（或权重状态），并且仍能在环境条件下进行电阻切换。图 3d 显示了使用 0.2 V 电压和 10 ms 读取时间对设备电阻状态进行的 104 秒保持测试。在测试中，三种电阻状态（通过Icc调节）保持稳定，证明了该设备能够在较长时间内维持神经网络权重状态。图3e验证了该设备在不同电阻状态下的重复使用能力。该设备在三个不同的Icc水平下表现出三种不同的低电阻状态（LRS），而其高电阻状态（HRS）值几乎相同，并在整个循环过程中保持稳定。详细结果见图S6b。我们推断，三个不同的Icc基因在SNO层中生成了三种不同厚度的导电丝，从而产生三种低电阻状态。图3f显示了该设备置于环境环境中并受到每周一次的直流循环测试以评估其稳定性。在7周的测试期间，工作电压和选择性均保持不变，显示出在环境条件下的卓越稳定性。这些测试表明，当用于模拟神经网络时，该设备具有出色的电阻保持性、循环稳定性和长期可重复性。特别是，只需简单地改变Icc就可以实现不同的权重级别。鉴于模拟人工神经网络的学习过程需要信息处理单元快速和准确的信号响应，我们系统地评估了该设备的动态和非线性特性。如图4a所示，我们首先将设备维持在-1 V的HRS状态，然后在10 ns内将其增加到0.5 V。结果显示，设备在大约180 ns内从HRS状态转换为LRS状态（SET），然后在120 ns内从LRS状态转换回HRS状态（RESET）。因此，我们应用了微秒级的脉冲来研究设备的响应特性（以确保获得可靠的结果）。该设备在脉冲电压下表现出丰富的动态和非线性特性，并能模拟神经学习行为中的短期突触可塑性。图4b显示，当设备受到0.5、1、4和8 μs脉冲宽度的信号影响时，其响应时间随着脉冲持续时间的增加而显著缩短。这导致了非线性响应和多个电阻状态的形成。图4c展示了设备对0.4、0.6和0.8 V脉冲电压的响应。脉冲宽度和间隔分别保持为40 μs和10 μs。通过重复施加多个脉冲，电阻变化逐渐累积。这一过程模拟了神经元在重复信息作用下形成新的突触连接的过程，模拟了从短期记忆到长期记忆的转变。如图S8–10所示，我们利用这一特性模拟了在不同信息权重条件下的神经元学习能力。这提供了关于不同脉冲幅度（0.4、0.6和0.8 V）、宽度（0.5、1、2、4和8 μs）以及间隔（1、2和4 μs）的详细信息。

为了进一步研究设备的非线性响应，对时间信息进行了更全面的分析。图4d展示了正负脉冲下电导的双向调节特性。脉冲信号的特性与图4c所示一致，其中前30个脉冲对应于正向刺激。从第31个脉冲开始，刺激方向反转。当设备受到0.4、0.6和0.8 V的脉冲信号刺激时，0.4 V刺激下的电导率呈现线性增长趋势。然而，超过某个特定阈值后，设备表现出非线性动态响应。在接收到相同数量的脉冲刺激后，脉冲电压越大，电阻越低。设备对正负脉冲的响应类似于神经元的记忆和遗忘行为，有利于可编程的权重编程和擦除。图S11展示了30个脉冲的详细响应过程。该设备可以产生类似神经元突触的非线性电阻变化，对不同宽度、幅度和数量的脉冲信号都有响应。一个4位的逻辑脉冲被施加到设备上，逻辑信号“1”对应0.6 V，而信号“0”对应0 V。单个逻辑信号的持续时间为40 μs。在逻辑脉冲之后，设备连续读取电阻信息100秒，采样时间为10 ms，电压幅度为0.2 V。脉冲操作和读取模式详见图S12。如图4e所示，设备接收的“1”脉冲越多，得到的电导率值越大。在相同的电刺激下，用“1”脉冲写入的权重在测试周期的后半部分表现出更大的幅度。这证明了设备对携带时间信息的信号的响应。此外，为了评估忆阻器在脉冲条件下的重复性，我们对设备进行了超过10^5次脉冲循环的测试（见图S13），显示出高稳定性。然后我们设计了一个光掩模，将25个独立设备集成到5 × 5的交叉阵列信息处理单元中，如图4f所示。单个设备的IV曲线见图S14。图S15显示了设备的工作电压和开/关比率误差分布。集成后的交叉条阵列保持了与每个独立设备相似的工作电压幅度，其开/关比率符合读取和识别标准。由Cu/CBS/SNO/W忆阻器构成的阵列展示了强大的非线性I–V特性和时间响应，适用于语音识别。我们基于该阵列构建了一个基于深度学习网络架构和RNN的语音识别半硬件系统。忆阻器作为权重和输出偏置用于特征提取和组合。根据欧姆定律，电流等于电压与电导率的乘积，类似于卷积过程中的乘法操作。通过集成，可以实现高密度的计算单元，使得输入数据和权重之间可以进行张量计算。同时，忆阻器对时间信息的独特响应可以提供语音信号傅里叶变换过程中丢失的时间信息。因此，在这种混合硬件系统中进行语音识别时，忆阻器可以在频率域和时间域都对语言信息进行处理。这种方法显著提高了分类准确性，优于仅在频率域进行识别处理的方法。

图5a展示了语音识别和处理的完整过程。使用麦克风收集了四个方向声音（上、下、左、右）的数据集，每个音频录制的采样率为16 kHz，深度为16位，持续时间为0.8秒。每个音频录制开始时设置了0.25秒的空白期。图S16展示了典型的声学图像和频谱图。通过傅里叶变换和模数转换，我们获得了包含频率域信息和时间信息的梅尔频谱图。频率域信息通过16个3 × 3卷积核进行特征提取，然后使用2 × 2卷积核进行池化。特征提取和池化过程重复使用三十二个3 × 3和十六个2 × 3卷积核。频率域信息和时间域信息通过DAC量化为-1.8到1.8 V范围内的模拟信号。这些信号随后被输入到全连接的忆阻器阵列层中。输出电流信号通过ADC转换为数字信号，经过归一化后由计算机比较，得出最终输出。图5b展示了四个方向术语的时间信息，通过DAC转换为强度与时间的信号后输入到忆阻器中。在受到四个不同电压信号的作用后，忆阻器生成了四个可区分的电阻状态；详细的转换结果和方法见图S1。图5c中的4 × 4混淆矩阵显示了四个声音标签的预测（横轴）和实际（纵轴）值，匹配精度非常高。图5d展示了经过50次训练循环（每次循环包含10次权重迭代）后的RNN网络输出。（35?37）该设备实现的语音识别准确率达到99.84%。程序执行结果和代码截图见图S18。这比仅使用频率域进行语音识别的准确性有了显著提高。

结论：本研究介绍了Cu/CuBiSe2/SrNbO3/W忆阻器及其交叉阵列作为高效自然语音识别硬件。该设备具有10^6的开/关比率、47.5 pW的写入功率和小于200 ns的响应时间，并预计可以超过10^5个循环。设备的快速准备、低能耗的读/写操作和可编程的电阻状态使其能够利用突触权重的非线性响应，模仿生物神经活动。其对时间信息的高敏感性，在集成到循环神经网络（RNN）中时具有显著优势，有助于语音识别。实验结果表明，结合时间特征显著提高了识别准确性；经过50次训练循环后，输出准确率达到99.84%。该设备性能优异，在人工神经网络、语音识别和存储方面具有巨大潜力。

实验部分：设备制造细节
该设备是通过在单晶硅（Si, 100）基底上使用磁控溅射沉积技术制造的。硅基底在无水乙醇和去离子水中超声清洗了5分钟。随后，依次在基底上沉积了50 nm厚的W、SrNbO3、CuBiSe2和Cu层。W层在整个1英寸的基底上使用直流溅射以70 W功率和0.1 Pa压力沉积。后续层在30 W功率和0.6 Pa压力下使用逐渐减小的金属掩模沉积。设备表征和测量
准备好的多层薄膜设备通过聚焦离子束（FIB）蚀刻加工成TEM样品。使用场发射透射电子显微镜（TEM, Talos F200s, FEI）对样品进行了TEM表征。通过XPS分析了薄膜的元素价态。使用半导体测试仪（Keysight B1500A）在室温下测试了设备的电气特性。