缓存分区管理：提升NVMe固态硬盘的公平性和I/O响应速度

《IEEE Transactions on Parallel and Distributed Systems》：Cache Partition Management for Improving Fairness and I/O Responsiveness in NVMe SSDs

NVMe SSD前端数据缓存受多流并发干扰导致不公平性，本研究提出基于长期分区与短期调整的缓存管理方案，通过全局共享机制提升多流场景下的公平性和响应速度，实验显示公平性提升66%，整体响应时间减少3.8%-18%。

　　

摘要：

NVMe固态硬盘（SSD）由于其紧凑的体积和极低的延迟，已成为主流存储设备。研究发现，同时运行的所有数据流（即I/O工作负载）之间的干扰对其整体响应性能的影响存在显著差异，从而导致不公平现象。数据流的强度和访问局部性是导致干扰的主要因素。为了提高I/O性能并延长设备寿命，SSD的前端通常会配备一个小型的数据缓存。然而，这一级别的并行度相对于SSD后端（由多个通道、芯片和平面组成）来说是有限的。因此，在数据缓存层面，干扰的影响可能更为显著。在本文中，我们提出了一种缓存分区管理方案，该方案不仅有助于提高公平性，还能提升NVMe SSD中所有工作负载的I/O响应性能。具体而言，我们的方案支持长期数据缓存分区和短期缓存调整，并实现全局共享，从而在多数据流场景下进一步提高缓存利用率。基于跟踪的仿真实验表明，与现有的NVMe SSD缓存管理方案相比，我们的方案平均提高了66.0%的公平性，并将整体I/O响应时间减少了3.8%至18.0%。

引言

基于NAND闪存的固态硬盘（SSD）因其低功耗、快速的读写速度和成本效益而被广泛应用于各种计算系统中[1]、[2]、[3]。随着存储优化技术的进步，NVMe（非易失性内存快速）接口已被标准化，以支持通过PCI Express（PCIe）互连实现高性能存储[4]。NVMe协议允许SSD控制器直接处理来自多个请求队列的I/O请求，从而根据SSD设备的可用带宽资源进行更有效的调度[5]。通常，SSD设备内部会集成更快但容量较小的动态随机存取内存（DRAM）作为缓存。这种集成旨在进一步提升SSD的I/O性能，并减少需要刷新到底层闪存阵列的数据量。因此，热点数据访问可以通过缓存来处理，从而提高I/O响应性能并延长SSD的使用寿命，因为减少了对接层闪存阵列的I/O操作次数[6]。尽管NVMe接口提供了更高的吞吐量和资源利用率[7]，但由于缺乏操作系统调度器[8]、[9]，仍然存在公平性控制的问题。在主机上同时运行多个应用程序的场景中，通常会有多个数据流活跃地处理应用程序请求[10]、[11]。研究发现，同时运行的所有工作负载之间的干扰对其整体响应性能的影响存在很大差异，从而导致不公平现象。I/O工作负载的强度和访问局部性是影响干扰的主要因素[12]。此外，与由多个通道、芯片和平面组成的SSD后端相比，数据缓存位于SSD前端，其并行度有限。因此，在数据缓存层面，干扰的影响可能更为明显[12]。换句话说，某些访问频率较高的数据流往往会占据大部分缓存空间，导致其他数据流中的缓冲数据被驱逐，从而在涉及的数据流之间造成明显的不公平[13]、[14]。