基于请求内部延迟感知的缓存管理机制，以提高固态硬盘（SSD）的输入输出（I/O）响应速度

《ACM Transactions on Architecture and Code Optimization》：Intra-request Lag-aware Cache Management to Enhance I/O Responsiveness of SSDs

内请求延迟感知的缓存管理优化SSD调度器通过通道并行提升读写性能，但非协调队列导致内请求延迟影响响应速度。本文提出动态优先级缓存策略，针对延迟子请求优先加载数据，并采用读写分离缓存分区模型，实验表明99.9th百分位延迟降低26.2%，平均I/O时间减少35.0%。

　　

摘要

固态硬盘（SSD）提供了高度的通道级并行性，会将一个大型请求的子请求分发到不同的闪存通道中，以最大化并行性和利用率。然而，由于各个通道的队列没有进行协调，因此调度器可能会遇到不同的等待时间，也无法始终保持工作负载的平衡。由于只有当最后一个子请求完成时，整个大型请求才被视为完成，因此一些提前完成的子请求不得不等待最后一个子请求，这种现象被称为“请求内延迟”，从而影响I/O响应速度。本文提出了一种具有请求内延迟感知功能的缓存管理方法，以最大化通道级的读取并行性，从而改善用户体验，并平衡所有SSD通道上的I/O工作负载。当属于同一大型读取请求的某些子请求在拥堵的通道上被阻塞（表明存在请求内延迟）时，我们会优先将对应于延迟的数据加载到数据缓存中，而不是将读取请求的所有相关数据都加载进去。这样，如果将来再次进行相同的读取操作，缓存可以更快地响应并平衡各通道的工作负载。此外，为了专门缓冲小型读取请求的数据或大型读取请求中的请求内延迟数据以提高读取响应速度，我们提出了一种缓存分区模型，将数据缓存划分为读取缓存和写入缓存。基于跟踪数据的实验表明，与现有方法相比，我们的方案可以在99.9百分位的情况下将I/O请求的长时间延迟减少26.2%，并将总体I/O时间平均减少35.0%。