数据缓存分区在计算固态硬盘中的应用支持

《ACM Transactions on Architecture and Code Optimization》：Supports of Data Cache Division for Computational Solid-state Drives

计算SSD的缓存管理优化研究，提出动态划分缓存空间的方法，分别缓存主机侧输出数据和SSD侧输入数据，并构建数学模型周期性调整缓存比例，结合预主动式数据刷新机制减少I/O延迟。实验表明，相比传统LRU和固定划分方案，平均延迟降低35.4%，最高优化达52.6%。

　　近年来，随着计算需求的不断增长，传统的存储设备如固态硬盘（SSD）的功能已经不再局限于数据存储。新型的计算型固态硬盘（CompSSD）逐渐成为研究热点，它不仅具备传统SSD的存储功能，还引入了计算能力，使得数据处理可以在存储设备内部完成，从而减轻主机与存储设备之间的数据传输负担。这种设计可以有效提升系统整体性能，特别是在处理大量数据时。然而，传统的缓存管理策略并未针对CompSSD的特性进行优化，导致在使用过程中缓存效率低下，影响了系统的I/O性能。为此，本文提出了一种新的缓存划分方法，以动态地将缓存空间划分为两部分，分别用于缓冲主机侧任务的输出数据和CompSSD侧任务的输入数据。

CompSSD的结构使其能够同时承担存储和计算任务，这使得它成为现代数据中心中一种重要的计算存储混合设备。其内部的存储子系统负责处理标准的主机I/O命令，并将其分配给主机侧或CompSSD侧的任务；计算子系统则执行CompSSD侧的任务，并通过存储子系统访问数据。这种架构设计允许主机将繁重的数据处理任务卸载到CompSSD，而不影响现有的I/O协议栈的兼容性。然而，由于CompSSD的缓存同时用于两种不同的任务，传统的缓存管理策略可能无法满足其独特的性能需求。因此，我们需要一种新的缓存管理方法，以更有效地利用缓存资源。

在本文中，我们通过数学建模的方法，构建了一个动态的缓存划分方案，用于计算CompSSD的缓存分配比例。这个模型考虑了当前运行任务的读写数据量比例、缓存命中率以及主机与CompSSD之间数据传输的开销。基于这些因素，模型能够周期性地估算出最优的缓存划分比例，从而确保缓存资源的合理分配。此外，我们还提出了主动数据刷新机制，可以在CompSSD的底层闪存空闲时，将主机侧任务的输出数据提前写入闪存，从而减少缓存调整过程中可能产生的延迟。

为了验证所提出方案的有效性，我们使用了基于真实世界应用的块I/O追踪数据，并进行了模拟实验。实验结果表明，与现有的缓存管理方案相比，我们的方案在整体I/O延迟方面平均提升了35.4%，最高可达52.6%。这表明，我们的方法能够显著改善CompSSD的性能表现。此外，我们还对缓存划分策略进行了理论证明，确认了共享缓存方案相较于非共享方案的优越性。我们的模型通过分析不同任务的I/O特征和缓存使用情况，能够动态调整缓存划分比例，从而优化任务执行效率。

主动数据刷新机制是该方案的一个关键部分。在进行缓存调整时，可能会涉及到数据页面的刷新，这可能会影响正在进行的I/O操作。为了避免这种影响，我们设计了一种主动刷新机制，能够在闪存空闲时，将主机侧任务的输出数据页面刷新到闪存中。这样可以确保在缓存调整期间，不影响正在进行的I/O请求，从而提高整体的I/O性能。通过这种方式，我们的方案能够最小化缓存调整对系统性能的负面影响。

此外，我们还对方案的实现细节进行了深入探讨。该方案在执行过程中，会周期性地收集主机和CompSSD的I/O工作负载特征，并利用这些特征计算出最优的缓存划分比例。这一比例将用于指导后续的缓存替换操作，以确保缓存资源能够被高效利用。我们还讨论了该方案对系统生命周期的影响，特别是对闪存擦除次数的影响。实验结果显示，虽然主动刷新可能会略微增加闪存的擦除次数，但这种增加在可接受的范围内，并且不会显著影响CompSSD的使用寿命。

为了进一步分析该方案的性能表现，我们评估了多个关键指标，包括I/O性能、缓存命中率、长尾延迟、缓存划分统计以及擦除统计。结果表明，与传统的缓存管理方案相比，我们的方案在这些指标上都表现出了显著的提升。例如，在I/O性能方面，我们的方案能够有效减少整体的I/O延迟，提高系统的响应速度。在缓存命中率方面，尽管我们的方案并没有达到最高的命中率，但它通过动态调整缓存划分比例，显著提升了I/O响应的效率。在长尾延迟方面，我们的方案也表现出了优势，特别是在处理极端情况下的I/O请求时，能够有效减少延迟。

在实验设置中，我们使用了MQSim这一SSD模拟器，以支持对现代多队列SSD性能的建模。通过对比不同缓存管理策略，我们发现，与LRU、Fixed Cache Division等传统方案相比，我们的Adaptive+方案在多个方面都表现出优越性。此外，我们还分析了该方案在实际应用中的潜在优势，例如在处理复杂数据集时，能够更有效地利用缓存资源，从而减少数据传输的时间开销。

总的来说，本文提出了一种新的缓存管理方案，适用于计算型固态硬盘（CompSSD）。该方案通过动态划分缓存空间，分别缓冲主机侧任务的输出数据和CompSSD侧任务的输入数据，从而提升整体的I/O性能。此外，我们还引入了主动数据刷新机制，以减少缓存调整对I/O性能的影响。实验结果表明，这一方案能够显著改善CompSSD的性能表现，同时保持良好的缓存使用效率。未来，我们计划在真实硬件平台上进行进一步的验证，并设计一个开源的硬件平台以评估该方案的实用性。