重新审视缓存淘汰机制：低开销且精确的学习型设计

《ACM Transactions on Computer Systems》：Rethinking Cache Eviction: Low-Overhead and Precise Learning-based Design

　　

摘要AI 摘要

要查看此 AI 生成的摘要，您必须拥有高级访问权限。

了解更多登录

摘要

摘要

缓存可减轻延迟和网络流量，而缓存性能在很大程度上取决于驱逐策略。驱逐效果通常通过字节和对象未命中率来衡量。尽管基于学习的驱逐策略可以减少未命中，但高昂的计算开销限制了其实际部署。

本工作提出了 3L-Cache+，这是 3L-Cache 的扩展和精化版本。3L-Cache+ 是一种对象级基于学习的驱逐策略，在提供强大的整体未命中率性能的同时实现了较低的计算开销。为了降低开销，我们引入了两项关键技术。首先，我们设计了一种高效的训练数据收集方案，该方案过滤冗余请求并动态调整训练频率。其次，我们提出了一种轻量级驱逐方法，该方法结合了双向采样（优先处理冷门对象）和高效的驱逐候选选择策略。此外，自动调优机制提高了在不同轨迹上的适应性。我们在测试平台中使用 4,855 个轨迹对 3L-Cache+ 进行了评估。结果表明，与 HALP 和 LRB 相比，3L-Cache+ 将平均 CPU 开销分别降低了 74.7% 和 95.5%，与之前的 3L-Cache 基准相比降低了 22.7%。在小缓存大小下，3L-Cache+ 仅产生 4.8 倍的 LRU 开销，在大缓存大小下为 3.1 倍，同时在 11 种最先进的策略中实现了最佳的字节或对象未命中率性能。

AI 摘要

AI 生成摘要（实验性）

本摘要使用自动化工具生成，未经文章作者撰写或审核。它旨在支持发现，帮助读者评估相关性，并协助来自相邻研究领域的读者理解该工作。它旨在补充作者提供的摘要，后者仍然是论文的主要摘要。全文仍然是权威的正式记录版本。点击此处了解更多。

点击此处评论此摘要的准确性、清晰度和有用性。这样做将有助于改进和未来的重新生成版本。

要查看此 AI 生成的通俗语言摘要，您必须拥有高级访问权限。