摘要
现代高性能计算系统的性能越来越受到内存子系统交互效率的限制，而非计算能力本身的限制。因此，对于那些计算密集型应用（包括数值模拟、科学计算和机器学习内核）的开发者来说，优化缓存行为变得至关重要。然而，现有的分析工具存在根本性问题：它们要么仅提供汇总统计信息，要么以机器地址而非源代码结构的形式展示数据，从而阻碍了对复杂数据密集型程序的针对性优化。本文介绍了CATS（C Annotated Trace-based Cache Simulator），这是一种新颖的混合方法和工具集，用于详细分析缓存效率，旨在克服这些限制。CATS结合了源代码级别的静态分析和中间表示（IR）层面的动态追踪，生成了带有语义注释的内存跟踪记录，能够精确识别导致缓存未命中的源代码数据结构（数组、结构体、动态分配的对象）。本文详细描述了CATS的方法论和架构，并通过与其他模拟器（gem5、Valgrind）在常用计算内核（通用矩阵乘法GEMM）上的对比测试来验证该方法的准确性。系统性的误差分析量化了CATS在不同输入规模（L1缓存：32 KB，L2缓存：256 KB）下的准确性。目前的工作主要集中在基于单线程CPU的C程序上；将CATS扩展到不规则内核、多线程工作负载、硬件加速器（GPU、FPGA）以及特定AI应用被列为未来的研究方向。在设计阶段早期应用CATS可以识别出算法中的缓存瓶颈，从而补充传统的编译器级优化措施。
