内存优化的分类

内存访问优化是提高程序性能的一个核心部分。在现代计算机系统中，内存访问通常比 CPU 运算慢得多，特别是在涉及到主内存的访问时。因此，优化内存访问模式，减少内存延迟，是实现高效程序的关键。

1 内存访问局部性

内存访问局部性（Locality）是指程序在访问数据时，具有的空间和时间上的局部性。提高内存访问的局部性可以显著减少缓存未命中的次数，从而提高程序性能。

1. 空间局部性（Spatial Locality）
   空间局部性指的是程序访问的数据在物理内存中是相邻的。例如，当程序访问数组中的一个元素时，接下来可能会访问该元素附近的元素。优化程序的内存访问模式，确保相邻数据被访问，可以有效利用 CPU 的缓存系统。

   优化方法：

   • 顺序访问：按顺序遍历数组，避免随机访问。
   • 数据结构选择：使用连续存储的结构（如数组）而非链表，以提高空间局部性。

2. 时间局部性（Temporal Locality）
   时间局部性指的是程序在访问某个数据时，未来可能会再次访问该数据。优化程序的时间局部性，意味着将常用数据保持在缓存中，减少对主内存的访问。

   优化方法：

   • 缓存热数据：将频繁使用的数据尽量存储在 L1 缓存中，以提高命中率。
   • 循环展开：避免在循环中频繁重新计算或访问相同的数据，通过提前加载常用数据到寄存器或缓存中。

2 数据对齐与内存访问

内存对齐是指将数据结构的起始地址对齐到合适的边界上。现代 CPU 在访问对齐的数据时，速度通常比访问非对齐数据更快。内存对齐优化有助于减少 CPU 在访问数据时的额外开销。

内存对齐优化的建议：

• 结构体对齐：确保结构体中的字段按照 CPU 对齐要求进行排列，以避免额外的内存访问延迟。
• 内存池管理：通过内存池分配内存时，保证每个对象的地址对齐，以减少不必要的内存访问。

3 优化内存带宽

现代程序中，内存带宽是一个重要的性能瓶颈。优化内存带宽利用率，减少内存访问次数，可以显著提高程序性能。

优化方法：

• 批量读取数据：减少单次内存读取的次数，尽量一次性加载大量数据。
• 内存访问合并：多个线程或任务应该合并访问相同数据的请求，避免重复的数据访问。