进阶篇第6节：合并访问——揭秘全局内存合并访问及其重要性

引言

全局内存的带宽是宝贵的，合并访问就是让每一滴带宽都发挥价值

在筑基篇中，我们多次提到“合并访问”这个词，也知道它很重要。但你可能并不清楚：为什么合并访问能提升性能？不合并会慢多少？怎么判断自己的访问是否合并？这些问题，直接关系到你能否写出真正高效的CUDA程序。

全局内存是GPU与显存之间的通道，带宽虽高（A100达1.5TB/s），但延迟也大（~400周期）。如果访问模式不合理，带宽利用率可能从90%骤降到10%，性能差一个数量级。

本节将深入合并访问的硬件原理，教你如何设计内存访问模式，让全局内存的每一分带宽都用在刀刃上。

一、合并访问的硬件原理

1.1 内存事务（Memory Transaction）

GPU访问全局内存时，不是按字节或单个元素进行的，而是以事务为单位。每个事务可以传输32字节、64字节或128字节的数据，具体取决于访问模式和对齐情况。

当warp内的32个线程同时访问内存时，内存控制器会分析这些访问，尝试将它们合并成尽可能少的事务。

1.2 合并的条件

一个warp的访问可以被合并，需要满足：

1. 地址连续：32个线程访问的地址是连续的（即第i个线程访问的地址 =