SIMT与SIMD定量对比
SIMT与SIMD定量对比：从指令执行到系统性能的量化分析
引言：走出概念混淆的认知陷阱
SIMD与SIMT的关系是并行计算领域最容易被误读的技术命题之一。常见误区包括：将SIMT视为“GPU版SIMD”、认为SIMT是SIMD的超集、或简单地将两者归结为“向量宽度不同”。事实是：SIMD是ISA（指令集架构）层面的向量化执行模型，而SIMT是以SIMD为硬件后端、通过多线程虚拟化实现SPMD编程模型的硬件架构。两者的差异贯穿指令格式、寄存器模型、寻址能力、分支处理、编程接口直至系统吞吐量。
本文拒绝泛化描述，全部对比锚定在可量化的技术指标上：指令宽度（位）、执行周期（周期）、加速倍数（×）、分支代价（%）、代码密度（1/N）等维度。全部数据引自NVIDIA/Intel官方文档、顶级会议论文及已验证的工程测量。
一、执行模型与硬件结构定量对比
1.1 指令与数据宽度
| 维度 | SIMD (CPU) | SIMT (GPU) | 定量差异 |
|---|---|---|---|
| 指令宽度 | 128/256/512位（固定） | 32位标量指令（动态聚合） | SIMD是显式宽指令，SIMT是标量指令+32线程束 |
| 并行数据通路 | 2/4/8/16路（AVX-512为16路单精度） | 32路（warp宽度） | SIMT硬件通道数是SIMD高端的2-16倍 |
| 程序计数器(PC) | 每核心1个 | Volta前：每warp 1个；Volta后：每线程1个 | SIMT线程粒度的PC带来数量级增长（2048线程/SM × 每个线程独立PC） |
| 寄存器模型 | 向量寄存器（128/256/512位） | 标量寄存器（32位），每线程私有 | SIMT寄存器文件容量是SIMD的50-100倍（A100: 64K×32位/SM） |
| 寻址能力 | 连续/对齐/同类型 | 任意地址，离散访问 | SIMT访存自由度提升∞（无对齐约束） |
核心定量：以ARM NEON为例，128-bit寄存器可容纳4个32-bit浮点数，一条vadd.f32指令同时对4个数据执行加法。NVIDIA A100的SIMT单元中，一个warp的32个线程执行add.f32指令时，硬件后端实际是4个SIMD单元各执行8路操作，或等效为32路标量ALU并行。SIMT的本质是用4-16倍于SIMD的硬件代价换取编程灵活性。
1.2 代码密度与指令数定量分析
以向量加法C[0:N] = A[0:N] + B[0:N]为例，N=4 时的指令数对比：
标量执行（SISD）：
t1 = LD B, i ; 1周期 t2 = LD C, i ; 1周期 t3 = t1 + t2 ; 1周期 ST A, i, t3 ; 1周期 ；重复4次 → 16条指令，16周期（理想流水）SIMD执行（ARM NEON/AVX）：
v1 = LD B, i, 4 ; 1条指令，4元素连续加载 v2 = LD C, i, 4 ; 1条指令 v3 = v1 + v2, 4 ; 1条指令 ST A, i, 4, v3 ; 1条指令 ；总计4条指令，4周期代码量：1/4，周期数：1/4
SIMT执行（CUDA）：
int idx = threadIdx.x; C[idx] = A[idx] + B[idx]; // 每个线程1条标量指令