10个GPU问题

随着AI大模型的爆发，GPU卡和GPU服务器的需求持续攀升。但在日常交流中，我发现很多朋友对GPU的基础概念仍存在模糊甚至混淆的地方。

今天，我用10个典型问题，帮你彻底理清GPU的架构、分类、接口、产品线等核心知识。无论你是运维、销售还是刚入门的技术小白，都能有所收获。

一、CPU和GPU到底有什么不同？

虽然CPU和GPU都是处理器，但它们内部的三大部分占比完全不同：

CPU：计算机的“大脑”，负责指挥和通用计算，必不可少。

GPU：图像/并行计算的“加速器”，协助CPU处理特定任务（图形渲染、矩阵运算等）。

一句话：CPU擅长复杂逻辑，GPU擅长简单重复的并行计算。

ALU：算术逻辑单元(arithmetic and logic unit) 是能实现多组算术运算和逻辑运算的组合逻辑电路，简称ALU。

二、GPU = 显卡？不对，它是显卡的“心脏”

很多人把GPU和显卡画等号，严格来说是不对的。

GPU：只是一颗芯片，负责计算。

显卡：整块电路板，包含GPU芯片、显存、供电模块、总线接口、散热风扇等。

类比：GPU : 显卡 = CPU : 主板。
GPU是显卡的心脏，CPU是主板的心脏。

三、GPGPU是什么？为什么AI芯片都用它？

GPGPU =General Purpose GPU（通用计算图形处理器）。

它在GPU的基础上：

去掉了专门的图形处理单元

保留了SIMT（单指令多线程）架构和大量通用计算单元

这样做的好处：更适合高性能并行计算（如AI训练、科学计算），并且支持更高级的编程语言（CUDA、OpenCL等）。

目前主流的A800、H800、昇腾910B、海光DCU等，都属于GPGPU。

四、NVIDIA显卡的三大分类：消费卡、专业卡、数据中心卡

注意：服务器大厂通常不公开零售消费卡，数据中心卡才是它们的“正规军”。

五、涡轮卡 vs 风扇卡：散热设计的门道

在GPU服务器中，经常要求使用涡轮卡，它和普通的风扇卡有什么区别？

涡轮卡：从涡轮开口处吸入冷空气，向四周360°抛散，热量从显卡尾部或头部排出。适合多卡紧贴的服务器环境。

风扇卡（下吹式）：冷空气从风扇进入，穿过鳍片后向四周散开，最终靠机箱上方风扇排出。适合单卡或空间宽松的PC环境。

服务器里显卡排布密集，涡轮卡能把热气直接排出机箱外，避免热量在卡间循环。

六、公版 vs 非公版显卡

公版显卡：由NVIDIA或AMD官方设计并销售。外观简洁，不是每个芯片都会出公版卡。

非公版显卡：华硕、七彩虹、微星等品牌购买GPU芯片后自行设计PCB和散热。外观更炫酷，频率和散热往往优于公版。

非公版又分为：顶级非公（堆料+高频）、普通非公、改版非公（缩水版）。

七、PCIe接口 vs SXM接口

SXM卡是NVLink整机的主力，性能更强，但更换和散热要求更高。

注：SXM：Scalable Link Interface Module，是由英伟达设计的一种高带宽、高速度的接口,专门用于其GPU加速计算产品。

八、英伟达HGX、DGX、DGX POD、DGX GH200，别再傻傻分不清

HGX H100：一个GPU模组，通常把8张H100 SXM卡 + NVSwitch板集成在一起，逻辑上像一个大的“GPU”。

DGX H100：英伟达官方整机，包含HGX H100 + 机箱、CPU、内存、硬盘等。

DGX POD：以多台DGX H100为核心的集群方案，包含IB网络、存储、管理节点等。

DGX GH200：基于Grace Hopper超级芯片 + NVLink Switch系统构建的超大集群。

简单记忆：HGX是心脏，DGX是身体，POD是军团。

九、NVLink和NVSwitch：多GPU互联的秘密武器

NVLink：一种高速互联技术，也是指物理链路。用于GPU之间直接通信，带宽远高于PCIe。

NVSwitch：基于NVLink技术的芯片或设备。

正是NVLink + NVSwitch，让8卡甚至千卡集群能够高效协同训练。

十、A800和H800：为了合规，阉割了什么？

受出口管制影响，英伟达向中国推出了A800和H800，性能上做了“定向调整”。

总结：A800相对“厚道”，只砍了带宽；H800对算力和带宽都动了刀，尤其是HPC常用的双精度能力被大幅削弱。

转自：https://mp.weixin.qq.com/s/xlTvcqn-xuNcnm3A66Ba8A