Tesla T4 是 NVIDIA 于 2018 年 9 月正式发布 的专业级 GPU，属于其 Tesla 系列产品线，面向 AI 推理、深度学习和云计算等高性能计算场景。 该 GPU 基于 Turing 架构，搭载 2560 个 CUDA 核心，并配备 16GB GDDR6 显存，具有较高的能效比，尤其适合边缘计算和推理任务。
NVIDIA Tesla P100 16GB是英伟达公司于2016年推出的帕斯卡架构专业级显卡，采用GP100核心，配备3584个CUDA核心和16GB HBM2显存。 其高带宽显存（4096bit位宽）和250W最大功耗设计，主要面向高性能计算、深度学习等专业领域 [2-3]。 截至2025年，该显卡仍活跃于市场，并通过促销活动拓展商用场景。
1. A10
显存：24 GB GDDR6
CUDA 核心：6144
峰值性能（FP16）：312 TFLOPS
推荐应用场景：AI 推理、深度学习训练和图形处理任务。
优势：A10 是较新的 GPU，拥有较大的显存和强大的计算能力，适合大模型训练和推理任务，尤其在内存密集的任务（如 NLP 大模型）中表现出色。
推荐用途：需要高显存和较高计算性能的任务，例如大语言模型的推理和训练。
2. V100
显存：16 GB 或 32 GB HBM2
CUDA 核心：5120
峰值性能（FP16）：125 TFLOPS（16 GB） / 30 TFLOPS（32 GB）
推荐应用场景：深度学习训练和推理。
优势：V100 的 HBM2 内存带宽非常高，适合需要高速数据吞吐的模型训练任务。尽管已经不是最新一代，但性能仍然很强大。
推荐用途：AI 训练，尤其是大型深度学习模型的训练任务。
3. T4
显存：16 GB GDDR6
CUDA 核心：2560
峰值性能（FP16）：65 TFLOPS
推荐应用场景：推理、视频处理和轻量模型训练。
优势：T4 的性价比很高，功耗低，适合需要较高吞吐量的推理任务，是流行的推理 GPU，适合在线推理的成本优化需求。
推荐用途：成本敏感的推理任务，例如小型到中型的深度学习模型推理。
4. P100
显存：16 GB HBM2
CUDA 核心：3584
峰值性能（FP16）：18.7 TFLOPS
推荐应用场景：基础的深度学习训练和推理。
优势：P100 已不再是主流 GPU，性能较低，但在某些预算紧张的场景下依然可以用作训练任务。
推荐用途：预算有限的基础 AI 训练或推理任务，适合处理中小规模模型。
5. P4
显存：8 GB GDDR5
CUDA 核心：2560
峰值性能（FP16）：22 TOPS（推理专用）
推荐应用场景：AI 推理、视频转码。
优势：P4 的显存和性能有限，但功耗低，适合轻量推理任务。
推荐用途：小型推理任务，如视频分析和中小型模型推理。
总结
大模型训练和推理：A10 或 V100 是最佳选择，A10 在显存容量和性能方面略优，并且适合大规模推理和训练任务。
在线推理、视频处理：T4 是一个性价比很高的选择，适合中等规模的推理任务和视频处理需求。
预算有限的训练任务：可以选择 P100，虽然性能稍差，但可以支持基础的训练任务。
轻量推理任务：P4 可以满足低成本、小规模的推理任务需求。
如果主要是运行大模型（如 70B 参数模型），建议选择 A10 或 V100 配置。
根据美国证监会文件显示：这次被限制的不是常规意义上的GPU显卡，而是高端的商用芯片。据了解，该禁令影响了英伟达的A100和H100芯片以及包含这些技术的DGX系统和合作伙伴系统制造商使用的HGX平台；AMD也收到了美国当局的指示，要求停止向中国和俄罗斯销售其顶级GPU芯片MI250。
这些芯片是针对AI高速运算、HPC及数据中心场景而研发的。