当前位置： 首页 > news >正文

01 飞腾 S5000C 服务器环境搭建实战：PyTorch + CUDA + RTX 4090D 安装与验证

news 2026/5/27 1:45:53

飞腾 S5000C 服务器环境搭建实战：PyTorch + CUDA + RTX 4090D 安装与验证

一、前言

最近在飞腾 S5000C 服务器上搭建深度学习运行环境，本文记录一下从硬件信息确认、GPU 驱动检查，到 PyTorch 安装和 CUDA 验证的完整过程。

如果你手里也是类似的 ARM 服务器，或者正在做飞腾平台 + NVIDIA GPU 的环境部署，希望这篇文章能帮你少走一些弯路。

本文环境关键词如下：

  • 飞腾 S5000C
  • FTC862
  • NVIDIA GeForce RTX 4090 D
  • CUDA
  • PyTorch
  • Linux aarch64 / ARM64

二、环境信息

本次测试环境如下：

  • 服务器平台：飞腾 S5000C
  • CPU 型号：FTC862
  • GPU 数量：8 张 NVIDIA GeForce RTX 4090 D
  • NVIDIA 驱动版本：580.126.09
  • 驱动支持的 CUDA 版本：13.0
  • Python 版本：3.10
  • 系统架构：Linux aarch64 / ARM64
  • Conda 环境：aq_py310
  • ubuntu 版本：Ubuntu 24.04.4 LTS \n \l

三、查看 CPU 型号

先确认当前服务器的 CPU 型号，执行：

lscpu|grep"Model name"

输出如下：

(aq_py310) root@ubuntu-Rack-Server:~# lscpu | grep "Model name" Model name: FTC862 BIOS Model name: S5000C/64 Not Specified CPU @ 2.1GHz

可以看到，这台服务器的 CPU 型号为FTC862，平台信息为S5000C/64。

这一步的主要作用是确认当前硬件平台，方便后续排查兼容性问题。

四、查看 GPU、驱动和 CUDA 信息

接着查看 GPU 是否被系统正确识别，以及当前 NVIDIA 驱动和 CUDA 支持情况。

执行命令：

nvidia-smi-l

输出如下：

(aq_py310) root@ubuntu-Rack-Server:~# nvidia-smi -l Mon Apr 6 19:23:08 2026 +-----------------------------------------------------------------------------------------+ | NVIDIA-SMI 580.126.09 Driver Version: 580.126.09 CUDA Version: 13.0 | +-----------------------------------------+------------------------+----------------------+ | GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC | | Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. | | | | MIG M. | |=========================================+========================+======================| | 0 NVIDIA GeForce RTX 4090 D Off | 00000001:08:00.0 Off | Off | | 30% 27C P8 16W / 425W | 15MiB / 24564MiB | 0% Default | | | | N/A | +-----------------------------------------+------------------------+----------------------+ | 1 NVIDIA GeForce RTX 4090 D Off | 00000001:09:00.0 Off | Off | | 31% 29C P8 13W / 425W | 15MiB / 24564MiB | 0% Default | | | | N/A | +-----------------------------------------+------------------------+----------------------+ | 2 NVIDIA GeForce RTX 4090 D Off | 00000001:0C:00.0 Off | Off | | 30% 30C P8 14W / 425W | 15MiB / 24564MiB | 0% Default | | | | N/A | +-----------------------------------------+------------------------+----------------------+ | 3 NVIDIA GeForce RTX 4090 D Off | 00000001:0D:00.0 Off | Off | | 30% 26C P8 19W / 425W | 15MiB / 24564MiB | 0% Default | | | | N/A | +-----------------------------------------+------------------------+----------------------+ | 4 NVIDIA GeForce RTX 4090 D Off | 00000004:05:00.0 Off | Off | | 30% 28C P8 14W / 425W | 15MiB / 24564MiB | 0% Default | | | | N/A | +-----------------------------------------+------------------------+----------------------+ | 5 NVIDIA GeForce RTX 4090 D Off | 00000004:08:00.0 Off | Off | | 30% 28C P8 16W / 425W | 15MiB / 24564MiB | 0% Default | | | | N/A | +-----------------------------------------+------------------------+----------------------+ | 6 NVIDIA GeForce RTX 4090 D Off | 00000004:09:00.0 Off | Off | | 31% 28C P8 27W / 425W | 15MiB / 24564MiB | 0% Default | | | | N/A | +-----------------------------------------+------------------------+----------------------+ | 7 NVIDIA GeForce RTX 4090 D Off | 00000004:0C:00.0 Off | Off | | 31% 28C P8 20W / 425W | 15MiB / 24564MiB | 0% Default | | | | N/A | +-----------------------------------------+------------------------+----------------------+

从上面的信息可以确认：

  • 当前NVIDIA 驱动版本为：580.126.09
  • 驱动支持的CUDA 版本为：13.0
  • 当前机器共识别到8 张 RTX 4090 D
  • 每张显卡显存约24GB
  • 当前所有显卡状态正常

这里补充说明一下：

nvidia-smi里显示的CUDA Version是驱动支持的最高 CUDA 版本，不代表你安装的 PyTorch 必须和它完全一致。
只要驱动版本足够新，通常可以向下兼容较低版本的 CUDA 运行时。

比如本文中，驱动支持 CUDA 13.0，但实际安装的是PyTorch 对应 CUDA 12.4，同样可以正常使用。

GPU 信息截图

五、安装 PyTorch

由于当前环境是：

  • Python 3.10
  • Linux aarch64 / ARM64
  • 需要使用CUDA 12.4 对应版本

这里采用直接安装官方 wheel 包的方式，这种方式比直接pip install torch更明确，也更适合 ARM 平台。

执行命令：

python-mpipinstallhttps://download.pytorch.org/whl/cu124/torch-2.5.1-cp310-cp310-linux_aarch64.whl

这条命令的含义如下：

  • torch-2.5.1：安装 PyTorch 2.5.1
  • cp310-cp310：对应 Python 3.10
  • linux_aarch64：对应 Linux ARM64 架构
  • cu124：对应 CUDA 12.4

这种安装方式的优点是：

  • 版本更明确
  • 不容易装错架构
  • 更适合飞腾等 ARM 服务器环境
  • 避免pip自动解析时选到不匹配版本

六、验证 PyTorch 是否安装成功

安装完成后，先执行一个简单的验证命令：

python-c"import torch; print(torch.__version__); print(torch.version.cuda); print(torch.cuda.is_available()); print(torch.cuda.device_count())"

输出如下：

/root/miniconda3/envs/aq_py310/lib/python3.10/site-packages/torch/_subclasses/functional_tensor.py:295: UserWarning: Failed to initialize NumPy: No module named 'numpy' (Triggered internally at /pytorch/torch/csrc/utils/tensor_numpy.cpp:84.) cpu = _conversion_method_template(device=torch.device("cpu")) 2.5.1 12.4 True 8

从结果可以看到：

  • 2.5.1：PyTorch 安装成功
  • 12.4：当前 PyTorch 对应的 CUDA 版本
  • True：说明 CUDA 可以正常使用
  • 8：说明成功识别到 8 张 GPU

七、关于 NumPy 警告说明

在验证输出中，可以看到这样一条警告：

UserWarning: Failed to initialize NumPy: No module named 'numpy'

这个问题并不是 PyTorch 安装失败，也不是 CUDA 有问题，而是当前 Python 环境中还没有安装numpy。

建议顺手安装一下：

python-mpipinstallnumpy

安装完成后，再执行验证命令，这条警告通常就不会再出现了。

八、进一步验证：测试 GPU 张量计算

仅仅看到torch.cuda.is_available()为True还不够，最好再做一次真实的 GPU 运算测试。

执行下面脚本：

python -<<'PY' import torch print("torch:", torch.__version__) print("cuda version:", torch.version.cuda) print("cuda available:", torch.cuda.is_available()) print("device count:", torch.cuda.device_count()) if torch.cuda.is_available(): x = torch.randn(2, 3).cuda() y = torch.randn(2, 3).cuda() z = x + y print("gpu tensor ok") print(z) print("device 0:", torch.cuda.get_device_name(0)) PY

输出如下：

/root/miniconda3/envs/aq_py310/lib/python3.10/site-packages/torch/_subclasses/functional_tensor.py:295: UserWarning: Failed to initialize NumPy: No module named 'numpy' (Triggered internally at /pytorch/torch/csrc/utils/tensor_numpy.cpp:84.) cpu = _conversion_method_template(device=torch.device("cpu")) torch: 2.5.1 cuda version: 12.4 cuda available: True device count: 8 gpu tensor ok tensor([[-1.6702, -1.0425, -1.8767], [-1.3894, -0.3875, 0.3431]], device='cuda:0') device 0: NVIDIA GeForce RTX 4090 D

从这段结果可以确认：

  • PyTorch 可以正常调用 CUDA
  • 张量已经成功放到 GPU 上计算
  • 实际运算设备是cuda:0
  • 第 0 张显卡名称识别正常：NVIDIA GeForce RTX 4090 D

这一步通过后，说明整个 PyTorch + CUDA 环境已经搭建成功，可以进入后续模型训练或推理阶段。

验证截图

九、结论

本次在飞腾 S5000C服务器上的环境搭建和验证结果如下：

  • CPU 平台识别正常
  • 8 张 RTX 4090 D 显卡识别正常
  • NVIDIA 驱动工作正常
  • PyTorch 2.5.1 安装成功
  • CUDA 12.4 运行正常
  • PyTorch 可以正确调用 GPU 执行张量计算

整体来看，这套环境已经具备深度学习训练、模型推理、多卡任务调度等基础运行条件。

十一、常见说明

1）驱动版本高于 PyTorch 对应 CUDA 版本，是正常现象

很多人看到：

  • nvidia-smi里是 CUDA 13.0
  • torch.version.cuda里是 12.4

会担心是不是版本不一致导致有问题。

实际上这通常是正常的。因为驱动支持更高版本 CUDA 时，往往也能兼容较低版本的运行时。

2）出现 NumPy 警告，不影响基础 CUDA 验证

如果看到：

No module named 'numpy'

说明只是当前环境没装numpy，补装即可：

python-mpipinstallnumpy

3）建议一定要做一次真实 GPU 运算测试

只看torch.cuda.is_available()还不够，最好像本文一样：

  • 创建 CUDA 张量
  • 做一次加法运算
  • 查看输出设备信息

这样更能说明环境确实可用。

十二、命令汇总

1. 查看 CPU 型号

lscpu|grep"Model name"

2. 查看 GPU 和驱动信息

nvidia-smi-l

3. 安装 PyTorch

python-mpipinstallhttps://download.pytorch.org/whl/cu124/torch-2.5.1-cp310-cp310-linux_aarch64.whl

4. 安装 NumPy

python-mpipinstallnumpy

5. 验证 PyTorch 和 CUDA

python-c"import torch; print(torch.__version__); print(torch.version.cuda); print(torch.cuda.is_available()); print(torch.cuda.device_count())"

6. 测试 GPU 张量运算

python -<<'PY' import torch print("torch:", torch.__version__) print("cuda version:", torch.version.cuda) print("cuda available:", torch.cuda.is_available()) print("device count:", torch.cuda.device_count()) if torch.cuda.is_available(): x = torch.randn(2, 3).cuda() y = torch.randn(2, 3).cuda() z = x + y print("gpu tensor ok") print(z) print("device 0:", torch.cuda.get_device_name(0)) PY

十三、参考说明

本文主要记录的是实际部署过程中的验证结果，适合作为飞腾 ARM 服务器安装 PyTorch GPU 环境的参考。

如果你后续还需要继续配置：

  • torchvision
  • torchaudio
  • 多卡训练环境
  • NCCL / 分布式训练
  • Docker 容器环境
  • Transformers / 大模型推理环境

也可以在这套基础环境上继续扩展。

如果这篇文章对你有帮助，欢迎点赞、收藏、交流。

http://www.jsqmd.com/news/598750/

相关文章：

  • NextFaster 电商数据库设计深度解析：从集合到产品的完整架构指南
  • 【3-5-3多项式】基于改进麻雀算法ISSA(混沌映射和粒子群PSO优化机械臂轨迹运行时间，机械臂规划轨迹研究附Matlab代码
  • Microsoft Agent Framework + Kimi API 实战：控制台应用跑通单次与多轮 Agent 对话
  • FPGA-图像处理实战：基于Sobel算子的实时边缘检测系统构建
  • 避开Trace API的坑：Android方法耗时统计的正确姿势与实战技巧
  • Blender 3MF插件：重新定义3D打印数据工作流
  • XUnity.AutoTranslator技术指南：从环境搭建到高级应用
  • 26年4月5日响课创始人李波在直播中针对GEO服务商避坑指南：主流机构优劣对比与选型测评做出详解 - 速递信息
  • 数据挖掘
  • 告别SCP！用trzsz+iTerm2实现服务器文件秒传（CentOS/Homebrew全流程实录）
  • Cocos使用firebase C++ SDK实现google登录
  • 终极实战指南：Godot PCK解包器深度解析与高效资源提取
  • 如何快速开始Cucumber.js：新手5步搭建第一个BDD测试项目
  • 学习日记
  • 2026年4月6日响课科技创始人李波首次披露响课GEO系统获多行业验证，无需专属技术团队也能高效实现全域流量占位 - 速递信息
  • Keil MDK调试时Watch窗口变量不刷新？别急，这3个设置项你检查了吗？
  • IDMPhotoBrowser：iOS开发者的终极照片浏览器解决方案
  • A*算法保姆级教程：从原理到Python实现，5分钟搞定最短路径问题
  • 基于粒子群的PMU优化配置 软件：MATLAB 介绍：电力系统PMU优化配置，为了使电力系统达...
  • 深入剖析watchdog机制：从soft lockup到Hard LOCKUP的检测与应对
  • 终极TinyColor升级指南：从1.5到1.6版本的关键变更与迁移策略
  • web随笔04
  • Koa2调试终极指南：10个高效定位代码问题的技巧
  • 避坑指南：Ecology9流程创建失败的7个常见错误及解决方案（附调试技巧）
  • 效率提升利器：快马一键生成网络配置脚本与故障排查模拟环境
  • 终极优化指南：如何彻底解决腾讯游戏ACE-Guard导致的系统卡顿问题
  • 移动端H5开发 app内嵌H5谷歌浏览器Windows/Mac调试方法 各种连接问题解决
  • Oh-My-Posh 多会话管理终极指南：在不同终端中保持一致的完美体验
  • Godot引擎资源提取完全指南：从PCK文件到游戏资产
  • 2026年南京全屋定制生产厂家深度测评：如何为你的家居定制匹配最佳方案？ - 速递信息