WSL2环境下配置RTX 5060显卡并编译llama.cpp详细教程

WSL2环境下配置RTX 5060显卡并编译llama.cpp详细教程

前言

本文档记录了在WSL2（Windows Subsystem for Linux）环境下，为RTX 5060显卡配置深度学习环境并编译llama.cpp的完整过程。通过本文档，您将学习如何解决驱动兼容性问题、CUDA架构配置等常见问题。

环境准备

系统要求

• Windows 10/11 64位系统
• WSL2已安装并配置好Ubuntu发行版
• NVIDIA RTX 5060显卡
• 最新的NVIDIA显卡驱动

第一步：显卡驱动配置

1.1 Windows宿主机驱动升级

在WSL2中，显卡驱动由Windows宿主机提供，因此需要在Windows中升级驱动：

1. 打开GeForce Experience或NVIDIA App
2. 检查并下载最新驱动程序
3. 执行清洁安装（建议勾选"执行清洁安装"选项）
4. 重启电脑

1.2 验证驱动状态

nvidia-smi

正常输出应包含：

• Driver Version: 最新版本号
• CUDA Version: 支持的CUDA版本
• GPU Name: NVIDIA GeForce RTX 5060

第二步：WSL2环境清理

2.1 卸载冲突的NVIDIA包

重要：WSL2不需要安装Linux本地的NVIDIA驱动，需要彻底卸载之前安装的相关包：

# 查看已安装的NVIDIA相关包 sudo apt list --installed | grep nvidia # 彻底卸载所有NVIDIA和CUDA相关包 sudo apt remove --purge '*nvidia*' '*cuda*' sudo apt autoremove # 清理残留文件 sudo rm -rf /usr/lib/wsl/lib/nvidia* sudo rm -rf /usr/local/cuda*

2.2 重启WSL2环境

# 在Windows PowerShell（管理员模式）中执行 wsl --shutdown

等待5-10秒后重新打开WSL2终端。

第三步：配置CUDA开发环境

3.1 安装CUDA编译器工具包

方法一：使用官方仓库安装指定版本

# 添加NVIDIA官方WSL仓库 sudo wget https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/cuda-wsl-ubuntu.pin sudo mv cuda-wsl-ubuntu.pin /etc/apt/preferences.d/cuda-repository-pin-600 sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/3bf863cc.pub sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/wsl-ubuntu/x86_64/ /" sudo apt update # 安装指定版本的CUDA Toolkit sudo apt install cuda-toolkit-12-8 -y # 推荐CUDA 12.8

方法二：使用系统默认包

sudo apt update sudo apt install nvidia-cuda-toolkit -y

3.2 配置环境变量

# 将CUDA路径添加到环境变量 echo 'export PATH=/usr/local/cuda-12.8/bin:$PATH' >> ~/.bashrc echo 'export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc source ~/.bashrc

3.3 验证CUDA安装

nvcc --version nvidia-smi

第四步：编译llama.cpp

4.1 克隆代码库

cd ~/module git clone https://github.com/your-repo/ik_llama.cpp.git cd ik_llama.cpp

4.2 配置编译选项

关键问题：解决compute_120架构不支持

问题原因：RTX 5060属于Blackwell架构（compute_120），但CUDA 12.0编译器不支持该架构。

解决方案：手动指定兼容架构

# 清理旧的构建目录 rm -rf build # 配置编译选项 - 指定兼容的CUDA架构 cmake -B build \ -DGGML_CUDA=ON \ -DGGML_CUDA_ARCHITECTURES="86" # 使用Ampere架构（RTX 30/40/50系列兼容）

4.3 执行编译

cmake --build build --config Release -j$(nproc)

常见问题及解决方案

问题1：nvidia-smi显示Segmentation fault

原因：WSL2内部安装了与Windows驱动冲突的NVIDIA包

解决方案：

1. 彻底卸载所有NVIDIA相关包
2. 执行wsl --shutdown重启WSL2
3. 确保不安装任何Linux本地的NVIDIA驱动

问题2：nvcc not found

原因：WSL2内部缺少CUDA编译器

解决方案：

1. 安装nvidia-cuda-toolkit或指定版本的CUDA Toolkit
2. 配置正确的环境变量

问题3：Unsupported gpu architecture ‘compute_120’

原因：CUDA编译器版本过低，不支持RTX 5060的新架构

解决方案：

1. 手动指定兼容架构（如86）
2. 或升级到支持compute_120的CUDA 12.8+

性能优化建议

6.1 安装ccache加速编译

sudo apt install ccache -y

6.2 启用OpenMP支持

确保CMake输出中包含：

-- Found OpenMP: TRUE (found version "4.5")

6.3 架构选择建议

• RTX 5060用户：推荐使用-DGGML_CUDA_ARCHITECTURES="86"获得最佳兼容性
• 追求极致性能：可尝试安装CUDA 12.8+并使用原生架构支持

总结

通过本文档的步骤，您应该能够成功在WSL2环境下配置RTX 5060显卡并编译llama.cpp。关键要点包括：

1. 驱动管理：WSL2的驱动由Windows宿主机提供，不需要在Linux内部安装驱动
2. 环境清理：彻底卸载冲突的NVIDIA包是解决段错误的关键
3. 架构兼容：为新显卡指定兼容的CUDA架构可以避免编译器版本问题
4. 工具链配置：正确安装CUDA编译器工具包是编译成功的基础

如果您在配置过程中遇到任何问题，可以参考本文档的故障排除部分，或查阅相关技术文档获取更多信息。