千问3.5-2B VMware虚拟机开发环境部署全流程
千问3.5-2B VMware虚拟机开发环境部署全流程
1. 引言
如果你是一名习惯使用VMware虚拟机的开发者，想要搭建一个隔离的AI开发测试环境来运行千问3.5-2B模型，这篇教程就是为你准备的。我们将从零开始，一步步指导你完成整个部署流程。
为什么选择VMware虚拟机？首先，它能提供完全隔离的环境，不会影响你的主机系统；其次，通过虚拟GPU直通技术（如果你的硬件支持），可以获得接近原生性能的GPU加速；最后，VMware的成熟稳定性能确保开发环境的可靠性。
2. 准备工作
2.1 硬件要求
在开始之前，请确保你的主机满足以下硬件要求：
- CPU：至少4核，建议8核或以上
- 内存：主机至少16GB，建议32GB（为虚拟机分配至少12GB）
- 存储：SSD硬盘，至少50GB可用空间
- GPU（可选）：支持直通的NVIDIA显卡（如RTX 3060及以上）
2.2 软件准备
你需要下载以下软件：
- VMware Workstation Pro：最新版本（17.x）
- Ubuntu Server镜像：建议22.04 LTS版本
- VMware Tools：用于增强虚拟机性能
3. 创建Ubuntu虚拟机
3.1 新建虚拟机
打开VMware Workstation，按照以下步骤操作：
- 点击"创建新的虚拟机"
- 选择"自定义(高级)"配置
- 硬件兼容性选择最新版本
- 选择"稍后安装操作系统"
- 客户机操作系统选择"Linux"，版本选择"Ubuntu 64位"
- 为虚拟机命名（如"Qwen-3.5-2B-Dev"）
- 处理器配置：至少2核，建议4核
- 内存分配：至少8GB，建议12GB
- 网络类型：建议使用"NAT"
- I/O控制器类型：保持默认
- 磁盘类型：SCSI
- 选择"创建新虚拟磁盘"
- 磁盘大小：至少40GB，选择"将虚拟磁盘拆分成多个文件"
- 指定磁盘文件位置
- 完成创建
3.2 安装Ubuntu Server
- 右键新建的虚拟机，选择"设置"
- 在"CD/DVD"选项中，选择"使用ISO镜像文件"，浏览并选择下载的Ubuntu Server ISO
- 启动虚拟机，开始安装Ubuntu Server
- 安装过程中：
- 语言选择英文（后续可配置中文环境）
- 网络配置保持默认
- 磁盘分区选择"使用整个磁盘"
- 设置用户名和密码（建议使用强密码）
- 不安装额外软件（我们后续手动安装所需组件）
- 安装完成后重启
4. 安装VMware Tools
VMware Tools能显著提升虚拟机性能，特别是图形和文件共享功能。
4.1 安装步骤
- 在VMware菜单中，选择"虚拟机"→"安装VMware Tools"
- 在Ubuntu虚拟机中，挂载CD-ROM：
sudo mkdir /mnt/cdrom sudo mount /dev/cdrom /mnt/cdrom - 解压安装包：
cd /tmp tar zxpf /mnt/cdrom/VMwareTools-*.tar.gz - 运行安装脚本：
cd vmware-tools-distrib sudo ./vmware-install.pl - 安装过程中，对所有提示按回车选择默认选项
- 安装完成后重启虚拟机：
sudo reboot
4.2 验证安装
安装成功后，你应该能观察到：
- 鼠标可以在主机和虚拟机间无缝移动
- 屏幕分辨率自动适应窗口大小
- 剪贴板共享功能正常工作
5. 配置虚拟GPU直通（可选）
如果你的主机有NVIDIA显卡并且支持PCI直通，可以配置GPU直通以获得更好的AI模型运行性能。
5.1 检查硬件支持
在主机上检查IOMMU支持：
dmesg | grep -i iommu如果看到"IOMMU enabled"则表示支持
检查显卡是否支持直通：
lspci -nn | grep -i nvidia记下显卡的设备ID（格式为[xxxx:xxxx]）
5.2 配置VMware直通
- 关闭虚拟机
- 右键虚拟机→设置→添加→PCI设备
- 选择你的NVIDIA显卡
- 启动虚拟机
5.3 安装NVIDIA驱动
在Ubuntu虚拟机中：
- 添加官方NVIDIA仓库：
sudo add-apt-repository ppa:graphics-drivers/ppa sudo apt update - 查找推荐驱动版本：
ubuntu-drivers devices - 安装推荐驱动：
sudo apt install nvidia-driver-XXX # 替换XXX为推荐版本号 - 重启后验证：
应该能看到显卡信息nvidia-smi
6. 部署千问3.5-2B模型
6.1 安装基础依赖
- 更新系统：
sudo apt update && sudo apt upgrade -y - 安装Python和pip：
sudo apt install python3 python3-pip -y - 安装CUDA Toolkit（如果使用GPU）：
sudo apt install nvidia-cuda-toolkit -y - 安装其他依赖：
sudo apt install git wget curl -y
6.2 通过星图GPU平台部署
- 注册并登录CSDN星图GPU平台
- 在控制台找到千问3.5-2B镜像
- 获取部署命令，类似：
docker pull registry.cn-hangzhou.aliyuncs.com/csdn/qwen-3.5-2b:latest - 在虚拟机中运行部署命令
- 等待镜像下载完成
6.3 运行模型
- 启动容器：
docker run -it --gpus all -p 7860:7860 registry.cn-hangzhou.aliyuncs.com/csdn/qwen-3.5-2b:latest - 模型会自动下载所需权重文件（确保网络畅通）
- 启动完成后，你可以在虚拟机内部通过命令行与模型交互
- 或者通过端口映射，在主机浏览器访问：
http://localhost:7860
7. 常见问题解决
7.1 虚拟机性能问题
如果感觉虚拟机运行缓慢：
- 检查是否分配了足够的内存和CPU核心
- 确保已安装VMware Tools
- 关闭不必要的虚拟机服务
7.2 GPU直通失败
如果GPU直通不工作：
- 确认主机BIOS中已启用VT-d/AMD-Vi
- 检查显卡是否被其他进程占用
- 尝试不同的NVIDIA驱动版本
7.3 模型部署问题
如果模型无法正常运行：
- 检查docker日志：
docker logs <container_id> - 确保网络连接正常，能访问镜像仓库
- 验证CUDA是否正常工作：
nvcc --version
8. 总结
通过这篇教程，我们完成了从零开始在VMware虚拟机中部署千问3.5-2B模型的完整流程。整个过程虽然步骤较多，但每一步都是可控的。使用虚拟机的最大优势是环境隔离，你可以放心地进行各种实验而不用担心影响主机系统。
实际使用下来，VMware虚拟机的性能表现相当不错，特别是配合GPU直通后，模型推理速度接近原生环境。当然，如果遇到性能瓶颈，也可以考虑直接在物理机上部署，或者使用云GPU服务。
建议初次接触的开发者按照教程一步步操作，遇到问题时参考常见问题解决部分。熟悉之后，你可以尝试优化配置，比如调整虚拟机资源分配、尝试不同的Ubuntu版本等，找到最适合自己开发需求的配置方案。
获取更多AI镜像
想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。