Ventoy制作启动U盘：快速搭建Phi-3-vision模型离线部署环境
Ventoy制作启动U盘：快速搭建Phi-3-vision模型离线部署环境
1. 引言
在AI模型部署过程中，我们经常会遇到内网环境或网络受限的情况。传统部署方式需要在线下载大量依赖包，这在没有网络连接的环境中几乎无法完成。今天要介绍的方法，可以让你用一个普通U盘解决所有问题。
这个教程将手把手教你使用Ventoy工具制作多功能启动U盘，里面不仅包含Ubuntu系统安装镜像，还预装了Phi-3-vision-128k-instruct模型所需的所有依赖项。无论你走到哪里，只要找到一台支持U盘启动的电脑，就能快速搭建出标准的模型运行环境。
2. 准备工作
2.1 所需材料
- 一个容量至少32GB的U盘（建议USB 3.0及以上）
- 一台可以联网的电脑（用于准备安装文件）
- Ubuntu 22.04 LTS系统镜像（约4GB）
- Ventoy最新版本（约20MB）
- Phi-3-vision-128k-instruct模型部署包
2.2 文件下载
首先需要下载几个关键文件：
- 从Ventoy官网下载最新版本（目前是1.0.96）
- 从Ubuntu官网获取22.04 LTS桌面版ISO
- 准备好Phi-3-vision模型的离线部署包
建议将这些文件都放在同一个文件夹中，方便后续操作。
3. 制作Ventoy启动U盘
3.1 安装Ventoy工具
Ventoy的使用非常简单，不需要安装，解压后直接运行：
# 解压下载的Ventoy压缩包 unzip ventoy-1.0.96-linux.tar.gz cd ventoy-1.0.96 # 给执行权限 chmod +x Ventoy2Disk.sh3.2 写入U盘
插入U盘后，运行以下命令：
# 查看U盘设备名 sudo fdisk -l # 假设U盘是/dev/sdb sudo ./Ventoy2Disk.sh -i /dev/sdb这个操作会格式化U盘，所以请确保U盘中没有重要数据。写入过程大约需要1-2分钟。
3.3 添加系统镜像
写入完成后，U盘会被分成两个分区。将之前下载的Ubuntu ISO文件直接复制到第一个分区（名为"Ventoy"的分区）中即可。
4. 准备模型部署环境
4.1 创建专用文件夹
在U盘的第一个分区中创建一个名为"phi3_deploy"的文件夹，用于存放所有模型部署相关文件。
4.2 添加模型部署包
将Phi-3-vision模型的离线部署包复制到这个文件夹中。典型的部署包应包含：
- 模型权重文件
- 必要的Python依赖包（.whl文件）
- 配置文件
- 示例脚本
4.3 添加驱动和依赖
为了确保在不同机器上都能正常运行，建议包含以下内容：
- NVIDIA显卡驱动（.run文件）
- CUDA Toolkit离线安装包
- cuDNN库
- Python 3.8+的离线安装包
5. 从U盘启动并安装系统
5.1 设置BIOS启动顺序
将制作好的U盘插入目标机器，重启并进入BIOS设置（通常是按F2或DEL键）。将U盘设为第一启动项。
5.2 选择Ubuntu安装
Ventoy启动菜单会自动显示U盘中的所有ISO文件。选择Ubuntu 22.04 ISO并启动。
5.3 安装系统
按照常规方式安装Ubuntu系统。建议选择"最小安装"选项，减少不必要的软件包。
安装完成后，不要立即重启，选择"继续试用"选项。
6. 部署Phi-3-vision模型
6.1 挂载U盘分区
在试用环境中，打开终端并挂载U盘的第二个分区（存放模型部署文件的分区）：
sudo mkdir /mnt/usb sudo mount /dev/sdb2 /mnt/usb6.2 安装依赖项
进入部署文件夹并开始安装：
cd /mnt/usb/phi3_deploy # 安装Python sudo dpkg -i python3.8_*.deb # 安装pip sudo apt-get install -y ./python3-pip_*.deb # 安装CUDA（如果有NVIDIA显卡） sudo sh cuda_*.run6.3 安装模型依赖
使用离线whl文件安装Python依赖：
pip install --no-index --find-links=./deps -r requirements.txt6.4 验证安装
运行简单的测试脚本，确保模型能正常工作：
python test_inference.py如果一切正常，你应该能看到模型的输出结果。
7. 常见问题解决
7.1 U盘无法识别
如果目标机器无法识别U盘启动，尝试以下方法：
- 在BIOS中关闭"安全启动"选项
- 尝试使用USB 2.0端口而不是3.0端口
- 重新制作Ventoy启动盘
7.2 显卡驱动问题
如果遇到显卡驱动问题：
# 卸载现有驱动 sudo apt-get purge nvidia* # 重新安装离线驱动包 sudo sh NVIDIA-Linux-*.run7.3 Python依赖冲突
使用虚拟环境可以避免系统Python环境被污染：
python -m venv phi3_env source phi3_env/bin/activate pip install --no-index --find-links=./deps -r requirements.txt8. 总结
这套方案最大的优势在于它的便携性和可重复性。一个U盘就能包含从系统安装到模型部署的所有必要组件，特别适合在没有网络连接的环境中快速搭建AI开发平台。
实际使用中，建议根据具体需求调整U盘中的内容。比如可以添加更多不同版本的模型部署包，或者准备不同Linux发行版的ISO文件。Ventoy支持同时存放多个ISO，非常灵活。
如果你经常需要在不同机器上部署AI模型，这个方法能为你节省大量时间和精力。下次遇到离线部署的需求时，不妨试试这个方案。
获取更多AI镜像
想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。