Qwen3.5-9B保姆级教程：从Conda环境到Gradio WebUI完整部署
Qwen3.5-9B保姆级教程：从Conda环境到Gradio WebUI完整部署
1. 项目概述
Qwen3.5-9B是一款拥有90亿参数的开源大语言模型，具备强大的逻辑推理、代码生成和多轮对话能力。该模型特别之处在于支持多模态理解（图文输入）和超长上下文（最高128K tokens），使其成为开发者构建智能应用的理想选择。
本教程将手把手带你完成从Conda环境搭建到Gradio WebUI部署的全过程，即使你是刚接触AI模型部署的新手，也能轻松上手。
2. 环境准备
2.1 Conda环境配置
首先我们需要创建一个专用的Conda环境：
# 创建名为torch28的Python环境 conda create -n torch28 python=3.10 -y # 激活环境 conda activate torch282.2 关键依赖安装
安装模型运行所需的核心依赖包：
pip install torch==2.8.0 transformers>=5.0.0 gradio==6.x huggingface_hub>=1.3.0这些包将提供：
- PyTorch 2.8.0：GPU加速支持
- Transformers：加载和运行Qwen3.5模型
- Gradio：构建Web用户界面
- Huggingface Hub：模型下载和管理
3. 项目部署
3.1 项目结构说明
部署完成后，你的项目目录结构如下：
/root/qwen3.5-9b/ ├── app.py # 主程序 (Gradio WebUI) ├── start.sh # 启动脚本 ├── service.log # 运行日志 └── history.json # 对话历史记录3.2 模型路径配置
模型文件通常较大（约19GB），建议放在专用目录：
实际路径: /root/ai-models/Qwen/Qwen3___5-9B 访问路径: /root/ai-models/Qwen/Qwen3.5-9B (符号链接)4. 服务管理
4.1 Supervisor配置
使用Supervisor管理服务进程，确保服务稳定运行：
[program:qwen3.5-9b] command=/bin/bash /root/qwen3.5-9b/start.sh directory=/root/qwen3.5-9b environment=HOME="/root",USER="root",LOGNAME="root",SHELL="/bin/bash",PATH="/opt/miniconda3/envs/torch28/bin:/usr/bin:/bin" user=root autostart=true autorestart=true startsecs=30 startretries=3 redirect_stderr=true stdout_logfile=/root/qwen3.5-9b/service.log stopasgroup=true killasgroup=true关键配置说明：
autostart=true：系统启动时自动运行服务autorestart=true：进程异常退出时自动重启startsecs=30：等待30秒确认服务稳定启动
4.2 常用管理命令
# 查看服务状态 supervisorctl status qwen3.5-9b # 重启服务 supervisorctl restart qwen3.5-9b # 停止服务 supervisorctl stop qwen3.5-9b # 查看实时日志 tail -f /root/qwen3.5-9b/service.log5. 功能使用指南
5.1 Web界面访问
服务启动后，可以通过以下地址访问：
- 本地访问: http://localhost:7860
- 网络访问: http://服务器IP:7860
5.2 核心功能说明
| 功能 | 使用方法 | 参数说明 |
|---|---|---|
| 文本对话 | 输入问题后点击Send | 支持中英文 |
| 图片分析 | 上传图片后提问 | 支持JPEG/PNG/GIF |
| 参数调节 | 调整右侧滑块 | 控制生成效果 |
5.3 参数调节指南
- Max tokens：生成文本的最大长度（64-8192）
- Temperature：采样温度（0.0-1.5），值越高输出越随机
- Top P：核采样阈值（0.1-1.0），值越低输出越确定
- Top K：采样候选数（1-100），值越小输出越保守
6. 常见问题排查
6.1 服务启动失败
检查步骤：
- 确认Conda环境已激活
- 检查模型文件是否存在
- 查看日志中的错误信息
grep -i "error\|exception\|traceback" /root/qwen3.5-9b/service.log | tail -206.2 模型加载缓慢
首次加载可能需要2-3分钟，这是正常现象。可以通过以下命令检查加载进度：
grep "Loading weights" /root/qwen3.5-9b/service.log6.3 端口冲突处理
如果7860端口被占用，可以：
# 查找占用进程 lsof -i :7860 # 或者修改app.py中的端口号7. 日常维护
7.1 清理对话历史
rm -f /root/qwen3.5-9b/history.json supervisorctl restart qwen3.5-9b7.2 日志管理
定期清理日志文件防止过大：
# 备份当前日志 cp /root/qwen3.5-9b/service.log /root/qwen3.5-9b/service.log.bak # 清空日志 > /root/qwen3.5-9b/service.log8. 总结
通过本教程，你已经完成了Qwen3.5-9B模型的完整部署流程。这个90亿参数的多模态大模型将为你的应用带来强大的自然语言处理和图像理解能力。记住以下几点关键信息：
- 模型首次加载需要耐心等待
- 通过Supervisor管理服务确保稳定性
- 合理调节参数可以获得更好的生成效果
- 定期检查日志文件有助于问题排查
现在，你可以开始探索Qwen3.5-9B的各种应用场景了，从智能客服到内容创作，这个强大的模型都能提供有力支持。
获取更多AI镜像
想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。