Qwen3.5-9B部署教程：符号链接/Qwen3.5-9B路径与实际加载验证

Qwen3.5-9B部署教程：符号链接/Qwen3.5-9B路径与实际加载验证

1. 项目概述

Qwen3.5-9B是一款拥有90亿参数的开源大语言模型，具备强大的逻辑推理、代码生成和多轮对话能力。该模型支持多模态理解（图文输入）和长上下文处理（最高可达128K tokens），是当前开源模型中的佼佼者。

项目环境配置：

• 搭建日期：2026-03-25
• 模型版本：Qwen3.5-9B（多模态）
• 运行环境：torch28（Conda）
• 服务端口：7860
• 进程管理：Supervisor

2. 项目结构与部署准备

2.1 项目目录结构

项目主要文件位于/root/qwen3.5-9b/目录下，结构如下：

/root/qwen3.5-9b/ ├── app.py # 主程序(Gradio WebUI) ├── start.sh # 启动脚本 ├── service.log # 运行日志 └── history.json # 对话历史记录

2.2 模型路径配置

模型实际存储路径与访问路径通过符号链接关联：

实际路径: /root/ai-models/Qwen/Qwen3___5-9B 访问路径: /root/ai-models/Qwen/Qwen3.5-9B (符号链接)

这种设计使得模型路径更加灵活，便于版本管理和迁移。

3. 服务管理与操作指南

3.1 快速管理命令

使用Supervisor管理服务状态：

# 查看服务状态 supervisorctl status qwen3.5-9b # 重启服务 supervisorctl restart qwen3.5-9b # 停止服务 supervisorctl stop qwen3.5-9b # 查看实时日志 tail -f /root/qwen3.5-9b/service.log # 查看错误日志 grep -i error /root/qwen3.5-9b/service.log

3.2 服务访问方式

• 本地访问：http://localhost:7860
• 网络访问：http://服务器IP:7860

4. 功能特性与使用说明

4.1 核心功能支持

4.2 参数调节指南

• Max tokens：生成文本的最大长度(64-8192)
• Temperature：采样温度，越高越随机(0.0-1.5)
• Top P：核采样阈值，越低越确定(0.1-1.0)
• Top K：采样候选数，越少越确定(1-100)

5. Supervisor配置详解

配置文件位于/etc/supervisor/conf.d/qwen3.5-9b.conf，关键配置如下：

[program:qwen3.5-9b] command=/bin/bash /root/qwen3.5-9b/start.sh directory=/root/qwen3.5-9b environment=HOME="/root",USER="root",LOGNAME="root",SHELL="/bin/bash",PATH="/opt/miniconda3/envs/torch28/bin:/usr/bin:/bin" user=root autostart=true autorestart=true startsecs=30 startretries=3 redirect_stderr=true stdout_logfile=/root/qwen3.5-9b/service.log stopasgroup=true killasgroup=true

关键配置说明：

• autostart=true：开机自动启动
• autorestart=true：进程异常退出自动重启
• startsecs=30：等待30秒确认进程稳定启动
• PATH：使用torch28 Conda环境

6. 环境要求与依赖

6.1 Conda环境配置

# 激活环境 conda activate torch28

6.2 关键依赖版本

7. 日志分析与问题排查

7.1 日志文件位置

/root/qwen3.5-9b/service.log

7.2 常见日志信息

7.3 启动排查流程

# 检查进程状态 supervisorctl status qwen3.5-9b # 检查端口监听 ss -tlnp | grep 7860 # 检查模型加载状态 grep "Model loaded" /root/qwen3.5-9b/service.log # 检查错误信息 grep -i "error\|exception\|traceback" /root/qwen3.5-9b/service.log | tail -20

8. 常见问题解决方案

8.1 服务启动失败排查

1. 检查进程状态：supervisorctl status qwen3.5-9b
2. 查看最新日志：supervisorctl tail qwen3.5-9b
3. 验证conda环境是否正常
4. 确认模型文件是否存在

8.2 模型加载缓慢处理

由于模型文件较大(~19GB)，首次加载可能需要2-3分钟。建议：

• 耐心等待模型完全加载
• 检查GPU可用性：nvidia-smi
• 查看日志确认加载进度

8.3 端口冲突解决

# 检查端口占用情况 ss -tlnp | grep 7860 # 查看占用进程 lsof -i :7860

9. 日常维护操作

9.1 清理对话历史

rm -f /root/qwen3.5-9b/history.json supervisorctl restart qwen3.5-9b

9.2 日志维护

# 备份当前日志 cp /root/qwen3.5-9b/service.log /root/qwen3.5-9b/service.log.bak # 清空日志 > /root/qwen3.5-9b/service.log # 重启服务 supervisorctl restart qwen3.5-9b

10. 总结

本教程详细介绍了Qwen3.5-9B模型的部署过程，重点讲解了符号链接配置、Supervisor管理、日志分析等关键环节。通过合理的路径设计和进程管理，可以确保模型服务的稳定运行。

对于初次部署的用户，建议重点关注：

1. 模型路径的正确配置
2. Supervisor服务的启动参数
3. 常见问题的排查方法

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。