当前位置：首页 > news >正文

Qwen3.5-9B-GGUF保姆级教程：Supervisor日志路径配置与错误定位技巧

news 2026/4/26 7:00:48

Qwen3.5-9B-GGUF保姆级教程：Supervisor日志路径配置与错误定位技巧

1. 项目概述

Qwen3.5-9B-GGUF是基于阿里云通义千问3.5开源模型（2026年3月发布）的量化版本，采用GGUF格式进行优化。这个90亿参数的稠密模型采用了创新的Gated Delta Networks架构和混合注意力机制（75%线性+25%标准），支持长达256K tokens的上下文窗口（约18万字），并采用Apache 2.0开源协议，允许商用、微调和分发。

本项目使用llama-cpp-python和Gradio构建了一个完整的推理服务，通过Supervisor进行进程管理。以下是核心项目信息：

项目	值
模型路径	`/root/ai-models/unsloth/Qwen3___5-9B-GGUF`
模型文件	`Qwen3.5-9B-IQ4_NL.gguf`(5.3GB)
WebUI 端口	7860
进程管理	Supervisor

2. Supervisor基础配置

2.1 配置文件位置

Supervisor的主配置文件位于：

/etc/supervisor/conf.d/qwen3-9b-gguf.conf

2.2 典型配置内容

一个完整的Supervisor配置文件示例如下：

[program:qwen3-9b-gguf] command=/root/Qwen3.5-9B-GGUFit/start.sh directory=/root/Qwen3.5-9B-GGUFit user=root autostart=true autorestart=true startsecs=10 startretries=3 redirect_stderr=true stdout_logfile=/root/Qwen3.5-9B-GGUFit/service.log stdout_logfile_maxbytes=50MB stdout_logfile_backups=10 environment=PYTHONUNBUFFERED="1"

2.3 关键配置项说明

command：指定启动服务的完整命令
stdout_logfile：定义日志文件路径（重点监控对象）
stdout_logfile_maxbytes：单个日志文件最大大小
stdout_logfile_backups：保留的日志备份数量
autorestart：服务崩溃后自动重启

3. 日志管理与监控

3.1 日志文件路径

项目的主要日志文件位于：

/root/Qwen3.5-9B-GGUFit/service.log

3.2 实时日志查看方法

# 实时跟踪日志更新 tail -f /root/Qwen3.5-9B-GGUFit/service.log # 查看最后100行日志 tail -100 /root/Qwen3.5-9B-GGUFit/service.log # 按时间筛选日志（如查看最近1小时的日志） grep "$(date -d '1 hour ago' '+%Y-%m-%d %H')" /root/Qwen3.5-9B-GGUFit/service.log

3.3 日志轮转配置

为防止日志文件过大，建议设置日志轮转：

# 安装logrotate apt-get install logrotate # 创建配置文件 cat > /etc/logrotate.d/qwen3-9b-gguf <<EOF /root/Qwen3.5-9B-GGUFit/service.log { daily missingok rotate 30 compress delaycompress notifempty create 644 root root } EOF

4. 常见错误定位技巧

4.1 服务启动失败排查

# 1. 检查Supervisor状态 supervisorctl status qwen3-9b-gguf # 2. 查看详细错误日志 tail -50 /root/Qwen3.5-9B-GGUFit/service.log # 3. 手动运行测试（绕过Supervisor） cd /root/Qwen3.5-9B-GGUFit source /opt/miniconda3/bin/activate torch28 python app.py

4.2 典型错误模式识别

模型加载失败：

症状：日志中出现"Failed to load model"或"GGUF file not found"

解决方案：

# 验证模型文件存在 ls -la /root/ai-models/unsloth/Qwen3___5-9B-GGUF/Qwen3.5-9B-IQ4_NL.gguf # 检查文件权限 chmod 644 /root/ai-models/unsloth/Qwen3___5-9B-GGUF/Qwen3.5-9B-IQ4_NL.gguf

端口冲突：
- 症状："Address already in use"或"Port 7860 is occupied"
- 解决方案：
```
# 查找占用进程 ss -tlnp | grep 7860 # 终止冲突进程 kill -9 <PID>
```
内存不足：
- 症状："CUDA out of memory"或"Killed"（被OOM killer终止）
- 解决方案：
  - 减少并发请求数
  - 使用更低精度的量化版本
  - 增加服务器内存

4.3 高级调试技巧

增加日志详细程度：修改start.sh脚本，添加调试参数：
```
python app.py --verbose --log_level DEBUG
```

监控资源使用：

# 实时监控内存和CPU使用 htop # 监控GPU状态（如有） nvidia-smi -l 1

性能分析：

# 安装性能分析工具 pip install py-spy # 生成火焰图 py-spy top --pid $(pgrep -f "python app.py")

5. 服务管理命令大全

5.1 Supervisor基础命令

# 启动服务 supervisorctl start qwen3-9b-gguf # 停止服务 supervisorctl stop qwen3-9b-gguf # 重启服务 supervisorctl restart qwen3-9b-gguf # 查看所有服务状态 supervisorctl status # 重新加载配置（修改配置文件后） supervisorctl reread supervisorctl update

5.2 手动控制命令

# 进入conda环境 source /opt/miniconda3/bin/activate torch28 # 启动服务（开发模式） cd /root/Qwen3.5-9B-GGUFit python app.py # 使用启动脚本 /root/Qwen3.5-9B-GGUFit/start.sh # 停止服务 /root/Qwen3.5-9B-GGUFit/stop.sh