Qwen3.5-4B-AWQ实操手册：WebUI界面导出对话历史+JSON格式保存
Qwen3.5-4B-AWQ实操手册：WebUI界面导出对话历史+JSON格式保存
1. 模型简介
Qwen3.5-4B-AWQ-4bit是阿里云通义千问团队推出的轻量级大语言模型，采用4bit AWQ量化技术，在保持出色性能的同时大幅降低资源需求。
1.1 核心优势
- 低资源需求：量化后显存仅需约3GB，RTX 3060/4060等消费级显卡即可流畅运行
- 性能均衡：MMLU-Pro得分接近Qwen3-30B-A3B，OmniDocBench表现优于GPT-5-Nano
- 全能力覆盖：支持201种语言处理、原生多模态理解、长上下文记忆和工具调用
- 部署友好：适配llama.cpp、vLLM等多种推理引擎，提供便捷的WebUI界面
2. 环境准备与快速部署
2.1 基础环境检查
确保您的系统满足以下要求：
- NVIDIA显卡（推荐RTX 3060/4060及以上）
- 已安装CUDA 11.7+和cuDNN
- Python 3.8+环境
- 至少8GB系统内存
2.2 快速启动WebUI
# 启动服务 supervisorctl start qwen35-4b-awq # 检查服务状态 supervisorctl status服务启动后，通过浏览器访问：http://localhost:7860
3. WebUI基础操作指南
3.1 界面功能概览
WebUI主要包含以下功能区域：
- 对话输入框：输入您的问题或指令
- 参数调节区：调整温度、最大生成长度等参数
- 历史记录面板：显示当前会话历史
- 功能按钮区：包含导出、设置等实用功能
3.2 基本对话流程
- 在输入框中键入您的问题
- 点击"发送"按钮或按Enter键提交
- 等待模型生成回复（通常几秒内完成）
- 继续对话或调整参数重新生成
4. 对话历史导出实战
4.1 导出当前会话历史
- 完成所需对话后，点击界面右上角的"导出"按钮
- 在弹出的菜单中选择"导出当前会话"
- 选择保存格式为JSON
- 指定保存路径和文件名
- 点击"确认"完成导出
4.2 批量导出历史记录
# 示例：使用API批量导出历史记录 import requests import json # 设置API端点 api_url = "http://localhost:7860/api/export_history" # 获取所有会话列表 response = requests.get(f"{api_url}/list") sessions = response.json() # 批量导出为JSON for session in sessions: export_data = requests.get(f"{api_url}/get?id={session['id']}").json() with open(f"history_{session['id']}.json", "w") as f: json.dump(export_data, f, ensure_ascii=False, indent=2)4.3 JSON文件结构解析
导出的JSON文件包含以下关键字段：
{ "session_id": "unique_session_identifier", "create_time": "2024-03-15T10:30:00", "messages": [ { "role": "user", "content": "你好，请介绍一下你自己", "timestamp": "2024-03-15T10:30:05" }, { "role": "assistant", "content": "我是通义千问的4B参数版本...", "timestamp": "2024-03-15T10:30:08" } ], "metadata": { "model": "Qwen3.5-4B-AWQ", "parameters": { "temperature": 0.7, "max_length": 1024 } } }5. 高级应用技巧
5.1 自定义导出模板
通过修改WebUI配置文件，可以自定义JSON导出格式：
# 修改webui.py中的导出模板 EXPORT_TEMPLATE = { "conversation": { "id": "{session_id}", "messages": [ { "from": "{role}", "text": "{content}", "time": "{timestamp}" } for message in messages ] }, "model_info": { "name": "Qwen3.5-4B-AWQ", "quantization": "4bit" } }5.2 自动化导出脚本
创建定时任务自动备份对话历史：
#!/bin/bash # 每天凌晨备份历史记录 0 0 * * * /usr/bin/curl -X GET "http://localhost:7860/api/export_all" -o "/backups/qwen_history_$(date +\%Y\%m\%d).json"5.3 常见问题解决
问题1：导出按钮不可用
- 检查服务是否正常运行：
supervisorctl status - 查看日志排查错误：
tail -f /root/Qwen3.5-4B-AWQ-4bit/logs/webui.log
问题2：JSON文件内容不全
- 确保对话已完成（等待模型生成结束）
- 检查磁盘空间是否充足
- 尝试重启服务：
supervisorctl restart qwen35-4b-awq
6. 总结与最佳实践
通过本文介绍的方法，您可以轻松实现：
- 从WebUI界面一键导出对话历史
- 获取结构化的JSON格式数据
- 进行批量导出和自动化备份
推荐实践方案：
- 重要对话及时导出备份
- 定期清理历史记录释放空间
- 结合API实现与企业系统的集成
获取更多AI镜像
想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。