Qwen3.5-4B-AWQ实操手册：WebUI界面导出对话历史+JSON格式保存

Qwen3.5-4B-AWQ实操手册WebUI界面导出对话历史JSON格式保存1. 模型简介Qwen3.5-4B-AWQ-4bit是阿里云通义千问团队推出的轻量级大语言模型采用4bit AWQ量化技术在保持出色性能的同时大幅降低资源需求。1.1 核心优势低资源需求量化后显存仅需约3GBRTX 3060/4060等消费级显卡即可流畅运行性能均衡MMLU-Pro得分接近Qwen3-30B-A3BOmniDocBench表现优于GPT-5-Nano全能力覆盖支持201种语言处理、原生多模态理解、长上下文记忆和工具调用部署友好适配llama.cpp、vLLM等多种推理引擎提供便捷的WebUI界面2. 环境准备与快速部署2.1 基础环境检查确保您的系统满足以下要求NVIDIA显卡推荐RTX 3060/4060及以上已安装CUDA 11.7和cuDNNPython 3.8环境至少8GB系统内存2.2 快速启动WebUI# 启动服务 supervisorctl start qwen35-4b-awq # 检查服务状态 supervisorctl status服务启动后通过浏览器访问http://localhost:78603. WebUI基础操作指南3.1 界面功能概览WebUI主要包含以下功能区域对话输入框输入您的问题或指令参数调节区调整温度、最大生成长度等参数历史记录面板显示当前会话历史功能按钮区包含导出、设置等实用功能3.2 基本对话流程在输入框中键入您的问题点击发送按钮或按Enter键提交等待模型生成回复通常几秒内完成继续对话或调整参数重新生成4. 对话历史导出实战4.1 导出当前会话历史完成所需对话后点击界面右上角的导出按钮在弹出的菜单中选择导出当前会话选择保存格式为JSON指定保存路径和文件名点击确认完成导出4.2 批量导出历史记录# 示例使用API批量导出历史记录 import requests import json # 设置API端点 api_url http://localhost:7860/api/export_history # 获取所有会话列表 response requests.get(f{api_url}/list) sessions response.json() # 批量导出为JSON for session in sessions: export_data requests.get(f{api_url}/get?id{session[id]}).json() with open(fhistory_{session[id]}.json, w) as f: json.dump(export_data, f, ensure_asciiFalse, indent2)4.3 JSON文件结构解析导出的JSON文件包含以下关键字段{ session_id: unique_session_identifier, create_time: 2024-03-15T10:30:00, messages: [ { role: user, content: 你好请介绍一下你自己, timestamp: 2024-03-15T10:30:05 }, { role: assistant, content: 我是通义千问的4B参数版本..., timestamp: 2024-03-15T10:30:08 } ], metadata: { model: Qwen3.5-4B-AWQ, parameters: { temperature: 0.7, max_length: 1024 } } }5. 高级应用技巧5.1 自定义导出模板通过修改WebUI配置文件可以自定义JSON导出格式# 修改webui.py中的导出模板 EXPORT_TEMPLATE { conversation: { id: {session_id}, messages: [ { from: {role}, text: {content}, time: {timestamp} } for message in messages ] }, model_info: { name: Qwen3.5-4B-AWQ, quantization: 4bit } }5.2 自动化导出脚本创建定时任务自动备份对话历史#!/bin/bash # 每天凌晨备份历史记录 0 0 * * * /usr/bin/curl -X GET http://localhost:7860/api/export_all -o /backups/qwen_history_$(date \%Y\%m\%d).json5.3 常见问题解决问题1导出按钮不可用检查服务是否正常运行supervisorctl status查看日志排查错误tail -f /root/Qwen3.5-4B-AWQ-4bit/logs/webui.log问题2JSON文件内容不全确保对话已完成等待模型生成结束检查磁盘空间是否充足尝试重启服务supervisorctl restart qwen35-4b-awq6. 总结与最佳实践通过本文介绍的方法您可以轻松实现从WebUI界面一键导出对话历史获取结构化的JSON格式数据进行批量导出和自动化备份推荐实践方案重要对话及时导出备份定期清理历史记录释放空间结合API实现与企业系统的集成获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。