当前位置: 首页 > article >正文

uniapp 小程序如何实现大模型流式交互?前端SSE技术完整实现解析

文章目录

  • 一、背景概述
  • 二、核心流程图解
  • 三、代码模块详解
    • 1. UTF-8解码器(处理二进制流)
    • 2. 请求控制器(核心通信模块)
    • 3. 流式请求处理器(分块接收)
    • 4. 数据解析器(处理SSE格式)
    • 5. 回调处理三剑客
  • 四、关键问题解决方案
    • 1. 乱码问题处理
    • 2. 数据截断问题
    • 3. 性能优化建议
  • 五、扩展思考
    • 1. 为什么要用SSE而不是WebSocket?
    • 2. 流量控制策略
  • 六、完整技术栈推荐

一、背景概述

在大模型应用中,流式响应技术(Server-Sent Events, SSE)能显著提升用户体验。本文将以代码为核心,讲解基于uni-app框架的流式交互完整实现方案,涵盖数据接收、解码、解析全流程。


二、核心流程图解

用户输入
构建请求体
发送SSE请求
接收数据块
二进制解码
数据清洗
解析JSON
提取内容
实时渲染

三、代码模块详解

1. UTF-8解码器(处理二进制流)

decodeUTF8(data) {// 将二进制数据转为Uint8数组const uint8Array = new Uint8Array(data);// 传统方式转换字符串(兼容旧环境)let string = '';for (let i = 0; i < uint8Array.length; i++) {string += String.fromCharCode(uint8Array[i]);}// 双重解码处理特殊字符(如中文)return decodeURIComponent(escape(string));
}

关键点说明:

  • Uint8Array:将原始二进制数据转为可操作数组
  • escape():将字符串转义为ASCII字符
  • decodeURIComponent:解析URI编码内容(等效于UTF-8解码)

2. 请求控制器(核心通信模块)

getContent() {const sendContent = {"messages": [{"role": "user","content": this.content,}],"section_id": this.id,"token": this.token}// 显示等待状态this.waitingForResponse = true;// 发起流式请求this.streamPost('/api/xxx/xxx', sendContent, this.onDataReceived, this.onError, this.onComplete);
}

参数解析:

参数名类型说明
roleString角色标识(user/assistant)
contentString用户输入的提问内容
section_idNumber会话分区ID
tokenString用户身份验证令牌

3. 流式请求处理器(分块接收)

streamPost(url, data, onData, onError = null, onComplete = null) {const requestTask = uni.request({url: this.$baseUrl + url,method: 'POST',header: {'Accept': 'text/event-stream', // 声明接受事件流'token': uni.getStorageSync('token')},data,enableChunked: true, // 启用分块传输模式responseType: 'arraybuffer', // 接收二进制数据// 分块数据到达时触发success: (res) => { /*...*/ },// 注册分块接收监听器onChunkReceived: (res) => {const decodedData = this.decode(res.data);if (decodedData) {onData(decodedData); // 触发数据回调}}});
}

技术要点:

  • enableChunked: true:启用微信小程序分块接收能力
  • responseType: 'arraybuffer':确保正确处理二进制流
  • onChunkReceived:微信小程序特有分块事件监听

4. 数据解析器(处理SSE格式)

decode(data) {const text = this.decodeUTF8(data);const lines = text.split('\n');let result = '';for (let line of lines) {if (line.startsWith('data: ')) {const jsonData = line.slice(6).trim();// 结束标识处理if (jsonData === '[DONE]') return result;// 清理控制字符(防止JSON解析失败)const cleanedData = jsonData.replace(/[\u0000-\u001F\u007F-\u009F]/g, '');try {const parsedData = JSON.parse(cleanedData);// 提取AI生成内容result += parsedData.choices[0].delta.content || '';} catch (e) {console.error('解析失败:', e);}}}return result;
}

数据示例:

// 原始SSE数据格式
data: {"id":"chatcmpl-123","choices":[{"delta":{"content":"你好"}}]}// 解析后结果
"你好"

5. 回调处理三剑客

// 实时数据渲染
onDataReceived(data) {if (data.trim()) {this.displayText += data; // 增量更新显示内容this.resultCount = this.displayText.length; // 统计字数}
}// 异常处理
onError(error) {console.error('请求异常:', error);uni.showToast({ title: '服务响应异常', icon: 'none' });
}// 完成处理
onComplete() {this.waitingForResponse = false;console.log('会话结束');// 可添加历史记录存储等逻辑
}

四、关键问题解决方案

1. 乱码问题处理

  • 现象:接收到响啊类乱码
  • 解决方案
    1. 检查decodeUTF8是否被正确调用
    2. 验证服务端编码是否为UTF-8
    3. 替换解码方案为new TextDecoder().decode(uint8Array)

2. 数据截断问题

  • 现象:JSON解析报错Unexpected end of JSON input
  • 处理策略
    // 增加数据清洗步骤
    const cleanedData = jsonData.replace(/\n/g, '')      // 移除换行符.replace(/\u2028/g, '')  // 处理行分隔符.replace(/\u2029/g, ''); // 处理段落分隔符
    

3. 性能优化建议

// 使用文档片段批量更新
let fragment = '';
onDataReceived(data) {fragment += data;if (fragment.length > 100) { // 每100字符更新一次this.displayText += fragment;fragment = '';}
}

五、扩展思考

1. 为什么要用SSE而不是WebSocket?

  • SSE优势
    • 基于HTTP协议,无需额外握手
    • 自动重连机制
    • 更简单的服务端实现

2. 流量控制策略

// 节流处理(每500ms更新一次)
let updateTimer = null;
onDataReceived(data) {this.buffer += data;if (!updateTimer) {updateTimer = setTimeout(() => {this.displayText += this.buffer;this.buffer = '';updateTimer = null;}, 500);}
}

六、完整技术栈推荐

层级技术选型
前端框架Vue3 + uni-app
状态管理Pinia
HTTP库uni.request
数据格式JSON + SSE
部署环境微信小程序 + Web

通过以上实现方案,开发者可以构建出高可用的大模型流式交互系统。建议在实际项目中加入加载状态提示错误重试机制历史会话管理等功能模块,以提升完整用户体验。

相关文章:

uniapp 小程序如何实现大模型流式交互?前端SSE技术完整实现解析

文章目录 一、背景概述二、核心流程图解三、代码模块详解1. UTF-8解码器&#xff08;处理二进制流&#xff09;2. 请求控制器&#xff08;核心通信模块&#xff09;3. 流式请求处理器&#xff08;分块接收&#xff09;4. 数据解析器&#xff08;处理SSE格式&#xff09;5. 回调…...

微软推出Office免费版,限制诸多,只能编辑不能保存到本地

易采游戏网2月25日独家消息&#xff1a;微软宣布推出一款免费的Office版本&#xff0c;允许用户进行基础文档编辑操作&#xff0c;但限制颇多&#xff0c;其中最引人关注的是用户无法将文件保存到本地。这一举措引发了广泛讨论&#xff0c;业界人士对其背后的商业策略和用户体验…...

《ArkTS鸿蒙应用开发入门到实战》—新手小白学习鸿蒙的推荐工具书!

《ArkTS鸿蒙应用开发入门到实战》—新手小白学习鸿蒙的推荐工具书&#xff01; 在科技日新月异的今天&#xff0c;鸿蒙操作系统&#xff08;HarmonyOS&#xff09;作为华为推出的全新操作系统&#xff0c;正迅速进入越来越多的智能设备&#xff0c;成为物联网和智能硬件领域的…...

销售成交九步思维魔方

销售成交九步思维魔方 点 一、确定需求 原则1&#xff1a;问题是需求的前身原则2&#xff1a;基于问题才做决定原则3&#xff1a;人只解决大的问题 二、塑造价值 USP 利益 快乐 痛苦 价值 线 三、销售准备 精神上的准备 体能上的准备 产品知识准备 彻底了解顾客背景 …...

橄榄球、棒球项目排名·棒球1号位

美国四大体育联盟按照规模、影响力等因素综合排名&#xff0c;通常认为是&#xff1a; 1. NFL&#xff08;国家橄榄球联盟&#xff09;&#xff1a;成立于1920年&#xff0c;是北美四大职业体育运动联盟之首&#xff0c;也是世界上最大的职业美式橄榄球联盟。由32支球队组成&am…...

DeepSeek 提示词:高效的提示词设计

&#x1f9d1; 博主简介&#xff1a;CSDN博客专家&#xff0c;历代文学网&#xff08;PC端可以访问&#xff1a;https://literature.sinhy.com/#/?__c1000&#xff0c;移动端可微信小程序搜索“历代文学”&#xff09;总架构师&#xff0c;15年工作经验&#xff0c;精通Java编…...

AI硬件加速的核心:深入探讨AI加速芯片模组的设计与应用

随着人工智能应用的普及&#xff0c;传统的计算架构已无法满足大规模深度学习模型训练和推理的需求。为了加速计算过程并提高能效&#xff0c;AI加速芯片应运而生。本文将介绍AI加速芯片模组的关键技术、发展趋势以及在各类应用中的重要性。 AI加速芯片模组的定义与构成 AI加速…...

LangChain:Models、Prompts、Indexes、Memory、Chains、Agents。MaxKB

LangChain:Models、Prompts、Indexes、Memory、Chains、Agents 在LangChain框架中,Models、Prompts、Indexes、Memory、Chains、Agents是六大核心抽象概念,它们各自承担独特功能,相互协作以助力开发者基于大语言模型构建高效智能应用。 Models(模型):指代各类大语言模型…...

html中的css

css &#xff08;cascading style sheets&#xff0c;串联样式表&#xff0c;也叫层叠样式表&#xff09; css规范一般约定&#xff1a; 1.存放CSS样式文件的目录一般命名为style或css。 2.在项目初期&#xff0c;会把不同类别的样式放于不同的CSS文件&#xff0c;是为了CSS编…...

JAVA面试常见题_基础部分_Dubbo面试题(上)

Dubbo 支持哪些协议&#xff0c;每种协议的应用场景&#xff0c;优缺点&#xff1f; • dubbo&#xff1a; 单一长连接和 NIO 异步通讯&#xff0c;适合大并发小数据量的服务调用&#xff0c;以及消费者远大于提供者。传输协议 TCP&#xff0c;异步&#xff0c;Hessian 序列化…...

Binder通信协议

目录 一,整体架构 二,Binder通信协议 一,整体架构 二,Binder通信协议...

解决应用程序 0xc00000142 错误:完整修复指南

&#x1f4a5; 0xc00000142 错误出现的场景 你是不是遇到这样的情况&#xff1a; &#x1f539; 点击某个软件&#xff0c;突然弹出“应用程序无法正确启动(0xc00000142)” &#xff1f; &#x1f539; 明明安装了所有必要组件&#xff0c;软件却始终打不开&#xff1f; &…...

游戏引擎学习第125天

仓库:https://gitee.com/mrxiao_com/2d_game_3 回顾并为今天的内容做准备。 昨天&#xff0c;当我们离开时&#xff0c;工作队列已经完成了基本的功能。这个队列虽然简单&#xff0c;但它能够执行任务&#xff0c;并且我们已经为各种操作编写了测试。字符串也能够正常推送到队…...

[免单统计]

免单统计 真题目录: 点击去查看 E 卷 100分题型 题目描述 华为商城举办了一个促销活动,如果某顾客是某一秒内最早时刻下单的顾客(可能是多个人),则可以获取免单。 请你编程计算有多少顾客可以获取免单。 输入描述 输入为 n 行数据,每一行表示一位顾客的下单时间 以(…...

DeepSeek R1满血+火山引擎详细教程

DeepSeek R1满血火山引擎详细教程 一、安装Cherry Studio。 Cherry Studio AI 是一款强大的多模型 AI 助手,支持 iOS、macOS 和 Windows 平台。可以快速切换多个先进的 LLM 模型,提升工作学习效率。下载地址 https://cherry-ai.com/ 认准官网&#xff0c;无强制注册。 这…...

前端依赖nrm镜像管理工具

npm 默认镜像 &#xff1a;https://registry.npmjs.org/ 1、安装 nrm npm install nrm --global2、查看镜像源列表 nrm ls3、测试当前环境下&#xff0c;哪个镜像源速度最快。 nrm test4、 切换镜像源 npm config get registry # 查看当前镜像源 nrm use taobao # 等价于 npm…...

【前端】Axios AJAX Fetch

不定期更新&#xff0c;建议关注收藏点赞。 目录 AxiosAJAXCORS 允许跨域请求 Fetch Axios axios 是一个基于 Promise 的 JavaScript HTTP 客户端&#xff0c;用于浏览器和 Node.js 中发送 HTTP 请求。它提供了一个简单的 API 来发起请求&#xff0c;并处理请求的结果。axios …...

【爬虫】request库

文章目录 发送请求响应对象响应数据的方式中文乱码问题响应对象的其他属性或方法 发送带参数的请求headers和查询参数 Requests——发送http请求&#xff0c;获取响应数据 首先&#xff0c;请确保&#xff1a; 已安装 RequestsRequests 是最新的 让我们从一些简单的示例开始…...

ES的简单讲解

功能 &#xff1a; 文档存储 与 文档搜索 特点&#xff1a;比如有一个文档名 “你好” 可以用‘你‘&#xff0c;好&#xff0c;你好都可以搜索到这个文档 ES核心概念 类似于数据库中表的概念&#xff0c;在表的概念下又对数据集合进行了细分 ​ ES_Client查询接口 cpr::R…...

进程间通信(一)

1.进程间通信介绍 数组传输&#xff1a;一个进程需要将它的数据发送给另一个进程 资源共享&#xff1a;多个进程之间共享同样的资源 通知事件&#xff1a;一个进程需要向另一个或者一组进程发送信息&#xff0c;通知发送了某种事件(如进程终止时要通知父进程) 进程控制&…...

人工智能中的特征是什么?

什么是人工智能中的特征&#xff1f; 在人工智能中&#xff0c;特征&#xff08;feature&#xff09;是指从原始数据中提取出的、能够代表数据关键信息并用于模型训练的属性或变量。特征通常是对原始数据的抽象或转换&#xff0c;目的是捕捉数据中的模式、结构或相关性&#x…...

MongoDB私人学习笔记

俗话说“好记性不如烂笔头”&#xff0c;编程的海洋如此的浩大&#xff0c;养成做笔记的习惯是成功的一步&#xff01; 此笔记主要是ZooKeeper3.4.9版本的笔记&#xff0c;并且笔记都是博主自己一字一字编写和记录&#xff0c;有错误的地方欢迎大家指正。 一、基础知识&#xf…...

大数据SQL调优专题——调优切入

引入 我们都知道大数据的SQL优化&#xff0c;并非一蹴而就的简单任务&#xff0c;而是一个涉及多个环节的复杂过程。从需求提出到最终交付&#xff0c;任何一个环节的微小偏差都可能影响最终成果。 虽然我们的专栏名字叫大数据SQL调优&#xff0c;但是实际调优并不是简单对SQ…...

Idea java项目结构介绍

一般来说&#xff0c;一个典型的 IntelliJ IDEA Java 项目具有特定的结构&#xff0c;以下是对其主要部分的介绍&#xff1a; 项目根目录 项目的最顶层目录&#xff0c;包含了整个项目的所有文件和文件夹&#xff0c;通常以项目名称命名。在这个目录下可以找到.idea文件夹、.g…...

adb的安装

1、概念 &#xff08;1&#xff09;adb&#xff08;android debug bridge&#xff09;安卓调试桥&#xff0c;用于完成电脑和手机之间的通信控制。 &#xff08;2&#xff09;xcode来完成对于ios设备的操控&#xff0c;前提是有个mac电脑。 2、adb的安装 &#xff08;1&…...

React + TypeScript 数据模型驱动数据字典生成示例

React TypeScript 数据模型驱动数据字典生成示例 引言&#xff1a;数据字典的工程价值 在现代化全栈开发中&#xff0c;数据字典作为业务实体与数据存储的映射桥梁&#xff0c;直接影响系统可维护性与团队协作效率。传统手动维护字典的方式存在同步成本高和版本管理混乱两大痛…...

Nginx 平滑升级/回滚

平滑升级和回滚的前提条件是 nginx 已经安装好&#xff0c;源码安装 nginx 可参考上一篇文章。在上一篇文章的基础上&#xff0c;nginx 已安装好且已启动&#xff0c;目前是 1.24 版本。 一、平滑升级 Nginx 的平滑升级&#xff08;热升级&#xff09;是一种 不中断服务 即可更…...

强化学习演进:GRPO 从何而来

强化学习&#xff08;Reinforcement Learning, RL&#xff09;是机器学习的一个分支&#xff0c;其核心是让智能体&#xff08;Agent&#xff09;通过与环境&#xff08;Environment&#xff09;的交互&#xff0c;学习如何采取最优行动&#xff08;Action&#xff09;以最大化…...

Uniapp 小程序复制、粘贴功能实现

在开发 Uniapp 小程序的过程中&#xff0c;复制和粘贴功能是非常实用且常见的交互需求。今天&#xff0c;我就来和大家详细分享如何在 Uniapp 中实现这两个功能。 复制功能&#xff1a;uni.setClipboardData方法 goResult() {uni.setClipboardData({data: this.copyContent, /…...

AOP进阶-02.通知顺序

一.通知顺序 当有多个切面类中的切入点表达式一样时&#xff0c;这些切面类的执行顺序是怎样的呢&#xff1f;如图我们将定义两个切面类&#xff0c;一个MyAspect2&#xff0c;一个MyAspect3&#xff0c;一个MyAspect4。执行后我们发现&#xff0c; 对于目标方法前的通知方法&…...