当前位置: 首页 > article >正文

大模型---SSE与WebSocket

目录一.SSE二.WebSocket三.SSE与WebSocket的区别一.SSESSE(Server-Sent Events),它允许服务器通过一个长时间保持打开的 HTTP 响应,持续向浏览器发送事件。浏览器端通过 EventSource API 建立连接,服务器端返回的响应类型是text/event-stream。SSE 是服务器到客户端的单向推送。客户端如果要把数据发给服务器,通常另开普通 HTTP 请求,例如 fetch()、POST、PUT 等。1.SSE的自动重连当连接异常断开时,浏览器通常会自动尝试重新连接。具体来说,每个EventSource对象都有 reconnection time 和 last event ID string;当服务器发送id字段后,浏览器会保存这个last event ID。当浏览器重新建立 SSE 连接时,会把上一次收到的事件 ID 放入Last-Event-ID请求头中,服务器可以据此补发断线期间遗漏的事件。例如,服务器发送id:101,浏览器保存 lastEventId = 101。当网络断开,浏览器会自动重连,请求头带上Last-Event-ID: 101,服务器会从102开始补发。但是,自动重连不等于自动保证消息不丢。如果服务器没有保存事件日志,或者不能根据 Last-Event-ID 做补发,重连后仍然可能丢消息。2.流式文本SSE天然适合不断输出文本片段,这也是为什么很多 AI 生成式接口会使用类似 SSE 的流式响应模型。但是,标准事件流是文本格式。如果要传二进制,需要自己做Base64或其他编码,这会带来额外体积和处理成本。二.WebSocketWebSocket

相关文章:

大模型---SSE与WebSocket

目录 一.SSE 二.WebSocket 三.SSE与WebSocket的区别 一.SSE SSE(Server-Sent Events),它允许服务器通过一个长时间保持打开的 HTTP 响应,持续向浏览器发送事件。浏览器端通过 EventSource API 建立连接,服务器端返回的响应类型是text/event-stream。SSE 是服务器到客户…...

go语言:实现largestPrime最大素数的算法(附带源码)

一、项目背景详细介绍在数论与算法领域,有一个非常经典的问题:Largest Prime(最大素数)问题它的核心目标是:👉 在给定范围内找到最大的素数1.1 什么是素数?素数(Prime Number&#x…...

go语言:实现求 1 到 20 的所有数整除的最小正数算法(附带源码)

一、项目背景详细介绍在数学与算法领域,有一类经典问题:最小公倍数(Least Common Multiple, LCM)问题其中最著名的经典题之一是:找到能够被 1 到 20 所有整数整除的最小正数这也是:👉 Project E…...

从一次网购下单,看透分组交换、延时和丢包:你的快递为什么时快时慢?

网购背后的数据旅行:解码分组交换如何影响你的快递速度 当你在电商平台点击"立即购买"按钮时,屏幕上转瞬即逝的加载动画背后,正上演着一场跨越数千公里的数据接力赛。这场以光速进行的接力赛,决定了支付页面是秒开还是卡…...

从零开始写Qwen3(五-其四)FlashAttention 差异汇编分析

从零开始写Qwen3目录 概述 经过前文的提速,耗时已经从官方的214%降低到112%,本文将从汇编角度猜测一下差距的原因 概述 使用上一节的输入参数,设置为BMBN64,和torch相同,分析汇编指令 torch的指令统计如下 triton…...

2026年AI Agent实战一:MCP协议从入门到实践与3个真实应用场景

AI辅助创作 | 专栏《2026 AI编程效率革命》第07篇前言 MCP(Model Context Protocol)是Anthropic在2024年底推出的开放协议,旨在标准化AI模型与外部工具、数据源的交互方式。到2026年,MCP已经成为AI Agent开发的事实标准协议。本文…...

开源AI对话聚合平台LibreChat:统一管理多模型,部署与实战指南

1. 项目概述:一个真正开源的AI对话聚合平台如果你和我一样,在过去一年里被各种AI聊天机器人搞得眼花缭乱,一会儿用这个查资料,一会儿用那个写代码,账号密码记了一堆,界面换来换去效率极低,那你一…...

力扣135分发糖果:代码随想录Day 29,掌握贪心算法的精髓

在算法学习过程中,力扣(LeetCode)的135题“分发糖果”是一个经典的题目,它考察了我们对于贪心算法的理解和运用。 这道题目源自实际应用场景,例如在团队绩效考核中,我们需要根据员工的表现来分配奖励。代码…...

VSCode光标增强:提升编码专注度的视觉优化方案

1. 项目概述:一个为开发者打造的专注光标 如果你和我一样,每天有超过8小时的时间是在代码编辑器里度过的,那你一定对那个闪烁的光标再熟悉不过了。它是指令的起点,是思维的锚点,但很多时候,它也是一个容易被…...

嵌入式系统调试技术:从基础到高级实践

1. 嵌入式系统调试的现状与挑战在当今电子产品开发中,嵌入式系统调试已成为决定项目成败的关键因素。作为一名从业十余年的嵌入式系统工程师,我见证了调试技术从简单的断点调试发展到如今复杂的多核追踪系统的演进过程。1.1 为什么调试如此重要&#xff…...

娱乐圈天降紫微星贵在自立,海棠山铁哥不靠投喂靠自我成就

内娱最虚伪的封神方式莫过于资本投喂式走红01|投喂式造星全景图投喂方投喂内容明星姿态平台热度坐等上榜团队人设直接换装资本资源全盘接收IP情怀一键继承宣发口碑无痛镀金 他们无需深耕创作,无需打磨作品,无需沉淀心性, 只需站在…...

发票查验验证码OCR识别接口(新版旧版兼容+本地部署)

一. 发票查验验证码OCR识别-API (/mobile/recognize) Mobile版使用多颜色专用模型(各颜色使用独立模型)。 关联视频: https://www.bilibili.com/video/BV1mkQ8BoEaE/ (2026年最新发票查验验证码OCR模型) https://www.bilibili.com/video/B…...

钉钉AI助理直通模式集成Dify:低门槛构建企业级智能机器人

1. 项目概述:打通钉钉与Dify的智能桥梁如果你正在寻找一种方法,将你在Dify平台上精心构建的智能体(Agent)无缝对接到钉钉工作台,让团队在日常沟通中就能直接调用,那么你找对地方了。chzealot/dingtalk-dify…...

开发者PPT自动化工具:模板+数据驱动技术报告生成

1. 项目概述:一个面向开发者的PPT模板编辑器最近在GitHub上看到一个挺有意思的项目,叫RainJayTsai/ppt-template-editor。光看名字,你可能会觉得这又是一个普通的PPT制作工具,但点进去仔细研究后,我发现它的定位非常独…...

智能体管理平台:从概念到实践,构建高效AI协作系统

1. 项目概述:从“围栏”到“智能体牧场”的构想最近在开源社区里,一个名为llrowat/agent-corral的项目引起了我的注意。初看这个名字,可能会觉得有些抽象——“Corral”在英文里是“畜栏”或“围栏”的意思,而“Agent”则是当下AI…...

基于Docker Compose的Web应用部署:从架构设计到生产运维实战

1. 项目概述:一个轻量级、高可用的Web应用部署方案最近在折腾一个个人项目,需要快速部署一个前后端分离的Web应用。我的需求很明确:轻量、快速、稳定,并且能让我完全掌控部署的每一个环节。我不想用那些“一键部署”的云服务&…...

1 虚拟文件系统

1.Linux 内核核心作用 Linux 内核是操作系统的核心底层程序,介于硬件和应用程序之间,是整个系统的「大管家」,核心作用分 7 大类: 1. 进程管理(任务调度) 1.负责创建、销毁、暂停、恢复进程 / 线程 2.时间片…...

工程师如何讲好技术故事:从设计案例到个人品牌构建

1. 从“设计故事换iPad”看工程师的软实力营销前几天翻看一些老资料,偶然又看到了EE Times在2011年刊登的这篇小短文,标题挺有意思,叫“用设计故事换一台iPad?”。内容很简单,讲的是当时一家叫AWR(现在已被…...

2026年程序员破局之路:转智能体开发,不用卷算法也能拿高薪

文章目录前言2026年的程序员圈,一半是海水一半是火焰一边是地狱:只会CRUD的程序员,正在被时代无情抛弃一边是天堂:智能体开发岗位,正在疯狂撒钱抢人别被劝退了!智能体开发,根本不用死磕算法八股…...

基于MCP协议实现私有部署Azure DevOps与AI编程助手的安全集成

1. 项目概述:当本地开发遇上云端智能最近在折腾一个挺有意思的玩意儿,叫burcusipahioglu/azure-devops-mcp-onprem。乍一看这名字,又是 Azure DevOps,又是 MCP,还带个 on-prem,感觉有点绕。简单来说&#x…...

别再卷传统开发了!程序员转大模型,薪资直接翻2倍的真实路径

文章目录前言一、2026年,传统开发的内卷已经走到了死胡同1.1 35岁危机提前到30岁,CRUD正在被AI批量替代1.2 面试的灵魂拷问,正在击碎传统开发的薪资幻想1.3 传统开发的薪资天花板,正在被大模型狠狠砸穿二、别被忽悠了!…...

基于Reveal.js的Markdown幻灯片工具:技术分享与文档演示的高效解决方案

1. 项目概述:一个将Markdown转换为精美幻灯片的工具如果你经常需要在技术分享、产品演示或者教学培训中制作幻灯片,那么你一定对在PPT、Keynote或者Google Slides里反复调整格式、对齐文本框、设置动画感到厌倦。尤其是当你的内容主体是技术文档、代码示…...

清华AlignBench:首个中文大模型对齐评测基准深度解析与实战指南

1. 项目概述:为什么我们需要一个中文对齐评测基准?如果你最近在关注大语言模型(LLM)的发展,尤其是中文模型,可能会发现一个现象:各家厂商都在宣传自己的模型“能力强大”、“理解深刻”、“逻辑…...

Arm DynamIQ CTI寄存器架构与多核调试实践

1. Arm DynamIQ Shared Unit-110 CTI寄存器架构解析在Arm CoreSight调试架构中,交叉触发接口(CTI)扮演着关键角色。作为DynamIQ共享单元-110的重要组成部分,CTI通过硬件级的事件触发机制,实现了多核处理器间的高效调试协同。CTI的核心功能由一…...

5G波形技术革新:块滤波OFDM与同频全双工实战验证

1. 项目概述:一次面向未来的5G波形技术实地验证2017年初,当全球通信产业还在为5G的最终标准争论不休时,法国格勒诺布尔的CEA-Leti研究所已经准备将他们的研究成果从实验室推向真实的天空。这不仅仅是一次普通的“外场测试”,而是一…...

使用Taotoken CLI工具一键配置多开发环境下的AI助手接入

🚀 告别海外账号与网络限制!稳定直连全球优质大模型,限时半价接入中。 👉 点击领取海量免费额度 使用Taotoken CLI工具一键配置多开发环境下的AI助手接入 对于需要在不同项目、不同机器上工作的开发者而言,为每个AI助…...

多模态AI框架MMClaw:从编码融合到实战部署全解析

1. 项目概述:一个面向多模态内容理解的“机械爪” 最近在折腾一些多模态项目时,发现一个挺有意思的仓库,叫 leadersboat/MMClaw 。光看名字, MM 大概率指的是 Multimodal(多模态) ,而 Cl…...

AI智能体配置管理:从硬编码到声明式配置的工程实践

1. 项目概述:一个为AI智能体“立规矩”的配置库如果你最近也在折腾AI智能体(Agent),特别是用LangChain、AutoGPT这类框架来构建自己的自动化助手,那你大概率会遇到一个共同的烦恼:配置太散了,管…...

Go跨平台获取光标所在显示器索引:displayindex库实战指南

1. 项目概述与核心价值在开发跨平台的桌面应用时,我们常常会遇到一个看似简单却颇为棘手的问题:如何准确判断用户的鼠标光标当前位于哪一个物理显示器上?无论是开发一个需要根据光标位置动态调整UI布局的编辑器,还是一个在多显示器…...

14.凌晨三点的月光

凌晨三点十七分,陈远从代码的深海中浮出水面。他保存文件,运行测试。绿色的进度条在屏幕上平稳推进,一个接一个的测试用例通过,像一排沉默的、尽职的士兵,在确认他刚刚构建的防线的稳固性。这是优惠券发放模块的压力测…...