当前位置: 首页 > article >正文

WebSocket在分布式环境中的局限性及解决方案

WebSocket 在分布式环境中存在一些局限性,特别是当系统需要扩展多个服务实例时,单个 WebSocket 连接的管理和消息推送就变得比较复杂。因此,必须采取一些额外的措施来确保 WebSocket 能在多个服务实例之间正确工作。

WebSocket 在分布式环境中的局限性

  1. 单实例限制:传统的 WebSocket 连接是基于单一实例的,如果我们的应用扩展了多个实例,每个实例只能管理它自己建立的 WebSocket 连接,导致消息无法从一个实例推送到另一个实例的连接中。

  2. 消息同步问题:当多个实例都需要处理来自 Kafka 或其他消息队列的事件时,如果不采取措施,消息可能无法同步推送到所有 WebSocket 连接。比如,如果某个服务实例处理了 Kafka 消息,可能无法将消息推送到所有其他实例的 WebSocket 连接。

示例:在线聊天应用

假设我们正在开发一个 在线聊天应用,该应用有多个用户(客户端)同时在线,每个用户通过 WebSocket 与聊天服务器进行连接,实时接收和发送消息。

场景描述

  1. 用户 A用户 B 都使用浏览器登录这个聊天应用。
  2. 服务器 会管理每个用户与浏览器之间的 WebSocket 连接,并保持这些连接持续开放,实时推送消息。
  3. 由于 服务器 可能分布在多个 实例 上(例如 服务器实例 1服务器实例 2),因此,每个服务器实例只会管理与其连接的 用户

设定

  • 服务器实例 1 管理了 用户 A 的 WebSocket 连接。
  • 服务器实例 2 管理了 用户 B 的 WebSocket 连接。

发生的情况

1. 用户 A 向用户 B 发送消息
  • 用户 A 在聊天框中输入消息并点击发送。
  • 服务器实例 1 接收到 用户 A 的消息。
  • 服务器实例 1 将消息推送到 用户 B,但它并不知道 用户 B 连接在 服务器实例 2 上,因此,它不能直接将消息推送给 用户 B
2. 问题
  • 服务器实例 1 无法直接推送消息给 服务器实例 2 上的 用户 B,因为 WebSocket 是一个点对点的连接协议,每个服务器实例只能与它自己管理的 WebSocket 连接进行通信。
  • 用户 A 的消息只能通过 服务器实例 1 发送给 用户 A,而不能跨实例推送给 用户 B

解决方案:使用消息队列(如 Redis)

为了解决这个问题,我们可以使用 消息队列(例如 Redis)来 同步跨实例的消息

  1. 服务器实例 1用户 A 的消息发布到 Redis 的一个 频道,比如频道名为 chat-channel
  2. 服务器实例 2 订阅了 chat-channel 这个频道,当 服务器实例 1 发布消息时,服务器实例 2 会收到消息。
  3. 服务器实例 2 收到消息后,推送该消息给它管理的 用户 B

简化的流程:

  1. 用户 A用户 B 发送消息 -> 服务器实例 1 处理。
  2. 服务器实例 1 将消息发布到 Redischat-channel
  3. 服务器实例 2 订阅 chat-channel,接收到消息。
  4. 服务器实例 2 将消息推送给 用户 B

总结

  • 在 WebSocket 的传统实现中,每个 服务器实例 管理自己的 WebSocket 连接,不能直接跨实例推送消息。
  • 通过 Redis 或 Kafka 等消息队列,服务器实例 可以将消息发布到共享频道,其他实例可以订阅并接收到该消息。
  • 通过这种方式,即使 用户 A服务器实例 1,而 用户 B服务器实例 2,也能确保消息能够实时推送到 用户 B

解决方案:使用 消息中间件分布式 WebSocket 管理

为了解决 WebSocket 在分布式环境中的问题,我们可以使用 消息中间件(如 Kafka、RabbitMQ、Redis 等)来同步消息,并结合 分布式 WebSocket 管理 来保证每个 WebSocket 客户端能够接收到消息。

1. 使用 Redis 作为消息代理

  • Redis 是一个支持 发布/订阅(Pub/Sub)机制的高效内存数据存储服务,适用于多实例之间的消息同步。
  • 我们可以利用 Redis 的 发布/订阅 模式来广播 WebSocket 消息,将消息推送到所有连接的 WebSocket 客户端。
  • 在每个 WebSocket 实例中,客户端连接后都会订阅 Redis 中的某个频道,当消息发布到该频道时,Redis 会将消息转发给所有订阅了该频道的实例,从而实现多实例间的 WebSocket 消息推送。

2. 方案设计

  • Kafka 消费者:在后台,Kafka 消费者服务从消息队列中消费到的事件(如工单拒绝事件)会通过 Redis 发布 消息。
  • WebSocket 服务:每个 WebSocket 服务实例会订阅 Redis 中的特定频道,当 Kafka 消费者发布消息时,Redis 会将消息广播给所有订阅了该频道的 WebSocket 实例,从而向所有客户端推送消息。

3. 总结

  • WebSocket 连接:每个 WebSocket 服务实例会订阅 Redis 中的消息频道,确保多个服务实例能够接收到相同的推送消息。
  • Kafka 消费者:从 Kafka 消费事件后,发布到 Redis 消息频道,确保消息的同步。
  • Redis Pub/Sub:Redis 的发布/订阅机制实现了跨服务实例的消息同步,解决了多实例间 WebSocket 消息推送的挑战。

4. 优点

  • 高可扩展性:利用 Redis 或其他消息中间件,能够在多个服务实例之间同步消息,解决了 WebSocket 在分布式环境中的限制。
  • 解耦:消息推送和 WebSocket 连接的管理解耦,减少了直接依赖,提高了系统的灵活性和维护性。
  • 实时推送:WebSocket 与 Redis 集成可以实现实时的消息推送,确保管理员能够即时收到任务拒绝或其他工单相关的通知。

这样,使用 Redis 和 WebSocket 的组合解决方案能够有效克服 WebSocket 在分布式环境中的局限性,并提供一个高效、可扩展的消息推送机制。

相关文章:

WebSocket在分布式环境中的局限性及解决方案

WebSocket 在分布式环境中存在一些局限性,特别是当系统需要扩展多个服务实例时,单个 WebSocket 连接的管理和消息推送就变得比较复杂。因此,必须采取一些额外的措施来确保 WebSocket 能在多个服务实例之间正确工作。 WebSocket 在分布式环境…...

Flutter 跳转后不允许返回

如果在 Flutter 中使用 Navigator.pushNamed(context, /),默认情况下它会将新的页面压入栈中,这样用户可以按返回键返回上一页。但如果你不想让用户返回,而是直接跳转到 / 并清除导航栈,可以使用 pushReplacementNamed 或 pushNam…...

spconv 安装测试

pip install spconv 报错: File "/usr/local/lib/python3.10/dist-packages/torch/nn/modules/module.py", line 1736, in _wrapped_call_impl return self._call_impl(*args, **kwargs) File "/usr/local/lib/python3.10/dist-packages/torch/nn/modules/mod…...

关于es6-module的语法

ES6(ECMAScript 2015)引入了模块化的概念,旨在使 JavaScript 更加模块化、可维护和可重用。ES6 模块允许我们在不同的文件中组织和管理代码,使得不同模块之间的依赖关系更加清晰。 1. 导出(Export) 1.1 命…...

python旅游推荐系统+爬虫+可视化(协同过滤算法)

✅️基于用户的协同过滤算法 ✅️有后台管理 ✅️2w多数据集 这个旅游数据分析推荐系统采用了Python语言、Django框架、MySQL数据库、requests库进行网络爬虫开发、机器学习中的协同过滤算法、ECharts数据可视化技术,以实现从网站抓取旅游数据、个性化推荐和直观展…...

【弹性计算】IaaS 和 PaaS 类计算产品

《弹性计算产品》系列,共包含以下文章: 云服务器:实例、存储、网络、镜像、快照容器、裸金属云上运维IaaS 和 PaaS 类计算产品 😊 如果您觉得这篇文章有用 ✔️ 的话,请给博主一个一键三连 🚀&#x1f680…...

视频转序列帧

视频转序列帧 介绍操作总结 介绍 这篇文章不是单独讲视频转序列帧所有的方法,这里是针对我后面要做序列帧动画优化的一个工具篇幅。这里我用的premiere Pro 2020下面会讲方法简称pr。 操作 打开pr点击新建项目 输入名称点击确认 将需要转换的视频导入到媒体浏览…...

大模型应用怎么学习,在哪里实现开发:Dify、AnyThingLLM、LangFlow

大模型应用怎么学习,在哪里实现开发 目录 大模型应用怎么学习,在哪里实现开发Dify、AnyThingLLM、LangFlow的官网地址及使用方法DifyAnyThingLLMLangFlowDify、AnyThingLLM、LangFlow是什么怎么使用DifyAnyThingLLMLangFlowDify、AnyThingLLM、LangFlow名字的含义Dify、AnyTh…...

LLM有哪些可控超参数

LLM有哪些可控超参数 目录 LLM有哪些可控超参数生成控制类采样相关类推理优化类惩罚类其他类计算资源与批量处理类上下文与Token相关类内存相关类生成控制类 以流式返回对话响应:指模型在生成回复时,是否以逐字或逐句的流式方式返回给用户,而不是等全部生成完再返回,能提升…...

C++共享指针实战

需求&#xff1a; 有三个类&#xff0c;分别是A,B, R。在B类里new 了一个R的智能指针&#xff0c; 这个R的生命周期和B相同。同时A类也存了一个B中存放关于R的智能指针。B销毁同时A指向R的指针也失效&#xff0c;并调用R的析构函数&#xff0c;如何实现 #include <iostream…...

算法分析—— 《归并排序》

《排序数组》 题目描述&#xff1a; 给你一个整数数组 nums&#xff0c;请你将该数组升序排列。 你必须在 不使用任何内置函数 的情况下解决问题&#xff0c;时间复杂度为 O(nlog(n))&#xff0c;并且空间复杂度尽可能小。 示例 1&#xff1a; 输入&#xff1a;nums [5,2…...

SpringBoot启动时报错:cannot use an unresolved DNS server address: I:53

报错如下&#xff1a; 2025-02-17 13:59:41.374 [main] ERROR org.springframework.boot.SpringApplication:835 - Application run failed org.springframework.beans.factory.UnsatisfiedDependencyException: Error creating bean with name mySwaggerResourceProvider def…...

AI进展不止于基准:深度解析Grok 3的局限

基准测试长期以来一直是AI评估的基石,但任何认真的AI科学家都知道它们是可以被“游戏化”的。 我曾经详细写过这个问题,甚至LMsys也不得不调整其盲测格式——将Grok 3用不同的标签代替,而不仅仅是隐藏品牌——以减少品牌偏见。 高能力AI,尤其是像GPT-4级别的模型,或那些依…...

物联网技术赋能预测性维护的深度剖析与前景展望

一、引言 1.1 研究背景与意义 随着信息技术的飞速发展,物联网技术已逐渐渗透到各个行业领域,成为推动产业变革和创新的重要力量。物联网通过将各种设备、物品与互联网连接,实现数据的采集、传输和交互,为各行业带来了前所未有的智能化和自动化水平提升。在工业领域,设备…...

Python变量作用域250218

函数调用时&#xff0c;会创建自己的独有的作用域作用域是以函数为作用域的而且使用条件语句&#xff0c;可能让定义一些变量的代码运行&#xff0c;从而创建其内部变量&#xff0c;如果定义条件不成立&#xff0c;这些变量就不会被创建并被使用变量只要在函数中出现&#xff0…...

SQL Server 运算符优先级

在 SQL Server 中&#xff0c;运算符的优先级决定了在没有使用括号明确指定计算顺序时&#xff0c;运算符的执行顺序。 运算符优先级列表 括号 () 一元运算符 &#xff08;正号&#xff09;-&#xff08;负号&#xff09;~&#xff08;按位取反&#xff09; 乘法、除法和取模…...

Miniconda + VSCode 的Python环境搭建

目录&#xff1a; 安装 VScode 安装 miniconda 在VScode 使用conda虚拟环境 运行Python程序 1.安装 vscode 编辑器 官网链接&#xff1a;Visual Studio Code - Code Editing. Redefined 下载得到&#xff1a;&#xff0c;双击安装。 安装成功…...

AI提示词进阶:RTGO与CO-STAR框架实战指南

掌握提示词设计是解锁AI生产力的关键。本文将深入解析两大顶尖框架RTGO与CO-STAR&#xff0c;通过程序员视角拆解技术原理&#xff0c;配合真实案例演示如何根据场景精准选型。 一、框架定位与技术特性对比 维度RTGO框架CO-STAR框架架构四层递进式结构六维网状结构响应速度0.8…...

【python】4_异常

目录 一、异常处理 1、异常捕获 基本捕获语法&#xff1a; 捕获指定异常&#xff1a; 捕获多个异常&#xff1a; 捕获所有异常&#xff1a; 异常else & finally&#xff1a; 2、异常的传递性 二、模块 模块的导入方式 1、语法 2、as 定义别名 一、异常处理 1、异常…...

Python Spider

Python Spider&#xff0c;即Python爬虫&#xff0c;是一种使用Python编程语言编写的自动化程序&#xff0c;用于从互联网上抓取数据。这些程序通常模拟人类用户的网络行为&#xff0c;如访问网页、提交表单、点击链接等&#xff0c;以收集所需的信息。Python爬虫广泛应用于数据…...

防御保护选路练习

拓扑 配置 IP的基本配置 r2 [R2]int g0/0/0 [R2-GigabitEthernet0/0/0]ip add 12.0.0.2 255.255.255.0 [R2]int g0/0/2 [R2-GigabitEthernet0/0/2]ip add 210.1.1.254 255.255.255.0 [R2-GigabitEthernet0/0/2]int g0/0/1 [R2-GigabitEthernet0/0/1]ip add 200.1.1.254 255.…...

AI性能极致体验:通过阿里云平台高效调用满血版DeepSeek-R1模型

前言 解决方案链接&#xff1a; https://www.aliyun.com/solution/tech-solution/deepseek-r1-for-platforms?utm_contentg_1000401616 DeepSeek是近期爆火的开源大语言模型&#xff08;LLM&#xff09;&#xff0c;凭借其强大的模型训练和推理能力&#xff0c;受到越来越多…...

Windows本地部署DeepSeek

文章目录 一、准备工作1、准备服务器2、准备APP 二、部署deepseek-r11、脚本部署2、脚本部署 三、ChatBox集成 一、准备工作 1、准备服务器 本案例使用Windows电脑 2、准备APP Download Ollama Download Chatbox 二、部署deepseek-r1 1、脚本部署 双击安装完Ollama,默认…...

力扣高频sql 50题(基础版) :NULL, 表连接,子查询,case when和avg的结合

NULL的处理 nvl(字段,num) 和数字进行比较需要先使用nvl(字段,num)函数处理空值 思路: 没有被id 2 的客户推荐>> 过滤条件 referee_id !2 没有被id 2 的客户推荐>>被其他客户推荐, 但是也有可能没有被任何客户推荐>>NULL 考点: NULL是 不一个具体的数…...

通俗理解-L、-rpath和-rpath-link编译链接动态库

一、参考资料 链接选项 rpath 的应用和原理 | BewareMyPower的博客 使用 rpath 和 rpath-link 确保 samba-util 库正确链接-CSDN博客 编译参数-Wl和rpath的理解_-wl,-rpath-CSDN博客 Using LD, the GNU linker - Options Directory Options (Using the GNU Compiler Colle…...

【Python】02-Python简介

文章目录 1、计算机语言简介2、编译型语言和解释性语言3、Python简介3.1 简介3.2 用途 4、开发环境搭建5、交互界面6、Sublime和Python整合 1、计算机语言简介 计算机语言 定义&#xff1a;人类与计算机之间进行信息交流的工具&#xff0c;它通过特定的符号、语法规则和语义结构…...

C++中变量与容器的默认初始化:0的奥秘

在C编程的世界里&#xff0c;初始化是一个至关重要的概念。它决定了变量或容器在程序开始执行时的初始状态。然而&#xff0c;对于不同的数据类型和容器&#xff0c;C标准对于默认初始化的行为有着不同的规定。本文将深入探讨C中变量与容器的默认初始化规则&#xff0c;特别是关…...

C#中File.Copy方法的参数overwrite取false和true的区别

当调用 System.IO.File.Copy 方法时&#xff0c;第三个参数 overwrite 控制着如果目标位置已经存在同名文件的情况下如何处理。 1、当 overwrite 设置为 true 在这种情况下&#xff0c;即使目标路径下已经有相同名称的文件&#xff0c;该方法也会无条件地覆盖现有的文件。这不…...

用promptfoo做大模型安全性测评

1. 引入 promptfoo 是一款专为大模型安全测试打造的强大工具。它能通过红队测试、渗透测试以及漏洞扫描等方式&#xff0c;对各类大模型展开深度安全评估&#xff0c;全面检测模型在不同场景下的安全性。 2. 运行promptfoo的过程 安装nodejs 用npm安装promptfoo npm insta…...

软件评测师复习之计算机网络(4)

目录 (一)1.网络功能和分类2.OSI七层模型3.TCP/IP协议4.传输介质(二)1.通信方式和交换方式2.IP地址3.IPv64.网络规划与设计5.磁盘冗余阵列6.网络存储技术(一) 1.网络功能和分类 计算机网络功能:数据通信、资源共享、负载均衡、高可靠性 按分布范围和拓扑结构划分: 网络分类…...