Spring Cloud LoadBalancer基础知识
LoadBalancer
- 概念
- 常见的负载均衡策略
- 使用随机选择的负载均衡策略
- 创建随机选择负载均衡器
- 配置
- Nacos 权重负载均衡器
- 创建 Nacos 负载均衡器
- 配置
- 自定义负载均衡器(根据IP哈希策略选择)
- 创建自定义负载均衡器
- 封装自定义负载均衡器
- 配置
- 缓存
概念
LoadBalancer(负载均衡器)是一种网络设备或软件机制, 用于分发传入的网络流量负载(请求)到多个后端目标服务器上, 从而实现系统资源的均衡利用和提高系统的可用性和性能
负载均衡分为服务器端负载均衡和客户端负载均衡
- 服务器端负载均衡是指放在服务器端的负载均衡器(反向代理), 如: Nginx, HAProxy, F5等
- 客户端负载均衡器是指嵌套在客户端的负载均衡器(正向代理), 如: Ribbon, Spring Cloud LoadBalancer等
服务器端负载均衡器所有请求都会发送到服务器端, 就会造成服务器端压力大的情况
常见的负载均衡策略
- 轮询(默认): 按照顺序将请求发送到服务器
- 随机选择: 随机选择一个服务器处理请求
- 最少连接: 选择连接数最少的一个服务器
- IP 哈希: 使用客户端IP地址计算哈希值然后发送到与之对应的服务器
- 加权轮询: 按照权重值的比例发送请求
- 加权随机选择: 按照权重值随机选择后端服务器
- 最短响应时间: 将请求发送到响应时间最短的服务器
Spring Cloud LoadBalancer 默认只支持轮询和随机选择, 但是可以自定义负载均衡策略
使用随机选择的负载均衡策略
创建随机选择负载均衡器
public class MyRandomLoadBalancer {@Beanpublic ReactorLoadBalancer<ServiceInstance> randomLoadBalancer(Environment environment,LoadBalancerClientFactory loadBalancerClientFactory) {String name = environment.getProperty(LoadBalancerClientFactory.PROPERTY_NAME);return new RandomLoadBalancer(loadBalancerClientFactory.getLazyProvider(name, ServiceInstanceListSupplier.class), name);}
}
配置

注意: 配置局部负载均衡器有可能不起作用, 可以配置全局负载均衡器

Nacos 权重负载均衡器
Nacos 中支持两种负载均衡器, 一种是权重负载均衡器, 另一种是第三方的CMDB(地域就近访问)标签负载均衡器, 我们可以将Spring Cloud LoadBalancer 直接配置为 Nacos 的负载均衡器
创建 Nacos 负载均衡器
@LoadBalancerClients(defaultConfiguration = MyNacosLoadBalancer.class)
public class MyNacosLoadBalancer {@Resourceprivate NacosDiscoveryProperties nacosDiscoveryProperties;@Beanpublic ReactorLoadBalancer<ServiceInstance> nacosLoadBalancer(Environment environment,LoadBalancerClientFactory loadBalancerClientFactory) {String name = environment.getProperty(LoadBalancerClientFactory.PROPERTY_NAME);return new NacosLoadBalancer(loadBalancerClientFactory.getLazyProvider(name, ServiceInstanceListSupplier.class),name, nacosDiscoveryProperties);}
}
配置

自定义负载均衡器(根据IP哈希策略选择)
创建自定义负载均衡器
public class CustomLoadBalancer implements ReactorServiceInstanceLoadBalancer {private static final Log log = LogFactory.getLog(RandomLoadBalancer.class);private final String serviceId;private ObjectProvider<ServiceInstanceListSupplier> serviceInstanceListSupplierProvider;public CustomLoadBalancer(ObjectProvider<ServiceInstanceListSupplier> serviceInstanceListSupplierProvider, String serviceId) {this.serviceId = serviceId;this.serviceInstanceListSupplierProvider = serviceInstanceListSupplierProvider;}public Mono<Response<ServiceInstance>> choose(Request request) {ServiceInstanceListSupplier supplier = (ServiceInstanceListSupplier)this.serviceInstanceListSupplierProvider.getIfAvailable(NoopServiceInstanceListSupplier::new);return supplier.get(request).next().map((serviceInstances) -> {return this.processInstanceResponse(supplier, serviceInstances);});}private Response<ServiceInstance> processInstanceResponse(ServiceInstanceListSupplier supplier, List<ServiceInstance> serviceInstances) {Response<ServiceInstance> serviceInstanceResponse = this.getInstanceResponse(serviceInstances);if (supplier instanceof SelectedInstanceCallback && serviceInstanceResponse.hasServer()) {((SelectedInstanceCallback)supplier).selectedServiceInstance((ServiceInstance)serviceInstanceResponse.getServer());}return serviceInstanceResponse;}private Response<ServiceInstance> getInstanceResponse(List<ServiceInstance> instances) {if (instances.isEmpty()) {if (log.isWarnEnabled()) {log.warn("No servers available for service: " + this.serviceId);}return new EmptyResponse();} else {ServletRequestAttributes attributes = (ServletRequestAttributes) RequestContextHolder.getRequestAttributes();HttpServletRequest request = attributes.getRequest();String ipAddress = request.getRemoteAddr();System.out.println("ip地址:" + ipAddress);int hash = instances.hashCode();int index = hash % instances.size();ServiceInstance instance = (ServiceInstance) instances.get(index);return new DefaultResponse(instance);}}
}
由于自定义负载均衡器和内置的负载均衡器只是在服务器选择的时候有所不同, 所以我们可以直接复制 RandomLoadBalancer 然后 在 getInstanceResponse()方法中进行改动即可
封装自定义负载均衡器

配置

缓存
Spring Cloud LoadBalancer 在获取实例时有两种选择:
- 及时获取: 每次都从注册中心获取到最新的实例, 效果好但是开销大
- 缓存服务列表: 每次得到服务列表后, 缓存一段时间,
spring Cloud LoadBalancer 默认缓存过期时间为 35s, 保存个数为 256个
我们也可以通过配置来改变这两个值
spring:cloud:loadbalancer:cache:ttl: 10capacity: 1000
# enabled: false 关闭缓存
生产环境下不要关闭缓存否则会降低性能
相关文章:
Spring Cloud LoadBalancer基础知识
LoadBalancer 概念常见的负载均衡策略使用随机选择的负载均衡策略创建随机选择负载均衡器配置 Nacos 权重负载均衡器创建 Nacos 负载均衡器配置 自定义负载均衡器(根据IP哈希策略选择)创建自定义负载均衡器封装自定义负载均衡器配置 缓存 概念 LoadBalancer(负载均衡器)是一种…...
剖析WPF模板机制的内部实现
剖析WPF模板机制的内部实现 众所周知,在WPF框架中,Visual类是可以提供渲染(render)支持的最顶层的类,所有可视化元素(包括UIElement、FrameworkElment、Control等)都直接或间接继承自Visual类。…...
计算机网络常见的名词解释
计算机网络常见的名词解释 1.应用层2.传输层3. 网络层4.链路层5. 无线网络和移动网络6.计算机网络中的安全 1.应用层 API (Application Programming Interface)应用程序编程接口HTTP (Hyper Text Transfer Protocol) 超文本传输协…...
Android Studio导入,删除第三方库
Android项目经常用到无私的程序员们提供的第三方类库。本篇博客就是实现第三方库的导入和删除。 一、导入第三方库 1、将需要的库下载到本地; 2、新建Moudle (1)File --- New Moudle (2)选择Android Library --- Next (3)填写Moudle名 --- Finish。一个新的Mou…...
生成指定长度的随机数字,用对方法精准提效数10倍!
生成指定长度的随机数字这一函数功能可能在以下情况下被使用: 密码生成:在需要生成随机密码时,可以使用该功能生成指定长度的随机数字作为密码。 随机数生成:在需要生成一定长度的随机数列时,可以使用该功能生成随机…...
Vue3 + Naive-ui Data Table 分页页码显示不全
当使用naive-ui 表格并且使用分页组件的时候 需要增加 remote...
机器学习中的决策阈值
什么是决策阈值? sklearn不允许我们直接设置决策阈值,但它允许我们访问用于进行预测的决策分数(决策函数o/p)。我们可以从决策函数输出中选择最佳得分并将其设置为决策阈值,并且将小于该决策阈值的所有那些决策得分值…...
mongodb导出聚合查询的数据
❗️❗️❗️在正文之前先要讲一个坑,就是mongoexport这个命令工具不支持导出聚合查询的数据,比如通过某某字段来分组 我查了一天关于mongoexport怎么来导出聚合查询的结果集,最终还是gpt给了我答案 😭 既然mongoexport不支持&…...
U-Mail信创邮件系统解决方案
近年来,在国家政策的大力引导和自身数字化转型需求驱动下,国产化成为国内数字化发展道路上的关键词,企业不断加强自主创新能力,进行信创建设,实现软硬件系统国产化替代,已成为大势所趋。邮件系统作为企业管…...
GUI:贪吃蛇
以上是准备工作 Data import javax.swing.*; import java.net.URL;public class Data {public static URL headerURLData.class.getResource("static/header.png");public static ImageIcon header new ImageIcon(headerURL);public static URL upURLData.class.getR…...
leaflet:个性化配置,利用Leaflet-Geoman绘制多种图形(136)
第136个 点击查看专栏目录 本示例的目的是介绍演示如何在vue+leaflet中个性化配置,利用Leaflet-Geoman绘制多种图形。 灵活地配置Leaflet-Geoman的属性,可以产生各种美妙的绘图效果。 直接复制下面的 vue+leaflet源代码,操作2分钟即可运行实现效果 文章目录 示例效果配置方…...
【Shell脚本8】Shell printf 命令
Shell printf 命令 printf 命令模仿 C 程序库(library)里的 printf() 程序。 printf 由 POSIX 标准所定义,因此使用 printf 的脚本比使用 echo 移植性好。 printf 使用引用文本或空格分隔的参数,外面可以在 printf 中使用格式化…...
CSAPP第4章:RISC和CISC指令集
RISC和CISC指令集 IA32被称为复杂指令集计算机(CISC),与精简指令集计算机(RISC)相对。 从历史上看,先出现了CISC机器,计算机不断发展使指令集非常大。 RISC设计理念在80年代早期发展,使用更简单的指令集产生高效的代码。 许多加…...
【LeetCode】每日一题 2023_11_9 逃离火灾(bfs 练习)
文章目录 刷题前唠嗑题目:最长平衡子字符串题目描述代码与解题思路偷看大佬题解 结语 刷题前唠嗑 LeetCode? 启动!!! 嗯?什么?今天是 hard?陷入沉思。。。先看看题吧 题目:最长平…...
flink1.18.0 自适应调度器 资源弹性缩放 flink帮你决定并行度
jobmanager.scheduler Elastic Scaling | Apache Flink 配置文件修改并重启flink后,webui上会显示调整并行度的按钮,他可以自己调整,你也可以通过webUI手动调整: 点击 之后: 调整完成后:...
如何设计vue项目的权限管理?
权限管理的重要性及必要性 数据安全:权限管理可以确保只有具有相应权限的用户能够访问和操作特定的数据。这可以保护敏感数据不被未授权的用户访问,从而提高数据的安全性。功能控制:权限管理可以根据用户的角色和权限设置,控制用户…...
HBase学习笔记(2)—— API使用
对HBase中常用的API操作进行简单的介绍 对应HBase学习笔记(1)—— 知识点总结-CSDN博客中介绍的HBase Shell常用操作 更多用法请参考官网:Apache HBase ™ Reference Guide 依赖导入 <dependencies><dependency><groupId>o…...
C/C++轻量级并发TCP服务器框架Zinx-游戏服务器开发004:游戏核心消息处理 - 玩家类的实现
文章目录 0 代码仓库1 需求2 AOI设计2.1 AOI算法简介2.2 AOI数据结构及实现2.2.1 玩家2.2.2 网格对象2.2.3 游戏世界矩形2.2.4 获取周围玩家的实现2.2.5 代码测试 2.3 GameRole结合AOI创建玩家2.3.1 创建游戏世界全局对象-GameRole继承AOIWorld的Player2.3.2 把玩家到游戏世界的…...
Python Selenium元素定位方法详解
引言 在Web自动化测试中,元素定位是一项非常重要的技术。Python Selenium提供了各种元素定位方法,可以帮助我们定位页面上的元素并与之交互。本文将详细介绍Python Selenium中常用的元素定位方法,并提供实例代码。 1. ID定位 ID是元素在HT…...
分布式事务,你了解多少?(上)
本文主要是讲述分布式事务的理论及常用的技术方案,主要源自各类学习和工作总结,如有不妥之处,还望指正。分布式事务的其他基础请自行查阅资料。 一、分布式事务产生的原因 分布式事务的产生,源自互联网、电商等的发展,…...
远程桌面复制粘贴用不了?可能是组策略在‘捣鬼’,教你一键检查和修复(附GPUpdate命令)
企业级远程桌面剪贴板故障排查:从策略配置到进程管理的深度指南 当你作为企业IT管理员,在跨部门协作或远程支持时,突然发现无法通过远程桌面共享剪贴板内容,这种中断不仅影响效率,还可能延误关键业务流程。不同于个人用…...
突破容器systemctl限制:从D-Bus错误到特权模式实战解析
1. 容器中systemctl失效的根源探析 第一次在容器里敲下systemctl命令却看到"Failed to get D-Bus connection"报错时,我和大多数运维人一样满头问号。这背后其实藏着容器技术与传统系统管理的根本差异——想象你住进酒店公寓时,前台给你房门卡…...
从libgtk-3.so.0到libasound.so.2:一站式解决Playwright浏览器自动化依赖缺失难题
1. 当Playwright遇上缺失的依赖库:一个真实案例 上周我在阿里云ECS上部署一个爬虫项目时,遇到了这样的错误提示: Host system is missing dependencies to run browsers. Missing libraries: libgtk-3.so.0 libasound.so.2 libXtst.so.6这种情…...
5分钟搞定!用Moonlight TV在大屏电视上畅玩PC游戏 [特殊字符]
5分钟搞定!用Moonlight TV在大屏电视上畅玩PC游戏 🎮 【免费下载链接】moonlight-tv Lightweight NVIDIA GameStream Client, for LG webOS TV and embedded devices like Raspberry Pi 项目地址: https://gitcode.com/gh_mirrors/mo/moonlight-tv …...
Go语言的runtime.LockOSThread线程锁定与Cgo调用在并发中的互操作
Go语言的runtime.LockOSThread线程锁定与Cgo调用在并发中的互操作是高性能编程中一个关键但容易被忽视的话题。Go语言以其轻量级goroutine和高效的调度器闻名,但在与C语言交互时,线程绑定和并发控制可能带来意想不到的挑战。本文将深入探讨这一技术细节&…...
VSCode量子调试器始终断点失效?揭秘微软官方未公开的launch.json量子模拟器适配参数(含QDK v0.29.389242兼容性清单)
更多请点击: https://intelliparadigm.com 第一章:VSCode量子调试器断点失效现象全景透视 VSCode 量子调试器(如 Q# extension 配合 Quantum Development Kit)在调试 Shor 算法或 Grover 搜索等量子程序时,常出现断点…...
Python入门必须知道的11个知识点
Python被誉为全世界高效的编程语言,同时也被称作是“胶水语言”,那它为何能如此受欢迎,下面我们就来说说Python入门学习的必备11个知识点,也就是它为何能够如此受欢迎的原因.Python 简介Python 是一个高层次的结合了解释性、编译性…...
从零部署Evo AI:开源智能体平台架构解析与生产实践指南
1. 项目概述:一个开源的AI智能体构建与管理平台如果你正在寻找一个能够将不同的大语言模型、工具和协议整合在一起,用来构建和编排复杂AI智能体的平台,那么Evo AI值得你花时间深入了解。我最近花了几周时间,从零开始部署、配置并深…...
408考研避坑指南:我踩过的那些“弯路”(教材、网课、题海战术)
408考研避坑指南:那些让我效率翻倍的实战经验 备考408计算机专业基础综合的同学们,一定都听过"教材为王"、"题海战术"、"名师必跟"这些老生常谈的建议。但作为一个从低效复习中挣扎出来的过来人,我想说&#x…...
机器学习数据预处理网格搜索技术详解与实践
1. 数据预处理网格搜索技术详解 在机器学习建模过程中,数据预处理的质量直接影响模型性能。传统的数据预处理方法需要分析师对数据集进行深入研究和算法特性理解,这种方法不仅耗时耗力,而且对专业经验要求极高。本文将介绍一种创新的数据预处…...
