当前位置: 首页 > news >正文

Spring Cloud Netflix微服务组件-Hystrix

目录

Hystrix的主要功能

传统容错手段

超时机制

应用容错三板斧

超时机制

舱壁隔离

熔断降级

侵入式Command用法

改进版一:ribbon与hystrix组合

改进版二:feign与hystrix组合

Hystrix三态转换图

源码分析

流程图

核心逻辑流程图

核心实现流程图

入口

HystrixCircuitBerakerConfiguration

如何做功能增强?

@HystrixCommand注解的切面逻辑

流程图

线程池隔离原理

熔断器源码

滑动时间窗口


Hystrix的主要功能

  • 线程池隔离、
  • 熔断降级、
  • 超时降级、
  • 宕机降级 

传统容错手段

超时机制

是设置RestTemplate的连接超时和读取超时,这是我们在没有使用hytrix这些辅助的分布式工具时的做法

af9f3d20e9624a65a69a73bf57990fba.png

全局异常处理器

6268a3a00e164877b6971f89825f5a0a.png控制器中,捕获超时异常,封装成统一的自定义异常并再次抛出,让全局异常处理器来进行处理

ead32e620ec441af8160f4c075aa91e6.png

上面这种,就是传统的容错的处理套路

应用容错三板斧

超时机制

以前没有hytrix的时候,就是直接给RestTemplate设置一个超时时间,RestTemplate调用超时时会抛出TimeoutException,然后我们直接catch到此异常,就直接把同步阻塞的调用线程掐死

d07b46c11d16419185f97469cd5a5caf.png

舱壁隔离

说白了就是资源隔离,比如线程池隔离

1d008450df664fd38b8ecc24c3c2e3cc.png

熔断降级

b747210f7ebe40e288f40787051edfdb.png

当一段时间内失败次数达到一定阈值,那么熔断器就会打开,此时主业务线程就不会再去调用真正的远程的业务方法,而是直接调用本地早已写好的“降级方法”,返回一个可预知的结果。也就是说:熔断是结果,降级是处理的手段

侵入式Command用法

我们只会下单、支付、调库存等核心高频接口,才需要进行降级,才需要自己在本地写降级方法

d0f200c4915b4cd7b35fa3629f093035.png

这样当前端看到返回的订单的订单号为-1时,就可以给客户展示一个友好的页面,比如当前系统开了小差之类的

1c3650ee063c441e8df6c0cb11911d44.png

原始的hytrix API处理熔断降级时,就需要这样的强侵入式写法

改进版一:ribbon与hystrix组合

a1e2ddbc9f0042a8815baf91f95edba0.png

c553f1776c4248d2a1152aa5da4b383b.png

这里可以配置线程池

改进版二:feign与hystrix组合

feign调用时,通过hystrix进行降级

8b1d6400aae7438e8b4021fa00188559.png

a28c1c082bc448b2a7b44348416796df.png85b1a561201347998fa2ff648db99e46.png

Hystrix的默认配置跳闸阈值

60511a68b2974cd8a97c7fbecdf23b72.png

上面就是可能会发生降级的三种情况,分别是:宕机降级、超时降级、异常降级

aff49a154fb946e6a1ddfd02ff2a0a82.png

生产上上面的配置一般不动,使用默认的配置值

Hystrix三态转换图

ba72e4fc930b4ce481d7a20086a8d48d.png

  • 熔断时间窗口结束后,熔断器状态就从打开转换到半开状态,此时会放过一条请求去请求真正的远程业务方法,如果此次调用成功,则熔断器状态就转成关闭状态,如果此次调用任失败,那么熔断器就又会回到打开状态
  • 什么叫调用失败?客户端去调用服务端接口API,服务端抛了异常并且没有catch直接抛了出来、服务器宕机、服务端接口业务执行耗时太多导致客户端等待接口返回超时
  • 半开状态存在的意义就是为了,让熔断器有机会回到关闭状态(也就是回到能正常去远程调用的状态)

94ee31ab676d4bb09cf6cdcdf72c7132.png这个就是工作中需要配置的ribbon的超时时间,配置了ribbon的超时时间,那么restTemplate也自动跟随ribbon的超时时间了 

3205ac1ae96c4db28441a4752a390430.png

这些参数的设置,就供学习,平时生产大多使用默认参数

如何关闭hystrix对feign的支持

e5046c45db234927a16c0ea4dec95085.png

5a7a49d96ceb45f89157caf024977855.png

这里需要hystrix的超时时间需要设置为6000

生产上需要:

hystrix的超时时间  >  (本次调用次数 1 + 出现异常时对当前实例的重试次数 1 + 切换实例后的重试次数 1) * ribbon的超时时间 = 3 * ribbon的超时时间

因为hystrix要保证所有的ribbon调用重试都结束后,hystrix再去插断主线程的调用并给主线程返回降级结果

a81263e29709429b94c0fe57c8a5841e.png

第89行,把总体的熔断机制的打开

第92行,可以开始选择某一个方法关闭熔断机制(剩下的,就是局部开启的)

注意上面参数赋值用等号=

源码分析

流程图

核心逻辑流程图

25a08fd56ba94003854bb627590de25f.png

核心实现流程图

727cdd94a9974a69b472e737179a5120.png

入口

a1e2ddbc9f0042a8815baf91f95edba0.png

通过框架的启动注解开始,实际上这个注解内部就是通过@Import注解,去加载spring.factories中以EnableCircuitBreaker为key的“普通配置类

这个ImportSelector的作用,就是去找Netflix-core.jar下的spring.factories中以EnableCircuitBreaker为key的键值对,将该key对应的值为一个普通配置类HystrixCircuitBerakerConfiguration,将它注入到ioc容器中来

5579727128fc44cfb255e01905fd97fb.png

  • 因为Springboot默认的自动配置类读取功能,仅仅只是读取所有jar包下spring.factories中以EnableAutoConfigurationr为key的“自动配置类
  • 各个第三方组件自定义的一些key下所属的“普通配置类”,Springboot是不负责读取的,需要各个第三方组件自己开发针对该key的加载功能
  • 普通配置类以XxxxxConfiguration命名,自动配置类以XxxxxAutoConfiguration命名

aa36fba3588b4251a4107eed4f168bbc.png

业务系统首先引入这个starter-netflix-hystrix,这个starter相当于一个聚合器,内部聚合了很多别的功能jar包

这些带有spring-cloud-开头的,就是spring cloud官方为了整合Netflix hystrix组件而开发的自动装配包 

a6be69e2eca344fcaa6ca4cfe0db0436.png

优先看与核心功能相关的配置类,比如这里就优先看HystrixCircuitBreakerConfiguration类,像这种HystrixSecurityAutoConfiguration一看就是与安全有关的,非主功能,我们就先不看,这些都是看源码的技巧

a17a3d923a8748d08caf48fe30714d87.png

HystrixCircuitBerakerConfiguration

dc842cda3f6b4bd282315c899228074d.png

如何做功能增强?
  • 无非就是用代理AOP,横切拦截
  • 或者加待增强对象所拥有的拦截器链中加一个拦截器/过滤器

@HystrixCommand注解的切面逻辑

这一段切面逻辑,也就是每一个被@HystrixCommand注解修饰的方法,在被调起之前,都会先走一遍这个切面增强逻辑。而这一段切面增强逻辑,实际上也就是Hystrix熔断器起作用的逻辑

第90行,同时会拦截@HystrixCommand,还有合并请求的@HystrixCollapser

a501741b16ee4475ab7ed415ca235e1b.png

第96行,会创建一个HystrixInvokable,如下是第96行的create()逻辑:

GenericCommand命令模式对象中有两个核心方法,一个就是run()也就是正常的业务逻辑方法,另一个就是getFallback()也就是降级方法,getFallback()内部会通过反射调用@HystrixCommand中配置的fallBackMethod方法

从这里也知道,返回的HystrixInvokable,实际上就是一个GenericCommand

截止以上的流程图

CommandExecutor#execute()

ed746f165f754663abde6a574e3ba8e7.png

HystrixCommand#execute()

44dd515ea8834875b42e7a8d6b889eca.png

queue()返回一个Future凭证,从这里开始就是一堆的响应式变成了,各种定义监听与事件响应执行来串起整个执行流程

e5b66dce859b49cbb95e1ac1d1441e84.png

上述流程对应的流程图

23e414e6eb5e4371a1599d1a28727d53.png

响应式编程的定义语法(rxJava响应式编程框架,手机上用的比较多)响应式编程说白了就是一堆的观察者模式,zookeeper里面的节点内容变化也会触发监听器执行,这都是观察者模式

1ad7482a56a2483eb75394e422c21921.png

总体原理就是:Observable是被观察者,Observer是观察者,当被观察者发生变化时就会回调观察者

231bae12dbaf48d28b4e33c140165e7f.png

这里就把34行就当做定义了一个观察者,45行就定义了一个被观察者

e255c77d8950426886a7cfb81592e41c.png

这里把观察者,注册绑定到被观察者上,以后被观察者发生不同事件,就会回调不同的观察者的call()方法

这里就是被@HystrixCommand注解修饰的方法,在发起一次调用时,如果调用的方法正常返回

90b6f66a318a40c599acedbe835ec41d.png

这里就出现了一个核心观察者applyHystrixSemantics()

applyHystrixSemantics()

这里就开始最核心的一个观察者的逻辑

59fe487e352c42cf84e096c55fbf1c19.png

fd25438810224bef9d221c3f23ce15c7.png

线程隔离有两种隔离模式:

  • 一种是信号量的隔离模式,信号量计数器满了以后也会走降级逻辑
  • 一种是线程池的隔离模式,线程池满了以后也会走降级逻辑

a384eecc1abf4e02922702ea5d989653.png

熔断器可以强制配置为关闭,但是这里代码写的有点难理解,与正常思维判断逻辑是个反的

上上图的557行,最后就会调用到降级逻辑

30cd55a74d5a4202b000c449c46abf6a.png

getFallBack()就会在内部找到@HystrixCommand中配置的fallBackMethod方法,并执行这个fallBackMethod方法方法(最终,就是通过方法名,通过反射来调用到fallBackMethod方法的)

正常的线程池隔离执行的逻辑

20ce1659ed3740fa984cef7fd0707ff4.png

注意534行

3786c149edf847318253163e5c9201a3.png

8c423d78cbad4f4db36b5b16ec32801f.png

a95e8cb47c144c2dbe5b961e9bc86f00.png 51898b7ff86240e7bd055ee2390f5510.pnggetUserExecutionObservable()方法中就有监听回调方法,回调方法内部就会调用GenericCommand的run()

9a2f55bdaeb5400b8b06cba1f4abe077.png

281d0e8871044e6190b85915dd8f7f7f.png

上述总体流程图:

783298f47a0e4bd885138e8787a1093d.png

线程池隔离原理

a17a3d923a8748d08caf48fe30714d87.png

大体流程:用户在调用findById()方法时,hystrix写的AOP切面类会拦截这个注解,拦截这个注解后会初始化一个GenericCommand命令,在初始化这个GenericCommand命令内部,就会通过这些线程池的配置,来初始化该命令特有的执行线程池

562dfa7125f646ff9a28cbf4cb4daae5.png

上上图@HystrixCommand注解种鸽所有信息,默认就会被保存在这个元信息MetaHolder中去,spring的代码都是很统一的,这种注解的元数据一般都是用MetaXxxxx来保存的 。这里就通过注解的元信息来构造了一个GenericCommand命令。GenericCommand是AbstractCommand的子类

bd4b1e58197a4554ae38dfdf061fbbe6.png

1b3dce52d5f4438ab58389b6242ead16.png

6669e721d80f45fba63bc8422f230a50.png

0bcb927a697e4692a99be7eeeb55ce3e.png
ee588fa79ed641bdb728aed707d2be94.png

以后线程池隔离执行时,就是把任务丢进这个threadPool中去执行的

针对线程池本身也有缓存

c307b4787c714450975f6b4b411a9529.png

c8e1ed15514f4d6b81767f27f9d7f365.png所以,这里就实现了有多少key就会初始化出来多少个线程池,也就实现了通过key的不同来实现不同粒度的隔离 

如果有多个业务方法配置了相同的key,那么也就实现了多个hystrix方法公用了同一个线程池

7cab0163d1eb48208bae5ad7e08b5369.png

a17a3d923a8748d08caf48fe30714d87.png

利用线程池缓存的技术,实现多个用户方法公用同一个线程池的目的,只需要多个方法,配置相同的commandKey和threadPoolKey

e2b53d88285d425783f08eceae9343c7.png

熔断器源码

1045ba63705243618b16100246307868.png

滑动时间窗口

7624b9ac37844b40aedc4670e14da1d0.png

0125ddc9307044f0b3c12912c00e2a3d.png

b69dfc79552047d9a789caed7c7c7ad5.png

numbuckets就是为了调整时间的统计粒度,统计粒度越细则熔断器对于网络堵塞等异常状态的感应就更加灵敏

滑动窗口触发熔断的最小请求数,这个是整个时间窗口内的,这是一种兜底策略

4a074565e8fe45818b18e32397ed6f04.png

a430ba81d2e248dfb0cd27fb4e3544e5.png

e6d503accd26406e89da63e9dda2cc77.png

上图画反了,下图是对的

8153d225447a40bb8b2078b6dee113b1.png

对应源码如下:

681dc88592334b31bfb50019f66a012e.png

每次请求,都会走上面的判断逻辑

15861c844e9f404e8e5a2063844c707d.png

每次请求调用成功没有抛异常,就会调用这个回调方法,这个回调方法内部就会调用断路器进行调用数据上报

0b6c20fbd56e4c16b97a48de7e80bd4c.png

206行是上报本次调用数据

相关文章:

Spring Cloud Netflix微服务组件-Hystrix

目录 Hystrix的主要功能 传统容错手段 超时机制 应用容错三板斧 超时机制 舱壁隔离 熔断降级 侵入式Command用法 改进版一:ribbon与hystrix组合 改进版二:feign与hystrix组合 Hystrix三态转换图 源码分析 流程图 核心逻辑流程图 核心实现…...

【6】Spring Boot 3 集成组件:knift4j+springdoc+swagger3

目录 【6】Spring Boot 3 集成组件:knift4jspringdocswagger3OpenApi规范SpringFox Swagger3SpringFox工具(不推荐) Springdoc(推荐)从SpringFox迁移引入依赖配置jAVA Config 配置扩展配置:spring securit…...

从零搭建微服务架构:Spring Boot与Nacos完美整合

🎏:你只管努力,剩下的交给时间 🏠 :小破站 从零搭建微服务架构:Spring Boot与Nacos完美整合 前言第一:服务注册与发现第二:配置中心第三:报错问题解决第四:什…...

原来你不会找资源,三个宝藏白嫖书籍网站,阅读改变生活(一)

[无名图书] - 探索无尽的书海 致力于为你打开一扇通往无限知识和无穷想象的大门。从畅销小说到学术专著,书库涵盖了各个领域,满足了各种阅读胃口。无论你是文学爱好者、学术追求者还是正在寻找新奇刺激的冒险者,这都是你不可错过的阅读伴侣。…...

linux rm文件后空间不释放怎么处理

如题,rm文件后,使用df -h看可用空间,并未增加,这是怎么回事?原来,是有进程在访问这个文件,使用“lsof | grep delete”找到进程并kill掉,此时再看可用空间,便增加了。 我…...

vue中el-tree树形组件利用filter和 filterNode方法实现模糊搜索

具体详情可见...

克鲁斯卡尔算法(C++)

目录 克鲁斯卡尔算法 ​编辑代码: 结果: 克鲁斯卡尔算法 克鲁斯卡尔算法是一种用于求解最小生成树的算法。最小生成树是指一棵包含了所有节点的连通图,并且边的权值之和最小。 克鲁斯卡尔算法的基本思想是,每次选择图中最小的…...

【Shell脚本 4】测试用

#!/usr/bin/env bash ​ # --------------------------------------------------------------------------------- # 控制台颜色 BLACK"\033[1;30m" RED"\033[1;31m" GREEN"\033[1;32m" YELLOW"\033[1;33m" BLUE"\033[1;34m"…...

DC电源模块对效率有什么要求?

BOSHIDA DC电源模块对效率有什么要求? DC电源模块是现代科技中非常重要的组成部分,它是将交流电转换为直流电的装置,可以提供稳定的电源给各种设备和系统使用。效率是DC电源模块的一个关键性能指标,直接影响着模块的整体性能和效…...

Linux在线安装MySQL8.0.24安装、MySQL数据备份和恢复

一、 Linux在线安装MySQL8.0.24 如果机器上已经有MySQL5.7版本需要先卸载 首先,需要停止MySQL服务。可以通过以下命令来停止服务: sudo systemctl stop mysqld接下来,我们需要卸载MySQL5.7。可以通过以下命令来卸载: sudo yum…...

【python】OpenCV—Rectangle, Circle, Selective Search(1.2)

文章目录 1 画框画圈1.1 画矩形框1.2 画圆 / 点1.3 椭圆 2 Selective Search3 Resize 1 画框画圈 1.1 画矩形框 # Copy the image img_rgb_copy img_rgb.copy()# Draw a rectangle cv2.rectangle(img_rgb_copy, pt1 (405, 90), pt2 (740, 510),color (255, 0, 0), thickne…...

MongoDB是一个NoSQL数据库,有着多种不同的命令和操作。以下是一些常见的MongoDB命令:

show dbs:列出所有数据库use db_name:切换到指定的数据库db.dropDatabase():删除当前数据库db.createCollection("collection_name"):创建集合db.collection_name.insert(document):向指定集合插入数据db.co…...

网络运维Day19

文章目录 环境准备数据备份为什么要备份什么是备份备份到哪里什么时候备份如何备份 完整备份物理备份逻辑备份测试恢复所有库 构建MySQL服务xtrabackup完全备份与恢复完全备份完全恢复增量备份增量恢复 总结 环境准备 IP地址采用自动分配,以自己的为准 可以将之前的…...

颜色标记txt和多根走线【Cadance进阶】

文章目录 前言颜色标记txt多根走线 前言 今天来介绍个基础操作中不常见的,但是非常实用的技巧。第一个是颜色标记,它是与text文件结合,根据text文件中的网络来染色标记的,致力于找出那些特定的走线,或者是查询出现问题…...

你是想被ChatGPT改变,还是改变软件开发的未来?丨IDCF

人工智能技术的发展,正在深刻地改变着我们的生活和工作方式。在软件工程领域,ChatGPT作为一种新兴的人工智能技术,正在逐渐地被应用到软件开发的各个环节中。那么,ChatGPT对每个人的影响是什么呢? 一、对软件开发人员…...

Homography详解在MVSNet中的应用

Homography(单应性变换)是计算机视觉中的一个重要概念,用于描述两个平面之间的透视关系。在图像处理和计算机视觉中,Homography通常表示两个平面之间的投影关系,这种关系可以通过一个3x3的矩阵来表示。 在数学上&…...

linux parted给磁盘分区

概述 通常我们用的比较多的分区工具是fdisk命令,但由于fdisk只支持MBR分区,MBR分区表最大支撑2T的磁盘,所以无法划分大于2T的分区。而parted工具可以划分单个分区大于2T的GPT格式的分区,也可以划分普通的MBR分区。 1.查看磁盘大小…...

大数据毕业设计选题推荐-机房信息大数据平台-Hadoop-Spark-Hive

✨作者主页:IT研究室✨ 个人简介:曾从事计算机专业培训教学,擅长Java、Python、微信小程序、Golang、安卓Android等项目实战。接项目定制开发、代码讲解、答辩教学、文档编写、降重等。 ☑文末获取源码☑ 精彩专栏推荐⬇⬇⬇ Java项目 Python…...

使用 PYTORCH 进行图像风格迁移

一、介绍 本教程介绍如何实现 由 Leon A. Gatys、Alexander S. Ecker 和 Matthias Bethge 开发的神经风格算法。神经风格或神经传输允许您拍摄图像并以新的艺术风格再现它。该算法采用三幅图像,即输入图像、内容图像和风格图像,并将输入更改为类似于内容…...

vscode使用flake8设置单行最长字符限制设置失败的问题

vscode使用flake8设置单行最长字符限制设置失败的问题 问题描述解决方案 问题描述 如图所示,使用flake8单行字数过长,就会有有红色底的波浪线 一般情况下很多教程都会让你在setting.json里面设置 但是我打开我的setting.json,发现我已经进…...

SAP KO22内部订单预算BAPI与BDC

KO22可以为内部订单预先维护预算,以便在后续成本实际产生时进行控制。 使用BAPI进行创建:KBPP_EXTERN_UPDATE_CO SAP note 625613中对该BAPI的使用方式有详细介绍,使用时可进行参考。 年度预算:e_gjahr传值、e_ges置空&#xff…...

K8S篇之实现利用Prometheus监控pod的实时数据指标

一、监控部署 1、将k8s集群中kube-state-metrics指标进行收集,服务进行部署 1.1 pod性能指标(k8s集群组件自动集成) k8s组件本身提供组件自身运行的监控指标以及容器相关的监控指标。通过cAdvisor 是一个开源的分析容器资源使用率和性能特性的…...

智能巡检软件怎么选?企业设备管理需要做什么?

在当今竞争激烈的企业运营环境中,巡检管理的重要性不言而喻。然而,许多企业在执行巡检任务时面临着诸多挑战,如员工执行不到位、缺乏有效的人员监管、漏检误检、安全隐患以及数据整理困难等问题。这些问题如果不能得到妥善解决,不…...

【python】Django——连接mysql数据库

笔记为自我总结整理的学习笔记,若有错误欢迎指出哟~ 【Django专栏】 Django——django简介、django安装、创建项目、快速上手 Django——templates模板、静态文件、django模板语法、请求和响应 Django——连接mysql数据库 Django——连接mysql数据库 连接MySQL数据库…...

北京君正客户应用案例:掌静脉3D人脸猫眼视屏智能锁

凯迪仕在今年4月发布了智能锁旗舰新品K70 Pro Max掌静脉3D人脸猫眼视屏智能锁,随即这款新品也成了行业热议的焦点。凯迪仕每次新品都力求突破精益求精,不仅追求科技感、高级感与品质感,而且赋予科技温度,带来人文化的关怀。K70 Pr…...

人工智能+游戏 会带来什么

“人工智能游戏” 写在前面 随着人类生活水平的日益提高,游戏正在为越来越多的人们带去欢乐。同时,作为21世纪新兴科学技术的人工智能,也正在研究人员的努力下不断向前突破。那么,这两列高速前进的“火车”能否接轨并行呢&#…...

人工智能基础_机器学习030_ElasticNet弹性网络_弹性回归的使用---人工智能工作笔记0070

然后我们再来看elastic-net弹性网络,之所以叫弹性是因为,他融合了L1和L2正则,可以看到 他的公式 公式中有L1正则和L2正则两个都在这个公式中 可以看到弹性网络,在很多特征互相联系的时候,非常有用,比如, 相关性,如果数学好,那么物理也好,如果语文好,那么英语也好 这种联系 正…...

Python算法——平衡二叉树(AVL)

Python中的平衡二叉搜索树(AVL树)算法详解 平衡二叉搜索树(AVL树)是一种自平衡的二叉搜索树,它通过在插入或删除节点时进行旋转操作来保持树的平衡性。在AVL树中,任何节点的两个子树的高度差(平…...

公开可用的API 合集

这是一个开源项目列表,收录了一些公开可用、无需注册或认证即可使用的API接口。 这个项目解决了开发者们在寻找合适的API时遇到的各种困难,如无法快速定位、难以筛选等问题,为他们提供了便捷的一站式查询服务。 项目是“public-apis”&…...

单片机编程原则

多任务编程的概念 方式一:实时操作系统(不建议新手使用) 方式二 :裸机多任务模型 逻辑多任务的基本原理 把三个任务分别分为一个一个的片段 然后先执行任务一的第一个切片 执行第二个任务的第一个片段 执行第三个任务的第一个片…...