常用中间件封装思路粗记
MQ
- 自定义注解 ,编写配置类在bean属性初始化SmartInitializingSingleton#afterSingletonsInstantiated后至处理器 去扫描有自定义注解的bean,去创建对应消费者的容器 并启动
- 消费者容器类主要组件DefaultMQPushConsumer SmartInitializingSingleton#afterSingletonsInstantiated 时候会去初始化,包括nameserver、topic、消费模式(集群、广播),顺序消费还是并发消费,并设置对应的 MessageListener(我们可以自己实现MessageListener放进去,从而可以对消费前、后进行添加拦截器,消费拦截器可以帮我们实现 幂等(基于redis),tid、env 项目环境基线消费、消费耗时统计 等传递),通过message property传递
- MQAdminInstance.threadLocalMqAdminExt().examineConsumerConnectionInfo(consumerGroup)consumerConnection.getConnectionSet().isEmpty();可以判断消费者组是否在线
- 消费者容器类启动 ,容器会实现SmartLifecycle的接口,实现DefaultMQPushConsumer启动 和销毁
- 针对发送者DefaultMQProducerImpl的 线程池传递问题,我们可以在SmartInitializingSingleton#afterSingletonsInstantiated 去替换成ttl的DefaultMQProducerImpl发送者本身就有拦截器SendMessageHook,我们可以在配置类里直接给他set进去
- 通过实现InitializingBean#afterPropertiesSet手动创建 HttpServerProvider.provider() 服务;实现MQ、Dubbo、Task下线
Task
- module 分为 api、abstract、具体实现Api放常量、注解这些、abstract放 抽象的方法 例如 加载、注册处理器,具体实现moudel 实现不同中间件的差异
- xxlJob几个原生核心方法IJobHandler loadJobHandler(String name) IJobHandler registJobHandler(String name, IJobHandler jobHandler)
- alibaba.schedulerx几个原生核心方法JobProcessorRepository.loadJobProcessor(String name)
JobProcessorRepository.registJobProcessor(name, jobHandler) - 自定义注解 ,编写配置类在bean属性初始化SmartInitializingSingleton#afterSingletonsInstantiated后至处理器 去扫描有自定义注解的bean的方法,去注册 自定义MethodJobHandler 子类,
MethodJobHandler实现了IJobHandler 接口,我们可以在自定义MethodJobHandler 重写 execute方法,实现我们定时任务拦截器的注入,这样定时任务调用前后可以拦截 - 拦截器前可以使用 AbstractTaskHelper.log 放入我们的tid
- 通过实现InitializingBean#afterPropertiesSet手动创建 HttpServerProvider.provider() 服务;实现MQ、Dubbo、Task下线
Task 使用 xxlJobSpringExecutor.destroy(); 下线
SQL
net.sf.jsqlparser.statement CCJSqlParserUtil提供了 很多SQL对应的JAVA映射的类,可以解析语句,判断是否全表扫描
1.mysql的拦截器
QueryInterceptor的preProcess
可以美化sql、判断是否全表扫描 需要jdbcUrl加上参数
2.mybatisPlus拦截器
DefaultSqlInjector可以实现 自定义basemapper方法
MetaObjectHandler insertFill、updateFill可以对创建时间等设置默认值
PaginationInnerInterceptor
beforeQuery、autoCountSql优化深分页
3.mybatis拦截器
org.apache.ibatis.plugin.Interceptor
我们可以在intercept方法里boundSql里面追加 appName、tid
4.实现druid ResultSetProxyImpl 实现大sql熔断
FilterEventAdapter 注入我们的ResultSetProxy
配置
思路:可以利用 函数试接口 做一个 catch 异常的底层通用模版方法
核心api
MethodHandle JAVA7提供了反射调用方法api — invokeWithArguments
修改配置核心思路:
1.读取自定义框架前缀配置,并改为原生spring的配置 放到Spring environment 或者 System 中
实现EnvironmentPostProcessor接口postProcessEnvironment
MutablePropertySources、PropertiesPropertySource、System.getProperty、ConfigurableEnvironment environment.getProperty
2.
@ConfigurationProperties 直接自己的Properties
创建监听
nacos
1 自定义注解 (可以支持),编写配置类在bean属性初始化SmartInitializingSingleton#afterSingletonsInstantiated后至处理器 去扫描有自定义注解的bean的方法,去注册自定义监听
1.1 nacos 创建 ConfigService (注意用map缓存 防止重复创建)、NacosFactory.createConfigService 、new AbstractListener()、configService.addListener)
1.2 注册监听具体做什么事 可以用函数试接口 交给反射调用
1.3 自定义注解可以支持 key修改类型(add、modify、delete),正则,其实就是在客户端内存过滤
local
1.本地可以用namespace+dataId+group 构成文件路径文件名
2.通过 FileAlterationObserver、FileAlterationMonitor、FileAlterationListenerAdaptor#onFileChange 检测到本地文件配置变化
日志
1.动态修改log等级
监听nacos 使用Spring LoggingSystem修改log等级 以及环境变量中的log等级
2.HttpFilter 可以打印IP、出入参(需要可配置)、统计时长,超时截断、生成响应头TID、解析环境变量(集群、环境code)放入MDC
3.RPCFilyer 同上 ,传递用RpcContext#setAttachment
文件存储
思路
不同存储bean策略
1.@Bean 注解初始化Bean的时候从 配置文件读取配置,初始化工具类里面聚合的策略类接口
2.spi 遍历处理
3.文件冗灾模式 读写冗灾,读写先本地 后云
MINIIO
MinioClient
putObject
getObject
removeObject
Local
就是InputStream那一系列操作了
sentinel
BlockExceptionHandler 自定义限流页面异常提醒
实现EnvironmentPostProcessor接口postProcessEnvironment 拉取限流规则,如果为空重新推送
搜索引擎
配置类 es 基础bean
浅封 ElasticsearchRestTemplate、ElasticsearchOperations
web
跨域、messageConvert、全局异常处理器、重复提交注解 放重复提交切面 使用 redission 限流
rpc
核心API
Offline.offline、online 提供者下线上线
RemoteMetadataServiceImpl、InMemoryWritableMetadataService提供者元数据信息
实现dubbo TelnetHandler接口可以自定义自己的dubbo invoke 命令
1.切面限流 使用 redission 限流
2.filter中从上下文拿到envCode设置 dubbo.tag 属性实现消费过滤 项目环境,提供者EnvironmentPostProcessor 从环境变量中拿到设置到dubbo.provider.tag ->System.setProperty,自定义类RouteInvoker消费者实现 ClusterInvoker#invoke 并且RpcContext#setAttachment,再创建一个RouteClusterWrapper实现Cluster接口#join构建我们的RouteInvoker
3.异常处理 如果org.apache.dubbo.rpc.Result result#hasException 处理异常 包装成统一的基础框架的Result.error
4.filter传递自定义分库信息
5.PRC提供者思路:
5.1 在环境后置处理器中 禁用DubboAutoConfiguration-其实就是排除这个bean spring.autoconfigure.exclude 这个属性
5.2 ServiceClassPostProcessor 我们还是@Bean 配置进去,但是在 BeanDefinitionRegistryPostProcessor我们修改调它里面serviceAnnotationTypes 属性,让原生帮我们自定义注解注册ServiceBean 这样5.4的事件里就可以不用创建了
5.3 BeanDefinitionRegistryPostProcessor 中 移除 DubboBootstrapApplicationListener、DubboLifecycleComponentApplicationListener bean 定义 ,事件监听导出服务 我们自己去做
5.4自定义注解 ,编写配置类在bean属性初始化SmartInitializingSingleton#afterSingletonsInstantiated后至处理器 去扫描有自定义注解的bean的方法,从IOC拿到RegistryConfig、ProtocolConfig、ProviderConfig,从IOC容器获取自定义注解标记的bean,并设置到ServiceConfig中,其中ServiceConfig还要设置interfaceClass
、 RegistryConfig、ProtocolConfig等以及自定义注解上的group、version、timeout,最后调用ServiceConfig.export 进行服务发布,最后调用dubbo的ServiceBeanNameBuilder
build方法去构建ServiceBean BeanName 与 ServiceConfig的Map,最后在应用启动成功的事件里去注册这些ServiceBean,5.1注册bean了不会再注册
6 消费者思路
BeanDefinitionRegistryPostProcessor#postProcessBeanFactory中修改我们annotationTypes包含我们消费者的自定义注解,并注册registerSingleton->ReferenceAnnotationBeanPostProcessor bean,这样我们就可以借助InstantiationAwareBeanPostProcessorAdapter以及AnnotationInjectedBeanPostProcessor能力注入,而注入时的缓存map referenceBeanCache 我们会在下一步处理好
自定义注解 ,在 BeanDefinitionRegistryPostProcessor中 扫描自定义注解,反射调用 rg.apache.dubbo.config.spring.beans.factory.annotation.ReferenceBeanBuilder#create方法创建ReferenceBean,并反射放到ReferenceAnnotationBeanPostProcessor的referenceBeanCache属性中
设置@RefrecebeanName的bean定义 ,使用 RootBeanDefinition(@Nullable Class beanClass, @Nullable Supplier instanceSupplier) ,instanceSupplier 为我们上面创建的代理对象 ReferenceBean,这样改bean 就为 我们的代理对象了并把beanDefinition设置为setAutowireCandidate = true,自动注入
Mysql 常见问题
接口延迟查询、大sql熔断、全表扫描、mysql磁盘碎片整理、单表>50g=医嘱历史表优化,大字段不存镜像
基于camel 实现开放平台协议转换以及插件思路-支持dubbo、mysql、http、mq、canel 互转
可视化界面 mysql 存储 协议转换信息
保存就是 策略、模版方法拼接处 router的xml routes dsl 并存储
上线操作通过redis channel 启动 context、并load 加载数据库读取的xml routes dsl ,然后启动
下线就卸载掉就好了
插件=processer
插件的 黑白名单、限流、权限、登陆人信息
通用 例如 xml、json、byte 转换, 数据映射、token、dubbo、mq、http等中间件支持
routes xml ,xml制定form to ,process ref
compoment endpoint , producer customer 也实现了 processer
META-INF 自定义compoment
相关文章:
常用中间件封装思路粗记
MQ 自定义注解 ,编写配置类在bean属性初始化SmartInitializingSingleton#afterSingletonsInstantiated后至处理器 去扫描有自定义注解的bean,去创建对应消费者的容器 并启动消费者容器类主要组件DefaultMQPushConsumer SmartInitializingSingleton#afte…...

探索SPI:深入理解原理、源码与应用场景
文章目录 一、初步认识1、概念2、工作原理3、作用场景 二、源码分析1、ServiceLoader结构2、相关字段3、核心方法 三、案例connector连接器小案例1、新建SPI项目2、创建扩展实现项目1-MongoDB3、创建扩展实现项目2-Oracle4、测试 Spring应用1、创建study工程2、创建forlan-test…...
Web3名词解释
Web3名词解释 以太坊 ERC20 Defi去中心化金融 Defi是Decentralized Finance的英文缩写。 简单理解点就是与传统的高度中心化金融体系相比,去中心化金融是通过区块链技术,比如基于区块链技术开发的手机钱包软件,通过智能合约代码以实现去除…...

Vatee万腾外汇市场新力量:vatee科技决策力
在当今数字化时代,Vatee万腾崭露头角,以其强大的科技决策力进军外汇市场,成为该领域的新力量。这一新动向将不仅塑造外汇市场的未来,也展现Vatee科技决策力在金融领域的引领作用。 Vatee万腾带着先进的科技决策力进入外汇市场&…...

【HarmonyOS开发】配置开发工具DevEco Studio
1、下载 注意: 1、安装过程中,一定要自定义安装位置,包比较大,包比较大,包比较大!!! 2、可以将该工具添加到右键中,否则,如果你的项目不是HarmonyOSÿ…...

探索亚马逊大语言模型:开启人工智能时代的语言创作新篇章
文章目录 前言一、大语言模型是什么?应用范围 二、Amazon Bedrock总结 前言 想必大家在ChatGPT的突然兴起,大家多多少少都会有各种各样的问题,比如:大语言模型和生成式AI有什么关系呢?大语言模型为什么这么火…...

zabbix-proxy分布式监控
Zabbix是一款开源的企业级网络监控软件,可以监测服务器、网络设备、应用程序等各种资源的状态和性能指标。在大型环境中,如果只有一个Zabbix Server来监控所有的节点,可能会遇到性能瓶颈和数据处理难题。 为了解决这个问题,Zabbi…...
springboot生成PDF,并且添加水印
/*** 导出调查问卷*/ApiLog("导出调查问卷")PostMapping("/print/{id}")ApiOperationSupport(order 23)ApiOperation(value "导出报告", notes "导出报告")public void print(PathVariable Long id, HttpServletResponse response…...
Tensorflow2.0:CNN、ResNet实现MNIST分类识别
以下仅是个人的学习笔记 ,内容可能是错误 CNN: import tensorflow as tf from tensorflow import keras from tensorflow.keras import layers# 导入数据 (x_train, y_train), (x_test, y_test) keras.datasets.mnist.load_data()# 数据预处理 x_tra…...

本地jar导入maven
一、通过dependency引入 1.1. jar包放置,建造lib目录 1.2. pom.xml文件 <dependency><groupId>zip4j</groupId><artifactId>zip4j</artifactId><version>1.3.2</version><!--system,类似provided&#x…...

数据结构与算法【堆】的Java实现
前言 之前已经说过堆的特点了,具体文章在数据结构与算法【队列】的Java实现-CSDN博客。因此直接实现堆的其他功能。 建堆 所谓建堆,就是将一个初始的堆变为大顶堆或是小顶堆。这里以大顶堆为例。展示如何建堆。 找到最后一个非叶子节点从后向前&…...

同创永益联合红帽打造一站式数字韧性解决方案
随着AI技术的快速兴起,IT技术已成为推动业务持续增长的重要驱动力,这要求企业不断尝试新事物,改变固有流程,加强IT技术与业务的合作,同时提升数字韧性能力,以实现业务目标。10月26日,红帽2023中…...
c++ call_once 使用详解
c call_once 使用详解 std::call_once 头文件 #include <mutex>。 函数原型: template<class Callable, class... Args> void call_once(std::once_flag& flag, Callable&& f, Args&&... args);flag:标志对象…...
【rosrun diagnostic_analysis】报错No module named rospkg | ubuntu 20.04
ubuntu20.04使用指令报错 现象 rosrun diagnostic_analysis export_csv.py my.bag -d ~/Desktop报错 Traceback (most recent call last): File "/opt/ros/noetic/lib/diagnostic_analysis/export_csv.py", line 40, in <module> import roslib; roslib.load_m…...

高防CDN有什么作用?
分布式拒绝服务攻击(DDoS攻击)是一种针对目标系统的恶意网络攻击行为,DDoS攻击经常会导致被攻击者的业务无法正常访问,也就是所谓的拒绝服务。 常见的DDoS攻击包括以下几类: 网络层攻击:比较典型的攻击类…...

盛元广通开放实训室管理系统2.0
开放实训室管理系统是一种基于网络和数据库的实训室信息管理系统,旨在提高实训室的管理水平,实现实训资源的优化配置和高效利用。该系统通常包括用户管理、设备管理、课程管理、考核管理等功能模块,能够实现实训室的预约、设备借用、课程安排…...

3D建模基础教程:编辑多边形功能命令快捷方式
一、打开3D软件并创建新模型 首先,打开你的3D建模软件,比如Blender、Maya或3ds Max。然后,创建一个新的3D模型。你可以使用基本几何体来创建模型,也可以导入现有的模型。 二、进入编辑多边形模式 在主工具栏中,找到并…...

SaleSmartly新增AI意图识别触发器!让客户享受更精准的自动化服务
AI意图识别技术是对话式AI中很重要的组成部分,通俗点来说就是一种可以识别用户在对话中表达的意图的技术。通过对大量数据的分析和学习,AI可以理解用户想要获得的信息,并根据这些信息来采取相应的行动或提供相应的响应。而在对话式AI中&#…...

计算机毕业设计选题推荐-个人博客微信小程序/安卓APP-项目实战
✨作者主页:IT毕设梦工厂✨ 个人简介:曾从事计算机专业培训教学,擅长Java、Python、微信小程序、Golang、安卓Android等项目实战。接项目定制开发、代码讲解、答辩教学、文档编写、降重等。 ☑文末获取源码☑ 精彩专栏推荐⬇⬇⬇ Java项目 Py…...

一篇详解,Postman设置token依赖步骤
前言 postman做接口测试时,大多数的接口必须在有token的情况下才能运行,我们可以获取token后设置一个环境变量供所在同一个集合中的所有接口使用。 一般是通过调用登录接口,获取到token的值 实战项目:jeecg boot项目 项目官网…...
【杂谈】-递归进化:人工智能的自我改进与监管挑战
递归进化:人工智能的自我改进与监管挑战 文章目录 递归进化:人工智能的自我改进与监管挑战1、自我改进型人工智能的崛起2、人工智能如何挑战人类监管?3、确保人工智能受控的策略4、人类在人工智能发展中的角色5、平衡自主性与控制力6、总结与…...

安宝特方案丨XRSOP人员作业标准化管理平台:AR智慧点检验收套件
在选煤厂、化工厂、钢铁厂等过程生产型企业,其生产设备的运行效率和非计划停机对工业制造效益有较大影响。 随着企业自动化和智能化建设的推进,需提前预防假检、错检、漏检,推动智慧生产运维系统数据的流动和现场赋能应用。同时,…...

(二)原型模式
原型的功能是将一个已经存在的对象作为源目标,其余对象都是通过这个源目标创建。发挥复制的作用就是原型模式的核心思想。 一、源型模式的定义 原型模式是指第二次创建对象可以通过复制已经存在的原型对象来实现,忽略对象创建过程中的其它细节。 📌 核心特点: 避免重复初…...

MySQL 8.0 OCP 英文题库解析(十三)
Oracle 为庆祝 MySQL 30 周年,截止到 2025.07.31 之前。所有人均可以免费考取原价245美元的MySQL OCP 认证。 从今天开始,将英文题库免费公布出来,并进行解析,帮助大家在一个月之内轻松通过OCP认证。 本期公布试题111~120 试题1…...

佰力博科技与您探讨热释电测量的几种方法
热释电的测量主要涉及热释电系数的测定,这是表征热释电材料性能的重要参数。热释电系数的测量方法主要包括静态法、动态法和积分电荷法。其中,积分电荷法最为常用,其原理是通过测量在电容器上积累的热释电电荷,从而确定热释电系数…...
WebRTC从入门到实践 - 零基础教程
WebRTC从入门到实践 - 零基础教程 目录 WebRTC简介 基础概念 工作原理 开发环境搭建 基础实践 三个实战案例 常见问题解答 1. WebRTC简介 1.1 什么是WebRTC? WebRTC(Web Real-Time Communication)是一个支持网页浏览器进行实时语音…...

Scrapy-Redis分布式爬虫架构的可扩展性与容错性增强:基于微服务与容器化的解决方案
在大数据时代,海量数据的采集与处理成为企业和研究机构获取信息的关键环节。Scrapy-Redis作为一种经典的分布式爬虫架构,在处理大规模数据抓取任务时展现出强大的能力。然而,随着业务规模的不断扩大和数据抓取需求的日益复杂,传统…...

MySQL的pymysql操作
本章是MySQL的最后一章,MySQL到此完结,下一站Hadoop!!! 这章很简单,完整代码在最后,详细讲解之前python课程里面也有,感兴趣的可以往前找一下 一、查询操作 我们需要打开pycharm …...
32单片机——基本定时器
STM32F103有众多的定时器,其中包括2个基本定时器(TIM6和TIM7)、4个通用定时器(TIM2~TIM5)、2个高级控制定时器(TIM1和TIM8),这些定时器彼此完全独立,不共享任何资源 1、定…...
用神经网络读懂你的“心情”:揭秘情绪识别系统背后的AI魔法
用神经网络读懂你的“心情”:揭秘情绪识别系统背后的AI魔法 大家好,我是Echo_Wish。最近刷短视频、看直播,有没有发现,越来越多的应用都开始“懂你”了——它们能感知你的情绪,推荐更合适的内容,甚至帮客服识别用户情绪,提升服务体验。这背后,神经网络在悄悄发力,撑起…...