分布式调度框架学习笔记
一、分布式调度框架的基本设计

二、线程池线程数量设置的基本逻辑
cpu是分时复用的方法,线程是cpu调度的最小单元

如果当前cpu核数是n,计算密集型线程数一般设为n,io密集型(包括磁盘io和网络io)线程数一般设置为2n.
计算密集型线程数一般设为n的逻辑解释:

io密集型(包括磁盘io和网络io)线程数一般设置为2n的逻辑解释:

三、xxljob为什设置的线程是100,200?

四、power-job的无锁化设计
1. 任务分片
设计理念:在分布式环境中,任务通常被分成多个子任务(分片)并行执行。无锁化设计通过减少对共享资源的竞争来提高并发性能。
实现方式:PowerJob 通过将任务分片分配给不同的执行节点,避免了多个节点对同一资源的竞争,从而减少了锁的使用。
2. 去中心化调度
设计理念:去中心化调度意味着调度决策不依赖于单一的中心节点,从而避免了中心节点的性能瓶颈和单点故障。
实现方式:PowerJob 采用去中心化的调度策略,允许各个节点独立地进行任务调度和执行,减少了对中心节点的依赖。
3. 无状态设计
设计理念:无状态设计意味着每个节点不依赖于其他节点的状态信息,从而减少了锁的使用。
实现方式:PowerJob 的节点设计为无状态,任务的状态信息存储在外部持久化存储中(如数据库),节点通过查询持久化存储来获取任务状态。


五、分布式调度框架对比


ElasticJob相对xxl-job和power-job的对比:

备注:
推荐课程:
【分布式调度中心power-job中固定延迟任务调度问题】https://www.bilibili.com/video/BV1Qb421B7n8?vd_source=3c00905b4271effeeee3f3184045c49b
相关文章:
分布式调度框架学习笔记
一、分布式调度框架的基本设计 二、线程池线程数量设置的基本逻辑 cpu是分时复用的方法,线程是cpu调度的最小单元 如果当前cpu核数是n,计算密集型线程数一般设为n,io密集型(包括磁盘io和网络io)线程数一般设置为2n. 计算密集型线程数一般设…...
SpringCloudAlibaba技术栈-Nacos
1、什么是Nacos? Nacos是个服务中心,就是你项目每个功能模块都会有个名字,比如支付模块,我们先给这个模块起个名字就叫paymentService,然后将这个名字和这个模块的配置放到Nacos中,其他模块也是这样的。好处是这样能更好地管理项…...
Redis篇--常见问题篇4--大Key(Big Key,什么是大Key,影响及使用建议)
1、概述 大Key:通常是指值(Value)的长度非常大,实际上键(Key)长度很大也算。通常来说,键本身不会很长,占用的内存较少,因此判断一个键是否为bigKey主要看它对应的值的大…...
谷歌浏览器 Chrome 提示:此扩展程序可能很快将不再受支持
问题现象 在Chrome 高版本上的扩展管理页面(地址栏输入chrome://extensions/或者从界面进入): , 可以查看到扩展的情况。 问题现象大致如图: 问题原因 出现此问题的根本原因在于:谷歌浏览器本身的扩展机制发生了…...
WebRTC服务质量(10)- Pacer机制(02) RoundRobinPacketQueue
WebRTC服务质量(01)- Qos概述 WebRTC服务质量(02)- RTP协议 WebRTC服务质量(03)- RTCP协议 WebRTC服务质量(04)- 重传机制(01) RTX NACK概述 WebRTC服务质量(…...
数据库的数据被清除了,该如何恢复?
当数据库的数据被清除时,恢复数据的难度和可能性取决于多种因素,包括数据清除的方式、数据库的类型、是否有备份等。以下是一些常见的数据库数据恢复方法: 一、基于备份的恢复 使用备份文件: 如果数据库有定期的备份,…...
【西安电子科技大学考研】25官方复试专业课参考书目汇总
初试已经顺利考完啦、成绩已经公布,现在已经有很多同学来问学长学姐,复试参考书有哪些,复试应该做好哪些准备。故此学长学姐给大家整理好了西安电子科技大学各个学院的复试参考书目录,有需要的同学可以参考一下哈。大家可以结合本…...
【理解机器学习中的过拟合与欠拟合】
在机器学习中,模型的表现很大程度上取决于我们如何平衡“过拟合”和“欠拟合”。本文通过理论介绍和代码演示,详细解析过拟合与欠拟合现象,并提出应对策略。主要内容如下: 什么是过拟合和欠拟合? 如何防止过拟合和欠拟…...
fastjson诡异报错
1、环境以及报错描述 1.1 环境 操作系统为中标麒麟、cpu 为国产鲲鹏服务器。 jdk为openjdk version 1.8.0._242 1.2 错误 com.alibaba.fastjson2.JSONException: syntax error : f at com.alibaba.fastjson2.JSONReaderUTF16.readBoolValue(JSONReaderUTF16.java:6424) at c…...
面经zhenyq
如何去实现分层的动画效果? 在Unity中实现分层的动画效果,可以通过Animator的 Layer 功能实现。以下是详细步骤: 1. 什么是分层动画? 分层动画允许在同一个角色的不同部分同时播放独立的动画。例如: 上半身可以播放…...
GoFrame框架介绍
GoFrame是一款功能强大、设计精良且易用的Go语言开发框架,以下为你详细介绍它的相关特点和内容: ### 框架概述 GoFrame是为了提升Go语言开发者的编码效率以及项目的整体可维护性、可扩展性等而打造的开发框架,它涵盖了从基础的网络通信、数据…...
MapReduce工作流程+Shuffle机制
一、Mapreduce工作流程 (1)数据切片Split。数据切片数决定maptask并行度,默认情况下,一个切片大小块大小。切片不是针对整体数据集,而是针对每一个文件单独切片,所以会有小文件问题(CombineTex…...
JAVA8 Stream API 使用详解
Java 8 引入了 Stream API,它提供了对集合对象进行一系列操作的新方式,包括筛选、转换、聚合等。Stream API 的设计目标是提供一种高效且易于使用的处理集合数据的方式,同时支持并行处理。 以下是 Java 8 Stream API 的一些核心概念和使用详解…...
Redis 集群架构:高可用与扩展性
一、引言 在当今数字化时代,数据量呈爆炸式增长,对数据存储和处理的要求也越来越高。Redis作为一款高性能的键值对存储数据库,其集群架构在应对高并发、大数据量场景时展现出了独特的优势,成为众多企业构建高效、稳定系统的关键技…...
Redis数据对象
基本结构图 key和value指向的是redisObject对象 type:标识该对象用的是什么类型(String、List Redis数据结构 SDS SDS有4个属性: len:记录了字符串长度,因此获取字符串长度的时候时间复杂度O(1ÿ…...
Docker部署GitLab服务器
一、GitLab介绍 1.1 GitLab简介 GitLab 是一款基于 Git 的开源代码托管平台,集成了版本控制、代码审查、问题跟踪、持续集成与持续交付(CI/CD)等多种功能,旨在为团队提供一站式的项目管理解决方案。借助 GitLab,开发…...
python版本的Selenium的下载及chrome环境搭建和简单使用
针对Python版本的Selenium下载及Chrome环境搭建和使用,以下将详细阐述具体步骤: 一、Python版本的Selenium下载 安装Python环境: 确保系统上已经安装了Python 3.8及以上版本。可以从[Python官方网站]下载并安装最新版本的Python,…...
重温设计模式--4、组合模式
文章目录 1 、组合模式(Composite Pattern)概述2. 组合模式的结构3. C 代码示例4. C示例代码25 .应用场景 1 、组合模式(Composite Pattern)概述 定义:组合模式是一种结构型设计模式,它允许你将对象组合成…...
5、mysql的读写分离
主从复制 主从复制的含义 主从复制:在一个mysql的集群当中,至少3台,即主1台,从2台。 当有数据写入时,主负责写入本库,然后把数据同步到从服务器。 一定是在主服务器写入数据,从服务器的写入…...
uniapp Native.js原生arr插件服务发送广播到uniapp页面中
前言 最近搞了个设备,需求是读取m1卡,厂家给了个安卓原生demo,接入arr插件如下,接入后发现还是少了一部分代码,设备服务调起后触发刷卡无法发送到uniapp里。 中间是一些踩坑记录,最后面是解决办法…...
3步解锁百度网盘SVIP特权:macOS用户必备的高速下载解决方案
3步解锁百度网盘SVIP特权:macOS用户必备的高速下载解决方案 【免费下载链接】BaiduNetdiskPlugin-macOS For macOS.百度网盘 破解SVIP、下载速度限制~ 项目地址: https://gitcode.com/gh_mirrors/ba/BaiduNetdiskPlugin-macOS 还在为百度网盘Mac客户端的龟速…...
C语言运算符入门:零基础必学的5类核心运算符
对于编程入门而言,C语言是经典语言,运算符属于其最基础且最核心知识点当中的一个,后续去学习分支语句的时候,离不开对运算符的熟练运用,学习循环语句的时候,同样离不开对运算符使用熟练,学习函数…...
seo网站宝可以做哪些SEO分析报告
SEO网站宝可以做哪些SEO分析报告? 在当前互联网市场竞争激烈的情况下,SEO(搜索引擎优化)已经成为每个企业提升网站流量和品牌知名度的重要手段。作为一款广受好评的SEO工具,SEO网站宝能够为用户提供多种分析报告&…...
S2-Pro集成Python爬虫实战:自动化数据采集与智能分析应用
S2-Pro集成Python爬虫实战:自动化数据采集与智能分析应用 1. 引言:当爬虫遇上大模型 最近帮一家电商公司做市场调研时,遇到了一个典型问题:他们需要监控竞品价格和用户评价,但手动收集数据效率太低。传统爬虫能抓取数…...
Sony FCB-EV9500L LVDS图像闪烁问题分析
在基于高清图像采集与远距离传输的系统中,Sony FCB-EV9500L作为一款高性能一体化机芯模组,被广泛应用于安防监控、工业视觉及医疗设备等领域。在实际应用过程中,部分工程师反馈其在LVDS传输链路中出现图像闪烁问题。本文将围绕LVDS信号特性、…...
图像二值化实战指南:从传统阈值到智能自适应算法的技术演进
1. 图像二值化技术基础入门 第一次接触图像二值化时,我盯着显示器上那些黑白分明的图片看了好久。这种看似简单的技术,在实际项目中却能解决大问题。简单来说,图像二值化就是把彩色或灰度图像转换成只有黑白两种颜色的图像,就像我…...
揭秘宇树科技G1人形机器人:消费级市场的破局者与挑战
1. G1人形机器人:消费级市场的颠覆者 当身高1.3米的G1人形机器人站在我面前时,第一感觉是"这玩意儿居然不到10万"。作为宇树科技进军消费级市场的首款产品,G1确实在价格和体积上做了精准定位。相比那些动辄几十万的工业级机器人&am…...
【Butterfly库OpenHarmony实战使用教程】|NAPI封装+Native C API调用+真机运行
🚀Butterfly库OpenHarmony实战使用教程|NAPI封装Native C API调用真机运行 大家好,我是InMainJhy,一名在上海读本科的大一学生🎒。本篇严格按照鸿蒙三方库征文要求创作,基于NAPI封装Native C API࿰…...
FPGA图像处理核心:构建可配置的通用滑动窗口IP核
1. 为什么需要通用滑动窗口IP核 做FPGA图像处理的朋友应该都深有体会,每次新项目来了都要重新写滑动窗口模块,简直让人头大。我去年做过一个统计,在图像处理项目中,光是滑动窗口相关的代码就占了总开发时间的30%以上。这还只是写代…...
SuperDuperDB终极指南:如何用你喜爱的工具构建革命性AI代理应用
SuperDuperDB终极指南:如何用你喜爱的工具构建革命性AI代理应用 【免费下载链接】superduperdb Superduper: End-to-end framework for building custom AI applications and agents. 项目地址: https://gitcode.com/gh_mirrors/su/superduperdb SuperDuperD…...
