当前位置：首页 > news >正文

Flink源码解析二之执行计划⽣成

news 2025/7/8 11:30:14

JobManager Leader 选举

首先flink会依据配置获取RecoveryMode,RecoveryMode一共两两种:STANDALONE和ZOOKEEPER。

如果用户配置的是STANDALONE,会直接去配置中获取JobManager的地址
如果用户配置的是ZOOKEEPER,flink会首先尝试连接zookeeper,利用zookeeper的leadder选举服务发现leader节点的地址和当前的sessionid

客户端JobGraph的提交

启动JobClientActor用来和JobManager交互
启动LeaderRetrievalService获取JobManager的地址
上传用户 jar包
提交SubmitJob命令,等待程序执行

JobManager执行计划生成

JobManager启动逻辑

配置Akka并生成ActorSystem
初始化ZooKeeperLeaderRetrievalService,JobManager在启动的时候会以LeaderRetrievalListener的身份将自己注
册进来,该service负责监听最新的leader信息,当发生改变时通知即所有 listener【所有的JobManager】
启动ResourceManager

执行计划ExecutionGraph的生成

flink的运行时执行计划为ExecutionGraph,ExecutionGraph 时应之前的JobGraph,一个ExecutionGraph包含多个ExecutionJobVertex节点,JobGraph的JobVertex,每ExecutionJobVertex 节点的并发子task对应一个ExecutionVertex,InputChannelDeploymentDescriptorn,具体如下图所示:

Flink源码解析二之执行计划⽣成

JobManager Leader 选举首先flink会依据配置获取RecoveryMode,RecoveryMode一共两两种:STANDALONE和ZOOKEEPER。如果用户配置的是STANDALONE,会直接去配置中获取JobManager的地址如果用户配置的是ZOOKEEPER,flink会首先尝试连接zookeeper,利用zookeeper的leadder选举服务发现…...

编程日记 2023/11/6 9:36:57

MySQL遍历所有表所有字段查找字符数据

MySQL遍历所有表所有字段查找字符数据工作中有一些数据查找，但是在那个库那个表那个字段中并不明确，特别是敏感字符查找，如果数据量并不大，我们可以采用遍历整个库、表中字符来查找相关数据来解决该问题。我们可以写一个存储过…...

编程日记 2023/11/6 9:35:56

Java中的异常处理机制是怎样的？

Java中的异常处理机制主要包括以下几个部分： 异常类（Exception Class）：Java中的异常类继承自java.lang.Throwable，主要分为两大类：Error和Exception。Error表示程序无法处理的严重问题，如系统崩…...

编程日记 2023/11/6 9:34:55

高教社杯数模竞赛特辑论文篇-2023年A题：定日镜场的优化设计（附获奖论文及MATLAB代码实现）

目录摘要一、问题重述 1.1 问题背景 1.2 问题重述二、模型假设三、符号说明...

编程日记 2023/11/6 9:33:54

c语言实现http下载功能，显示进度条和下载速率

#include <stdio.h>//printf #include <string.h>//字符串处理 #include <sys/socket.h>//套接字 #include <arpa/inet.h>//ip地址处理 #include <fcntl.h>//open系统调用 #include <unistd.h>//write系统调用 #include <netdb.h>//…...

编程日记 2023/11/6 9:32:53

Educational Codeforces Round 157 (Rated for Div. 2) D. XOR Construction (思维题)

题目给定长为n-1(n<2e5)的整数序列a，第i个数a[i](0<a[i]<2n) 构造一个长为n的整数序列b，满足： 1. 0到n-1在b数组中每个数恰好出现一次 2. 对于， 题目保证一定有解，有多组时可以输出任意一组思路来源 …...

编程日记 2023/11/6 9:31:52

【unity实战】实现类似英雄联盟的buff系统

文章目录先来看看最终效果前言开始BUFF系统加几个BUFF测试1. 逐层消失，升级不重置剩余时间的BUFF2. 一次性全部消失，升级重置剩余时间的BUFF3. 永久BUFF，类似被动BUFF4. 负面BUFF，根据当前BUFF等级计算每秒收到伤害值&#xff0c…...

编程日记 2023/11/6 9:30:50

【C语言基础教程】函数指针与指针大小

文章目录前言一、函数指针1.1 函数指针的概念1.2 三个示例代码示例1: 使用函数指针调用不同的函数示例 2: 使用函数指针实现回调函数示例 3: 使用函数指针数组二、指针的大小2.1 前述2.2 指针大小如何决定？两方面理解总结前言在C语言中，指针是一项…...

编程日记 2023/11/6 9:29:49

Web前端—网页制作（以“学成在线”为例）

版本说明当前版本号[20231105]。版本修改说明20231105初版目录文章目录版本说明目录day07-学成在线01-项目目录02-版心居中03-布局思路04-header区域-整体布局HTML结构CSS样式 05-header区域-logo06-header区域-导航HTML结构CSS样式 07-header区域-搜索布局HTML结构CSS…...

编程日记 2023/11/6 9:28:48

Hive【Hive（八）自定义函数】

自定义函数用的最多的是单行函数，所以这里只介绍自定义单行函数。 Coding 导入依赖 <dependency><groupId>org.apache.hive</groupId><artifactId>hive-exec</artifactId><version>3.1.3</version></dependency>…...

编程日记 2023/11/6 9:26:46

linux远程桌面管理工具xrdp

一、概述我们知道，我们日常通过vnc来远程管理linux图形界面，今天分享一工具Xrdp，它是一个开源工具，允许用户通过Windows RDP访问Linux远程桌面。除了Windows RDP之外，xrdp工具还接受来自其他RDP客户端的连接&#xf…...

编程日记 2023/11/6 9:25:44

100天精通Python（可视化篇）——第106天：Pyecharts绘制多种炫酷桑基图参数说明+代码实战

文章目录专栏导读一、桑基图介绍1. 桑基图是什么？2. 桑基图应用场景？二、桑基图配置选项1. 导包2. add函数3. 分层设置三、桑基图基础1. 普通桑基图2. 修改标签位置3. 修改节点布局方向4、月度开支桑基图书籍推荐专栏导读 🔥🔥本文已收录于《100天精通Python从入门到就…...

编程日记 2023/11/6 9:24:43

什么是OTP认证？OTP认证服务器有哪些应用场景？

OTP是一次性密码，即只能使用一次的密码。它基于专门的算法，每隔60秒生成一个不可预测的随机数字组合。这种密码的有效期仅在一次会话或交易过程中，因此不容易受到重放攻击。在计算器系统或其他数字设备上，OTP是一种只能使用一次的…...

编程日记 2023/11/6 9:22:40

shell_73.Linux使用新 shell 启动脚本

每次启动新 shell，bash shell 都会运行.bashrc 文件。①对此进行验证，可以使用这种方法：在主目录下的.bashrc 文件中加入一条简单的 echo 语句，然后启动一个新 shell。 $ cat $HOME/.bashrc # .bashrc # Source global definiti…...

编程日记 2023/11/6 9:21:39

【领域驱动设计】聚合

从战术设计上，DDD 最值得借鉴的就是聚合根什么是聚合将实体和值对象在一致性边界之内组合聚合这里的一致性包括 1、业务概念的完整性 2、业务规则的一致性：多个实体需要在一次操作中保持某种一致性（修改 A，同步必须修改 B&a…...

编程日记 2023/11/6 9:20:37

WiFi模块在智能家居中的应用与优化

智能家居技术的迅速发展已经改变了我们对家庭的定义。WiFi模块作为智能设备连接的核心，扮演着连接和控制智能家居生态系统的关键角色。本文将深入研究WiFi模块在智能家居中的应用，同时探讨如何通过优化来提升其性能和用户体验。 1. 智能家居中WiFi模块的…...

编程日记 2023/11/6 9:19:36

LeetCode75——Day27

文章目录一、题目二、题解一、题目 933. Number of Recent Calls You have a RecentCounter class which counts the number of recent requests within a certain time frame. Implement the RecentCounter class: RecentCounter() Initializes the counter with zero r…...

编程日记 2023/11/6 9:18:34

P6462补刀

灵光一现,突然就做出来了正好写一下思路过程一开始寻思是个数论的问题,貌似需要用到扩展欧几里得,不管那么多,直接写上,接着不断缝缝补补修修改改,此处省略一小时.... 做不出来....好难受星期天,无聊,做个题.. 突然,不对啊这个题实际上不就是我当前打还是不打的一个选…...

编程日记 2023/11/6 9:17:33

Python教程---Python交互界面

编程日记 2023/11/6 9:16:32

基于计算机视觉的身份证识别系统计算机竞赛

0 前言 🔥 优质竞赛项目系列，今天要分享的是基于机器视觉的身份证识别系统该项目较为新颖，适合作为竞赛课题方向，学长非常推荐！ 🧿 更多资料, 项目分享： https://gitee.com/dancheng-sen…...

编程日记 2023/11/6 9:14:28

Java如何权衡是使用无序的数组还是有序的数组

在 Java 中，选择有序数组还是无序数组取决于具体场景的性能需求与操作特点。以下是关键权衡因素及决策指南： ⚖️ 核心权衡维度维度有序数组无序数组查询性能二分查找 O(log n) ✅线性扫描 O(n) ❌插入/删除需移位维护顺序 O(n) ❌直接操作尾部 O(1) ✅内存开销与无序数组相…...

编程新知 2025/7/4 21:35:34

STM32标准库-DMA直接存储器存取

文章目录一、DMA1.1简介1.2存储器映像1.3DMA框图1.4DMA基本结构1.5DMA请求1.6数据宽度与对齐1.7数据转运DMA1.8ADC扫描模式DMA 二、数据转运DMA2.1接线图2.2代码2.3相关API 一、DMA 1.1简介 DMA（Direct Memory Access）直接存储器存取 DMA可以提供外设…...

编程新知 2025/7/8 8:47:34

测试markdown--肇兴

day1： 1、去程：7:04 --11:32高铁高铁右转上售票大厅2楼，穿过候车厅下一楼，上大巴车 ￥10/人 **2、到达：**12点多到达寨子，买门票，美团/抖音：￥78人 3、中饭&a…...

编程新知 2025/7/7 1:17:02

el-switch文字内置

el-switch文字内置效果 vue <div style"color:#ffffff;font-size:14px;float:left;margin-bottom:5px;margin-right:5px;">自动加载</div> <el-switch v-model"value" active-color"#3E99FB" inactive-color"#DCDFE6"…...

编程新知 2025/7/7 22:02:46