当前位置： 首页 > news >正文

flink的物理DataFlow图及Slot处理槽任务分配

news 2026/2/9 1:58:05

背景

在flink中，有几个比较重要的概念，逻辑DataFlow图，物理DataFlow图以及处理槽执行任务，本文就来讲解下这几个概念

概念详解

假设有以下代码：数据源和统计单词算子的并行度是2，数据汇算子的并行度是1，当前集群有100个空闲的处理槽(分别从SLOT_{A,B,C…})
在这里插入图片描述
可以看到最终我们只使用了两个处理槽,分别是SLOT_A和SLOT_B,使用的处理槽的数量和设置的算子最大并行度一样，然后在每个处理槽内，对于每个任务，处理槽会分别开启一个Thread线程进行处理,这里你会不会觉得很奇怪，我还有这么多空闲的处理槽，为何只用了其中的两个？
这其实是由flink的任务调度策略决定的，其决定的依据这样分配当有很多job在同时执行时，可以达到最佳的资源分配，详见官方文档的解释

相关文章：

flink的物理DataFlow图及Slot处理槽任务分配

背景 在flink中，有几个比较重要的概念，逻辑DataFlow图，物理DataFlow图以及处理槽执行任务，本文就来讲解下这几个概念 概念详解 假设有以下代码：数据源和统计单词算子的并行度是2，数据汇算子的并行度是1&…...

编程日记 2023/9/12 14:50:14

与面试相关的redis

这里写自定义目录标题 📝 redis的知识点数据结构及其特性，用途和操作方法持久化高可用分布式锁发布订阅性能优化安全性数据分片缓存策略键过期删除策略内存淘汰策略 🤗 总结归纳📎 参考文章 😀 这里写文章的前言&#…...

编程日记 2023/9/12 14:49:12

MapStruct从0到0.5

MapStruct从0到0.5 开发的过程，经常会用到实体类属性映射，同时为了方便，开发者也很少自己写专门的属性赋值工具类。索性会直接使用Sprrng提供的BeanUtils工具类，然后在性能上和字段属性赋值上的问题，一直是为开发者所…...

编程日记 2023/9/12 14:48:11

STM32H750 HAL CUBEMX 时钟失败及死机无法下载问题解决

芯片采样电压设置，否则 无法运行 解决死机问题 设置swd 模式 短接 boot0 —vcc 3.3v即可正常下载...

编程日记 2023/9/12 14:47:10

paddlespeech on centos7

概述 paddlespeech是百度飞桨平台的开源工具包，主要用于语音和音频的分析处理，其中包含多个可选模型，提供语音识别、语音合成、说话人验证、关键词识别、音频分类和语音翻译等功能。 paddlespeech整体是比较简单易用的，但是安装…...

编程日记 2023/9/12 14:46:09

ROM是什么？ 刷ROM是什么意思?

文章目录 ROM是什么？刷ROM是什么意思 ROM是什么？ ROM是只读内存（Read-Only Memory）的简称，是一种只能读出事先所存数据的固态半导体存储器。其特性是一旦储存资料就无法再将之改变或删除。通常用在不需经常变更资料的…...

编程日记 2023/9/12 14:45:07

华为云Stack的学习（五）

六、华为云stack服务简介 1.云服务在华为云Stack中的位置 云服务对接多个数据中心资源池层提供的资源，并向各种行业应用提供载体。 2.华为云Stack通用服务 2.1 云计算的服务模式 2.2 计算相关的云服务 2.3 存储相关的云服务 2.4 网络相关的云服务 3.云化案例 **…...

编程日记 2023/9/12 14:44:07

【LeetCode-中等题】904. 水果成篮

文章目录 题目方法一：滑动窗口方法二： 题目 题目的意思就是：找至多包含两种元素的最长子串，返回其长度 方法一：滑动窗口 class Solution { // 滑动窗口 找至多包含两种元素的最长子串，返回其长度public …...

编程日记 2023/9/12 14:43:06

【C++】哈希——哈希的概念，应用以及闭散列和哈希桶的模拟实现

前言： 前面我们一同学习了二叉搜索树，以及特殊版本的平衡二叉搜索树，这些容器让我们查找数据的效率提高到了O(log^2 N)。虽然效率提高了很多，但是有没有一种理想的方法使得我们能提高到O(1)呢？其实在C语言数据结构中&a…...

编程日记 2023/9/12 14:42:04

Kubernetes (K8s) 解读：微服务与容器编排的未来

🌷🍁 博主猫头虎（🐅🐾）带您 Go to New World✨🍁 🐅🐾猫头虎建议程序员必备技术栈一览表📖： 🛠️ 全栈技术 Full Stack: &#x1f4da…...

编程日记 2023/9/12 14:41:03

JavaScript学习--Day04

元字符 边界符： /^/：以什么开头 /$/：以什么结尾 量词： 预定义类：...

编程日记 2023/9/12 14:40:02

HCS 基本概念（三）

一、定义 HCS采用FusionSphere OpenStack作为云平台，对各个物理数据中心资源做整合，采用ManageOne作为数据中心管理软件对多个数据中心提供统一管理，通过云平台和数据中心管理软件协同运作，达到多数据中心融合、提升企业整体IT效率…...

编程日记 2023/9/12 14:39:00

通过curl命令分析http接口请求各阶段的耗时等

目录 一、介绍二、功能1、-v 输出请求 响应头状态码 响应文本等信息2、-x 测试代理ip是否能在该网站使用3、-w 额外输出查看接口请求响应的消耗时间4、-o 将响应结果存储到文件里面5、-X post请求测试 (没测成功用的不多) 一、介绍 Curl是一个用于发送和接收请求的命令行工具和…...

编程日记 2023/9/12 14:37:59

Linux工具——gcc

目录 一，gcc简介 二，C语言源文件的编译过程 1.预处理 2.编译 3.汇编 4.链接 5.动静态库 一，gcc简介 相信有不少的小白和我一样在学习Linux之前只听说过visual studio。其实这个gcc这个编译器实现的功能便是和visual studio一样的功能&…...

编程日记 2023/9/12 14:36:59

uni-app 使用uCharts-进行图表展示（折线图带单位）

前言 在uni-app经常是需要进行数据展示，针对这个情况也是有人开发好了第三方包，来兼容不同平台展示 uCharts和pc端的Echarts使用差不多，甚至会感觉在uni-app使用uCharts更轻便，更舒服 但是这个第三方包有优点就会有缺点&#xf…...

编程日记 2023/9/12 14:35:57

180B参数的Falcon登顶Hugging Face，vs chatGPT 最好开源大模型使用体验

文章目录 使用地址使用体验test1：简单喜好类问题test2：知识性问题test3：开放性问题test4：中文支持test5：问题时效性test6：学术问题使用地址 https://huggingface.co/spaces/tiiuae/falcon-180b-demo 使用体验 相比Falcon-7b，Falcon-180b拥有1800亿的参数量...

编程日记 2023/9/12 14:34:54

服务器数据恢复-EMC存储磁盘损坏的RAID5数据恢复案例

服务器数据恢复环境： 北京某单位有一台EMC某型号存储，有一组由10块STAT硬盘组建的RAID5阵列，另外2块磁盘作为热备盘使用。RAID5阵列上层只划分了一个LUN，分配给SUN小机使用，上层文件系统为ZFS。 服务器故障&#xff1…...

编程日记 2023/9/12 14:33:53

Nginx优化文件上传大小限制

Nginx默认配置 Nginx 默认情况下，上传文件的大小为1M，超过1M就会返回413错误。只用对Nginx进行简单配置即可解决问题。 优化Nginx文件上传大小限制 可以在Nginx配置文件中配置 client_max_body_size 配置项。 设置客户端请求正文允许的最大大小。如果…...

编程日记 2023/9/12 14:32:52

navicat SSH连接数据库报错: Putty key format too new

问题 下载 Putty 0.79 生成了密钥，但是在navicat 15 使用SSH通道连接数据库报错: Putty key format too new 错误原因和处理 原来是因为生成的私钥格式是 V3 ， navicat 15 只能识别 V2 所以，在 PuTTYgen Load 私钥，重新保存为 …...

编程日记 2023/9/12 14:31:51

基于大规模MIMO通信系统的半盲信道估计算法matlab性能仿真

目录 1.算法运行效果图预览 2.算法运行软件版本 3.部分核心程序 4.算法理论概述 5.算法完整程序工程 1.算法运行效果图预览 2.算法运行软件版本 matlab2022a 3.部分核心程序 %EM算法收敛所需的迭代 nIter 1; Yp Y(:,1:L_polit,:); %与导频序列相对应的部分 q…...

编程日记 2023/9/12 14:30:50

KubeSphere 容器平台高可用：环境搭建与可视化操作指南

Linux_k8s篇 欢迎来到Linux的世界，看笔记好好学多敲多打，每个人都是大神！ 题目：KubeSphere 容器平台高可用：环境搭建与可视化操作指南 版本号: 1.0,0 作者: 老王要学习 日期: 2025.06.05 适用环境: Ubuntu22 文档说…...

编程新知 2026/2/8 15:03:14

Docker 离线安装指南

参考文章 1、确认操作系统类型及内核版本 Docker依赖于Linux内核的一些特性，不同版本的Docker对内核版本有不同要求。例如，Docker 17.06及之后的版本通常需要Linux内核3.10及以上版本，Docker17.09及更高版本对应Linux内核4.9.x及更高版本。…...

编程新知 2026/2/7 6:10:30

Appium+python自动化（十六）- ADB命令

简介 Android 调试桥(adb)是多种用途的工具，该工具可以帮助你你管理设备或模拟器 的状态。 adb ( Android Debug Bridge)是一个通用命令行工具，其允许您与模拟器实例或连接的 Android 设备进行通信。它可为各种设备操作提供便利，如安装和调试…...

编程新知 2026/1/21 18:20:51

聊聊 Pulsar：Producer 源码解析

一、前言 Apache Pulsar 是一个企业级的开源分布式消息传递平台，以其高性能、可扩展性和存储计算分离架构在消息队列和流处理领域独树一帜。在 Pulsar 的核心架构中，Producer（生产者） 是连接客户端应用与消息队列的第一步。生产者…...

编程新知 2026/2/5 21:34:41

Golang dig框架与GraphQL的完美结合

将 Go 的 Dig 依赖注入框架与 GraphQL 结合使用，可以显著提升应用程序的可维护性、可测试性以及灵活性。 Dig 是一个强大的依赖注入容器，能够帮助开发者更好地管理复杂的依赖关系，而 GraphQL 则是一种用于 API 的查询语言，能够提…...

编程新知 2025/12/31 8:38:23

Axios请求超时重发机制

Axios 超时重新请求实现方案 在 Axios 中实现超时重新请求可以通过以下几种方式： 1. 使用拦截器实现自动重试 import axios from axios;// 创建axios实例 const instance axios.create();// 设置超时时间 instance.defaults.timeout 5000;// 最大重试次数 cons…...

编程新知 2025/10/13 2:26:14

基于PHP的连锁酒店管理系统

有需要请加文章底部Q哦 可远程调试 基于PHP的连锁酒店管理系统 一 介绍 连锁酒店管理系统基于原生PHP开发，数据库mysql，前端bootstrap。系统角色分为用户和管理员。 技术栈 phpmysqlbootstrapphpstudyvscode 二 功能 用户 1 注册/登录/注销 2 个人中…...

编程新知 2026/1/31 6:20:15

从物理机到云原生：全面解析计算虚拟化技术的演进与应用

前言：我的虚拟化技术探索之旅 我最早接触"虚拟机"的概念是从Java开始的——JVM（Java Virtual Machine）让"一次编写，到处运行"成为可能。这个软件层面的虚拟化让我着迷，但直到后来接触VMware和Doc…...

编程新知 2026/2/6 6:02:06

Vue3 PC端 UI组件库我更推荐Naive UI

一、Vue3生态现状与UI库选择的重要性 随着Vue3的稳定发布和Composition API的广泛采用，前端开发者面临着UI组件库的重新选择。一个好的UI库不仅能提升开发效率，还能确保项目的长期可维护性。本文将对比三大主流Vue3 UI库（Naive UI、Element …...

编程新知 2026/2/6 13:40:23

数据库正常，但后端收不到数据原因及解决

从代码和日志来看，后端SQL查询确实返回了数据，但最终user对象却为null。这表明查询结果没有正确映射到User对象上。 在前后端分离，并且ai辅助开发的时候，很容易出现前后端变量名不一致情况，还不报错，只是单…...

编程新知 2026/1/1 2:56:38