当前位置：首页 > news >正文

209.Flink（四）：状态，按键分区，算子状态，状态后端。容错机制，检查点，保存点。状态一致性。flink与kafka整合

news 2026/3/31 13:54:37

一、状态

1.概述

算子任务可以分为有状态、无状态两种。

无状态：filter,map这种，每次都是独立事件
有状态：sum这种，每次处理数据需要额外一个状态值来辅助。这个额外的值就叫“状态”

2.状态的分类

（1）托管状态（Managed State）和原始状态（Raw State）

托管状态就是由Flink统一管理的，状态的存储访问、故障恢复和重组等一系列问题都由Flink实现，我们只要调接口就可以。

原始状态则是自定义的，相当于就是开辟了一块内存，需要我们自己管理，实现状态的序列化和故障恢复。

（2）算子状态（Operator State）和按键分区状态（Keyed State）

按键分区状态其实就是被keyBy的算子。

使用Keyed State必须基于KeyedStream。没有进行keyBy分区的DataStream，即使转换算子实现了对应的富函数类，也不能通过运行时上下文访问Keyed State。富函数可以获取运行时上下文。

所有算子都是在本地实例上维护的，并行子任务的状态不共享。

3.按键分区状态

（1）值状态（ValueState）

状态中只保存一个“值”（value）

209.Flink（四）：状态，按键分区，算子状态，状态后端。容错机制，检查点，保存点。状态一致性。flink与kafka整合

一、状态 1.概述算子任务可以分为有状态、无状态两种。无状态：filter,map这种，每次都是独立事件有状态：sum这种，每次处理数据需要额外一个状态值来辅助。这个额外的值就叫“状态”2.状态的分类（1）托管状态（Managed State）和原始状态（Raw State）托管状态就是由…...

编程日记 2023/10/9 1:53:06

rabbitmq查看节点信息命令失败

不影响访问rabbitmq，但是无法使用命令查看节点信息等查看节点信息命令：rabbitmq-diagnostics status --node rabbitJHComputer Error: unable to perform an operation on node ‘rabbitJHComputer‘. Please see diagnostics informatio rabbitmq-…...

编程日记 2023/10/9 1:52:05

c语言动态内存分布

前言： 随着我们深入的学习c语言，之前使用的静态内存分配已经难以满足我们的实际需求。比如前面我们的通讯录功能的实现，如果只是静态内存分配，那么也就意味着程序开始的内存分配大小就是固定的，应该开多大的空间呢&am…...

编程日记 2023/10/9 1:51:04

1.3.2有理数减法（第一课时）作业设计

【学习目标】 1．理解有理数减法法则，能熟练地进行有理数的减法运算． 2．感受有理数减法与加法对立统一的辨证思想，体会转化的思想方法．...

编程日记 2023/10/9 1:50:04

vue3 -- ts封装 Turf.js地图常用方法

Turf.js中文网地理空间分析库，处理各种地图算法文档地址安装 Turf 库 npm install @turf/turf创建src/hooks/useTurf.ts 文件1：获取线中心点效果：代码： useTurf.ts import * as turf from @turf/turf// 获取线中心点 export class CenterPointOfLine {...

编程日记 2023/10/9 1:48:00

Qt之实现圆形进度条

在Qt自带的控件中，只有垂直进度条、水平进度条两种。在平时做页面开发时，有些时候会用到圆形进度条，比如说：下载某个文件的下载进度。展示效果，如下图所示： 实现这个功能主要由以下几个重点&#xff1a…...

编程日记 2023/10/9 1:46:58

C# 图解教程第5版 —— 第1章 C# 和 .NET 框架

文章目录 1.1 在 .NET 之前1.2 .NET 时代1.2.1 .NET 框架的组成1.2.2 大大改进的编程环境 1.3 编译成 CIL1.4 编译成本机代码并执行1.5 CLR1.6 CLI1.7 各种缩写1.8 C# 的演化1.9 C# 和 Windows 的演化（*） 1.1 在 .NET 之前 MFC（Microsoft Fou…...

编程日记 2023/10/9 1:45:57

electronjs入门-聊天应用程序，与Electron.js通信

随着第一章中构建的应用程序，我们将开始将其与Electron框架中的模块集成，并以此为基础，以更实用的方式了解它们。过程之间的通信根据第二章中的解释，我们将发送每个进程之间的消息；具体来说联系人和聊天&#xff1…...

编程日记 2023/10/9 1:44:56

【自用】ubuntu 18.04 LTS安装opencv 3.4.16 + opencv_contrib 3.4.16

1.下载 opencv 3.4.16 opencv_contrib 3.4.16 其中，opencv_contrib解压后的多个文件夹复制到opencv内、合并声明：尚未验证该方式是否可行 2.安装参考博文： https://zhuanlan.zhihu.com/p/650792342 https://zhuanlan.zhihu.com/p/8719780…...

编程日记 2023/10/9 1:43:55

递归解析Json，实现生成可视化Tree+快速获取JsonPath | 京东云技术团队

内部平台的一个小功能点的实现过程，分享给大家： 递归解析Json，可以实现生成可视化Tree快速获取JsonPath。步骤： 1.利用JsonPath读取根，获取JsonObject 2.递归层次遍历JsonObjec，保存结点信息 3.利用z…...

编程日记 2023/10/9 1:42:54

GraceUI相关的知识

调试工具：UniApp提供了一些调试工具和插件，如uni-app-cli、调试器等，可以帮助你更好地定位和解决问题。同时，使用浏览器的开发者工具或模拟器的调试功能，可以更直观地观察页面效果和调试代码。对于 GraceUI 的普通版本…...

编程日记 2023/10/9 1:41:53

三十二、【进阶】hash索引结构

1、hash索引结构 （1）简述： hash索引，就是采用一定的hash算法，将键值换算成新的hash值，映射到对应的槽位上，然后存储在hash表中。 （2）图示： 2、hash索引结构…...

编程日记 2023/10/9 1:40:52

如果有一天AI能自主编程了，程序员还有前途吗？

人们一直想知道人工智能（AI）等新技术将如何影响就业。如今的一个大问题是：人工智能会接管程序员的角色吗？ 编程主要是关于人们学习计算机语言，这需要大量的时间和努力。但人工智能正在改变这一点。像 GPT-4 这样的系统…...

编程日记 2023/10/9 1:39:52

网络安全：个人信息保护，企业信息安全，国家网络安全的重要性

在当前的数字化时代，无论是个人，企业，还是国家，都会面临严重的网络安全威胁。网络安全不仅涉及我们的日常生活，也涉及到社会的稳定和国家的安全。这就需要我们高度重视网络安全，强化个人信息保护&#xff0…...

编程日记 2023/10/9 1:38:51

自动驾驶学习笔记（二）——Apollo入门

#Apollo开发者# 学习课程的传送门如下，当您也准备学习自动驾驶时，可以和我一同前往： 《自动驾驶新人之旅》免费课程—> 传送门《2023星火培训【感知专项营】》免费课程—>传送门文章目录前言 Ubuntu Linux文件系统 Linux指令…...

编程日记 2023/10/9 1:37:50

Flask 进行 Web 开发时，常见的错误

ImportError: No module named ‘flask’ 错误描述： 这个错误表示 Python 找不到 Flask 模块。解决方法： 确保已经正确安装了 Flask 模块。你可以使用以下命令来安装 Flask：pip install flaskAttributeError: ‘module’ object has no attri…...

编程日记 2023/10/9 1:36:49

【项目】5.1阻塞和非阻塞、同步和异步 5.2Unix、Linux上的五种IO模型

5.1阻塞和非阻塞、同步和异步（网络IO） 典型的一次IO的两个阶段是什么？数据就绪和数据读写数据就绪：根据IO操作的就绪状态阻塞非阻塞数据读写：根据应用程序和内核的交互方式同步异步陈硕：在处理IO的…...

编程日记 2023/10/9 1:35:48

Unity可视化Shader工具ASE介绍——3、ASE的Shader类型介绍

大家好，我是阿赵。这里继续介绍Unity可视化Shader编辑插件ASE的用法。上一篇介绍了节点的输入输出节点。这一篇来介绍一下不同的Shader类型的区别。一、修改Shader类型之前介绍创建Shader的时候，曾经说过可以选择Shader的类型。其实这个类型是…...

编程日记 2023/10/9 1:34:47

国内手机安装 Google Play 服务 (GMS/Google Mobile Services)

目录 1. 国内手机安装 Google Play 服务 (GMS/Google Mobile Services)1.1. 什么是 GMS1.2. 国内手机只需要安装 3 个 APP1.2.1. Google Services Framework 服务框架1.2.2. Google Play Services1.2.3. Google Play Store 应用商店 1.3. 问题1.3.1. 谷歌地图闪退 2. 小米手机 …...

编程日记 2023/10/9 1:33:46

数据结构与算法-(7)---栈的应用-(4)后缀表达式求值

🌈write in front🌈 🧸大家好，我是Aileen🧸.希望你看完之后，能对你有所帮助，不足请指正！共同学习交流. 🆔本文由Aileen_0v0🧸 原创 CSDN首发🐒 如…...

编程日记 2023/10/9 1:32:45

Spring AI vs Python生态：Java开发者如何选择AI工具链？

Spring AI vs Python生态：Java开发者如何构建高效AI工具链？ 当Java开发者第一次踏入AI应用开发领域时，往往会面临一个灵魂拷问：是拥抱Python生态的LangChain/LlamaIndex，还是坚持Java技术栈选择Spring AI？这…...

编程新知 2026/3/31 13:34:56

选择性记忆提取，把人类遗忘机制用在了RAG上，这架构真有点东西

当前大模型处理长文本面临三大瓶颈：算力爆炸：传统注意力机制随文本长度呈二次方增长（O(N)），百万级token直接OOMRAG碎片化：检索增强生成将文档切成独立片段，破坏多跳推理的逻辑链条记忆遗忘&…...

编程新知 2026/3/31 13:00:37

如何通过开源数据集创造商业价值：Awesome Public Datasets全攻略

如何通过开源数据集创造商业价值：Awesome Public Datasets全攻略【免费下载链接】awesome-public-datasets A topic-centric list of HQ open datasets. 项目地址: https://gitcode.com/GitHub_Trending/aw/awesome-public-datasets 在数据驱动决策的时代&a…...

编程新知 2026/3/31 12:25:47

如何用Steam Achievement Manager掌控游戏成就？解锁7大实用技巧

如何用Steam Achievement Manager掌控游戏成就？解锁7大实用技巧【免费下载链接】SteamAchievementManager A manager for game achievements in Steam. 项目地址: https://gitcode.com/gh_mirrors/st/SteamAchievementManager 在游戏世界中，成就…...

编程新知 2026/3/31 11:45:20

热键冲突解决：从检测到修复的完整指南

热键冲突解决：从检测到修复的完整指南【免费下载链接】hotkey-detective A small program for investigating stolen hotkeys under Windows 8 项目地址: https://gitcode.com/gh_mirrors/ho/hotkey-detective 在日常电脑使用中，我们经常会遇到这…...

编程新知 2026/3/31 10:38:53

RMBG-2.0在YOLOv8项目中的应用：目标检测与背景去除联合处理

RMBG-2.0在YOLOv8项目中的应用：目标检测与背景去除联合处理 1. 为什么需要把目标检测和背景去除连在一起做你有没有遇到过这样的场景：电商团队要批量处理上千张商品图，先用YOLOv8框出产品位置，再手动抠图换背景，最后…...

编程新知 2026/3/31 10:12:24

用VSCode+PlatformIO给ESP32做个简易手表：基于LVGL和1.3寸屏的UI实战

基于LVGL的ESP32智能手表开发实战：从硬件驱动到UI设计全流程在创客圈里，ESP32凭借其出色的性价比和丰富的功能接口，一直是物联网项目的热门选择。而当我们把目光投向更直观的人机交互领域时，LVGL（Light and Versatile…...

编程新知 2026/3/31 9:58:21

视频格式转换革新：m4s-converter让B站缓存视频无缝播放

视频格式转换革新：m4s-converter让B站缓存视频无缝播放【免费下载链接】m4s-converter 一个跨平台小工具，将bilibili缓存的m4s格式音视频文件合并成mp4 项目地址: https://gitcode.com/gh_mirrors/m4/m4s-converter 从缓存困境到自由播放&#x…...

编程新知 2026/3/31 9:56:20