当前位置：首页 > news >正文

Flink读写Kafka（DataStream API）

news 2026/2/9 17:48:14

在Flink里，已经预定义了kafka connector，使用该connector我们可以读写kafka，并且能实现exactly once的语义。

要使用需要引入相关的maven依赖，在这里，因为读写kafka，就会涉及一个问题，kafka-client和broker的版本兼容问题，不过因为kafka client和broker的双向兼容的良好设计（高版本client api可以兼容低版本的broker），所以flink里一直引用最新的kafka client也是没有问题的，我们知道这回事然后就不必过多去关注了。maven依赖如下：

<dependency>
<groupId>org.apache.flink</groupId>
<artifactId>flink-connector-kafka</artifactId>
<version>1.15.4</version>
</dependency>

1. 读取Kafka（即使用Kafka Source）

1）使用示例

Kafka source提供了一个用于构建KafkaSource实例的构建器类(KafkaSourceBuilder<OUT>)，可以使用Ka

Flink读写Kafka（DataStream API）

在Flink里，已经预定义了kafka connector，使用该connector我们可以读写kafka，并且能实现exactly once的语义。要使用需要引入相关的maven依赖，在这里，因为读写kafka，就会涉及一个问题，kafka-client和broker的版本兼容问题，不过因为kafka client和broker的双向兼容的良…...

编程日记 2025/1/6 0:05:58

SCAU期末笔记 - 数据库系统概念往年试卷解析

数据库搞得人一头雾水，题型太多太杂，已经准备摆烂了。就刷刷往年试卷，挂不挂听天由命。 2019年 Question 1 选择题 1. R ∩ S R∩S R∩S等于一下哪个选项？ 画个文氏图秒了所以选A. R ∩ S R − ( R − S ) R∩SR-(R-S) R∩…...

编程日记 2025/1/6 0:04:52

PS D:\F\luichun> flutter run当运行flutter项目时，【解决如下报错】 /C:/flutter/packages/flutter/lib/src/painting/star_border.dart:530:27: Error: The getter Matrix4 isnt defined for the class _StarGenerator.- _StarGenerator is from package:flut…...

编程日记 2025/1/6 0:01:50

HTML——75. 内联框架

<!DOCTYPE html> <html><head><meta charset"UTF-8"><title>内联框架</title><style type"text/css">iframe{width: 100%;height: 500px;}</style></head><body><!--iframe元素会创建包含…...

编程日记 2025/1/5 23:59:45

python对mongodb的增删查改

python对mongodb的增删查改 1. 安装 pymongo2. 连接 MongoDB3. 创建（插入）文档插入单个文档插入多个文档 4. 查询文档查询单个文档查询多个文档复杂查询嵌套查询分页条件查询（通用模版） 5. 更新文档更新单个文档更新多个文档更新嵌…...

编程日记 2025/1/5 23:58:42

【JS】期约的Promise.all()和 Promise.race()区别

概述 Promise.all() 和 Promise.race() 都是 JavaScript 中处理多个异步操作的 Promise 方法，但它们的行为和返回结果有所不同。 Promise.all()和Promise.race() 1. Promise.all() Promise.all() 接受一个由多个 Promise 实例组成的可迭代对象（例如数…...

编程日记 2025/1/5 23:57:38

使用 RxJS 库实现响应式编程

什么是 RxJS？ RxJS（Reactive Extensions for JavaScript）是一个用于响应式编程的库，它使得处理异步数据流变得更加简单和优雅。通过使用 Observables（可观察对象），你可以轻松地处理事件、HTTP …...

编程日记 2025/1/5 23:56:35

ARP攻击的原理和实现（网络安全）

ARP攻击的原理和实现 ARP（Address Resolution Protocol，地址解析协议）是一种网络协议，用于在局域网内将IP地址映射到MAC地址。在以太网中，设备通过广播ARP请求来查询目标IP地址对应的MAC地址，从而建立通信…...

编程日记 2025/1/5 23:55:32

chatgpt model spec 2024

概述这是模型规范的初稿，该文档规定了我们在OpenAI API和ChatGPT中的模型的期望行为。它包括一组核心目标，以及关于如何处理冲突目标或指令的指导。我们打算将模型规范作为研究人员和数据标注者创建数据的指南，这是一种称为从人类反馈中进…...

编程日记 2025/1/5 23:53:23

单片机-LED实验

1、51工程模版 #include "reg52.h" void main(){ while(1){ } } 2、LED灯亮 #include "reg52.h" sbit LED1P2^0; void main(){ while(1){ LED10; } } 3、LED闪烁 #include "reg52.h" sbit LED1P2^0; //P2大…...

编程日记 2025/1/5 23:51:18

QILSTE H10-C321HRSYYA高亮红光和黄光LED灯珠

在深入探讨H10-C321HRSYYA型号的复杂特性之前，我们首先需要明确其基本参数和功能。这款型号的LED产品以其独特的双色设计和卓越的性能在众多同类产品中脱颖而出。其外观尺寸为3.0x1.0x2.1mm，采用高亮黄光和红光的双色组合，赋予了其在多种应用…...

编程日记 2025/1/5 23:50:16

Appium（一）--- 环境搭建

一、Android自动化环境搭建 1、JDK 必须1.8及以上(1) 安装：默认安装(2) 环境变量配置新建JAVA_HOME:安装路径新建CLASSPath%JAVA_HOME%\lib\dt.jar;%JAVA_HOME%\lib\tools.jar在path中增加：%JAVA_HOME%\bin;%JAVA_HOME%\jre\bin；(3) 验证…...

编程日记 2025/1/5 23:47:12

量子力学复习

黑体辐射热辐射绝对黑体： （辐射能力很强，完全的吸收体，理想的发射体） 辐射实验规律： 温度越高，能量越大，亮度越亮温度越高，波长越短光电效应实验装置&#xf…...

编程日记 2025/1/5 23:46:09

22408操作系统期末速成/复习(考研0基础上手)

第一部分:计算题： 考察范围：（标红的是重点考） 第一章：CPU利用率： 第二章： 进程调度算法（需要注意不同调度算法的优先级和题目中给出的是否可以抢占【分为可抢占和不可抢占&#xff…...

编程日记 2025/1/5 23:43:04

两种分类代码：独热编码与标签编码

目录一、说明二、理解分类数据 2.1 分类数据的类型：名义数据与序数数据 2.2 为什么需要编码三、什么是独热编码？ 3.1 工作原理：独热编码背后的机制 3.2 应用：独热编码的优势四、什么是标签编码？ 4.1 工作原理&…...

编程日记 2025/1/5 23:42:01

51单片机——共阴数码管实验

数码管中有8位数字，从右往左分别为LED1、LED2、...、LED8，如下图所示如何实现点亮单个数字，用下图中的ABC来实现 P2.2管脚控制A，P2.3管脚控制B，P2.4管脚控制C //定义数码管位选管脚 sbit LSAP2^2; sbit LSBP2^3; s…...

编程日记 2025/1/5 23:36:56

【开源社区openEuler实践】rust_shyper

title: 探索 Rust_Shyper：系统编程的新前沿 date: ‘2024-12-30’ category: blog tags: Rust_ShyperRust 语言系统编程性能与安全 sig: Virt archives: ‘2024-12’ author:way_back summary: Rust_Shyper 作为基于 Rust 语言的创新项目，在系统编程领域…...

编程日记 2025/1/5 23:34:52

LiteFlow 流程引擎引入Spring boot项目集成pg数据库

文章目录官网地址简要项目引入maven 所需jar包配置 PostgreSQL 数据库表使用LiteFlow配置 yml 文件通过代码方式使用 liteflow数据库sql 数据在流程中周转官网地址 https://liteflow.cc/ 简要如果你要对复杂业务逻辑进行新写或者重构，用LiteFlow最合适不过。…...

编程日记 2025/1/5 23:33:51

阻抗（Impedance）、容抗（Capacitive Reactance）、感抗（Inductive Reactance）

阻抗（Impedance）、容抗（Capacitive Reactance）、感抗（Inductive Reactance） 都是交流电路中描述电流和电压之间关系的参数，但它们的含义、单位和作用不同。下面是它们的定义和区别： …...

编程日记 2025/1/5 23:29:43

旷视科技Java面试题及参考答案

讲一下进程间的通讯方式（如管道、消息队列、共享内存、Socket 等），各有什么特点？管道（Pipe）管道是最早出现的进程间通信方式之一，主要用于具有亲缘关系（父子进程）的进程之间通信。特点：半双工通信，数据只能单向流动。例如，在一个简单的父子进程通信场景中，父进…...

编程日记 2025/1/5 23:27:39

（二）TensorRT-LLM | 模型导出（v0.20.0rc3）

0. 概述上一节对安装和使用有个基本介绍。根据这个 issue 的描述，后续 TensorRT-LLM 团队可能更专注于更新和维护 pytorch backend。但 tensorrt backend 作为先前一直开发的工作，其中包含了大量可以学习的地方。本文主要看看它导出模型的部分&#x…...

编程新知 2026/1/24 6:44:11

初学 pytest 记录

安装 pip install pytest用例可以是函数也可以是类中的方法 def test_func():print()class TestAdd: # def __init__(self): 在 pytest 中不可以使用__init__方法 # self.cc 12345 pytest.mark.api def test_str(self):res add(1, 2)assert res 12def test_int(self):r…...

编程新知 2026/2/8 21:57:26

省略号和可变参数模板

本文主要介绍如何展开可变参数的参数包 1.C语言的va_list展开可变参数 #include <iostream> #include <cstdarg>void printNumbers(int count, ...) {// 声明va_list类型的变量va_list args;// 使用va_start将可变参数写入变量argsva_start(args, count);for (in…...

编程新知 2025/11/21 0:25:40