当前位置：首页 > news >正文

【Apache Paimon】-- 13 -- 利用 paimon-flink-action 同步 mysql 表数据

news 2025/12/25 21:44:50

利用 Paimon Schema Evolution 核心特性同步变更的 mysql 表结构和数据

1、背景信息

在Paimon 诞生以前，若 mysql/pg 等数据源的表结构发生变化时，我们有几种处理方式
（1）人工通知（比如常规的使用邮件），然后运维人员手动同步到数据仓库中
（2）使用 flink 消费 DDL binlog ，然后自动更新 Hive 的外部表和内部表 schema
那么现在，有了 Paimon ，我们可以利用其特性，自动识别并同步 DDL 这些变化，并同步至 hive 的 paimon 格式表中。这种方式的优点：

1、数据链路变短，更可靠
2、降低开发、维护成本
3、降低了数据集成调度资源和计算资源的使用成本

2、软件版本

Mac OS 10.15.6
Apache Hive 3.1.3
Apache Hadoop 3.1.0
Apache Flink 1.19.1
Apache Paimon 0.9.0
Mysql 8.0
flink-sql-connector-mysql-cdc-3.1.1.jar
mysql-connector-java-8.0.27.jar
paimon-flink

【Apache Paimon】-- 13 -- 利用 paimon-flink-action 同步 mysql 表数据

利用 Paimon Schema Evolution 核心特性同步变更的 mysql 表结构和数据 1、背景信息在Paimon 诞生以前，若 mysql/pg 等数据源的表结构发生变化时，我们有几种处理方式（1）人工通知（比如常规的使用邮件），然后运维人员手动同步到数据仓库中（2）使用 flink 消费 DDL bi…...

编程日记 2025/1/13 2:55:37

IOS HTTPS代理抓包工具使用教程

打开抓包软件在设备列表中选择要抓包的设备，然后选择功能区域中的 HTTPS代理抓包。根据弹出的提示按照配置文件和设置手机代理。如果是本机则会自动配置，只需要按照提醒操作即可。 iOS 抓包准备通过 USB 将 iOS 设备连接到电脑，设备需解…...

编程日记 2025/1/13 2:52:33

在 Ubuntu 22.04 上从 Wayland 切换到 X11的详细步骤

在 Ubuntu 22.04 上从 Wayland 切换到 X11，步骤其实很简单，主要是在登录界面进行选择。以下是详细的步骤： 步骤 1：退出当前会话首先，点击屏幕右上角的用户菜单，选择注销或退出，以退出当前…...

编程日记 2025/1/13 2:45:27

【Linux】4.Linux常见指令以及权限理解（2）

文章目录 3. Linux指令3.1 ls指令和rm指令补充3.2 man指令（重要）3.3cp指令（重要）输出重定向3.3.1ubuntu20.04如何安装tree 3.4 mv指令（重要）mv指令更改文件名mv指令更改目录名如何看待指令指令的重命名3.5…...

编程日记 2025/1/13 2:44:26

ffmpeg aac s16 encode_audio.c

用ffmpeg库时，用代码对pcm内容采用aac编码进行压缩，出现如下错误。 [aac 000002bc5edc6e40] Format aac detected only with low score of 1, misdetection possible! [aac 000002bc5edc8140] Error decoding AAC frame header. [aac 000002bc5edc81…...

编程日记 2025/1/13 2:35:16

vue3监听器

1.侦听数据源类型 watch 的第一个参数可以是不同形式的“数据源”：它可以是一个 ref (包括计算属性)、一个响应式对象、一个 getter 函数、或多个数据源组成的数组 const x ref(0) const y ref(0)// 单个 ref watch(x, (newX) > {console.log(x is ${newX}) …...

编程日记 2025/1/13 2:33:14

03-51单片机定时器和串口通信

一、51单片机定时器 1.定时器介绍 1.1为什么要使用定时器在前面的学习中，用到了 Delay 函数延时，这里学习定时器以后，就可以通过定时器来完成，当然定时器的功能远不止这些： 51 单片机的定时器既可以定时&#xff…...

编程日记 2025/1/13 2:32:13

系统架构设计师考点—项目管理

一、备考指南项目管理主要考查的是进度管理、软件配置管理、质量管理、风险管理等相关知识，近几年都没有考查过，但是有可能在案例分析中考查关键路径的技术问题，考生了解为主。二、重点考点 1、项目的十大管理（速记&#xff1…...

编程日记 2025/1/13 2:30:11

代码随想录算法训练营第三十二天|509.斐波那契数、70.爬楼梯、746.使用最小花费爬楼梯

目录 509.斐波那契数动态规划五部曲： 1.确定dp数组（dp table）以及下标的含义 2.确定递推公式 3.dp数组如何初始化 4.确定遍历顺序 5.举例推导dp数组 70.爬楼梯动态规划五部曲： 1.确定dp数组（dp table）…...

编程日记 2025/1/13 2:29:09

【2024年华为OD机试】 (A卷,100分)- 总最快检测效率（Java JS PythonC/C++）

一、问题描述题目描述在系统、网络均正常的情况下组织核酸采样员和志愿者对人群进行核酸检测筛查。每名采样员的效率不同，采样效率为 N 人/小时。由于外界变化，采样员的效率会以 M 人/小时为粒度发生变化，M 为采样效率浮动粒度&#xf…...

编程日记 2025/1/13 2:25:03

【大数据】Apache Superset：可视化开源架构

Apache Superset是什么 Apache Superset 是一个开源的现代化数据可视化和数据探索平台，主要用于帮助用户以交互式的方式分析和展示数据。有不少丰富的可视化组件，可以将数据从多种数据源（如 SQL 数据库、数据仓库、NoSQL 数据库等&#xff0…...

编程日记 2025/1/13 2:24:02

LabVIEW调用不定长数组 DLL数组

在使用 LabVIEW 调用 DLL 库函数时，如果函数中的结构体包含不定长数组，直接通过调用库函数节点（Call Library Function Node） 调用通常会遇到问题。这是因为 LabVIEW 需要与 DLL 中的数据结构完全匹配，而包含不定长数…...

编程日记 2025/1/13 2:23:01

MySQL 17 章——触发器

在实际开发中，我们经常会遇到这样的情况：有2个或者多个相关联的表，比如商品信息表和库存信息表，分别存放在两个不同的数据表中，我们在添加一条新商品记录的时候，为了保证数据的完整性，必须同时在…...

编程日记 2025/1/13 2:18:57

面向对象分析与设计Python版面向对象设计方法

文章目录前言一、职责驱动设计二、职责驱动设计-案例前言面向对象设计目标：在面向对象分析建立的领域模型的基础上，定义对象操作（职责）。为对象分配职责的方法有： 职责驱动设计遵循GRASP设计原则（Gene…...

编程日记 2025/1/13 2:13:50

GB/T 19582.1-2008主要内容

标准背景与概述 GB/T 19582.1-2008是由中国国家标准化管理委员会发布的国家标准，旨在指导和规范基于Modbus协议的工业自动化网络的设计和实施。该标准由全国工业过程测量控制和自动化标准化技术委员会（TC124）归口，并由中国机械工…...

编程日记 2025/1/13 2:08:45

[石榴翻译] 维吾尔语音识别 + TTS语音合成

API网址丝路AI平台获取 Access token 接口地址：https://open.xjguoyu.cn/api/auth/oauth/token，请求方式：GET，POST Access token是调用服务API的凭证，调用服务API之前需要获取 token。每次成功获取 token 以后只有…...

编程日记 2025/1/13 2:05:42

算法题（32）：三数之和

审题： 需要我们找到满足以下三个条件的所有三元组，并存在二维数组中返回 1.三个元素相加为0 2.三个元素的下标不可相同 3.三元组的元素不可相同思路： 混乱的数据不利于进行操作，所以我们先进行排序我们可以采取枚举的方法进行解…...

编程日记 2025/1/13 2:04:41

webpack03

什么是source-map 将代码编译压缩之后，，可以通过source-map映射会原来的代码，，，在调试的时候可以准确找到原代码报错位置，，，进行修改 source-map有很多值： eval &#…...

编程日记 2025/1/13 2:03:40

组会 | SNN 的 BPTT（backpropagation through time）

目录 1 神经学基础知识1.1 神经元1.2 神经元之间的连接1.3 膜电位1.4 去极化与超极化 2 SNN2.1 LIF 模型2.2 BPTT 中存在的问题2.3 梯度爆炸或消失问题前言： 本博仅为组会总结，如有谬误，请不吝指正！虽然标题为 BPTT&am…...

编程日记 2025/1/13 2:01:38

CDA数据分析师一级经典错题知识点总结（3）

1、SEMMA 的基本思想是从样本数据开始，通过统计分析与可视化技术，发现并转换最有价值的预测变量，根据变量进行构建模型，并检验模型的可用性和准确性。【强调探索性】 2、CRISP-DM模型Cross Industry Standard Process of Data Mi…...

编程日记 2025/1/13 1:58:33

Ubuntu系统下交叉编译openssl

一、参考资料 OpenSSL&&libcurl库的交叉编译 - hesetone - 博客园二、准备工作 1. 编译环境宿主机：Ubuntu 20.04.6 LTSHost：ARM32位交叉编译器：arm-linux-gnueabihf-gcc-11.1.0 2. 设置交叉编译工具链在交叉编译之前&#x…...

编程新知 2025/11/10 15:33:04

YSYX学习记录（八）

C语言，练习0： 先创建一个文件夹，我用的是物理机： 安装build-essential 练习1： 我注释掉了 #include <stdio.h> 出现下面错误在你的文本编辑器中打开ex1文件，随机修改或删除一部分，之后…...

编程新知 2025/12/19 11:16:32

【ROS】Nav2源码之nav2_behavior_tree-行为树节点列表

1、行为树节点分类在 Nav2（Navigation2）的行为树框架中，行为树节点插件按照功能分为 Action（动作节点）、Condition（条件节点）、Control（控制节点）和 Decorator（装饰节点）四类。 1.1 动作节点 Action 执行具体的机器人操作或任务，直接与硬件、传感器或外部系统…...

编程新知 2025/12/21 5:00:07

微软PowerBI考试 PL300-在 Power BI 中清理、转换和加载数据

微软PowerBI考试 PL300-在 Power BI 中清理、转换和加载数据 Power Query 具有大量专门帮助您清理和准备数据以供分析的功能。您将了解如何简化复杂模型、更改数据类型、重命名对象和透视数据。您还将了解如何分析列，以便知晓哪些列包含有价值的数据，…...

编程新知 2025/12/24 12:44:09

Unsafe Fileupload篇补充-木马的详细教程与木马分享（中国蚁剑方式）

在之前的皮卡丘靶场第九期Unsafe Fileupload篇中我们学习了木马的原理并且学了一个简单的木马文件本期内容是为了更好的为大家解释木马（服务器方面的）的原理，连接，以及各种木马及连接工具的分享文件木马：https://w…...

编程新知 2025/12/10 16:19:48

HDFS分布式存储 zookeeper

hadoop介绍狭义上hadoop是指apache的一款开源软件用java语言实现开源框架，允许使用简单的变成模型跨计算机对大型集群进行分布式处理（1.海量的数据存储 2.海量数据的计算）Hadoop核心组件 hdfs（分布式文件存储系统）&a…...

编程新知 2025/12/15 21:06:42

【VLNs篇】07：NavRL—在动态环境中学习安全飞行

项目内容论文标题NavRL: 在动态环境中学习安全飞行 (NavRL: Learning Safe Flight in Dynamic Environments)核心问题解决无人机在包含静态和动态障碍物的复杂环境中进行安全、高效自主导航的挑战，克服传统方法和现有强化学习方法的局限性。核心算法基于近端策略优化…...

编程新知 2025/12/15 16:22:57