当前位置： 首页 > news >正文

Hudi extraMetadata 研究总结

news 2025/11/1 17:59:38

前言

研究总结 Hudi extraMetadata ,记录研究过程。主要目的是通过 extraMetadata 保存 source 表的 commitTime （checkpoint）， 来实现增量读Hudi表写Hudi表时，保存增量读状态的事务性，实现类似于流任务中的 exactly-once

背景需求

有个需求：增量读Hudi表关联其他Hudi表然后做一些复杂的业务处理逻辑,然后将结果表保存到目标Hudi表中

然后就有问题：如何保证保存目标Hudi表和保存 endCommiTime 是事务的。具体如下
1、Spark支持增量读Hudi表，需要传入起（始） commitTime。
2、上一批数据处理完成后应该保存上次增量读的的 endCommiTime,作为下一批增量读的的 beginCommitTime
3、可以选择将上一批的 endCommiTime 保存到 HDFS 或者数据库表中，但是不能保证事务。（并且还需要借助外部表或者存储目录，如果能通过Hudi本身解决，就比较完美了）
4、也就是可能存在保存目标Hudi表成功，但是保存 endCommiTime 失败的情况

这时就想到了 DeltaStreamer 中是通过设置 checkpoint 来实现的，具体是通过将 commitTime 的值保存到目标表 .commit 元数据文件中(extraMetadata->deltastreamer.checkpoi

相关文章：

Hudi extraMetadata 研究总结

前言 研究总结 Hudi extraMetadata ,记录研究过程。主要目的是通过 extraMetadata 保存 source 表的 commitTime （checkpoint）， 来实现增量读Hudi表写Hudi表时，保存增量读状态的事务性，实现类似于流任务中的 exactly-once 背景需求 有个需求：增量读Hudi表关联其他Hudi…...

编程日记 2024/6/14 1:33:29

Vue31-自定义指令：总结

一、自定义函数的陷阱 1-1、自定义函数名 自定义函数名，不能用驼峰式！！！ 示例1： 示例2： 1-2、指令回调函数的this 【回顾】： 所有由vue管理的函数，里面的this直接就是vm实例对象。…...

编程日记 2024/6/14 1:32:28

Windows环境如何使用Flutter Version Manager (fvm)

Windows环境如何使用Flutter Version Manager (fvm) Flutter Version Manager (fvm) 是一个用于管理多个 Flutter SDK 版本的命令行工具，它允许开发者在不同项目之间轻松切换 Flutter 版本。这对于需要维护多个使用不同 Flutter 版本的项目的开发人员来说非常有用。…...

编程日记 2024/6/14 1:29:25

优化Elasticsearch搜索性能：查询调优与索引设计

在构建基于 Elasticsearch 的搜索解决方案时，性能优化是关键。本文将深入探讨如何通过查询调优和索引设计来优化 Elasticsearch 的搜索性能，从而提高用户体验和系统效率。 查询调优 优化查询是提高 Elasticsearch 性能的重要方法。以下是一些有效的查询…...

编程日记 2024/6/14 1:24:19

STM32-17-DAC

STM32-01-认识单片机 STM32-02-基础知识 STM32-03-HAL库 STM32-04-时钟树 STM32-05-SYSTEM文件夹 STM32-06-GPIO STM32-07-外部中断 STM32-08-串口 STM32-09-IWDG和WWDG STM32-10-定时器 STM32-11-电容触摸按键 STM32-12-OLED模块 STM32-13-MPU STM32-14-FSMC_LCD STM32-15-DMA…...

编程日记 2024/6/14 1:23:18

一杯咖啡的艺术 | 如何利用数字孪生技术做出完美的意式浓缩咖啡？

若您对数据分析以及人工智能感兴趣，欢迎与我们一起站在全球视野关注人工智能的发展，与Forrester 、德勤、麦肯锡等全球知名企业共探AI如何加速制造进程， 共同参与6月20日由Altair主办的面向工程师的全球线上人工智能会议“AI for Engineers”…...

编程日记 2024/6/14 1:22:17

使用QT制作QQ登录界面

mywidget.cpp #include "mywidget.h"Mywidget::Mywidget(QWidget *parent): QWidget(parent) {/********制作一个QQ登录界面*********************/this->resize(535,415);//设置登录窗口大小this->setFixedSize(535,415);//固定窗口大小this->setWindowTi…...

编程日记 2024/6/14 1:21:15

代码随想录训练营第七天 344反转字符串 541反转字符串II 替换数字

第一题： 原题链接：344. 反转字符串 - 力扣（LeetCode） 思路： 双指针，一根指向字符串的头部，一根指向字符串的尾部。两个指针向中间移动，交换两根指针指向的值。 代码如下&#xf…...

编程日记 2024/6/14 1:20:14

【Python】数据处理：SQLite操作

使用 Python 与 SQLite 进行交互非常方便。SQLite 是一个轻量级的关系数据库，Python 标准库中包含一个名为 sqlite3 的模块，可以直接使用。 import sqlite3数据库连接和管理 连接到 SQLite 数据库。如果数据库文件不存在，则创建一个新数据库…...

编程日记 2024/6/14 1:19:13

NXP RT1060学习总结 - fsl_flexcan 基础CAN函数说明 -3

概要 CAN测试源码： https://download.csdn.net/download/qq_35671135/89425377 根据fsl_flexcan.h文件从文件末尾往前面梳理，总共30个基础CAN函数； 该文章只梳理常规CAN，增强型CAN后面再单独梳理。 使用的是RT1064开发板进行测试…...

编程日记 2024/6/14 1:18:11

2024年第三届数据统计与分析竞赛（B题）数学建模完整思路+完整代码全解全析

你是否在寻找数学建模比赛的突破点？数学建模进阶思路！ 详细请查 作为经验丰富的数学建模团队，我们将为你带来2024年第三届数据统计与分析竞赛（B题）的全面解析。这个解决方案包不仅包括完整的代码实现，还有…...

编程日记 2024/6/14 1:17:10

高通Android 12 右边导航栏改成底部显示

最近同事说需要修改右边导航栏到底部，问怎么搞？然后看下源码尝试下。 1、Android 12修改代码路径 frameworks/base/services/core/java/com/android/server/wm/DisplayPolicy.java a/frameworks/base/services/core/java/com/android/server/wm/Display…...

编程日记 2024/6/14 1:15:08

2.6数据报与虚电路

数据报 当作为通信子网用户的端系统要发送一个报文时，在端系统中实现的高层协议先把报文拆成若干个带有序号的数据单元，并在网络层加上地址等控制信息后形成数据报分组(即网络层PDU)中间结点存储分组一段很短的时间，找到最佳的路由后&#x…...

编程日记 2024/6/14 1:14:07

小主机折腾记26

双独立显卡调用问题 前两天将tesla p4从x99大板上拆了下来，将880G5twr上的rx480 4g安装到了x99大板上，预计是dg1输出，rx480做3d运算。安装完驱动后，还想着按照之前tesla p4的设置方法去设置rx480，结果果然&#xff0c…...

编程日记 2024/6/14 1:12:04

ArrayList浅析

目录 一、ArrayList源码1.1 迭代器1.1.1 Itr源码浅析1.1.2 ListItr源码浅析 1.2 常用方法1.3 System.arraycopy1.4 ArrayList 的创建方式 二、引申问题2.1 ArrayList的大小是如何增加的？2.2 什么情况下你会使用ArrayList2.3 在索引中ArrayList的增加或者删除某个对象…...

编程日记 2024/6/14 1:11:03

Spring Boot整合hibernate-validator实现数据校验

文章目录 概念基本概念常用校验注解 前置内容整合Hibernate Validator快速入门优雅处理参数校验异常其余注解校验自定义校验注解 参考来源 概念 基本概念 Hibernate Validator 是一个参数校验框架，可以非常方便地帮助我们校验应用程序的入参，实现了参数…...

编程日记 2024/6/14 1:10:01

Ubuntu系统中网易云音乐编译安装

项目地址： netease-cloud-music-gtk: Linux 平台下基于 Rust GTK 开发的网易云音乐播放器 目录 1.README.md中按照步骤来 2.安装git 3.报错 sudo apt install cmake sudo apt-get install libdbus-1-dev sudo apt install dnf sudo dnf install gettext 继…...

编程日记 2024/6/14 1:09:00

MPLS标签号

标签被压入在2层与3层之间 称为 2.5层 标签的格式----32 位4 个字节 前 20 位为标签号，2~20 个标签号；其中1-15号保留，作为特殊编号； 第 21-23位 exp，3位8个数，为优先级，用于Q0S 策略使用&a…...

编程日记 2024/6/14 1:06:57

OpenHarmony napi 编译 .so 并打包成 .har

一、前言 最近在搞公司标准产品适配OpenHarmony 平台， 按照行业上的常用方法，在Android 是将底层代码用c 封装成 xxx.so ，然后将其他一部分打包成 xxx.jar。 因此，在OpenHarmony 平台也是打算按照这个模式。正所谓，好…...

编程日记 2024/6/14 1:03:54

python 循环导入(circular imports)解决方法

在 Python 中，大部分人都应该都遇到过循环导入的问题。 循环导入是指两个文件各自尝试导入另一个文件（模块），当一个模块没有完全初始化时会导致失败。解决这种情况的最好方法是将代码分层组织，这样导入的关系就会自然…...

编程日记 2024/6/14 1:02:52

Mybatis逆向工程，动态创建实体类、条件扩展类、Mapper接口、Mapper.xml映射文件

今天呢，博主的学习进度也是步入了Java Mybatis 框架，目前正在逐步杨帆旗航。 那么接下来就给大家出一期有关 Mybatis 逆向工程的教学，希望能对大家有所帮助，也特别欢迎大家指点不足之处，小生很乐意接受正确的建议&…...

编程新知 2025/10/29 9:05:02

前端导出带有合并单元格的列表

// 导出async function exportExcel(fileName "共识调整.xlsx") {// 所有数据const exportData await getAllMainData();// 表头内容let fitstTitleList [];const secondTitleList [];allColumns.value.forEach(column > {if (!column.children) {fitstTitleL…...

编程新知 2025/10/27 0:07:53

定时器任务——若依源码分析

分析util包下面的工具类schedule utils： ScheduleUtils 是若依中用于与 Quartz 框架交互的工具类，封装了定时任务的 创建、更新、暂停、删除等核心逻辑。 createScheduleJob createScheduleJob 用于将任务注册到 Quartz，先构建任务的 JobD…...

编程新知 2025/10/19 9:46:38

Matlab | matlab常用命令总结

常用命令 一、 基础操作与环境二、 矩阵与数组操作（核心）三、 绘图与可视化四、 编程与控制流五、 符号计算 (Symbolic Math Toolbox)六、 文件与数据 I/O七、 常用函数类别重要提示这是一份 MATLAB 常用命令和功能的总结，涵盖了基础操作、矩阵运算、绘图、编程和文件处理等…...

编程新知 2025/8/11 1:05:59

【VLNs篇】07：NavRL—在动态环境中学习安全飞行

项目内容论文标题NavRL: 在动态环境中学习安全飞行 (NavRL: Learning Safe Flight in Dynamic Environments)核心问题解决无人机在包含静态和动态障碍物的复杂环境中进行安全、高效自主导航的挑战，克服传统方法和现有强化学习方法的局限性。核心算法基于近端策略优化…...

编程新知 2025/10/27 2:11:27

【C++进阶篇】智能指针

C内存管理终极指南：智能指针从入门到源码剖析 一. 智能指针1.1 auto_ptr1.2 unique_ptr1.3 shared_ptr1.4 make_shared 二. 原理三. shared_ptr循环引用问题三. 线程安全问题四. 内存泄漏4.1 什么是内存泄漏4.2 危害4.3 避免内存泄漏 五. 最后 一. 智能指针 智能指…...

编程新知 2025/10/30 3:15:16

MySQL 8.0 事务全面讲解

以下是一个结合两次回答的 MySQL 8.0 事务全面讲解，涵盖了事务的核心概念、操作示例、失败回滚、隔离级别、事务性 DDL 和 XA 事务等内容，并修正了查看隔离级别的命令。 MySQL 8.0 事务全面讲解 一、事务的核心概念（ACID） 事务是…...

编程新知 2025/9/19 22:12:36

基于PHP的连锁酒店管理系统

有需要请加文章底部Q哦 可远程调试 基于PHP的连锁酒店管理系统 一 介绍 连锁酒店管理系统基于原生PHP开发，数据库mysql，前端bootstrap。系统角色分为用户和管理员。 技术栈 phpmysqlbootstrapphpstudyvscode 二 功能 用户 1 注册/登录/注销 2 个人中…...

编程新知 2025/10/31 16:23:08

c# 局部函数 定义、功能与示例

C# 局部函数：定义、功能与示例 1. 定义与功能 局部函数（Local Function）是嵌套在另一个方法内部的私有方法，仅在包含它的方法内可见。 • 作用：封装仅用于当前方法的逻辑，避免污染类作用域，提升…...

编程新知 2025/9/18 4:17:51

消息队列系统设计与实践全解析

文章目录 🚀 消息队列系统设计与实践全解析🔍 一、消息队列选型1.1 业务场景匹配矩阵1.2 吞吐量/延迟/可靠性权衡💡 权衡决策框架 1.3 运维复杂度评估🔧 运维成本降低策略 🏗️ 二、典型架构设计2.1 分布式事务最终一致…...

编程新知 2025/10/31 10:46:51