当前位置： 首页 > news >正文

Hudi extraMetadata 研究总结

news 2026/2/9 8:32:34

前言

研究总结 Hudi extraMetadata ,记录研究过程。主要目的是通过 extraMetadata 保存 source 表的 commitTime （checkpoint）， 来实现增量读Hudi表写Hudi表时，保存增量读状态的事务性，实现类似于流任务中的 exactly-once

背景需求

有个需求：增量读Hudi表关联其他Hudi表然后做一些复杂的业务处理逻辑,然后将结果表保存到目标Hudi表中

然后就有问题：如何保证保存目标Hudi表和保存 endCommiTime 是事务的。具体如下
1、Spark支持增量读Hudi表，需要传入起（始） commitTime。
2、上一批数据处理完成后应该保存上次增量读的的 endCommiTime,作为下一批增量读的的 beginCommitTime
3、可以选择将上一批的 endCommiTime 保存到 HDFS 或者数据库表中，但是不能保证事务。（并且还需要借助外部表或者存储目录，如果能通过Hudi本身解决，就比较完美了）
4、也就是可能存在保存目标Hudi表成功，但是保存 endCommiTime 失败的情况

这时就想到了 DeltaStreamer 中是通过设置 checkpoint 来实现的，具体是通过将 commitTime 的值保存到目标表 .commit 元数据文件中(extraMetadata->deltastreamer.checkpoi

相关文章：

Hudi extraMetadata 研究总结

前言 研究总结 Hudi extraMetadata ,记录研究过程。主要目的是通过 extraMetadata 保存 source 表的 commitTime （checkpoint）， 来实现增量读Hudi表写Hudi表时，保存增量读状态的事务性，实现类似于流任务中的 exactly-once 背景需求 有个需求：增量读Hudi表关联其他Hudi…...

编程日记 2024/6/14 1:33:29

Vue31-自定义指令：总结

一、自定义函数的陷阱 1-1、自定义函数名 自定义函数名，不能用驼峰式！！！ 示例1： 示例2： 1-2、指令回调函数的this 【回顾】： 所有由vue管理的函数，里面的this直接就是vm实例对象。…...

编程日记 2024/6/14 1:32:28

Windows环境如何使用Flutter Version Manager (fvm)

Windows环境如何使用Flutter Version Manager (fvm) Flutter Version Manager (fvm) 是一个用于管理多个 Flutter SDK 版本的命令行工具，它允许开发者在不同项目之间轻松切换 Flutter 版本。这对于需要维护多个使用不同 Flutter 版本的项目的开发人员来说非常有用。…...

编程日记 2024/6/14 1:29:25

优化Elasticsearch搜索性能：查询调优与索引设计

在构建基于 Elasticsearch 的搜索解决方案时，性能优化是关键。本文将深入探讨如何通过查询调优和索引设计来优化 Elasticsearch 的搜索性能，从而提高用户体验和系统效率。 查询调优 优化查询是提高 Elasticsearch 性能的重要方法。以下是一些有效的查询…...

编程日记 2024/6/14 1:24:19

STM32-17-DAC

STM32-01-认识单片机 STM32-02-基础知识 STM32-03-HAL库 STM32-04-时钟树 STM32-05-SYSTEM文件夹 STM32-06-GPIO STM32-07-外部中断 STM32-08-串口 STM32-09-IWDG和WWDG STM32-10-定时器 STM32-11-电容触摸按键 STM32-12-OLED模块 STM32-13-MPU STM32-14-FSMC_LCD STM32-15-DMA…...

编程日记 2024/6/14 1:23:18

一杯咖啡的艺术 | 如何利用数字孪生技术做出完美的意式浓缩咖啡？

若您对数据分析以及人工智能感兴趣，欢迎与我们一起站在全球视野关注人工智能的发展，与Forrester 、德勤、麦肯锡等全球知名企业共探AI如何加速制造进程， 共同参与6月20日由Altair主办的面向工程师的全球线上人工智能会议“AI for Engineers”…...

编程日记 2024/6/14 1:22:17

使用QT制作QQ登录界面

mywidget.cpp #include "mywidget.h"Mywidget::Mywidget(QWidget *parent): QWidget(parent) {/********制作一个QQ登录界面*********************/this->resize(535,415);//设置登录窗口大小this->setFixedSize(535,415);//固定窗口大小this->setWindowTi…...

编程日记 2024/6/14 1:21:15

代码随想录训练营第七天 344反转字符串 541反转字符串II 替换数字

第一题： 原题链接：344. 反转字符串 - 力扣（LeetCode） 思路： 双指针，一根指向字符串的头部，一根指向字符串的尾部。两个指针向中间移动，交换两根指针指向的值。 代码如下&#xf…...

编程日记 2024/6/14 1:20:14

【Python】数据处理：SQLite操作

使用 Python 与 SQLite 进行交互非常方便。SQLite 是一个轻量级的关系数据库，Python 标准库中包含一个名为 sqlite3 的模块，可以直接使用。 import sqlite3数据库连接和管理 连接到 SQLite 数据库。如果数据库文件不存在，则创建一个新数据库…...

编程日记 2024/6/14 1:19:13

NXP RT1060学习总结 - fsl_flexcan 基础CAN函数说明 -3

概要 CAN测试源码： https://download.csdn.net/download/qq_35671135/89425377 根据fsl_flexcan.h文件从文件末尾往前面梳理，总共30个基础CAN函数； 该文章只梳理常规CAN，增强型CAN后面再单独梳理。 使用的是RT1064开发板进行测试…...

编程日记 2024/6/14 1:18:11

2024年第三届数据统计与分析竞赛（B题）数学建模完整思路+完整代码全解全析

你是否在寻找数学建模比赛的突破点？数学建模进阶思路！ 详细请查 作为经验丰富的数学建模团队，我们将为你带来2024年第三届数据统计与分析竞赛（B题）的全面解析。这个解决方案包不仅包括完整的代码实现，还有…...

编程日记 2024/6/14 1:17:10

高通Android 12 右边导航栏改成底部显示

最近同事说需要修改右边导航栏到底部，问怎么搞？然后看下源码尝试下。 1、Android 12修改代码路径 frameworks/base/services/core/java/com/android/server/wm/DisplayPolicy.java a/frameworks/base/services/core/java/com/android/server/wm/Display…...

编程日记 2024/6/14 1:15:08

2.6数据报与虚电路

数据报 当作为通信子网用户的端系统要发送一个报文时，在端系统中实现的高层协议先把报文拆成若干个带有序号的数据单元，并在网络层加上地址等控制信息后形成数据报分组(即网络层PDU)中间结点存储分组一段很短的时间，找到最佳的路由后&#x…...

编程日记 2024/6/14 1:14:07

小主机折腾记26

双独立显卡调用问题 前两天将tesla p4从x99大板上拆了下来，将880G5twr上的rx480 4g安装到了x99大板上，预计是dg1输出，rx480做3d运算。安装完驱动后，还想着按照之前tesla p4的设置方法去设置rx480，结果果然&#xff0c…...

编程日记 2024/6/14 1:12:04

ArrayList浅析

目录 一、ArrayList源码1.1 迭代器1.1.1 Itr源码浅析1.1.2 ListItr源码浅析 1.2 常用方法1.3 System.arraycopy1.4 ArrayList 的创建方式 二、引申问题2.1 ArrayList的大小是如何增加的？2.2 什么情况下你会使用ArrayList2.3 在索引中ArrayList的增加或者删除某个对象…...

编程日记 2024/6/14 1:11:03

Spring Boot整合hibernate-validator实现数据校验

文章目录 概念基本概念常用校验注解 前置内容整合Hibernate Validator快速入门优雅处理参数校验异常其余注解校验自定义校验注解 参考来源 概念 基本概念 Hibernate Validator 是一个参数校验框架，可以非常方便地帮助我们校验应用程序的入参，实现了参数…...

编程日记 2024/6/14 1:10:01

Ubuntu系统中网易云音乐编译安装

项目地址： netease-cloud-music-gtk: Linux 平台下基于 Rust GTK 开发的网易云音乐播放器 目录 1.README.md中按照步骤来 2.安装git 3.报错 sudo apt install cmake sudo apt-get install libdbus-1-dev sudo apt install dnf sudo dnf install gettext 继…...

编程日记 2024/6/14 1:09:00

MPLS标签号

标签被压入在2层与3层之间 称为 2.5层 标签的格式----32 位4 个字节 前 20 位为标签号，2~20 个标签号；其中1-15号保留，作为特殊编号； 第 21-23位 exp，3位8个数，为优先级，用于Q0S 策略使用&a…...

编程日记 2024/6/14 1:06:57

OpenHarmony napi 编译 .so 并打包成 .har

一、前言 最近在搞公司标准产品适配OpenHarmony 平台， 按照行业上的常用方法，在Android 是将底层代码用c 封装成 xxx.so ，然后将其他一部分打包成 xxx.jar。 因此，在OpenHarmony 平台也是打算按照这个模式。正所谓，好…...

编程日记 2024/6/14 1:03:54

python 循环导入(circular imports)解决方法

在 Python 中，大部分人都应该都遇到过循环导入的问题。 循环导入是指两个文件各自尝试导入另一个文件（模块），当一个模块没有完全初始化时会导致失败。解决这种情况的最好方法是将代码分层组织，这样导入的关系就会自然…...

编程日记 2024/6/14 1:02:52

Android Wi-Fi 连接失败日志分析

1. Android wifi 关键日志总结 (1) Wi-Fi 断开 (CTRL-EVENT-DISCONNECTED reason3) 日志相关部分： 06-05 10:48:40.987 943 943 I wpa_supplicant: wlan0: CTRL-EVENT-DISCONNECTED bssid44:9b:c1:57:a8:90 reason3 locally_generated1解析： CTR…...

编程新知 2025/9/14 19:44:52

从零开始打造 OpenSTLinux 6.6 Yocto 系统（基于STM32CubeMX）（九）

设备树移植 和uboot设备树修改的内容同步到kernel将设备树stm32mp157d-stm32mp157daa1-mx.dts复制到内核源码目录下 源码修改及编译 修改arch/arm/boot/dts/st/Makefile，新增设备树编译 stm32mp157f-ev1-m4-examples.dtb \stm32mp157d-stm32mp157daa1-mx.dtb修改…...

编程新知 2026/2/5 12:11:18

Linux-07 ubuntu 的 chrome 启动不了

文章目录 问题原因解决步骤一、卸载旧版chrome二、重新安装chorme三、启动不了，报错如下四、启动不了，解决如下 总结 问题原因 在应用中可以看到chrome，但是打不开(说明：原来的ubuntu系统出问题了，这个是备用的硬盘&a…...

编程新知 2026/1/29 17:56:19

OpenPrompt 和直接对提示词的嵌入向量进行训练有什么区别

OpenPrompt 和直接对提示词的嵌入向量进行训练有什么区别 直接训练提示词嵌入向量的核心区别 您提到的代码： prompt_embedding = initial_embedding.clone().requires_grad_(True) optimizer = torch.optim.Adam([prompt_embedding...

编程新知 2025/7/4 0:50:01

（转）什么是DockerCompose?它有什么作用？

一、什么是DockerCompose? DockerCompose可以基于Compose文件帮我们快速的部署分布式应用，而无需手动一个个创建和运行容器。 Compose文件是一个文本文件，通过指令定义集群中的每个容器如何运行。 DockerCompose就是把DockerFile转换成指令去运行。 …...

编程新知 2026/1/31 22:59:12

代理篇12|深入理解 Vite中的Proxy接口代理配置

在前端开发中，常常会遇到 跨域请求接口 的情况。为了解决这个问题，Vite 和 Webpack 都提供了 proxy 代理功能，用于将本地开发请求转发到后端服务器。 什么是代理（proxy）？ 代理是在开发过程中，前端项目通过开发服务器，将指定的请求“转发”到真实的后端服务器，从而绕…...

编程新知 2025/10/27 20:33:34

高效线程安全的单例模式：Python 中的懒加载与自定义初始化参数

高效线程安全的单例模式：Python 中的懒加载与自定义初始化参数 在软件开发中，单例模式（Singleton Pattern）是一种常见的设计模式，确保一个类仅有一个实例，并提供一个全局访问点。在多线程环境下，实现单例模式时需要注意线程安全问题，以防止多个线程同时创建实例，导致…...

编程新知 2025/11/25 19:50:27

搭建DNS域名解析服务器(正向解析资源文件)

正向解析资源文件 1）准备工作 服务端及客户端都关闭安全软件 [rootlocalhost ~]# systemctl stop firewalld [rootlocalhost ~]# setenforce 0 2）服务端安装软件：bind 1.配置yum源 [rootlocalhost ~]# cat /etc/yum.repos.d/base.repo [Base…...

编程新知 2026/2/4 15:42:45

CRMEB 中 PHP 短信扩展开发：涵盖一号通、阿里云、腾讯云、创蓝

目前已有一号通短信、阿里云短信、腾讯云短信扩展 扩展入口文件 文件目录 crmeb\services\sms\Sms.php 默认驱动类型为：一号通 namespace crmeb\services\sms;use crmeb\basic\BaseManager; use crmeb\services\AccessTokenServeService; use crmeb\services\sms\…...

编程新知 2025/10/5 5:38:24

Redis：现代应用开发的高效内存数据存储利器

一、Redis的起源与发展 Redis最初由意大利程序员Salvatore Sanfilippo在2009年开发，其初衷是为了满足他自己的一个项目需求，即需要一个高性能的键值存储系统来解决传统数据库在高并发场景下的性能瓶颈。随着项目的开源，Redis凭借其简单易用、…...

编程新知 2025/11/15 1:41:43