当前位置： 首页 > news >正文

Debezium系列之：记录一次数据库某张表部分数据未同步到hive表的原因

news 2026/5/13 16:00:38

Debezium系列之：记录一次数据库某张表部分数据未同步到hive表的原因

  • 一、背景
  • 二、查找数据丢失流程
  • 三、数据丢失原因
  • 四、解决方法

一、背景

  • 反馈mysql数据库中某张表的数据没有同步到hive中，现在需要排查定位下原因

数据丢失一般常见需求排查的方向：

  • 数据是否采集到hdfs上
  • 采集到hdfs的话，进一步去确认数据是否是因为Spark任务资源不够导致没有加载到hive表中
  • 数据没有采集到的话，进一步定位分析没有采集到的原因，目前比较常见的是数据库原因导致、业务场景导致

二、查找数据丢失流程

  • 首先拿一条丢失数据的id，去确认这条数据是否采集到hdfs上，发现成功采集到了hdfs上
  • 观察hdfs文件生成时间，发现这张表的数据文件生成时间比较晚
    • 初步判断出现了数据库主从延迟或者采集延迟，但是spark任务会等到主从延迟或者采集延迟结束才会执行，这样应该能确保不会遗漏数据，进一步确认任务执行情况
    • 发现spark任务并没有出现延迟执行的情况，因此就出现了特殊情况
  • 再去查看数据库中其他表的采集情况，发现其他表的hdfs数据文件生成并没有延迟，这就说明只有这张数据丢失的表产生了采集延迟，进一步排查分析这张表
  • 发现丢失数据这张表近一天的hdfs文件生成时间是在同一时间点生成的，这表明近一天的数据是在同一时间采集到了hdfs
  • 查看这张数据丢失表数据情况，发现这张表在不同小时的数据工用了相同的gtid，这表明这些数据来自同一个事件
  • 进一步查看数据库其他表在不同小时gtid的情况，通过比较gtid，发现丢失数据这张表使用的gtid符合递增情况
  • 至此，基本找到数据没有加载到hive的原因
    • <

相关文章：

Debezium系列之：记录一次数据库某张表部分数据未同步到hive表的原因

Debezium系列之：记录一次数据库某张表部分数据未同步到hive表的原因 一、背景二、查找数据丢失流程三、数据丢失原因四、解决方法一、背景 反馈mysql数据库中某张表的数据没有同步到hive中，现在需要排查定位下原因数据丢失一般常见需求排查的方向： 数据是否采集到hdfs上采集…...

编程日记 2024/7/10 6:16:00

爆破器材期刊

《爆破器材》简介 　　《爆破器材》自1958年创刊以来&#xff0c;深受广大读者喜爱&#xff0c;是中国兵工学会主办的中央级技术刊物&#xff0c;在国内外公开发行&#xff0c;近几年已发行到10个国家和地区。《爆破器材》杂志被美国著名检索机构《化学文摘》&#xff08;CA&a…...

编程日记 2024/7/10 6:14:59

Nginx Websocket 协议配置支持

前后分离的 Web 架构应用&#xff0c;在开发环境启动是可以直接连接支持 websocket 协议&#xff0c;因为没有中间件做转发处理。 当我们对前端进行编译后&#xff0c;通过 nginx 反向代理访问时&#xff0c;需要在nginx 配置文件中增加一些特定的头信息&#xff0c;让服务端识…...

编程日记 2024/7/10 6:13:58

【生成式对抗网络】GANs在数据生成、艺术创作，以及在增强现实和虚拟现实中的应用

一、GANs在数据生成中的应用 生成对抗网络&#xff08;Generative Adversarial Networks, GANs&#xff09;在数据生成领域具有显著的应用价值。GANs通过生成器&#xff08;Generator&#xff09;和判别器&#xff08;Discriminator&#xff09;两个相互竞争的神经网络&#x…...

编程日记 2024/7/10 6:12:58

大模型面试（三）

这次是某家公司的一个电话面试&#xff0c;问的过程还比较简单直接。 问&#xff1a;我们在大模型开源项目的应用上遇到了什么困难&#xff1f; 这个。。有两个困难&#xff0c;一个是RAG的优化&#xff0c;一开始RAG是比较慢的&#xff0c;而且召回率不高&#xff1b; 后来…...

编程日记 2024/7/10 6:11:56

pycharm中快捷键汇总

Pycarm指令汇总 Ctrl鼠标 单击&#xff0c;能直接查看其用法 Ctrl/ 快速注释 CtrlC 在pycharm的terminal中可以停止运行, 其他的地方可以复制。 CtrlV 粘贴 CtrlA 全选 CtrlP 查看&#xff08;&#xff09;中需要填写什么参数 Altenter 自动不补全所需要的库...

编程日记 2024/7/10 6:10:55

TCP/IP协议族结构和协议

TCP/IP协议族是互联网及许多其他网络的基础，它由一系列相互关联的协议组成，用于实现网络通信。TCP/IP协议族采用ARPANET参考模型，大致可以分为四个层次：链路层、网络层、传输层和应用层。每个层次都有特定的协议和功能，确保数据能够从一个网络设备传输到另一个网络设备。 …...

编程日记 2024/7/10 6:07:53

大模型一些概念的理解 - 线性层、前向传播、后向传播

文章目录 前言一、线性层1. 什么是线性层&#xff1f;2. 通俗解释3. 示例 二、前向传播1. 什么是前向传播&#xff1f;2. 通俗解释3. 示例 三、后向传播1. 什么是后向传播&#xff1f;2. 通俗解释3. 具体步骤 四、示例五、在 PyTorch 中的后向传播 前言 最近提问里有问到一些名…...

编程日记 2024/7/10 6:06:52

AWS 云安全性：检测 SSH 暴力攻击

由于开源、低成本、可靠性和灵活性等优势&#xff0c;云基础设施主要由基于linux的机器主导&#xff0c;然而&#xff0c;它们也不能幸免于黑客的攻击&#xff0c;从而影响云的安全性。攻击Linux机器最流行的方法之一是通过SSH通道。 什么是 SSH 安全外壳协议&#xff08;Sec…...

编程日记 2024/7/10 6:03:49

7.9数据结构

思维导图 作业 doubleloop.h #ifndef __DOUBLELOOP_H__ #define __DOUBLELOOP_H__#include <stdio.h> #include <stdlib.h>typedef int datatype; typedef struct node {union{int len;datatype data;};struct node *pri;//前驱指针struct node *next;//后继指针…...

编程日记 2024/7/10 6:02:48

Python 文件操作：打开数据处理的大门

在 Python 的学习之旅中&#xff0c;文件操作是一个非常实用且必不可少的技能。不论是数据分析还是日常的数据处理&#xff0c;良好的文件操作技巧都能让你的编程之路更加顺畅。今天&#xff0c;我将带你走进 Python 文件操作的世界&#xff0c;不仅教你如何读写文件&#xff0…...

编程日记 2024/7/10 6:01:47

单对以太网连接器多场景应用

单对以太网连接器应用场景概述 单对以太网&#xff08;Single Pair Ethernet&#xff0c;简称SPE&#xff09;作为一种新兴的以太网技术&#xff0c;以其独特的优势在多个领域得到了广泛的应用。SPE通过单对电缆进行数据传输&#xff0c;支持高速数据传输&#xff0c;同时还能…...

编程日记 2024/7/10 6:00:46

Python pip的更新问题

你是否也出现了更新pip的情况 1、提示更新pip版本 pip install --upgrade pip2、更新操作&#xff0c;我操作了 pip install --upgrade pip更新了&#xff0c;等啊等。。。 然后就是连接超时&#xff0c;安装失败 3、我不信&#xff0c;我就要更新&#xff0c;我还要使用镜…...

编程日记 2024/7/10 5:59:44

[Linux][Shell][Shell基础] -- [Shebang][特殊符号][变量][父子Shell]详细讲解

目录 0.前置知识1.Shebang2.Linux特殊符号整理3.变量4.环境变量5.父子shell0.概念1.创建进程列表(创建子shell执行命令) 6.内置命令 vs 外置命令 0.前置知识 #用于注释shell脚本语⾔属于⼀种弱类型语⾔&#xff1a;⽆需声明变量类型&#xff0c;直接定义使⽤shell三剑客&#…...

编程日记 2024/7/10 5:58:43

DS200CVMAG1AEB处理器 控制器 模块

DS200CVMAG1AEB特征&#xff1a; 高性能&#xff1a;采用先进的控制算法和高功率IGBT器件&#xff0c;可提供高电流和精确的运动控制。 高精度&#xff1a;采用高分辨率编码器和位置环路技术&#xff0c;位置精度可达0.1μm&#xff0c;适用于各种精密机械应用&#xff0c;如数…...

编程日记 2024/7/10 5:57:42

阈值分割后配合Connection算子和箭头工具快速知道区域的ID并选择指定区域

代码 dev_close_window () read_image (Image, E:/机器视觉学习/海康视觉平台/二期VM视觉学习/二期VM视觉学习/机器视觉程序/标定相机找圆心和焊头修正相机找圆心之算法软件/标定相机找圆心和焊头修正相机找圆心之算法软件/03 标定相机找圆心/S2/1号机/1.bmp) get_image_size …...

编程日记 2024/7/10 5:55:40

【work】AI八股-神经网络相关

Deep-Learning-Interview-Book/docs/深度学习.md at master amusi/Deep-Learning-Interview-Book GitHub 网上相关总结&#xff1a; 小菜鸡写一写基础深度学习的问题&#xff08;复制大佬的&#xff0c;自己复习用&#xff09; - 知乎 (zhihu.com) CV面试问题准备持续更新贴 …...

编程日记 2024/7/10 5:54:39

【LeetCode】12. 小张刷题计划

稳住&#xff0c;能赢&#xff01;没有经验的同学在面试岗位的时候&#xff0c;总是显得手忙脚乱&#xff0c;所以多练习&#xff0c;把技能提升&#xff0c;眼界提升&#xff0c;接着心态放平和&#xff0c;不要慌张&#xff0c;把面试题目读懂读透彻就会大大提升赢的概率。 1…...

编程日记 2024/7/10 5:53:38

Tomcat部署以及优化

1、tomcat tomcat是用java代码的程序&#xff0c;运行的是java的web服务器 tomcat和php一样都是用来处理动态页面&#xff0c;tomcat也可以做为web应用服务器&#xff0c;开源的 php处理.php为结尾的 tomcat 处理.jsp nginx 处理 .html 2、tomcat的特点和功能 1、servle…...

编程日记 2024/7/10 5:51:36

ubuntu 22 安装 lua 环境 编译lua cjson 模块

在 windows 下使用 cygwin 编译 lua 和 cjson 简直就是灾难&#xff0c;最后还是到 ubuntu 下完成了。 1、下载lua源码&#xff08;我下载的 5.1 版本&#xff0c;后面还有一个小插曲), 直接解压编译&#xff0c;遇到一个 readline.h not found 的问题&#xff0c;需要安装 re…...

编程日记 2024/7/10 5:50:35

adloop：可编程规则引擎驱动的浏览器网络请求深度拦截与定制

1. 项目概述&#xff1a;一个被低估的广告拦截与隐私增强工具如果你和我一样&#xff0c;是个对网页上无处不在的弹窗广告、自动播放视频和恼人的跟踪脚本感到深恶痛绝的互联网用户&#xff0c;那你一定尝试过各种广告拦截器。从大名鼎鼎的AdBlock Plus、uBlock Origin&#xf…...

编程新知 2026/5/13 15:24:42

别再让图片拖慢你的Unity项目！手把手教你用AssetPostprocessor搞定尺寸与压缩

Unity项目性能优化&#xff1a;智能图片处理全攻略 1. 为什么图片处理对Unity项目至关重要 在Unity开发过程中&#xff0c;图片资源往往是项目体积膨胀的罪魁祸首。一个中型项目可能包含数千张纹理&#xff0c;如果不加控制&#xff0c;这些资源会迅速吞噬内存和存储空间。更糟…...

编程新知 2026/5/13 15:13:53

搞懂VMware三种网络模式：从NAT断网到桥接、仅主机的实战选择指南

VMware虚拟网络模式深度解析&#xff1a;从原理到场景化实战 当你在深夜赶项目时&#xff0c;虚拟机突然无法联网——这种经历对于开发者而言无异于噩梦。我曾亲眼见过团队新人在演示前夜因NAT模式配置问题崩溃&#xff0c;也见证过安全工程师因选错网络模式导致测试环境暴露。…...

编程新知 2026/5/13 14:15:09

从DICOM到NIfTI：3D Slicer中医学图像坐标转换的完整避坑指南（附Python代码片段）

从DICOM到NIfTI&#xff1a;3D Slicer中医学图像坐标转换的完整避坑指南&#xff08;附Python代码片段&#xff09; 医学影像处理中&#xff0c;数据格式和坐标系的差异常常成为工程师和研究员们的"隐形杀手"。想象一下&#xff0c;你花了三天三夜训练的深度学习模型…...

编程新知 2026/5/13 11:34:10

【必收藏】2026年大模型学习全指南｜小白程序员入门捷径，抓住百万年薪红利

2026年的AI行业&#xff0c;机遇早已从风口走向实锤——应用层依旧是那片肉眼可见的黄金赛道&#xff01;从大厂技术布局到招聘市场风向标&#xff0c;所有信号都在一致指向&#xff1a;大模型应用开发&#xff0c;已然成为程序员突破职业瓶颈、实现薪资跃升的核心赛道。 字节跳…...

编程新知 2026/5/13 10:03:00

网页布局基石----盒子模型

目录 一&#xff1a;盒模型的构成 二&#xff1a;盒模型的核心属性 三&#xff1a;标准盒子模型代码实例 CSS控制网页样式是通过盒子模型去实现的&#xff0c;日常中我们所看到的网页上所以标签都可以视为一个盒子。所以网页都是放在盒子里面的。因此&#xff0c;我们首先要…...

编程新知 2026/5/13 9:38:02

CGRA架构与工具链：可重构计算加速技术解析

1. CGRA架构与工具链概述粗粒度可重构阵列&#xff08;Coarse-Grained Reconfigurable Array, CGRA&#xff09;是一种介于FPGA和ASIC之间的可重构计算架构&#xff0c;特别适合加速多维嵌套循环计算。与FPGA的细粒度可编程逻辑单元不同&#xff0c;CGRA采用粗粒度的处理单元&a…...

编程新知 2026/5/13 8:53:25

5分钟解锁你的网易云音乐：NCM解密工具全攻略

5分钟解锁你的网易云音乐&#xff1a;NCM解密工具全攻略 【免费下载链接】ncmdump 项目地址: https://gitcode.com/gh_mirrors/ncmd/ncmdump 你是否曾经遇到过这样的困扰&#xff1a;从网易云音乐下载的歌曲只能在特定客户端播放&#xff0c;无法在其他设备上欣赏&…...

编程新知 2026/5/13 7:45:48

盖革计数器DIY套件故障排查与修复：从高压虚焊到辐射测试实践

1. 项目概述&#xff1a;从“不响”到“欢唱”的盖革计数器修复之旅作为一名在电子设计领域摸爬滚打了十几年的工程师&#xff0c;我桌上最让我安心的“白噪音”来源&#xff0c;不是风扇&#xff0c;也不是雨声模拟器&#xff0c;而是一台正在“咔哒咔哒”规律作响的盖革计数器…...

编程新知 2026/5/13 7:34:42

5分钟快速上手：qmcdump免费解密QQ音乐文件的终极指南

5分钟快速上手&#xff1a;qmcdump免费解密QQ音乐文件的终极指南 【免费下载链接】qmcdump 一个简单的QQ音乐解码&#xff08;qmcflac/qmc0/qmc3 转 flac/mp3&#xff09;&#xff0c;仅为个人学习参考用。 项目地址: https://gitcode.com/gh_mirrors/qm/qmcdump 你是否…...

编程新知 2026/5/13 4:26:53