当前位置： 首页 > news >正文

Kafka3.0.0版本——Follower故障处理细节原理

news 2025/11/4 10:27:02

目录

    • 一、服务器信息
    • 二、服务器基本信息及相关概念
      • 2.1、服务器基本信息
      • 2.2、LEO的概念
      • 2.3、HW的概念
    • 三、Follower故障处理细节

一、服务器信息

  • 三台服务器
    原始服务器名称原始服务器ip节点
    centos7虚拟机1192.168.136.27broker0
    centos7虚拟机2192.168.136.28broker1
    centos7虚拟机3192.168.136.29broker2

二、服务器基本信息及相关概念

2.1、服务器基本信息

  • 首先，分别有3台服务器分别为broker0、broker1、broker2，其中一台为leader，2台follower服务器。每台服务器已经接收到数据，如下图所示：
    在这里插入图片描述

2.2、LEO的概念

  • LEO（Log End Offset）：每个副本的最后一个offset，LEO其实就是最新的offset + 1
    在这里插入图片描述

2.3、HW的概念

  • HW（High Watermark ）:高水位线，所有副本中最小的LEO+1。如下图中每个broker都有的数据是4（即最小的LEO为4），HW为最小的LEO+1,

    在这里插入图片描述

三、Follower故障处理细节

  • Follower发生故障后会被临时踢出ISR，如下图所示：

    在这里插入图片描述

  • 这个期间broker0中的Leader和broker1Follower继续接收数据，HW和LEO位置会随着接收数据的变化而变化，如下图所示：
    在这里插入图片描述

  • 待该Follower恢复后，Follower会读取本地磁盘记录的上次的HW，并将log文件高于HW的部分截取掉，从HW开始向Leader进行同步。
    在这里插入图片描述

在这里插入图片描述

  • 等该Follower 的LEO 大于等于该Partition 的HW，即Follower追上Leader之后，就可以重新加入ISR了，如下图所示：

在这里插入图片描述

相关文章：

Kafka3.0.0版本——Follower故障处理细节原理

目录 一、服务器信息二、服务器基本信息及相关概念2.1、服务器基本信息2.2、LEO的概念2.3、HW的概念 三、Follower故障处理细节 一、服务器信息 三台服务器 原始服务器名称原始服务器ip节点centos7虚拟机1192.168.136.27broker0centos7虚拟机2192.168.136.28broker1centos7虚拟…...

编程日记 2023/8/30 4:45:20

13.redis集群、主从复制、哨兵

1.redis主从复制 主从复制是指将一台redis服务器（主节点-master）的数据复制到其他的redis服务器（从节点-slave），默认每台redis服务器都是主节点，每个主节点可以有多个或没有从节点，但一个从节点…...

编程日记 2023/8/30 4:44:16

linux字符串处理

目录 1 C 截取字符串,截取两个子串中间的字符串2 获取该字符串后面的字符串用 strstr() 函数查找需要提取的特定字符串，然后通过指针运算获取该字符串后面的字符串用 strtok() 函数分割字符串，找到需要提取的特定字符串后，调用 strtok() 传入…...

编程日记 2023/8/30 4:43:14

Nginx入门——Nginx的docker版本和windows版本安装和使用 代理的概念 负载分配策略

目录 引出nginx是啥正向代理和反向代理正向代理反向代理 nginx的安装使用Docker版本的nginx安装下载创建挂载文件获取配置文件创建docker容器拷贝容器中的配置文件删除容器 创建运行容器开放端口进行代理和测试 Windows版本的使用反向代理多个端口运行日志查看启动关闭重启 负载…...

编程日记 2023/8/30 4:42:12

Zebec Protocol：模块化 L3 链 Nautilus Chain，深度拓展流支付体系

过去三十年间，全球金融科技领域已经成熟并迅速增长，主要归功于不同的数字支付媒介的出现。然而，由于交易延迟、高额转账费用等问题愈发突出，更高效、更安全、更易访问的支付系统成为新的刚需。 此前，咨询巨头麦肯锡的一…...

编程日记 2023/8/30 4:41:09

Oracle-rolling upgrade升级19c

前言: 本文主要描述Oracle11g升19c rolling upgrade升级测试，通过逻辑DGautoupgrade方式实现rolling upgrade，从而达到在较少停机时间内完成Oracle11g升级到19c的目标 升级介绍： 升级技术: rolling upgrade轮询升级，通过采用跨版…...

编程日记 2023/8/30 4:40:03

Spring IOC详解

Spring 笔记 官网：https://spring.io/ 核心功能：当你的项目启动的时候，自动的将当前项目的各种 Bean 都自动的注册到 Spring 容器中，然后在项目的其他地方，如果需要用到这些 Bean，直接去 Spring 容器中查…...

编程日记 2023/8/30 4:39:02

Unity——DOTween插件使用方法简介

缓动动画既是一种编程技术，也是一种动画的设计思路。从设计角度来看，可以有以下描述 事先设计很多基本的动画样式，如移动、缩放、旋转、变色和弹跳等。但这些动画都以抽象方式表示，一般封装为程序函数动画的参数可以在使用时指定&…...

编程日记 2023/8/30 4:38:01

数据库——Redis 单线程模型详解

文章目录 Redis 基于 Reactor 模式来设计开发了自己的一套高效的事件处理模型 （Netty 的线程模型也基于 Reactor 模式，Reactor 模式不愧是高性能 IO 的基石），这套事件处理模型对应的是 Redis 中的文件事件处理器（file …...

编程日记 2023/8/30 4:36:59

leetcode 567. 字符串的排列(滑动窗口-java)

滑动窗口 字符串的排列滑动窗口代码演示进阶优化版 上期经典 字符串的排列 难度 -中等 leetcode567. 字符串的排列 给你两个字符串 s1 和 s2 ，写一个函数来判断 s2 是否包含 s1 的排列。如果是，返回 true ；否则，返回 false 。 换句…...

编程日记 2023/8/30 4:35:58

Git —— 分支重命名操作

在开发中，对某个分支进行重命名的操作： 1、本地分支重命名 本地分支是指：你当前这个分支还没有推送到远程的情况，这种情况修改分支名称就要方便很多 git branch -m 原始名称 新名称 //示例： 修改 test 为 newTest g…...

编程日记 2023/8/30 4:34:55

JavaIO流

JavaIO流 一、概念二、File类三、File类的使用1、File文件/文件夹类的创建2、File类的获取操作3、File类判断操作 - boolean4、File类对文件/文件夹的增删改5、File类的获取子文件夹以及子文件的方法 四、Java中IO流多种维度的维度1、按照流向 - Java程序2、按照流的大小分类3、…...

编程日记 2023/8/30 4:33:52

FlinkSql 如何实现数据去重？

摘要 很多时候flink消费上游kafka的数据是有重复的，因此有时候我们想数据在落盘之前进行去重，这在实际开发中具有广泛的应用场景，此处不说详细代码，只粘贴相应的flinksql 代码 --********************************************…...

编程日记 2023/8/30 4:32:51

机器学习概念

目录 一、人工智能、机器学习、深度学习的关系 二、什么是深度学习？ 2.1 深度学习常用算法 一、人工智能、机器学习、深度学习的关系 人工智能、机器学习和深度学习的关系如下所示。 二、什么是深度学习？ 深度学习( DL, Deep Learning) 是机器学习 …...

编程日记 2023/8/30 4:31:49

【数据结构】排序（插入、选择、交换、归并） -- 详解

一、排序的概念及其运用 1、排序的概念 排序：所谓排序，就是使一串记录，按照其中的某个或某些关键字的大小，递增或递减的排列起来的操作。 稳定性：假定在待排序的记录序列中，存在多个具有相同的关键字的记…...

编程日记 2023/8/30 4:30:48

游戏中的图片打包流程，免费的png打包plist工具，一款把若干资源图片拼接为一张大图的免费工具

手机游戏开发中，为了提高图片渲染性能，经常需要将小图片合并成一张大图进行渲染。如果手工来做的话就非常耗时。TexturePacker就是一款非常不错方便的处理工具。TexturePacker虽然非常优秀，但不是免费的。 对于打包流程，做游戏的…...

编程日记 2023/8/30 4:29:47

Springboot实现ENC加密

Springboot实现ENC加密 1、导入依赖2、配置加密秘钥&#xff08;盐&#xff09;3、获取并配置密文4、重启项目测试5、自定义前缀、后缀6、自定义加密方式 1、导入依赖 关于版本&#xff0c;需要根据spring-boot版本&#xff0c;自行修改 <dependency><groupId>co…...

编程日记 2023/8/30 4:28:45

nginx 托管vue项目配置

server {listen 80;server_name your_domain.com;location / {root /path/to/your/vue/project;index index.html;try_files $uri $uri/ /index.html;} }奇怪的现象,在vue路由中/会跳转到/abc/def&#xff0c;但如果直接输入/abc/def会显示404&#xff0c;添加 try_files $uri…...

编程日记 2023/8/30 4:27:44

Vue3中如何进行封装？—组件之间的传值

用了很久一段时间Vue3Ts了&#xff0c;工作中对一些常用的组件也进行了一些封装&#xff0c;这里对封装的一些方法进行一些简单的总结。 1.props传递 首先在主组件进行定义传值 <template><div>这里是主组件<common :first"first"></common&…...

编程日记 2023/8/30 4:26:42

实训笔记8.25

实训笔记8.25 8.25笔记一、Flume数据采集技术1.1 Flume实现数据采集主要借助Flume的组成架构1.2 Flume采集数据的时候&#xff0c;核心是编写Flume的采集脚本xxx.conf1.2.1 脚本文件主要由五部分组成 二、Flume案例实操2.1 采集一个网络端口的数据到控制台2.1.1 分析案例的组件…...

编程日记 2023/8/30 4:25:41

XML Group端口详解

在XML数据映射过程中&#xff0c;经常需要对数据进行分组聚合操作。例如&#xff0c;当处理包含多个物料明细的XML文件时&#xff0c;可能需要将相同物料号的明细归为一组&#xff0c;或对相同物料号的数量进行求和计算。传统实现方式通常需要编写脚本代码&#xff0c;增加了开…...

编程新知 2025/11/3 20:39:35

接口测试中缓存处理策略

在接口测试中&#xff0c;缓存处理策略是一个关键环节&#xff0c;直接影响测试结果的准确性和可靠性。合理的缓存处理策略能够确保测试环境的一致性&#xff0c;避免因缓存数据导致的测试偏差。以下是接口测试中常见的缓存处理策略及其详细说明&#xff1a; 一、缓存处理的核…...

编程新知 2025/11/3 20:03:57

调用支付宝接口响应40004 SYSTEM_ERROR问题排查

在对接支付宝API的时候&#xff0c;遇到了一些问题&#xff0c;记录一下排查过程。 Body:{"datadigital_fincloud_generalsaas_face_certify_initialize_response":{"msg":"Business Failed","code":"40004","sub_msg…...

编程新知 2025/10/17 20:43:55

【人工智能】神经网络的优化器optimizer（二）：Adagrad自适应学习率优化器

一.自适应梯度算法Adagrad概述 Adagrad&#xff08;Adaptive Gradient Algorithm&#xff09;是一种自适应学习率的优化算法&#xff0c;由Duchi等人在2011年提出。其核心思想是针对不同参数自动调整学习率&#xff0c;适合处理稀疏数据和不同参数梯度差异较大的场景。Adagrad通…...

编程新知 2025/10/30 18:21:38

让AI看见世界：MCP协议与服务器的工作原理

让AI看见世界&#xff1a;MCP协议与服务器的工作原理 MCP&#xff08;Model Context Protocol&#xff09;是一种创新的通信协议&#xff0c;旨在让大型语言模型能够安全、高效地与外部资源进行交互。在AI技术快速发展的今天&#xff0c;MCP正成为连接AI与现实世界的重要桥梁。…...

编程新知 2025/10/30 5:10:41

PHP 8.5 即将发布：管道操作符、强力调试

前不久&#xff0c;PHP宣布了即将在 2025 年 11 月 20 日 正式发布的 PHP 8.5&#xff01;作为 PHP 语言的又一次重要迭代&#xff0c;PHP 8.5 承诺带来一系列旨在提升代码可读性、健壮性以及开发者效率的改进。而更令人兴奋的是&#xff0c;借助强大的本地开发环境 ServBay&am…...

编程新知 2025/10/30 10:52:30

篇章二 论坛系统——系统设计

目录 2.系统设计 2.1 技术选型 2.2 设计数据库结构 2.2.1 数据库实体 1. 数据库设计 1.1 数据库名: forum db 1.2 表的设计 1.3 编写SQL 2.系统设计 2.1 技术选型 2.2 设计数据库结构 2.2.1 数据库实体 通过需求分析获得概念类并结合业务实现过程中的技术需要&#x…...

编程新知 2025/11/3 12:57:09

02.运算符

目录 什么是运算符 算术运算符 1.基本四则运算符 2.增量运算符 3.自增/自减运算符 关系运算符 逻辑运算符 &&&#xff1a;逻辑与 ||&#xff1a;逻辑或 &#xff01;&#xff1a;逻辑非 短路求值 位运算符 按位与&&#xff1a; 按位或 | 按位取反~ …...

编程新知 2025/11/1 6:50:46

C++ 类基础：封装、继承、多态与多线程模板实现

前言 C 是一门强大的面向对象编程语言&#xff0c;而类&#xff08;Class&#xff09;作为其核心特性之一&#xff0c;是理解和使用 C 的关键。本文将深入探讨 C 类的基本特性&#xff0c;包括封装、继承和多态&#xff0c;同时讨论类中的权限控制&#xff0c;并展示如何使用类…...

编程新知 2025/10/17 13:17:02

VUE3 ref 和 useTemplateRef

使用ref来绑定和获取 页面 <headerNav ref"headerNavRef"></headerNav><div click"showRef" ref"buttonRef">refbutton</div>使用ref方法const后面的命名需要跟页面的ref值一样 const buttonRef ref(buttonRef) cons…...

编程新知 2025/10/6 3:55:06