当前位置： 首页 > news >正文

kafka raft协议

news 文章来源：https://blog.csdn.net/weixin_44815878/article/details/132015318 2025/5/14 11:48:58

1、首先要了解kafka是什么（Scala）

Kafka是一个分布式的消息订阅系统，消息被持久化到一个topic中，topic是按照“主题名-分区”存储的，一个topic可以分为多个partition，在parition(分区)内的每条消息都有一个有序的id号，这个id号被称为偏移(offset），记录消息的消息位置**。

高可用性和扩展性，而不是负载均衡。**

具体来说，Kafka 通过将主题（topic）分为多个分区（partition），并将每个分区复制到多个节点上来实现高可用性和扩展性。每个分区都有一个主节点（leader）和多个副本节点（replica）。主节点负责处理来自生产者的消息和消费者的读取请求，而副本节点则用于备份数据并提供冗余。如果主节点失效，Kafka 会自动选举一个副本节点作为新的主节点，以保持服务的连续性。**

虽然分区机制可以提高系统的整体吞吐量，但它并不是为了实现负载均衡而设计的。相反，Kafka 更关注的是数据的持久性、可用性和容错能力**。

实际上，Kafka 集群中只有分区的主节点（leader）负责处理来自生产者的消息和消费者的读取请求，而其他节点维护分区的副本（replica）。

具体来说，Kafka 集群中的每个分区都有一个主节点和多个副本节点。主节点负责处理生产者发送的消息并将其追加到分区的日志中࿰

相关文章：

kafka raft协议

1、首先要了解kafka是什么（Scala） Kafka是一个分布式的消息订阅系统，消息被持久化到一个topic中，topic是按照“主题名-分区”存储的，一个topic可以分为多个partition，在parition(分区)内的每条消息都有一个有序的id号，这个id号被称为偏移(offset），记录消息的消息位置…...

编程日记 2023/8/1 22:33:00

平板光波导中导模的(注意不是泄露模)传播常数β的matlab计算(验证了是对的)

参照的是导波光学_王建(清华大学)的公式(3-1-2、3-1-3)，算的参数是这本书的图3-3的。 function []PropagationConstantsMain() clear;clc;close all lambda01.55;%真空或空气中的入射波长，单位um k02*pi/lambda0; m3;%导模阶数(需要人为指定) n11.62;%芯…...

编程日记 2023/8/1 22:31:56

JVM面试题--JVM组成

JVM是什么 Java Virtual Machine Java程序的运行环境（java二进制字节码的运行环境） 运行流程 什么是程序计数器？ 程序计数器：线程私有的，内部保存的字节码的行号。用于记录正在执行的字节码指令的地址。 我们知道ja…...

编程日记 2023/8/1 22:30:55

【Golang 接口自动化05】使用yml管理自动化用例

目录 YAML 基本语法 对象：键值对的集合(key:value) 数组：一组按顺序排列的值 字面量：单个的、不可再分的值（数字、字符串、布尔值） yml 格式的测试用例 定义yml文件 创建结构体 读取yml文件中的用例数据 调试…...

编程日记 2023/8/1 22:29:54

【【STM32学习-3】】

STM32学习-3 下面是对c语言的稍微复习 这个是我们设置好的文件 以后拖出去用就可以了 这里加入关于指针的感想 关于指针数组和数组指针的想法 常规的东西是int a10; int * p&a; （p指向了a元素，意思是p等于a的地址 类型是int*）就是 整型指…...

编程日记 2023/8/1 22:28:52

代码随想录第四十八天|198、213、337.打家劫舍

198.打家劫舍 你是一个专业的小偷，计划偷窃沿街的房屋。每间房内都藏有一定的现金，影响你偷窃的唯一制约因素就是相邻的房屋装有相互连通的防盗系统，如果两间相邻的房屋在同一晚上被小偷闯入，系统会自动报警。 给定一个代表每个…...

编程日记 2023/8/1 22:27:50

js笔记总结

prototype 属性的作用 JavaScript 规定，每个函数都有一个prototype属性，指向一个对象。 function f() {} typeof f.prototype // "object" ​ 上面代码中，函数f默认具有prototype属性，指向一个对象。 对于普通函数来…...

编程日记 2023/8/1 22:26:50

第四章：Spring上

第四章：Spring上 4.1：Spring简介 Spring概述 官网地址：https://spring.io/。 Spring是最受欢迎的企业级的java应用程序开发框架，数以百万的来自世界各地的开发人员使用Spring框架来创建性能好、易于测试、可重用的代码。Spring框…...

编程日记 2023/8/1 22:25:48

【时频分析，非线性中频】非线性STFT在瞬时频率估计中的应用（Matlab代码实现）

💥💥💞💞欢迎来到本博客❤️❤️💥💥 🏆博主优势：🌞🌞🌞博客内容尽量做到思维缜密，逻辑清晰，为了方便读者。 ⛳️座右铭&a…...

编程日记 2023/8/1 22:24:47

MTK平台关机流程和原因（二）

（1）ShutdownThread 从上一篇可以看到，最终会调用此类的shutdown以及reboot等函数，我们来看一下这些函数的实现。 （A）被调用函数 //frameworks/base/services/core/java/com/android/server/power/Shutdo…...

编程日记 2023/8/1 22:23:46

【Python】pyqt6入门到入土系列，非常详细...

前言 嗨喽，大家好呀~这里是爱看美女的茜茜呐 一、什么是PyQt6? 简单介绍一下PyQt6 1、基础简介 PyQt6 Digia 公司的 Qt 程序的 Python 中间件。Qt库是最强大的GUI库之一。 PyQt6的官网：www.riverbankcomputing.co.uk/news。 PyQt6是由Riverbank Co…...

编程日记 2023/8/1 22:22:45

TCP socket编程

一、服务端代码 #encoding utf -8 #导入socket库 from socket import * #等待客户端来连接，主机地址为0.0.0.0表示绑定本机所有网络接口ip地址 IP 0.0.0.0 #端口号 PORT 50000 #定义一次从socket缓存区最多读入512个字节数据 BUFLEN 512 #实例化一个socket编程…...

编程日记 2023/8/1 22:21:42

HTTP——一、了解Web及网络基础

HTTP 一、使用HTTP协议访问Web二、HTTP的诞生1、为知识共享而规划Web2、Web成长时代3、驻足不前的HTTP 三、网络基础TCP/IP1、TCP/IP协议族2、TCP/IP的分层管理3、TCP/IP 通信传输流 四、与HTTP关系密切的协议：IP、TCP和DNS1、负责传输的 IP 协议2、确保可靠性的TCP…...

编程日记 2023/8/1 22:20:41

[论文笔记] chatgpt系列 2.6 DeepSpeed-chat 数据集

一、FT数据集 & Reward model数据集 Deepspeed-chat 源代码的数据集： Dahoas/rm-static: 这是一个用于强化学习的静态环境数据集，包含了一个机器人在一个固定环境中的运动轨迹。该数据集旨在用于评估强化学习算法在静态环境下的表现。 Dahoas/full-hh-rlhf: 这是一个用于…...

编程日记 2023/8/1 22:19:40

探究SAM和眼球追踪技术在自动医学图像分割的应用（2023+GazeSAM: What You See is What You Segment）

摘要： 本研究探讨眼动追踪技术与SAM的潜力，以设计一个协同的人机交互系统，自动化医学图像分割。提出了GazeSAM系统，使放射科医生能够在图像诊断过程中通过简单地查看感兴趣的区域来收集分割掩模。该系统跟踪放射科医生的眼球运动…...

编程日记 2023/8/1 22:18:39

excle中的条件求和SUMIF

问题：将每一行中红色文字的前一个值累计求和到境外总数这一列 使用的公式 自制单元格的格式计算公式：ctrlf3打开格式管理，创建如下公式，其中24是表示获取文字颜色 由于sumif只能直接与第二参数条件比较，所以先使用IF(公…...

编程日记 2023/8/1 22:17:37

python-网络爬虫.Request

Request python中requests库使用方法详解： 一简介： Requests 是Python语言编写，基于urllib， 采用Apache2 Licensed开源协议的 HTTP 库。 与urllib相比，Requests更加方便，处理URL资源特别流畅。 可以节约我…...

编程日记 2023/8/1 22:16:36

时序预测 | MATLAB实现GRNN广义回归神经网络时间序列预测（多指标，多图）

时序预测 | MATLAB实现GRNN广义回归神经网络时间序列预测（多指标，多图） 目录 时序预测 | MATLAB实现GRNN广义回归神经网络时间序列预测（多指标，多图）效果一览基本介绍程序设计参考资料效果一览 基本介绍 1.MATLAB实现GRNN广义回归神经网络时间序列预测（完整源码和数据) …...

编程日记 2023/8/1 22:15:34

如何看待低级爬虫与高级爬虫？

爬虫之所以分为高级和低级，主要是基于其功能、复杂性和灵活性的差异。根据我总结大概有下面几点原因： 功能和复杂性：高级爬虫通常提供更多功能和扩展性，包括处理复杂页面结构、模拟用户操作、解析和清洗数据等。它们解决了开发者…...

编程日记 2023/8/1 22:14:27

3.分支与循环

一、分支结构 1.概念 一个 CPP 程序默认是按照代码书写顺序，从上到下依次执行下来的。但是，有时我们需要选择性的执行某些语句，来实现更加复杂的逻辑，这时候就需要分支结构语句的功能来实现。选择合适的分支语句可以显著提高程序…...

编程日记 2023/8/1 22:13:26

面试之多线程案例（四）

1.单例模式 单例模式是指在内存中只会创建且仅创建一次对象的设计模式。在程序中多次使用同一个对象且作用相同时，为了防止频繁地创建对象使得内存飙升，单例模式可以让程序仅在内存中创建一个对象，让所有需要调用的地方都共享这一单例对象。…...

编程日记 2023/8/1 22:12:24

抄写Linux源码(Day1：获取并运行 Linux0.11)

Day1：获取并运行 Linux0.11 参考资料：https://zhuanlan.zhihu.com/p/438577225 这是我参考的一个别人写的 Linux0.11 解读：https://github.com/dibingfa/flash-linux0.11-talk 我获取 Linux-0.11 源码的链接：https://github.com/…...

编程日记 2023/8/1 22:11:21

大数据_Hadoop_Parquet数据格式详解

之前有面试官问到了parquet的数据格式，下面对这种格式做一个详细的解读。 参考链接 ： 列存储格式Parquet浅析 - 简书 Parquet 文件结构与优势_parquet文件_KK架构的博客-CSDN博客 Parquet文件格式解析_parquet.block.size_davidfantasy的博客-CSDN博…...

编程日记 2023/8/1 22:10:20

Docker的安装和部署

目录 一、Docker的安装部署 （1）关闭防火墙 （2）关闭selinux （3）安装docker引擎 （4）启动docker （5）设置docker自启动 （6）测试doc…...

编程日记 2023/8/1 22:09:19

FPGA项目实现：秒表设计

文章目录 项目要求项目设计 项目要求 设计一个时钟秒表，共六个数码管，前两位显示分钟，中间两位显示时间秒，后两位显示毫秒的高两位，可以通过按键来开始、暂停以及重新开始秒表的计数。 项目设计 为完成此项目共设计…...

编程日记 2023/8/1 22:08:17

Postgresql源码（109）并行框架实例与分析

1 PostgreSQL并行参数 系统参数 系统总worker限制：max_worker_processes 默认8 系统总并发限制：max_parallel_workers 默认8 单Query限制：max_parallel_workers_per_gather 默认2 表参数限制：parallel_workers alter table tbl …...

编程日记 2023/8/1 22:07:16

ES派生类的prototype方法中，不能访问super的解决方案

1 下面的B.prototype.compile方法中，无法访问super class A {compile() {console.log(A)} }class B extends A {compile() {super.compile()console.log(B)} }B.prototype.compile function() {super.compile() // 报错，不可以在此处使用superconsole.…...

编程日记 2023/8/1 22:06:15

使用adb通过电脑给安卓设备安装apk文件

最近碰到要在开发板上安装软件的问题，由于是开发板上的安卓系统没有解析apk文件的工具，所以无法通过直接打开apk文件来安装软件。因此查询各种资料后发现可以使用adb工具，这样一来可以在电脑上给安卓设备安装软件。 ADB 就是连接 Android 手…...

编程日记 2023/8/1 22:05:13

113、单例Bean是单例模式吗？

单例Bean是单例模式吗？ 通常来说，单例模式是指在一个JVM中，一个类只能构造出来一个对象，有很多方法来实现单例模式，比如懒汉模式，但是我们通常讲的单例模式有一个前提条件就是规定在一个JVM中，那如果要在两个JVM中保证单例呢？那可能就要用分布式锁这些技术，这里的重点…...

编程日记 2023/8/1 22:04:13

RabbitMQ 集群部署

RabbiMQ 是用 Erlang 开发的，集群非常方便，因为 Erlang 天生就是一门分布式语言，但其本身并不支持负载均衡。 RabbitMQ 的集群节点包括内存节点、磁盘节点。RabbitMQ 支持消息的持久化，也就是数据写在磁盘上，最合适的方案就是既有内存节点，又有磁盘节点。 RabbitMQ 模式大…...

编程日记 2023/8/1 22:03:08