【分布式系统中的“瑞士军刀”_ Zookeeper】一、Zookeeper 快速入门和核心概念
在分布式系统的复杂世界里,协调与同步是确保系统稳定运行的关键所在。Zookeeper 作为分布式协调服务的 “瑞士军刀”,为众多分布式项目提供了高效、可靠的协调解决方案。无论是在分布式锁的实现、配置管理,还是在服务注册与发现等场景中,Zookeeper 都发挥着不可或缺的作用。
一、Zookeeper 的安装与配置
1.1 环境准备
在 CentOS 7 系统中安装 Zookeeper,首先需要确保系统中已安装 Java 运行环境(JRE),因为 Zookeeper 是基于 Java 开发的。可以通过以下命令检查 Java 是否已安装:
java -version
如果系统提示 “command not found”,则需要安装 Java。这里以安装 OpenJDK 为例,执行以下命令进行安装:
sudo yum install -y java-1.8.0-openjdk
安装完成后,再次执行上述 java -version命令,应能看到 Java 的版本信息,表明 Java 安装成功。
1.2 下载与解压 Zookeeper
访问 Apache Zookeeper 的官方下载页面(Index of /dist/zookeeper),选择合适的版本进行下载。这里以 Zookeeper 3.8.0 版本为例,在 CentOS 7 系统中打开终端,执行以下命令下载 Zookeeper 安装包:
wget https://archive.apache.org/dist/zookeeper/zookeeper-3.8.0/apache-zookeeper-3.8.0-bin.tar.gz
下载完成后,使用以下命令解压安装包:
tar -zxvf apache-zookeeper-3.8.0-bin.tar.gz
解压后会得到一个名为apache-zookeeper-3.8.0-bin的目录,将其移动到合适的位置,例如/usr/local/目录下:
sudo mv apache-zookeeper-3.8.0-bin /usr/local/zookeeper
1.3 配置文件修改
进入 Zookeeper 的配置目录:
cd /usr/local/zookeeper/conf
Zookeeper 的主要配置文件是zoo.cfg,该文件默认没有示例文件,需要将zoo_sample.cfg复制一份并重命名为zoo.cfg:
cp zoo_sample.cfg zoo.cfg
使用文本编辑器(如vi或nano)打开zoo.cfg文件进行配置修改:
vi zoo.cfg
以下是zoo.cfg文件中一些重要配置项的说明和修改示例:
tickTime:Zookeeper 中最小时间单元,以毫秒为单位。它用于控制心跳、选举等操作的时间间隔。默认值为 2000 毫秒,一般无需修改:
tickTime=2000
dataDir:Zookeeper 存储数据的目录,包括事务日志和快照数据。需要指定一个存在且有写入权限的目录,这里设置为/var/lib/zookeeper:
dataDir=/var/lib/zookeeper
创建该目录并设置权限:
sudo mkdir -p /var/lib/zookeeper
sudo chown -R $(whoami):$(whoami) /var/lib/zookeeper
clientPort:Zookeeper 服务器监听客户端连接的端口,默认值为 2181。如果没有端口冲突,一般保持默认即可:
clientPort=2181
initLimit:Follower 与 Leader 建立连接时,Leader 等待 Follower 完成初始同步的最大心跳数。默认值为 10,根据实际情况可适当调整:
initLimit=10
syncLimit:Follower 与 Leader 进行数据同步时,Leader 等待 Follower 同步完成的最大心跳数。默认值为 5,同样可根据实际情况调整:
syncLimit=5
配置完成后,保存并退出zoo.cfg文件。
二、Zookeeper 核心概念解析
2.1 ZNode(节点)
ZNode 是 Zookeeper 数据模型的基础,类似于文件系统中的文件和目录。在 Zookeeper 中,所有数据都存储在树形结构的 ZNode 节点中。每个 ZNode 节点都有一个唯一的路径标识,例如/myapp/config。
ZNode 节点可以存储数据,数据大小有限制,一般不超过 1MB(具体限制可参考 Zookeeper 的配置)。同时,ZNode 节点有不同的类型,主要包括:
- 持久节点(Persistent):一旦创建,除非主动删除,否则一直存在于 Zookeeper 中。常用于存储固定的配置信息等。
- 临时节点(Ephemeral):与客户端会话绑定,当客户端会话结束(如连接断开),对应的临时节点会自动删除。常用于标识临时的任务或状态,例如在分布式任务调度中,工作节点可以创建临时节点来表示自己正在执行任务。
- 顺序节点(Sequential):无论是持久节点还是临时节点,都可以设置为顺序节点。顺序节点在创建时,Zookeeper 会自动为其路径添加一个递增的序号。例如,在创建/myapp/task-的顺序节点时,可能会生成/myapp/task-0000000001这样的节点路径。顺序节点常用于实现分布式锁、选举等功能。
可以使用 Zookeeper 的命令行工具来操作 ZNode 节点。启动 Zookeeper 服务:
/usr/local/zookeeper/bin/zkServer.sh start
然后使用以下命令连接到 Zookeeper 服务器:
/usr/local/zookeeper/bin/zkCli.sh -server localhost:2181
连接成功后,可以使用以下命令进行 ZNode 节点的操作:
创建节点:创建一个持久节点/test,并存储数据hello world:
create /test "hello world"
创建一个临时节点:/test/ephemeral:
create -e /test/ephemeral "temp data"
创建一个顺序节点:/test/sequential-:
create -s /test/sequential- "seq data"
查看节点:查看/test节点的数据:
get /test
查看/test节点下的子节点:
ls /test
删除节点:删除/test/ephemeral节点:
delete /test/ephemeral
删除/test节点及其所有子节点(如果/test节点有子节点,普通delete命令会报错,需要使用rmr命令):
rmr /test
2.2 Session(会话)
Session 是客户端与 Zookeeper 服务器之间建立的连接会话。当客户端启动并连接到 Zookeeper 服务器时,会创建一个唯一的会话 ID。会话有一个超时时间,在超时时间内,如果客户端与服务器之间没有任何交互(如发送请求、接收响应等),则会话会过期,与之关联的临时节点也会被删除。
在zoo.cfg文件中,可以通过sessionTimeout参数来设置会话超时时间(单位为毫秒),默认值为tickTime的 2 倍到 20 倍之间。例如,设置会话超时时间为 6000 毫秒:
1、# 虽然配置文件中没有直接的sessionTimeout配置项,但可通过以下方式间接设置
2、# 这里假设tickTime=2000,实际超时时间会在4000 - 40000毫秒之间,可通过客户端参数调整
3、# 客户端连接时可使用 -sessionTimeout 参数指定具体超时时间,如:
4、# zkCli.sh -server localhost:2181 -sessionTimeout 6000
当客户端与 Zookeeper 服务器建立会话后,可以通过一些操作来保持会话的活性,例如定期发送心跳请求。在 Zookeeper 的 Java 客户端中,会自动处理会话的心跳和重连逻辑,以保证会话的稳定性。
2.3 Watcher(监听器)
Watcher 是 Zookeeper 提供的一种事件通知机制。客户端可以为指定的 ZNode 节点设置监听器,当该节点的数据发生变化(如数据更新、节点删除)或子节点发生变化(如子节点创建、删除)时,Zookeeper 会向注册了该节点监听器的客户端发送通知。
在命令行工具中,可以通过get和ls命令设置监听器。例如,为/test节点设置数据变化监听器:
get /test watch
此时,如果其他客户端对/test节点的数据进行修改:
set /test "new data"
设置监听器的客户端会收到类似以下的通知:
WATCHER::WatchedEvent state:SyncConnected type:NodeDataChanged path:/test
在 Java 客户端中,通过实现Watcher接口来处理事件通知。以下是一个简单的 Java 代码示例,展示如何设置监听器并处理事件:
import org.apache.zookeeper.KeeperException;
import org.apache.zookeeper.WatchedEvent;
import org.apache.zookeeper.Watcher;
import org.apache.zookeeper.ZooKeeper;import java.io.IOException;public class ZookeeperWatcherExample {private static final String ZOOKEEPER_SERVER = "localhost:2181";private static final String NODE_PATH = "/test";public static void main(String[] args) throws IOException, KeeperException, InterruptedException {ZooKeeper zk = new ZooKeeper(ZOOKEEPER_SERVER, 5000, new Watcher() {@Overridepublic void process(WatchedEvent event) {if (event.getType() == Event.EventType.NodeDataChanged && event.getPath().equals(NODE_PATH)) {try {byte[] data = zk.getData(NODE_PATH, true, null);System.out.println("Node data changed, new data: " + new String(data));} catch (KeeperException | InterruptedException e) {e.printStackTrace();}}}});// 读取节点数据并设置监听器zk.getData(NODE_PATH, true, null);// 保持程序运行,以便接收事件通知Thread.sleep(Long.MAX_VALUE);}
}
2.4 Leader - Follower 模式
Zookeeper 集群采用 Leader - Follower 模式来保证数据的一致性和系统的高可用性。在集群中,节点分为 Leader 和 Follower 两种角色:
- Leader:负责处理所有的写请求,并将数据变更同步到 Follower 节点。同时,Leader 还负责协调元数据操作,如选举过程的管理等。
- Follower:主要负责处理读请求,并从 Leader 节点同步数据,以保持与 Leader 节点的数据一致性。
当 Zookeeper 集群启动或 Leader 节点出现故障时,会触发选举机制来选出新的 Leader。选举过程基于 Zookeeper 的 ZXID(事务 ID)和节点 ID 等因素,确保选出的 Leader 是具有最新数据的节点。
可以通过以下命令查看 Zookeeper 节点的角色状态:
/usr/local/zookeeper/bin/zkServer.sh status
在正常运行的集群中,会显示某个节点为Leader,其他节点为Follower:
Mode: leader # 或 Mode: follower
相关文章:

【分布式系统中的“瑞士军刀”_ Zookeeper】一、Zookeeper 快速入门和核心概念
在分布式系统的复杂世界里,协调与同步是确保系统稳定运行的关键所在。Zookeeper 作为分布式协调服务的 “瑞士军刀”,为众多分布式项目提供了高效、可靠的协调解决方案。无论是在分布式锁的实现、配置管理,还是在服务注册与发现等场景中&…...
Libconfig 修改配置文件里的某个节点
THCommandStatus ( { Status "1"; index 5; }, { Status "2"; index 8; }, { Status "3"; index 7; }, { Status "4"; index 0; } ); 比如这是配置文件的内容ÿ…...
从FP32到BF16,再到混合精度的全景解析
笔者做过目标检测模型、超分模型以及扩散生成模型。其中最常使用的是单精度FP32、半精度FP16、BF16。 双精度"FP64"就不说了,不太会用到。 #1. 单精度、半精度和混合精度 单精度(FP32)、半精度(FP16)和混合…...

Electron从入门到入门
项目说明 项目地址 项目地址:https://gitee.com/ruirui-study/electron-demo 本项目为示例项目,代码注释非常清晰,给大家当做入门项目吧。 其实很多东西都可以在我这基础上添加或修改、市面上有些已开源的项目,但是太臃肿了&am…...

优化提示词方面可以使用的数学方法理论:信息熵,概率论 ,最优化理论
优化提示词方面可以使用的数学方法理论:信息熵,概率论 ,最优化理论 目录 优化提示词方面可以使用的数学方法理论:信息熵,概率论 ,最优化理论信息论信息熵明确问题主题提供具体细节限定回答方向规范语言表达概率论最优化理论信息论 原理:信息论中的熵可以衡量信息的不确定性。…...

腾讯一面面经:总结一下
1. Java 中的 和 equals 有什么区别?比较对象时使用哪一个 1. 操作符: 用于比较对象的内存地址(引用是否相同)。 对于基本数据类型、 比较的是值。(8种基本数据类型)对于引用数据类型、 比较的是两个引…...

Golang | 倒排索引
文章目录 倒排索引的设计倒排索引v0版实现 倒排索引的设计 通用搜索引擎 v.s. 垂直搜索引擎: 通用搜索引擎:什么都可以搜索,更加智能化垂直搜索引擎:只能搜自家数据库里面的内容,一般都带着搜索条件,搜索一…...

大模型驱动智能服务变革:从全流程赋能到行业纵深落地
大模型技术的快速发展,正深刻改变着人工智能的研发与应用模式。作为"软硬协同、开箱即用"的智能化基础设施,大模型一体机通过整合计算硬件、部署平台和预置模型,重构了传统AI部署方式,成为推动AI普惠化和行业落地的重要…...
【Python-Day 5】Python 格式化输出实战:%、format()、f-string 对比与最佳实践
Langchain系列文章目录 01-玩转LangChain:从模型调用到Prompt模板与输出解析的完整指南 02-玩转 LangChain Memory 模块:四种记忆类型详解及应用场景全覆盖 03-全面掌握 LangChain:从核心链条构建到动态任务分配的实战指南 04-玩转 LangChai…...

【初识Trae】字节跳动推出的下一代AI原生IDE,重新定义智能编程
初识官网文档 从官网可以看到有两个大标签页,即Trae IDE CN和Trae插件,这就说明Trae在发布Trae IDE的同时考虑到对主流IDE的插件支持,这一点非常有心,但是我估测Trae IDE的体验更好(就是AI IDE出生,毕…...

装备制造企业选型:什么样的项目管理系统最合适?
个性化定制需求日益增加、项目周期长、供应链协同复杂、成本控制难度大、以及设计、生产、安装、售后等环节协同不畅。这些挑战使得装备制造企业在传统的管理方式捉襟见肘,迫切需要一套高效、智能的项目管理系统来提升运营效率和盈利能力。 那么,对于装…...
技术面试一面标准流程
0. 自我介绍 ...... 1. 拷打项目 项目干了啥? 难点是啥? 问项目中用到的东西? 扩展? ...... 2. 基础知识 数据结构、C基础、设计模式 数据结构: 堆? unordered_map 和 布隆过滤器 都是用于查找…...
【playwright】 page.wait_for_timeout() 和time.sleep()区别
page.wait_for_timeout() 和 time.sleep() 都可以用于在代码中引入延迟,但它们的实现方式和效果有一些关键区别。以下是两者的详细对比: 1. 实现方式 page.wait_for_timeout(): 是 Playwright 提供的一个内置方法,专门用于在 Play…...
常见网络安全攻击类型深度剖析(四):跨站脚本攻击(XSS)——分类、漏洞利用与前端安全防护
常见网络安全攻击类型深度剖析(四):跨站脚本攻击(XSS)——分类、漏洞利用与前端安全防护 在Web应用安全中,跨站脚本攻击(Cross-Site Scripting, XSS)是攻击者利用浏览器漏洞&#x…...

QT多元素控件及其属性
Qt中提供的多元素控件有: QListWidget QListView QTableWidget QTableView QTreeWidget QTreeView widget和view多元素控件的区别: view是更底层的实现,widget是基于view封装而来,view是MVC结构的一种典型实现 MVC结构&am…...

如何快速高效学习Python?
如何快速高效学习Python? How to Fastly and Effectively Learn Python Programming? By JacksonML 1. Python年轻吗? Python自1991年诞生到现在,已经经历了三十四年或者更长时间了。毕竟,Python之父 – 吉多范罗苏姆先生(Gu…...

【网络原理】TCP提升效率机制(二):流量控制和拥塞控制
目录 一. 前言 二. 流量控制 三. 拥塞控制 一. 前言 TCP的可靠传输依靠确认应答机制,超时重传机制是对确认应答的一种补充,解决了丢包问题 为了提高传输效率,避免大量的时间都浪费在等待应答的过程,故引入了滑动窗口机制&…...

语音合成之六端到端TTS模型的演进
端到端TTS模型的演进 引言Tacotron:奠基之作FastSpeech:解决效率瓶颈VITS:实现高保真和富有表现力的语音SparkTTS:利用LLM实现高效可控的TTSCosyvoice:一种可扩展的多语种TTS方法端到端TTS模型的演进与未来方向 引言 …...

Properties配置文件
Properties(是一个特殊的Map)默认键值都是String类型 备注:Properties能调用Map中的所有方法,但由于放入Properties中的key-value都是String类型,Properties中提供了特殊的存值和取值的方法,所以尽量不要用Map中的方法,如下 Properties的作用 A、将内存中的数据写入到…...
C#高级语法--接口
先引用一些通俗一点的话语说明 1. 接口就像“插座标准”(解耦) 🧩 场景: 你家的手机充电器(USB-C、Lightning)必须插进匹配的插座才能充电。问题:如果每个手机品牌插座都不一样,你换手机就得换充电器,太麻烦了!💡 接口的作用: 定义一个通用的充电口标准(比如U…...
5.6 Microsoft Semantic Kernel:专注于将LLM集成到现有应用中的框架
5.6.1 Semantic Kernel概述 Microsoft Semantic Kernel(以下简称SK)是一个开源的软件开发工具包(SDK),旨在帮助开发者将大型语言模型(LLM)无缝集成到现有的应用程序中。它支持C#、Python和Java…...

【尚硅谷Redis6】自用学习笔记
Redis介绍 Redis是单线程 多路IO复用技术(类似黄牛买票) 默认有16个库,用select进行切换 默认端口号为6379 Memcached:多线程 锁(数据类型单一,不支持持久化) 五大常用数据类型 Redis key …...

Vue里面elementUi-aside 和el-main不垂直排列
先说解决方法 main.js少导包 import element-ui/lib/theme-chalk/index.css; //加入此行即可 问题复现 排查了一个小时终于找出来问题了,建议导包去看官方的文档,作者就是因为看了别人的导包流程导致的问题 导包官网地址Element UI导包快速入门...

VS Code搭建C/C++开发环境
文章目录 一、VScode 是什么?二、VScode的下载和安装1、下载2、安装 三、环境介绍1、安装中文插件 四、VScode配置 C/C开发环境1、下载MinGW-w64 编译器套件2、配置MingGW643、验证4、安装C/C插件 五、在VSCode上编写C语言代码并编译成功1、打开文件夹2、新建C语言文件&#x…...
6.ArkUI Row的介绍和使用
ArkUI Row 组件介绍与使用指南 什么是 Row 组件? Row 是 ArkUI 中的基础布局容器组件,用于水平(横向)排列子组件。它与 Column 组件相对应,是构建用户界面最常用的布局方式之一,类似于其他UI框架中的水平…...

mysql 在 dbeaver中下载驱动失败处理
直接上解决方法 1. 在mysql官网下载驱动 2. 引入dbeaver中即可 3. 最后再双击即可...

Java 安全:如何防止 SQL 注入与 XSS 攻击?
Java 安全:如何防止 SQL 注入与 XSS 攻击? 在 Java 开发领域,安全问题至关重要,而 SQL 注入和 XSS 攻击是两种常见的安全威胁。本文将深入探讨如何有效防止这两种攻击,通过详细代码实例为您呈现解决方案。 一、SQL 注…...

fastbev mmdetection3D 角度和方向损失
角度/方向损失 sin(a−b)sinacosb−cosasinb config参数 dir_offset0.7854, # pi/4 dir_limit_offset0, box编解码 # Copyright (c) OpenMMLab. All rights reserved. import torchfrom mmdet.core.bbox import BaseBBoxCoder from mmdet.core.bbox.builder import BBOX_COD…...
力扣-hot100(滑动窗口最大值)
239. 滑动窗口最大值 困难 给你一个整数数组 nums,有一个大小为 k 的滑动窗口从数组的最左侧移动到数组的最右侧。你只可以看到在滑动窗口内的 k 个数字。滑动窗口每次只向右移动一位。 返回 滑动窗口中的最大值 。 示例 1: 输入:nums […...

一种专用车辆智能配电模块的设计解析:技术革新与未来展望
关键词:智能配电模块、STM32、CAN总线、电子开关、新能源汽车 引言:传统配电系统的痛点与智能化转型 传统配电系统依赖继电器和保险丝,存在体积大、寿命短、智能化低等缺陷(如图1)。而新能源汽车和无人驾驶技术对配电…...