ZooKeeper 的典型应用场景:从概念到实践
引言
在分布式系统的生态中,ZooKeeper 作为一个协调服务框架,扮演着至关重要的角色。它的设计目的是提供一个简单高效的解决方案来处理分布式系统中常见的协调问题。本文将详细探讨 ZooKeeper 的典型应用场景,包括但不限于配置管理、命名服务、分布式锁、主从节点选举、集群管理以及分布式队列。通过结合实际代码示例,我们将深入分析这些场景如何利用 ZooKeeper 的特性来提高系统的可靠性、一致性和可扩展性。
1. 配置管理
配置管理 是 ZooKeeper 最常见的应用之一。它提供了一个集中式的配置信息存储库,确保所有应用程序实例能够即时获取到最新的配置信息。
场景描述:
- 在分布式环境中,配置信息往往需要跨多个节点进行同步。直接在每个节点上维护配置会导致管理复杂和配置不一致。
- ZooKeeper 通过提供一个中央存储点,应用程序可以从中读取配置,并在配置变化时收到通知。
实现方式:
- 配置节点:配置信息存储在 ZooKeeper 的节点(znode)中,这些节点通常是持久节点。
- Watcher 机制:客户端可以注册 Watcher 来监听配置节点的变化,当配置更新时,ZooKeeper 会通知所有注册了 Watcher 的客户端。
代码示例:
import org.apache.zookeeper.WatchedEvent;
import org.apache.zookeeper.Watcher;
import org.apache.zookeeper.ZooKeeper;public class ConfigWatcher implements Watcher {private static final String CONFIG_PATH = "/app/config";public void process(WatchedEvent event) {if (event.getType() == Event.EventType.NodeDataChanged) {try {ZooKeeper zk = new ZooKeeper("localhost:2181", 3000, this);byte[] data = zk.getData(CONFIG_PATH, this, null);String config = new String(data);System.out.println("配置更新为: " + config);} catch (Exception e) {e.printStackTrace();}}}public static void main(String[] args) {try {ZooKeeper zk = new ZooKeeper("localhost:2181", 3000, new ConfigWatcher());byte[] data = zk.getData(CONFIG_PATH, true, null);System.out.println("当前配置: " + new String(data));// 保持连接以等待配置更新Thread.sleep(Long.MAX_VALUE);} catch (Exception e) {e.printStackTrace();}}
}
在这个示例中,客户端会在配置节点发生变化时被通知,并重新获取配置信息。
2. 命名服务
命名服务 为分布式系统中的资源提供唯一、可识别的命名,类似于 DNS 服务在互联网中的角色。
场景描述:
- 在大型分布式系统中,服务和资源需要可靠的命名机制,以便其他部分可以查找和引用它们。
- ZooKeeper 可以用作一个分布式命名服务,提供全局唯一的标识。
实现方式:
- Znode 作为命名空间:利用 ZooKeeper 的层次化命名空间来组织和查找资源。
- 顺序节点:可以使用顺序节点为资源生成唯一ID。
代码示例:
import org.apache.zookeeper.CreateMode;
import org.apache.zookeeper.ZooDefs;
import org.apache.zookeeper.ZooKeeper;public class NamingServiceExample {private static final String BASE_PATH = "/services";public static void main(String[] args) throws Exception {ZooKeeper zk = new ZooKeeper("localhost:2181", 3000, null);// 注册一个服务String servicePath = zk.create(BASE_PATH + "/myService-", "serviceInfo".getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);System.out.println("服务注册路径: " + servicePath);// 查找服务List<String> children = zk.getChildren(BASE_PATH, false);for (String child : children) {System.out.println("找到服务: " + child);}zk.close();}
}
这个例子展示了如何在 ZooKeeper 中注册和查找服务。
3. 分布式锁
分布式锁 用于确保在分布式环境中对共享资源的互斥访问,避免并发问题。
场景描述:
- 分布式系统中,同一个资源可能被多个节点访问,需要一种机制来确保访问的互斥性。
- ZooKeeper 可以通过临时节点和锁的概念来实现分布式锁。
实现方式:
- 临时节点:作为锁的占位符,节点的生命周期和客户端会话绑定,确保锁的释放。
- 顺序节点:通过创建顺序节点来实现公平锁,每个客户端尝试获取最小序号的节点。
代码示例:
import org.apache.zookeeper.*;
import java.util.Collections;
import java.util.List;public class DistributedLock {private ZooKeeper zk;private String lockPath;private String lockNode;public DistributedLock(String connectString, String lockPath) throws Exception {this.zk = new ZooKeeper(connectString, 3000, null);this.lockPath = lockPath;}public void acquireLock() throws Exception {this.lockNode = zk.create(lockPath + "/lock-", new byte[0], ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);while (true) {List<String> children = zk.getChildren(lockPath, false);Collections.sort(children);String smallestChild = children.get(0);if (lockNode.endsWith(smallestChild)) {break;} else {// 等待锁释放Watcher watcher = event -> {if (event.getType() == Event.EventType.NodeDeleted) {synchronized (this) {this.notifyAll();}}};zk.exists(lockPath + "/" + smallestChild, watcher);synchronized (this) {this.wait();}}}}public void releaseLock() throws Exception {zk.delete(lockNode, -1);}public static void main(String[] args) throws Exception {DistributedLock lock = new DistributedLock("localhost:2181", "/locks");lock.acquireLock();System.out.println("获得锁");Thread.sleep(5000); // 模拟一些操作lock.releaseLock();System.out.println("释放锁");}
}
这个示例展示了如何使用 ZooKeeper 实现一个简单的分布式锁机制。
4. 主节点选举
主节点选举 用于在分布式系统中选出或重新选出领导者节点,常用于主从复制、负载均衡等场景。
场景描述:
- 在分布式数据库或集群系统中,常常需要一个主节点来协调操作。
- 当主节点失效时,需要一种机制来选举新的主节点。
实现方式:
- 临时顺序节点:每个节点在 ZooKeeper 中创建一个临时顺序节点,序号最小的节点被选为主节点。
- Watcher:监控主节点的变化,如果主节点失效,启动新的选举。
代码示例:
import org.apache.zookeeper.*;
import java.util.List;
import java.util.Collections;public class LeaderElection implements Watcher {private static final String ELECTION_PATH = "/election";private ZooKeeper zk;private String currentNode;public LeaderElection(String connectString) throws Exception {this.zk = new ZooKeeper(connectString, 3000, this);}public void run() throws Exception {// 创建竞选节点currentNode = zk.create(ELECTION_PATH + "/n_", new byte[0], ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);checkLeader();}private void checkLeader() throws Exception {List<String> children = zk.getChildren(ELECTION_PATH, false);Collections.sort(children);if (currentNode.endsWith(children.get(0))) {System.out.println("我现在是领导者: " + currentNode);} else {System.out.println("我是追随者,等待领导者");String leader = ELECTION_PATH + "/" + children.get(0);zk.exists(leader, this); // 监听领导者节点}}public void process(WatchedEvent event) {if (event.getType() == Event.EventType.NodeDeleted) {try {checkLeader();} catch (Exception e) {e.printStackTrace();}}}public static void main(String[] args) throws Exception {LeaderElection le = new LeaderElection("localhost:2181");le.run();Thread.sleep(Long.MAX_VALUE); // 等待事件}
}
这个例子展示了如何通过 ZooKeeper 实现领导者选举。
5. 集群管理
集群管理 涉及到集群节点的加入、退出、健康状态监控等。
场景描述:
- 在运行时,集群中的节点可能动态变化,ZooKeeper 可以帮助管理这些变化。
- 它可以用来监控节点的健康状态,进行负载均衡,管理节点的生命周期。
实现方式:
- 节点注册:每个节点在 ZooKeeper 中注册自己,通常使用临时节点来表示节点的在线状态。
- 健康检查:通过 Watcher 机制监控节点的变化,进行健康检查和负载均衡操作。
代码示例:
import org.apache.zookeeper.*;public class ClusterNode {private ZooKeeper zk;private String nodePath;public ClusterNode(String connectString) throws Exception {this.zk = new ZooKeeper(connectString, 3000, null);}public void joinCluster() throws Exception {nodePath = zk.create("/cluster/node-", "active".getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.EPHEMERAL_SEQUENTIAL);System.out.println("已加入集群: " + nodePath);}public void leaveCluster() throws Exception {zk.delete(nodePath, -1);System.out.println("已离开集群: " + nodePath);}public static void main(String[] args) throws Exception {ClusterNode node = new ClusterNode("localhost:2181");node.joinCluster();Thread.sleep(10000); // 模拟在线时间node.leaveCluster();}
}
这个示例展示了如何使用 ZooKeeper 来管理集群节点的加入和退出。
6. 分布式队列
分布式队列 用于在分布式环境中实现任务的顺序处理。
场景描述:
- 在分布式系统中,任务可能需要按照一定的顺序执行,队列提供了一种异步处理机制。
- ZooKeeper 可以利用其顺序节点特性来实现分布式队列。
实现方式:
- 顺序节点:利用 ZooKeeper 的顺序节点功能,每个任务添加到队列时都会得到一个唯一的序号。
- 处理任务:节点可以按照序号处理任务,确保顺序性。
代码示例:
import org.apache.zookeeper.*;
import java.util.List;
import java.util.Collections;public class DistributedQueue {private ZooKeeper zk;private String queuePath;public DistributedQueue(String connectString, String queuePath) throws Exception {this.zk = new ZooKeeper(connectString, 3000, null);this.queuePath = queuePath;if (zk.exists(queuePath, false) == null) {zk.create(queuePath, new byte[0], ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT);}}public void enqueue(String task) throws Exception {zk.create(queuePath + "/task-", task.getBytes(), ZooDefs.Ids.OPEN_ACL_UNSAFE, CreateMode.PERSISTENT_SEQUENTIAL);}public String dequeue() throws Exception {List<String> children = zk.getChildren(queuePath, false);if (children.isEmpty()) return null;Collections.sort(children);String taskNode = children.get(0);String taskPath = queuePath + "/" + taskNode;byte[] taskData = zk.getData(taskPath, false, null);zk.delete(taskPath, -1);return new String(taskData);}public static void main(String[] args) throws Exception {DistributedQueue queue = new DistributedQueue("localhost:2181", "/queue");// 入队queue.enqueue("Task 1");queue.enqueue("Task 2");// 出队System.out.println("出队任务: " + queue.dequeue());System.out.println("出队任务: " + queue.dequeue());}
}
通过这个例子,我们看到如何利用 ZooKeeper 实现一个简单的分布式队列。
结论
ZooKeeper 通过其简洁但功能强大的 API 和数据模型,提供了一种解决分布式系统中协调问题的有效途径。无论是在配置管理、命名服务、分布式锁、主节点选举、集群管理,还是分布式队列等方面,ZooKeeper 都展现了其灵活性和可靠性。通过上面的场景分析和代码示例,希望能帮助开发者更好地理解和应用 ZooKeeper 在实际分布式系统中的作用,确保系统的高效运行和数据一致性。
相关文章:
ZooKeeper 的典型应用场景:从概念到实践
引言 在分布式系统的生态中,ZooKeeper 作为一个协调服务框架,扮演着至关重要的角色。它的设计目的是提供一个简单高效的解决方案来处理分布式系统中常见的协调问题。本文将详细探讨 ZooKeeper 的典型应用场景,包括但不限于配置管理、命名服务…...
Arbess基础教程-创建流水线
Arbess(谐音阿尔卑斯) 是一款开源免费的 CI/CD 工具,本文将介绍如何使用 Arbess 配置你的第一条流水线,以快速入门上手。 1. 创建流水线 根据不同需求来创建不同的流水线。 1.1 配置基本信息 配置流水线的基本信息,如分组,环境&…...
科普书《从一到无穷大》的科普知识推翻百年集论
科普书《从一到无穷大》的科普知识推翻百年集论 黄小宁 “我们给两组无穷大数列中的各个数一一配对,如果最后这两组都一个不剩,这两组无穷大就是相等的;如果有一组还有些数没有配出去,这一组就比另一组大些,或者说强些…...
【键盘识别】实例分割
第一步 键盘检测 方案一 canny边缘检测 canny边缘检测检测结果不稳定,容易因为复杂背景或光线变换检测出其他目标。 如图是用canny边缘检测方法标出的检测出的边缘的四个红点。 参考的是这篇文章OpenCV实战之三 | 基于OpenCV实现图像校正_opencv 图像校正-CSDN博客 方案二…...
25/2/7 <机器人基础>雅可比矩阵计算 雅可比伪逆
雅可比矩阵计算 雅可比矩阵的定义 假设我们有一个简单的两个关节的平面机器人臂,其末端执行器的位置可以表示为: 其中: L1 和 L2 是机器人臂的长度。θ1 和 θ2是关节的角度。 计算雅可比矩阵 雅可比矩阵 JJ 的定义是将关节速度与末…...
apisix的real-ip插件使用说明
k8s集群入口一般都需要过负载均衡,然后再到apisix。 这时候如果后台业务需要获取客户端ip,可能拿到的是lb或者网关的内网ip。 这里一般要获取真实ip需要做几个处理。 1. 负载均衡上,一般支持配置获取真实ip参数,需要配置上。然…...
位图的深入解析:从数据结构到图像处理与C++实现
在学习优选算法课程的时候,博主学习位运算了解到位运算的这个概念,之前没有接触过,就查找了相关的资料,丰富一下自身,当作课外知识来了解一下。 位图(Bitmap)是一种用于表示图像的数据结构&…...
Python实现GO鹅优化算法优化支持向量机SVM分类模型项目实战
说明:这是一个机器学习实战项目(附带数据代码文档视频讲解),如需数据代码文档视频讲解可以直接到文章最后关注获取。 1.项目背景 随着信息技术的迅猛发展,数据量呈爆炸式增长,如何从海量的数据中提取有价值…...
Deno vs Node.js:性能对比深度解析
1. 引言 Deno 和 Node.js 都是基于 V8 引擎的 JavaScript 运行时环境,然而它们在架构、模块管理、安全性和性能方面存在显著差异。Deno 由 Node.js 的原始作者 Ryan Dahl 开发,旨在解决 Node.js 设计上的一些问题,比如包管理、安全模型和 Ty…...
我用AI做数据分析之数据清洗
我用AI做数据分析之数据清洗 AI与数据分析的融合效果怎样? 这里描述自己在使用AI进行数据分析(数据清洗)过程中的几个小故事: 1. 变量名的翻译 有一个项目是某医生自己收集的数据,变量名使用的是中文,分…...
备战蓝桥杯:双指针(滑动窗口)算法之逛花展
P1638 逛画展 - 洛谷 | 计算机科学教育新生态 这道题我们只要用一个kind和一个mp[N]的数组就能解决了 我们的解法1就是暴力枚举,先固定2,从2开始找连续的满足所有种类的最短的子数组,然后固定5,3,1,3&…...
【sqlite】python操作sqlite3(含测试)
个人小项目或者小团队,sqllite很适用,数据库封装操作如下 #!/usr/bin/env python # -*- coding: utf-8 -*- # Time : 2025-02-08 13:57 # Author : duxiaowei # File : connect_sqllite.py # Software: PyCharm """ sqllite操作, …...
mybatis 是否支持延迟加载?延迟加载的原理是什么?
1. MyBatis 是否支持延迟加载? 是的,MyBatis 支持延迟加载。延迟加载的主要功能是推迟数据加载的时机,直到真正需要时再去加载。这种方式能提高性能,尤其是在处理关系型数据时,可以避免不必要的数据库查询。 具体来说…...
collabora online+nextcloud+mariadb在线文档协助
1、环境 龙蜥os 8.9 docker 2、安装docker dnf -y install dnf-plugins-core dnf config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo sed -i shttps://download.docker.comhttps://mirrors.tuna.tsinghua.edu.cn/docker-ce /etc/yum.repos.…...
深度学习中的Checkpoint是什么?
诸神缄默不语-个人CSDN博文目录 文章目录 引言1. 什么是Checkpoint?2. 为什么需要Checkpoint?3. 如何使用Checkpoint?3.1 TensorFlow 中的 Checkpoint3.2 PyTorch 中的 Checkpoint3.3 transformers中的Checkpoint 4. 在 NLP 任务中的应用5. 总…...
字符串高频算法:无重复字符的最长子串
题目 3. 无重复字符的最长子串 - 力扣(LeetCode) 解题思路 思路 方法: 滑动窗口 [!简单思路] [^1]以示例一中的字符串 abcabcbb 为例,找出从每一个字符开始的,不包含重复字符的最长子串,其中最长的那个字符串即为答…...
用深度学习模型构建海洋动物图像分类保姆教程
使用深度学习模型构建深度学习海洋动物图像分类模型的完整步骤如下,分为关键阶段和详细操作说明: 1. 数据准备与预处理 1.1 数据集组织 按类别分文件夹存储图像,例如:dataset/train/class1/class2/...val/class1/class2/...test…...
51单片机俄罗斯方块计分函数
/************************************************************************************************************** * 名称:scoring * 功能:计分 * 参数:NULL * 返回:NULL * 备注:采用非阻塞延时 ****************…...
Android开发获取缓存,删除缓存
Android开发获取缓存,删除缓存 app设置中往往有清理缓存的功能。会显示当前缓存时多少,然后可以点击清理缓存 直接上代码: object CacheHelper {/*** 获取缓存大小* param context* return* throws Exception*/JvmStaticfun getTotalCache…...
npm无法加载文件 因为此系统禁止运行脚本
安装nodejs后遇到问题: 在项目里【node -v】可以打印出来,【npm -v】打印不出来,显示npm无法加载文件 因为此系统禁止运行脚本。 但是在winr,cmd里【node -v】,【npm -v】都也可打印出来。 解决方法: cmd里可以打印出…...
NLP_[2]-认识文本预处理
文章目录 1 认识文本预处理1 文本预处理及其作用2. 文本预处理中包含的主要环节2.1 文本处理的基本方法2.2 文本张量表示方法2.3 文本语料的数据分析2.4 文本特征处理2.5数据增强方法2.6 重要说明 2 文本处理的基本方法1. 什么是分词2 什么是命名实体识别3 什么是词性标注 1 认…...
知识库升级新思路:用生成式AI打造智能知识助手
在当今信息爆炸的时代,企业和组织面临着海量数据的处理和管理挑战。知识库管理系统(Knowledge Base Management System, KBMS)作为一种有效的信息管理工具,帮助企业存储、组织和检索知识。然而,传统的知识库系统往往依…...
蚂蚁爬行最短问题
初二数学问题记录 分析过程 考点:2点之间直线最短。 思考过程:将EBCF以BC为边翻折,EF边翻折后为,则A为蚂蚁需要爬行的最小距离。...
【电机控制器】STC8H1K芯片——低功耗
【电机控制器】STC8H1K芯片——低功耗 文章目录 [TOC](文章目录) 前言一、芯片手册说明二、IDLE模式三、PD模式四、PD模式唤醒五、实验验证1.接线2.视频(待填) 六、参考资料总结 前言 使用工具: 1.STC仿真器烧录器 提示:以下是本…...
【专题】2024-2025人工智能代理深度剖析:GenAI 前沿、LangChain 现状及演进影响与发展趋势报告汇总PDF洞察(附原数据表)
原文链接:https://tecdat.cn/?p39630 在科技飞速发展的当下,人工智能代理正经历着深刻的变革,其能力演变已然成为重塑各行业格局的关键力量。从早期简单的规则执行,到如今复杂的自主决策与多智能体协作,人工智能代理…...
SAP-ABAP:SAP的第一行REPORT后面后缀作用详解
在SAP ABAP中,REPORT 语句是定义报表程序的核心语句,其后可以跟多个后缀(参数),用于控制报表的行为和属性。以下是常见的 REPORT 后缀及其作用的详解: 程序名称 • 语法:REPORT <program_nam…...
25/2/8 <机器人基础> 阻抗控制
1. 什么是阻抗控制? 阻抗控制旨在通过调节机器人与环境的相互作用,控制其动态行为。阻抗可以理解为一个力和位移之间的关系,涉及力、速度和位置的协同控制。 2. 阻抗控制的基本概念 力控制:根据感测的外力调节机械手的动作。位置…...
java-list深入理解(流程图)
List源码学习: 此篇文章使用流程图和源码方式,理解List的源码,方便记忆 核心逻辑流程图: #mermaid-svg-BBrPrDuqUdLMtHvj {font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}#mermaid-svg-BBrPrDuqUdLMtHvj .error-icon{fill:#…...
Sparse4D v3:推进端到端3D检测和跟踪
论文地址:2311.11722 (arxiv.org) 代码地址:HorizonRobotics/Sparse4D (github.com) 在自动驾驶感知系统中,3D 检测和跟踪是两项基本任务。本文在 Sparse4D 框架的基础上更深入地探讨了这一领域。作者引入了两个辅助训练任务(Temp…...
LeetCode781 森林中的兔子
问题描述 在一片神秘的森林里,住着许多兔子,但是我们并不知道兔子的具体数量。现在,我们对其中若干只兔子进行提问,问题是 “还有多少只兔子与你(指被提问的兔子)颜色相同?” 我们将每只兔子的…...
