京东双十一高并发场景下的分布式锁性能优化
背景
在电商领域,尤其是像京东双十一这样的大促活动,系统需要处理极高的并发请求。这些请求往往涉及库存的查询和更新,如果处理不当,很容易出现库存超卖、数据不一致等问题。分布式锁作为一种有效的解决方案,能够在多个节点之间协调访问资源,确保在同一时间只有一个节点能够执行关键操作。然而,在高并发场景下,分布式锁的性能成为了一个重要的挑战。本文将深入探讨如何在京东双十一高并发场景下提升分布式锁的性能,从背景、场景、功能、底层原理到Java代码实现,进行详细的介绍和分析。
场景
在京东双十一期间,用户访问量激增,系统需要处理大量的并发请求。这些请求可能涉及库存的查询和更新,如果处理不当,很容易出现库存超卖的问题。例如,假设库存表中有100件商品,两个线程同时读到了库存为100,然后分别执行减1并写回数据库,结果数据库数据为99而不是预期的98。为了避免这种情况,可以使用分布式锁来确保在同一时间只有一个线程能够执行库存的查询和更新操作。
功能
分布式锁的主要功能是确保在分布式系统中,多个服务在请求同一个方法或者同一个业务操作的情况下,对应的业务逻辑只能被一台机器上的一个线程执行。这样可以避免并发问题,确保数据的一致性。在京东双十一这样的高并发场景下,分布式锁的性能优化尤为重要,因为它直接影响到系统的吞吐量和响应时间。
底层原理
Redis锁
Redis锁是一种常见的分布式锁实现方式。它利用Redis的原子操作来实现锁的获取和释放。Redis提供了SETNX(Set if Not Exists)命令,可以在key不存在时设置value,并返回1表示成功,否则返回0表示失败。结合EXPIRE命令,可以设置锁的过期时间,防止死锁的发生。
然而,SETNX和EXPIRE命令并不是原子的,如果在执行SETNX之后、EXPIRE之前Redis服务器宕机,那么锁就会永久存在,导致死锁。为了解决这个问题,Redis 2.8版本引入了SETEX命令,可以一次性设置key的值和过期时间,保证加锁过程的原子性。
RedLoc锁
RedLoc锁是一种基于Redis的分布式锁实现,但它通过一些优化措施提升了性能。例如,它采用了分段锁的策略,将商品库存划分为多个部分,每个部分对应一个独立的Redis锁。当请求到来时,随机选取一份库存进行加锁,实现多请求并行处理,从而提升系统吞吐量。在库存不足时,及时释放锁并切换到其他库存段。
Java代码实现与分析
下面是一个基于Redis的分布式锁的实现示例,以及一个使用RedLoc锁优化后的实现示例。
Redis锁实现
java复制代码 import redis.clients.jedis.Jedis; public class RedisLock { private Jedis jedis; private String lockKey; public RedisLock(Jedis jedis, String lockKey) { this.jedis = jedis; this.lockKey = lockKey; } public boolean acquireLock(long timeout) { long expireTime = System.currentTimeMillis() + timeout; while (System.currentTimeMillis() < expireTime) { if (jedis.setnx(lockKey, "locked")) { jedis.expire(lockKey, (int) (timeout / 1000)); return true; } if (jedis.ttl(lockKey) == -1) { jedis.expire(lockKey, (int) (timeout / 1000)); } try { Thread.sleep(100); } catch (InterruptedException e) { Thread.currentThread().interrupt(); } } return false; } public void releaseLock() { jedis.del(lockKey); } }
在这个实现中,我们使用Jedis作为Redis的客户端。acquireLock
方法尝试获取锁,如果获取成功,则设置锁的过期时间。如果获取失败,则检查锁的过期时间,如果已过期,则重新设置过期时间,并继续等待获取锁。releaseLock
方法用于释放锁。
RedLoc锁实现
java复制代码 import redis.clients.jedis.Jedis; import java.util.concurrent.ThreadLocalRandom; public class RedLocLock { private Jedis jedis; private String lockKeyPrefix; private int segmentCount; public RedLocLock(Jedis jedis, String lockKeyPrefix, int segmentCount) { this.jedis = jedis; this.lockKeyPrefix = lockKeyPrefix; this.segmentCount = segmentCount; } public boolean acquireLock(String requestId) { int segmentIndex = ThreadLocalRandom.current().nextInt(segmentCount); String lockKey = lockKeyPrefix + "_" + segmentIndex; if (jedis.setnx(lockKey, requestId)) { jedis.expire(lockKey, 10); return true; } return false; } public void releaseLock(String requestId) { for (int i = 0; i < segmentCount; i++) { String lockKey = lockKeyPrefix + "_" + i; if (requestId.equals(jedis.get(lockKey))) { jedis.del(lockKey); break; } } } }
在这个实现中,我们使用了分段锁的策略。acquireLock
方法随机选取一个库存段进行加锁,如果获取成功,则设置锁的过期时间。releaseLock
方法遍历所有库存段,找到对应的锁并释放。
分布式锁的性能主要体现在以下几个方面:
1. 获取锁的速度
- 延迟:获取锁的时间延迟是衡量分布式锁性能的重要指标。在高并发场景下,如果获取锁的速度慢,会导致大量请求等待锁,从而影响系统的响应时间和吞吐量。
- 并发处理能力:分布式锁需要能够在高并发情况下快速处理多个请求,确保系统的并发处理能力。
2. 锁的释放速度
- 延迟:释放锁的时间延迟同样重要。如果释放锁的速度慢,会导致持有锁的线程或进程无法及时释放锁,从而影响其他请求的获取锁速度。
- 原子性:释放锁的操作需要是原子的,确保在释放锁的过程中不会出现并发问题。
3. 锁的粒度
- 粒度:锁的粒度越小,系统的并发处理能力越强。例如,如果锁粒度是商品库存,那么同一商品的不同规格或颜色可能需要不同的锁,这样可以提高系统的并发处理能力。
4. 锁的持有时间
- 时间:锁的持有时间越短,系统的并发处理能力越强。如果锁的持有时间过长,会导致大量请求等待锁,从而影响系统的响应时间和吞吐量。
- 自动续期:为了避免死锁和长时间持有锁的问题,一些分布式锁实现提供了自动续期功能。这可以在一定程度上提高系统的并发处理能力,但也会增加系统的复杂性。
5. 可扩展性
- 扩展能力:分布式锁的实现需要具备良好的可扩展性,能够随着系统规模的扩展而扩展。例如,在分布式系统中增加新的节点时,分布式锁应该能够自动适应新的节点并保持良好的性能。
6. 可靠性
- 稳定性:分布式锁需要具备高可靠性,确保在分布式系统中不会出现死锁、活锁等问题。这要求分布式锁的实现具备完善的错误处理机制和容错能力。
- 一致性:在分布式系统中,多个节点可能同时访问共享资源。分布式锁需要确保在任意时刻只有一个节点能够获取锁并执行临界操作,以保证数据的一致性。
7. 资源消耗
- 内存和CPU占用:分布式锁的实现需要占用一定的内存和CPU资源。在高并发场景下,如果分布式锁的资源消耗过高,会影响系统的整体性能。
- 网络开销:在分布式系统中,多个节点之间可能通过网络进行通信。分布式锁的实现需要尽量减少网络开销,以提高系统的响应速度和吞吐量。
8. 兼容性
- 跨平台支持:分布式锁需要支持多种编程语言和框架,以便在不同的分布式系统中进行部署和应用。
- 与其他组件的集成:分布式锁需要能够与其他分布式组件(如消息队列、缓存等)进行集成,以实现更加复杂的分布式系统架构。
综上所述,分布式锁的性能主要体现在获取锁的速度、锁的释放速度、锁的粒度、锁的持有时间、可扩展性、可靠性、资源消耗以及兼容性等方面。在实际应用中,需要根据具体场景选择合适的分布式锁实现方式,并进行必要的性能优化以满足系统的需求。
总结
在京东双十一这样的高并发场景下,分布式锁的性能优化尤为重要。通过选择合适的分布式锁实现方式、减小锁的粒度、限制锁的持有时间等措施,可以显著提升系统的吞吐量和响应时间。Redis锁和RedLoc锁是两种常见的分布式锁实现方式,各有优缺点。Redis锁实现简单,但在高并发场景下可能存在性能瓶颈;RedLoc锁通过分段锁的策略提升了性能,但实现相对复杂。在实际应用中,需要根据具体场景选择合适的分布式锁实现方式,并进行必要的性能优化。
相关文章:
京东双十一高并发场景下的分布式锁性能优化
背景 在电商领域,尤其是像京东双十一这样的大促活动,系统需要处理极高的并发请求。这些请求往往涉及库存的查询和更新,如果处理不当,很容易出现库存超卖、数据不一致等问题。分布式锁作为一种有效的解决方案,能够在多…...
华为ICT题库-AI 人工智能部分
1178、以下哪个选项是华为的云端AI芯片?(云服务考点) (A)Inferentia (B)MLU100 (C)Cloud TPU (D)Ascend 910 答案:D 解析:华为的云端AI芯片被称为Ascend芯片系列,其中Ascend 910是其旗舰产品。Ascend 910…...
React Native 修改安卓应用图片和名称
在React Native(RN)项目中,修改安卓应用图标和名称通常涉及对Android原生代码的一些修改。以下是详细步骤: 修改应用图标 准备图标资源: 创建或获取你想要的图标,并确保它们符合Android的图标规范…...

普推知产:商标初审已下,商标申请通过如何高些!
近期下来一批商标注册的初步审公告通知书,一些客户对商标下证要求比较高的,普推知产商标老杨发现,要像下证高核心还是在于名称,名称起好备用的多,让商标专业人士经检索后层层过滤后提报,通过会好很多。 普推…...

HICP--2
在area 0的路由器只生成 area 0 的数据库,只在area 1 的一样。但是既在又在的生成两个 area的 LSDB 一、区域间三类LSA 在OSPF(Open Shortest Path First)协议中,区域间三类LSA(Link-State Advertisement)…...
sheng的学习笔记-AI基础-正确率/召回率/F1指标/ROC曲线
AI目录:sheng的学习笔记-AI目录-CSDN博客 分类准确度问题 假设有一个癌症预测系统,输入体检信息,可以判断是否有癌症。如果癌症产生的概率只有0.1%,那么系统预测所有人都是健康,即可达到99.9%的准确率。 但显然这样的…...

Linux -- 共享内存(2)
目录 命令 ipcs -m : 命令 ipcrm -m shmid: 共享内存的通信: 为什么共享内存更高效? 代码: ShmClient.cc: ShmServer.cc: 结果: 如何让共享内存实现同步? 代码&a…...

云函数实现发送邮件,以qq邮箱为例
云函数实现发送邮件,前端传参调用发送邮件即可。以qq邮箱为例。 1、开启qq邮箱的smtp服务并且生成授权码,操作界面如下图: 2、在腾讯云新建一个云函数代码如下: const nodemailer require("nodemailer");// 云函数入口函数 export…...

Kafka如何控制消费的位置?
大家好,我是锋哥。今天分享关于【Kafka如何控制消费的位置?】面试题?希望对大家有帮助; Kafka如何控制消费的位置? 1000道 互联网大厂Java工程师 精选面试题-Java资源分享网 在 Kafka 中,控制消费位置主要通过以下几个机制来实…...

python爬虫——Selenium的基本使用
目录 一、Selenium的介绍 二、环境准备 1.安装Selenium 2.安装WebDriver 三、元素定位 1.常用定位元素的方法 2. 通过指定方式定位元素 四、窗口操作 1.最大化浏览器窗口 2.设置浏览器窗口大小 3.切换窗口或标签页 切换回主窗口 4. 关闭窗口 关闭当前窗口 关闭所…...

【Linux】【xmake】安装 + C/C++常用项目配置
文章目录 0. 环境准备1. 子命令create - 快速创建项目build - 构建程序config - 配置编译需要的参数show - 查看当前工程基本信息update - 程序自更新 2. C/C 项目常用配置2.1 项目目标类型2.2 添加宏定义2.3 头文件路径和链接库配置2.4 设置语言标准2.5 设置编译优化2.6 添加源…...
Android 添加菜单开关控制Camera相机和第三方相机
本文主要通过SystemProperties系统属性和Settings.System存储数据库的状态进行判断,从而实现控制相机 /vendor/mediatek/proprietary/packages/apps/MtkSettings/res/values-zh-rCN/strings.xml <!--camera--> <string name="manager_camera_switch"&…...
【Java知识】使用jacoco实现代码覆盖率测试
文章目录 1. 添加JaCoCo插件到项目2. 配置Maven Surefire Plugin3. 执行测试并生成报告4. 查看覆盖率报告注意事项 要使用JaCoCo实现代码覆盖率测试,你需要遵循以下步骤: 1. 添加JaCoCo插件到项目 在Maven项目的pom.xml文件中添加JaCoCo插件。这允许你执…...
道路车辆功能安全 ISO 26262标准(9-2)—面向汽车安全完整性等级 (ASIL) 和安全的分析
写在前面 本系列文章主要讲解道路车辆功能安全ISO26262标准的相关知识,希望能帮助更多的同学认识和了解功能安全标准。 若有相关问题,欢迎评论沟通,共同进步。(*^▽^*) 1. 道路车辆功能安全ISO 26262标准 9. ISO 26262-9 面向汽车安全完整…...
hutool常用方法
1、树结构工具-TreeUtil 构建Tree示例 package com.sl.transport.common.util;import cn.hutool.core.bean.BeanUtil; import cn.hutool.core.collection.CollUtil; import cn.hutool.core.lang.tree.Tree; import cn.hutool.core.lang.tree.TreeNode; import cn.hutool.core…...

CloudSat数据产品数据下载与处理 (matlab)
CloudSat数据下载 这个数据我之前和CALIPSO弄混了,后来发现它们虽然是同一个火箭上去,但是数据产品却在不同的平台下,CloudSat的数据更加关注云的特性,包括云覆盖、云水当量、云分类数据。 数据网址在:CloudSat网址 …...

LDR6500 一拖三快充线的定义与特点
定义:LDR6500 一拖三快充线是一种具有 Type-C 接口的充电线,它的最大特点是可以同时连接三个设备进行快速充电。 特点: 高效充电:采用先进的快充技术,能够快速为设备充电,大大缩短充电时间。同时…...

Elasticsearch安装使用
ES 概述 Elasticsearch,简称为 ES,是一款非常强大的开源的高扩展的分布式全文检索引擎,可以帮助我们从海量数据中快速找到需要的内容,它可以近乎实时的存储、检索数据.还可以可以实现日志统计、分析、系统监控等功能. 官网:https://www.elast…...
计算机网络的主要知识点小结
计算机网络是指将多台计算机通过通信线路连接起来,实现资源共享和信息传递的系统。 一、计算机网络概述 1. 定义和功能 - 定义:计算机网络是将地理位置不同的具有独立功能的多台计算机及其外部设备,通过通信线路连接起来,在网络操…...
fastjson/jackson对getter,setter和constructor的区分
在复现完fastjson1.2.24-1.2.80和jackson的所有相关漏洞后,总结的一些规则 以下均指对json的反序列化过程 setter fastjson调用setter:遍历所有方法,找出所有满足setter要求的方法,再根据传入的json去反射调用 jackson调用set…...

简易版抽奖活动的设计技术方案
1.前言 本技术方案旨在设计一套完整且可靠的抽奖活动逻辑,确保抽奖活动能够公平、公正、公开地进行,同时满足高并发访问、数据安全存储与高效处理等需求,为用户提供流畅的抽奖体验,助力业务顺利开展。本方案将涵盖抽奖活动的整体架构设计、核心流程逻辑、关键功能实现以及…...
java调用dll出现unsatisfiedLinkError以及JNA和JNI的区别
UnsatisfiedLinkError 在对接硬件设备中,我们会遇到使用 java 调用 dll文件 的情况,此时大概率出现UnsatisfiedLinkError链接错误,原因可能有如下几种 类名错误包名错误方法名参数错误使用 JNI 协议调用,结果 dll 未实现 JNI 协…...

使用分级同态加密防御梯度泄漏
抽象 联邦学习 (FL) 支持跨分布式客户端进行协作模型训练,而无需共享原始数据,这使其成为在互联和自动驾驶汽车 (CAV) 等领域保护隐私的机器学习的一种很有前途的方法。然而,最近的研究表明&…...

ESP32读取DHT11温湿度数据
芯片:ESP32 环境:Arduino 一、安装DHT11传感器库 红框的库,别安装错了 二、代码 注意,DATA口要连接在D15上 #include "DHT.h" // 包含DHT库#define DHTPIN 15 // 定义DHT11数据引脚连接到ESP32的GPIO15 #define D…...

[ICLR 2022]How Much Can CLIP Benefit Vision-and-Language Tasks?
论文网址:pdf 英文是纯手打的!论文原文的summarizing and paraphrasing。可能会出现难以避免的拼写错误和语法错误,若有发现欢迎评论指正!文章偏向于笔记,谨慎食用 目录 1. 心得 2. 论文逐段精读 2.1. Abstract 2…...
使用van-uploader 的UI组件,结合vue2如何实现图片上传组件的封装
以下是基于 vant-ui(适配 Vue2 版本 )实现截图中照片上传预览、删除功能,并封装成可复用组件的完整代码,包含样式和逻辑实现,可直接在 Vue2 项目中使用: 1. 封装的图片上传组件 ImageUploader.vue <te…...
unix/linux,sudo,其发展历程详细时间线、由来、历史背景
sudo 的诞生和演化,本身就是一部 Unix/Linux 系统管理哲学变迁的微缩史。来,让我们拨开时间的迷雾,一同探寻 sudo 那波澜壮阔(也颇为实用主义)的发展历程。 历史背景:su的时代与困境 ( 20 世纪 70 年代 - 80 年代初) 在 sudo 出现之前,Unix 系统管理员和需要特权操作的…...
大模型多显卡多服务器并行计算方法与实践指南
一、分布式训练概述 大规模语言模型的训练通常需要分布式计算技术,以解决单机资源不足的问题。分布式训练主要分为两种模式: 数据并行:将数据分片到不同设备,每个设备拥有完整的模型副本 模型并行:将模型分割到不同设备,每个设备处理部分模型计算 现代大模型训练通常结合…...
根据万维钢·精英日课6的内容,使用AI(2025)可以参考以下方法:
根据万维钢精英日课6的内容,使用AI(2025)可以参考以下方法: 四个洞见 模型已经比人聪明:以ChatGPT o3为代表的AI非常强大,能运用高级理论解释道理、引用最新学术论文,生成对顶尖科学家都有用的…...

学校时钟系统,标准考场时钟系统,AI亮相2025高考,赛思时钟系统为教育公平筑起“精准防线”
2025年#高考 将在近日拉开帷幕,#AI 监考一度冲上热搜。当AI深度融入高考,#时间同步 不再是辅助功能,而是决定AI监考系统成败的“生命线”。 AI亮相2025高考,40种异常行为0.5秒精准识别 2025年高考即将拉开帷幕,江西、…...