当前位置: 首页 > article >正文

接口限频算法:漏桶算法、令牌桶算法、滑动窗口算法

文章目录

  • 限频三大算法对比与选型建议
  • 一、漏桶算法(Leaky Bucket Algorithm)
    • 1.核心原理
    • 2.实现
    • 3.为什么要限制漏桶容量
    • 4.优缺点分析
  • 二、令牌桶算法(Token Bucket Algorithm)
    • 1.核心原理
    • 2.实现
      • (1)单机实现
      • (2)分布式实现
    • 3.优缺点分析
  • 三、滑动窗口算法(Sliding Window Algorithm)
    • 1.核心原理
    • 2.实现
    • 3.优缺点分析

限频三大算法对比与选型建议

维度漏桶算法令牌桶算法滑动窗口算法
流量平滑性强(固定速率)中(允许突发)弱(依赖窗口粒度)
实现复杂度简单中等(需处理令牌生成)中等(需处理窗口滑动)

一、漏桶算法(Leaky Bucket Algorithm)

1.核心原理

漏桶算法的核心是恒定速率输出,无论输入流量如何波动,输出始终保持稳定。其工作机制可类比为一个底部有固定孔径的水桶:

  • 输入:请求以任意速率流入桶中(如突发流量)。
  • 输出:桶以固定速率(如100请求/秒)处理请求,超出桶容量的请求直接丢弃。

2.实现

  • 实现:使用队列存储请求,通过定时任务以固定速率从队列中取出请求处理。若队列满则拒绝新请求。

在非单节点场景下,可使用消息队列中间件,或者Redis模拟队列,来实现这个算法。

3.为什么要限制漏桶容量

有容量限制 vs 无容量限制:对比分析

场景有容量限制(标准漏桶)无容量限制(无限漏桶)
流量平滑效果✅ 稳定输出,突发请求被缓存或丢弃✅ 稳定输出(但突发请求全部缓存)
内存/缓冲区占用🟡 有限占用(取决于桶容量)❌ 可能无限占用,导致OOM(内存溢出)
突发流量处理🟡 超过容量的请求被丢弃,保护下游系统❌ 缓存所有请求,下游可能被持续高负载拖垮
适用场景真实系统(如API接口限频、网络流量控制)理论场景(无实际意义,无法用于生产环境)

4.优缺点分析

  • 优点
    • 绝对平滑:严格控制输出速率,适合对稳定性要求极高的场景(如金融交易接口)。
    • 实现简单:只需维护队列和固定速率处理器,无需复杂逻辑。
  • 缺点
    • 资源浪费:突发流量会被直接丢弃,无法利用系统空闲资源。
    • 灵活性差:无法区分请求优先级,所有超额请求同等处理。

二、令牌桶算法(Token Bucket Algorithm)

1.核心原理

令牌桶算法通过令牌生成与消耗实现限流,允许一定程度的突发流量:

  • 令牌生成:系统以固定速率(如100令牌/秒)向桶中添加令牌,桶容量上限为burst_size(如200令牌)。
  • 请求处理:每个请求需消耗一个令牌,无令牌则拒绝。若桶满,新生成的令牌会被丢弃。

2.实现

(1)单机实现

Guava的RateLimiter采用令牌桶算法,支持动态调整速率和突发容量。

RateLimiter rateLimiter = RateLimiter.create(100.0); // 每秒生成100令牌
if (rateLimiter.tryAcquire()) { // 尝试获取令牌// 处理请求
} else {// 限流
}

(2)分布式实现

在分布式系统中,可以利用 Redis 的原子操作和 Lua 脚本来实现一个线程安全的令牌桶。

  • 使用 Redis 实现令牌桶的关键在于:
    • 使用原子操作保证令牌增减的线程安全
    • 实现令牌的自动生成逻辑
    • 高效地判断是否允许请求通过
原子操作
允许
拒绝
获取令牌数与时间戳
执行Lua脚本
计算时间差
计算新生成令牌数
计算当前可用令牌数
判断是否足够?
消耗令牌
拒绝请求
更新Redis状态
返回处理结果
客户端请求
获取当前时间戳
拼接Redis键
是否允许?
执行业务逻辑
返回限流响应

3.优缺点分析

  • 优点
    • 支持突发流量:允许短时间内消耗桶内累积的令牌,提升资源利用率(如电商秒杀)。
    • 参数灵活:可通过调整rate(平均速率)和burst_size(突发容量)平衡平滑性与突发性。
  • 缺点
    • 实现复杂度较高:需维护令牌生成、存储和消耗逻辑。
    • 流量尖刺风险:突发流量可能瞬间耗尽令牌,导致后续请求被拒绝。

三、滑动窗口算法(Sliding Window Algorithm)

1.核心原理

滑动窗口算法通过时间窗口划分与计数实现限流,精度随窗口细分而提升:

  • 窗口划分:将时间轴划分为多个固定长度的子窗口(如1秒划分为10个0.1秒的子窗口)。
  • 计数与滑动:统计当前窗口内的请求数,当窗口滑动时,旧子窗口的计数逐渐过期。

2.实现

在分布式系统中,可以利用 Redis 的原子操作和 Lua 脚本来实现一个这个算法。

Redis Lua脚本逻辑
获取窗口内所有时间戳
通过Lua脚本操作Redis
移除过期时间戳< current_time - T
添加当前时间戳到窗口
统计窗口内时间戳数量
判断数量是否超过阈值N
客户端请求
获取当前时间戳
生成窗口键key
拒绝请求
允许请求

3.优缺点分析

  • 优点
    • 时间敏感性强:可精确控制时间维度的请求频率(如“每分钟最多100次”)。
    • 动态调整窗口:支持秒级、分钟级等不同粒度的限流规则。
  • 缺点
    • 临界问题:窗口切换时可能出现双倍请求(如0.9秒和1.1秒各发100次)。
    • 分布式同步成本:需依赖Redis等分布式缓存,引入额外延迟。

相关文章:

接口限频算法:漏桶算法、令牌桶算法、滑动窗口算法

文章目录 限频三大算法对比与选型建议一、漏桶算法&#xff08;Leaky Bucket Algorithm&#xff09;1.核心原理2.实现3.为什么要限制漏桶容量4.优缺点分析 二、令牌桶算法&#xff08;Token Bucket Algorithm&#xff09;1.核心原理2.实现&#xff08;1&#xff09;单机实现&am…...

Spring Boot 3.3 + MyBatis 基础教程:从入门到实践

Spring Boot 3.3 MyBatis 基础教程&#xff1a;从入门到实践 在当今的Java开发领域&#xff0c;Spring Boot和MyBatis是构建高效、可维护的后端应用的两个强大工具。Spring Boot简化了Spring应用的初始搭建和开发过程&#xff0c;而MyBatis则提供了一种灵活的ORM&#xff08;…...

征文投稿:如何写一份实用的技术文档?——以软件配置为例

&#x1f4dd; 征文投稿&#xff1a;如何写一份实用的技术文档&#xff1f;——以软件配置为例 目录 [TOC](目录)&#x1f9ed; 技术文档是通往成功的“说明书”&#x1f4a1; 一、明确目标读者&#xff1a;他们需要什么&#xff1f;&#x1f4cb; 二、结构清晰&#xff1a;让读…...

【后端】RPC

不定期更新。 定义 RPC 是 Remote Procedure Call 的缩写&#xff0c;中文通常翻译为远程过程调用。作用 简化分布式系统开发。实现微服务架构&#xff0c;便于模块化、复用。提高系统性能和可伸缩性。提供高性能通信、负载均衡、容错重试机制。 在现代分布式系统、微服务架构…...

详细讲解Flutter GetX的使用

Flutter GetX 框架详解&#xff1a;状态管理、路由与依赖注入 GetX 是 Flutter 生态中一款强大且轻量级的全功能框架&#xff0c;集成了状态管理、路由管理和依赖注入三大核心功能。其设计理念是简洁高效&#xff0c;通过最小的代码实现最大的功能&#xff0c;特别适合快速开发…...

ReLU 新生:从死亡困境到强势回归

背景 在深度学习领域&#xff0c;激活函数的探索已成为独立研究课题。诸如 GELU、SELU 和 SiLU 等新型激活函数&#xff0c;因具备平滑梯度与出色的收敛特性&#xff0c;正备受关注。经典 ReLU 凭借简洁性、固有稀疏性及其独特优势拓扑特性&#xff0c;依旧受青睐。然而&#…...

tensorflow image_dataset_from_directory 训练数据集构建

以数据集 https://www.kaggle.com/datasets/vipoooool/new-plant-diseases-dataset 为例 目录结构 训练图像数据集要求&#xff1a; 主目录下包含多个子目录&#xff0c;每个子目录代表一个类别。每个子目录中存储属于该类别的图像文件。 例如 main_directory/ ...cat/ ...…...

QuickJS 如何发送一封邮件 ?

参阅&#xff1a;bellard.org‌ : QuickJS 如何使用 qjs 执行 js 脚本 在 QuickJS 中发送邮件需要依赖外部库或调用系统命令&#xff0c;因为 QuickJS 本身不包含 SMTP 功能。以下是两种实现方法&#xff1a; 方法 1&#xff1a;调用系统命令&#xff08;推荐&#xff09; 使…...

clickhouse 和 influxdb 选型

以下是 ClickHouse、InfluxDB 和 HBase 在体系架构、存储引擎、数据类型、性能及场景的详细对比分析: 🏗️ ‌一、体系架构对比‌ ‌维度‌‌ClickHouse‌‌InfluxDB‌‌HBase‌‌设计目标‌大规模OLAP分析,高吞吐复杂查询 时序数据采集与监控,优化时间线管理高吞吐随机…...

GOOUUU ESP32-S3-CAM 果云科技开发板开发指南(一)(超详细!)Vscode+espidf 通过摄像头拍摄照片并存取到SD卡中,文末附源码

看到最近好玩的开源项目比较多&#xff0c;就想要学习一下esp32的开发&#xff0c;目前使用比较多的ide基本上是arduino、esp-idf和platformio&#xff0c;前者编译比较慢&#xff0c;后两者看到开源大佬的项目做的比较多&#xff0c;所以主要学习后两者。 本次使用的硬件是GO…...

C++学习思路

C++知识体系详细大纲 一、基础语法 (一)数据类型 基本数据类型 整数类型(int, short, long, long long)浮点类型(float, double, long double)字符类型(char, wchar_t, char16_t, char32_t)布尔类型(bool)复合数据类型 数组结构体(struct)联合体(union)枚举类型…...

全流程开源!高德3D贴图生成系统,白模一键生成真实感纹理贴图

导读 MVPainter 随着3D生成从几何建模迈向真实感还原&#xff0c;贴图质量正逐渐成为决定3D资产视觉表现的核心因素。我们团队自研的MVPainter系统&#xff0c;作为业内首个全流程开源的3D贴图生成方案&#xff0c;仅需一张参考图与任意白模&#xff0c;即可自动生成对齐精确…...

使用Conda管理服务器多版本Python环境的完整指南

在服务器环境中管理多个Python版本是开发者和系统管理员常见的需求&#xff0c;尤其是当不同项目依赖特定版本的Python时。本文将重点介绍如何通过Conda实现多版本Python的隔离与管理&#xff0c;确保服务器环境的稳定性和灵活性。 为什么需要多版本Python管理&#xff1f; 服…...

html 滚动条滚动过快会留下边框线

滚动条滚动过快时&#xff0c;会留下边框线 但其实大部分时候是这样的&#xff0c;没有多出边框线的 滚动条滚动过快时留下边框线的问题通常与滚动条样式和滚动行为有关。这种问题可能出现在使用了自定义滚动条样式的情况下。 注意&#xff1a;使用方法 6 好使&#xff0c;其它…...

数据通信与计算机网络——数据与信号

主要内容 模拟与数字 周期模拟信号 数字信号 传输减损 数据速率限制 性能 注&#xff1a;数据必须被转换成电磁信号才能进行传输。 一、模拟与数字 数据以及表示数据的信号可以使用模拟或者数字的形式。数据可以是模拟的也可以是数字的&#xff0c;模拟数据是连续的采用…...

【LLM大模型技术专题】「入门到精通系列教程」LangChain4j与Spring Boot集成开发实战指南

LangChain4j和SpringBoot入门指南 LangChain4jLangchain4j API语言模型消息类型内存对象ChatMemory接口的主要实现设置 API 密钥SpringBoot Configuration配置ChatLanguageModelStreamingChatLanguageModel初始化ChatModel对象模型配置分析介绍说明通过JavaConfig创建ChatModel…...

Flask 基础与实战概述

一、Flask 基础知识 什么是 Flask? Flask 是一个基于 Python 的轻量级 Web 框架(微框架)。 特点:核心代码简洁,给予开发者更多选择空间。 与 Django 对比: Django 创建空项目生成多个文件,Flask 仅需一个文件即可实现简单应用(如 "Hello, World!")。 Flask …...

东芝Toshiba e-STUDIO2110AC打印机信息

基本信息 产品类型&#xff1a;数码复合机颜色类型&#xff1a;彩色涵盖功能&#xff1a;复印、打印、扫描接口类型&#xff1a;标配为 Ethernet&#xff08;RJ45&#xff09;10/100/1000BASE - T、USB2.0 高速&#xff1b;选配为 Wireless Lan、IEEE802.11b/g/n、blueteeth。中…...

Vue3 GSAP动画库绑定滚动条视差效果 绑定滚动条 滚动条动画 时间轴

介绍 GSAP 用于创建高性能、可控制的动画效果。由 GreenSock 团队开发&#xff0c;旨在提供流畅、快速、稳定的动画效果&#xff0c;并且兼容各种浏览器。 提供了多个插件&#xff0c;扩展了动画的功能&#xff0c;如 ScrollTrigger&#xff08;滚动触发动画&#xff09;、Dra…...

grafana-mcp-analyzer:基于 MCP 的轻量 AI 分析监控图表的运维神器!

还在深夜盯着 Grafana 图表手动排查问题&#xff1f;今天推荐一个让 AI 能“读图说话”的开源神器 —— grafana-mcp-analyzer。 想象一下这样的场景&#xff1a; 凌晨3点&#xff0c;服务器告警响起。。。你睁着惺忪的眼睛盯着复杂的监控图表 &#x1f635;‍&#x1f4ab;花…...

git commit 执行报错 sh: -/: invalid option

目录 目录 1. 检查 Git 钩子脚本&#xff08;核心步骤&#xff09;2. 临时绕过钩子&#xff08;快速提交&#xff09;3. 修复钩子依赖环境4. 重新初始化 Husky&#xff08;如适用&#xff09;5. 验证用户配置 Tips&#xff1a; 如果是 clone 下来的新项目直接进行 步骤 4 。…...

uniapp 设置手机不息屏

在使用 UniApp 开发应用时&#xff0c;有时需要在设备长时间未操作时实现息屏保护功能&#xff0c;以节省电量和保护屏幕。以下是如何在 UniApp 中实现这一功能的步骤。 示例一 // 保持屏幕常亮 uni.setKeepScreenOn({keepScreenOn: true });// 监听应用进入后台事件 uni.onH…...

【题解-洛谷】B3622 枚举子集(递归实现指数型枚举)

题目&#xff1a;B3622 枚举子集&#xff08;递归实现指数型枚举&#xff09; 题目描述 今有 n n n 位同学&#xff0c;可以从中选出任意名同学参加合唱。 请输出所有可能的选择方案。 输入格式 仅一行&#xff0c;一个正整数 n n n。 输出格式 若干行&#xff0c;每行…...

(LeetCode 每日一题)3170. 删除星号以后字典序最小的字符串(贪心+栈)

题目&#xff1a;3170. 删除星号以后字典序最小的字符串 思路&#xff1a;贪心栈&#xff0c;时间复杂度0(n)。 对于每一个‘ * ’&#xff0c;优先选最右边的最小字符&#xff0c;才会使最终得到的字符串最小。 用栈&#xff0c;来记录每个字符的位置下标。细节看注释。 C版本…...

Protobuf 中的类型查找规则

a.proto syntax "proto2"; //protoc3生成代码兼容proto2语法 package pkgA; message Example { }ba.proto package pkgB.pkgA; message Example { }b.proto syntax "proto3"; //protoc3生成代码兼容proto2语法 package pkgB; import "test1/a.pr…...

Python项目中添加环境配置文件

在Python项目中添加配置文件有多种方式&#xff0c;每种方式对应不同的依赖包和读取方法。以下是 7种主流配置管理方案&#xff0c;包含安装命令、配置示例和变量读取方法&#xff1a; 1. .env 文件&#xff08;推荐简单项目&#xff09; 依赖包: python-dotenv pip install …...

【区块链基础】区块链的 Fork(分叉)深度解析:原理、类型、历史案例及共识机制的影响

区块链的 Fork(分叉)全面解析:原理、类型、历史案例及共识机制的影响 在区块链技术的发展过程中,Fork(分叉)现象是不可避免且极具影响力的一个环节。理解区块链分叉的形成原因、具体表现以及共识机制对分叉的作用,对于深入把握区块链技术架构及其治理机制至关重要。 本…...

IOS 打包账号发布上传和IOS Xcode证书配置

xcode下载 https://developer.apple.com/download/all/ App发布 https://appstoreconnect.apple.com/ https://appstoreconnect.apple.com/teams/83ba877c-af24-4fa5-aaf2-e9b9b6066e82/apps/6473148620/testflight/groups/eb983352-b2e2-4c29-bbb7-071bf7287795 https://devel…...

使用 HTML + JavaScript 实现文章逐句高亮朗读功能

在这个信息爆炸的时代&#xff0c;我们每天都要面对大量的文字阅读。无论是学习、工作还是个人成长&#xff0c;阅读都扮演着至关重要的角色。然而&#xff0c;在快节奏的生活中&#xff0c;我们往往难以找到足够的安静时间专注于阅读。本文用 HTML JavaScript 实现了一个基于…...

【CSS-4】掌握CSS文字样式:从基础到高级技巧

文字是网页内容的核心载体&#xff0c;良好的文字样式设计不仅能提升可读性&#xff0c;还能增强网站的整体视觉效果。本文将全面介绍CSS中控制文字样式的各种属性和技巧&#xff0c;帮助您打造专业级的网页排版。 1. 基础文字属性 1.1 字体设置 (font-family) body {font-f…...