当前位置: 首页 > article >正文

Netty 实战篇:为 Netty RPC 框架增加超时控制与重试机制,防止系统雪崩

本文介绍如何在自研 Netty RPC 框架中实现超时控制与重试机制。合理的超时策略可以避免调用卡死,重试机制可以提升调用成功率,在高可用系统中不可或缺。


一、为什么要有超时和重试?

RPC 是跨进程调用,失败是常态。常见问题包括:

  • 网络延迟或丢包

  • 对端服务故障或处理慢

  • 请求丢失、写超时或线程池满

没有超时控制会导致:

  • 客户端线程阻塞,资源耗尽

  • 请求堆积,引发服务雪崩

  • 用户体验极差,难以排查

✅ 因此,我们需要:

  • 对每次请求设置合理的超时时间(如 3s)

  • 请求失败时自动重试(如重试 1~3 次)


二、整体设计图

             ┌──────────────┐│ RpcClient    │└────┬─────────┘│┌────────────▼────────────┐│  Future/RpcResponseMap  │ <── 超时控制:Future 超时失效└────────────┬────────────┘│Netty Channel│┌─────────▼──────────┐│  RpcServerHandler  │└────────────────────┘

三、实现超时控制(基于 Future)

  1. 请求发出后,使用 CompletableFuture 持有结果。

  2. 设置 timeout,在时间内未响应即抛出异常。

  3. 使用定时任务清理过期请求。

public class RpcClient {private static final Map<String, CompletableFuture<RpcResponse>> FUTURE_MAP = new ConcurrentHashMap<>();public RpcResponse send(RpcRequest request, long timeoutMillis) throws Exception {CompletableFuture<RpcResponse> future = new CompletableFuture<>();FUTURE_MAP.put(request.getRequestId(), future);// 发起请求channel.writeAndFlush(request);// 超时处理return future.get(timeoutMillis, TimeUnit.MILLISECONDS);}public void receive(RpcResponse response) {CompletableFuture<RpcResponse> future = FUTURE_MAP.remove(response.getRequestId());if (future != null) {future.complete(response);}}
}

四、实现重试机制

在调用失败或超时时,自动进行 N 次重试(带间隔)。

public class RpcClientWithRetry {public RpcResponse sendWithRetry(RpcRequest req, int retryCount, long timeoutMillis) throws Exception {for (int i = 0; i < retryCount; i++) {try {return rpcClient.send(req, timeoutMillis);} catch (TimeoutException | ConnectException e) {log.warn("调用失败,第{}次重试", i + 1);Thread.sleep(100); // 简单退避}}throw new RuntimeException("RPC 调用重试失败");}
}

五、自动化封装

建议支持注解配置:

@RpcReference(retry = 3, timeout = 2000)
private HelloService helloService;

再在代理生成器中读取注解参数:

int retry = field.getAnnotation(RpcReference.class).retry();
long timeout = field.getAnnotation(RpcReference.class).timeout();

六、测试用例模拟超时重试

服务端代码故意 sleep:

@RpcService
public class HelloServiceImpl implements HelloService {public String hello(String name) {Thread.sleep(3000); // 模拟超时return "Hi " + name;}
}

客户端设置 timeout = 1000ms + retry = 2,观察日志:

WARN 调用失败,第1次重试
WARN 调用失败,第2次重试
ERROR 调用重试失败

七、可拓展建议

  • 指数退避重试(Exponential Backoff)

  • 熔断机制(见 Hystrix/Fuse)

  • 调用监控统计重试成功率

  • 精细化控制(按接口或服务维度配置)


八、总结

通过本篇内容,我们为 RPC 框架增强了健壮性保障机制:

✅ 自定义调用超时
✅ 请求级别自动重试
✅ 注解式参数配置
✅ 支持重试退避逻辑

相关文章:

Netty 实战篇:为 Netty RPC 框架增加超时控制与重试机制,防止系统雪崩

本文介绍如何在自研 Netty RPC 框架中实现超时控制与重试机制。合理的超时策略可以避免调用卡死&#xff0c;重试机制可以提升调用成功率&#xff0c;在高可用系统中不可或缺。 一、为什么要有超时和重试&#xff1f; RPC 是跨进程调用&#xff0c;失败是常态。常见问题包括&a…...

PDFGear——完全免费且功能强大的PDF处理软件

关键词 &#xff1a;PDFGear、免费、跨平台、多功能、OCR 概要 &#xff1a;PDFGear是一款完全免费且功能强大的PDF处理软件&#xff0c;支持Windows、macOS、iOS和Android等多平台使用。它集PDF阅读、编辑、格式转换、OCR识别及AI智能助手于一体&#xff0c;满足用户多样化文档…...

华为OD机试真题——生成哈夫曼树(2025A卷:100分)Java/python/JavaScript/C/C++/GO六种最佳实现

2025 A卷 100分 题型 本文涵盖详细的问题分析、解题思路、代码实现、代码详解、测试用例以及综合分析; 并提供Java、python、JavaScript、C++、C语言、GO六种语言的最佳实现方式! 本文收录于专栏:《2025华为OD真题目录+全流程解析/备考攻略/经验分享》 华为OD机试真题《生成…...

大厂前端研发岗位设计的30道Webpack面试题及解析

文章目录 一、基础核心二、配置进阶三、性能优化四、Loader原理五、Plugin机制六、高级应用七、工程化实战八、原理深挖九、异常处理十、综合场景一、基础核心 Webpack的核心概念是什么? 解析:入口(entry)、输出(output)、加载器(loader)、插件(plugins)、模式(mode)。Loader…...

Oracle中EXISTS NOT EXISTS的使用

目录 1.IN与EXISTS EXISTS用法总结 2.NOT IN与NOT EXISTS 3.not in 中 null的用法 4.EXISTS和IN的区别 (面试常问) 1.IN与EXISTS 示例&#xff1a;在 DEPT 表中找出在 EMP 表中存在的部门编号&#xff1b; 方法一&#xff1a;使用in select DEPTNO from DEPT where D…...

01.认识Kubernetes

什么是Kubernets 套用官方文档对Kubernetes的定义&#xff0c;翻译成中文的意思是&#xff1a; Kubernetes&#xff0c;也称为k8&#xff0c;是一个用于自动化部署、扩展和管理容器化应用程序的开源系统。 它将组成应用程序的容器分组为逻辑单元&#xff0c;以便于管理和发现…...

基于AI生成测试用例的处理过程

基于AI生成测试用例的处理过程是一个结合机器学习、自然语言处理&#xff08;NLP&#xff09;和领域知识的系统性流程。以下是其核心步骤和关键技术细节&#xff0c;以帮助理解如何利用AI自动化生成高效、覆盖全面的测试用例。 1. 输入分析与需求建模 目标 将用户需求、系统文…...

【PostgreSQL 02】PostgreSQL数据类型革命:JSON、数组与地理信息让你的应用飞起来

PostgreSQL数据类型革命&#xff1a;JSON、数组与地理信息让你的应用飞起来 关键词 PostgreSQL高级数据类型, JSONB, 数组类型, PostGIS, 地理信息系统, NoSQL, 文档数据库, 空间数据, 数据库设计, PostgreSQL扩展 摘要 PostgreSQL的高级数据类型是其区别于传统关系数据库的核心…...

Acrobat DC v25.001 最新专业版已破,像word一样编辑PDF!

在数字化时代&#xff0c;PDF文件以其稳定性和通用性成为了文档交流和存储的热门选择。无论是阅读、编辑、转换还是转曲&#xff0c;大家对PDF文件的操作需求日益增加。因此&#xff0c;一款出色的PDF处理软件不仅要满足多样化的需求&#xff0c;还要通过简洁的界面和强大的功能…...

tmux基本原理

目录 **一、核心架构&#xff1a;客户端-服务器模型****二、终端虚拟化&#xff1a;伪终端&#xff08;PTY&#xff09;****三、会话持久化原理****四、窗格分割的实现****五、关键系统调用****六、与传统终端对比****七、典型工作流示例****总结** tmux&#xff08;Terminal M…...

RAGFlow从理论到实战的检索增强生成指南

目录 前言 一、RAGFlow是什么&#xff1f;为何需要它&#xff1f; 二、RAGFlow技术架构拆解 三、实战指南&#xff1a;从0到1搭建RAGFlow系统 步骤1&#xff1a;环境准备 步骤2&#xff1a;数据接入 步骤3&#xff1a;检索与生成 四、优化技巧&#xff1a;让RAGFlow更精…...

【Java】ForkJoin 框架

在Java中&#xff0c;ForkJoin框架是并行编程的一个重要工具&#xff0c;它主要用于处理可以分解为多个子任务的复杂任务。ForkJoin框架的核心是ForkJoinPool&#xff0c;它是一个线程池&#xff0c;专门用于执行ForkJoinTask任务。通过将大任务分解为多个小任务&#xff0c;并…...

PHP实战:安全实现文件上传功能教程

HTML部分&#xff1a; <form action"upload.php" method"post" enctype"multipart/form-data"> <input type"file" name"userfile"> <input type"submit" value"上传"> <…...

桥 接 模 式

在玩游戏的时候我们常常会遇到这样的机制&#xff1a;我们可以随意选择不同的角色&#xff0c;搭配不同的武器。这时只有一个抽象上下文的策略模式就不那么适用了&#xff0c;因为一旦我们使用继承的方式&#xff0c;武器和角色总有一方会变得难以扩展。这时&#xff0c;我们就…...

基于 Flink+Paimon+Hologres 搭建淘天集团湖仓一体数据链路

摘要&#xff1a;本文整理自淘天集团高级数据开发工程师朱奥老师在 Flink Forward Asia 2024 流式湖仓论坛的分享。内容主要为以下五部分&#xff1a; 1、项目背景 2、核心策略 3、解决方案 4、项目价值 5、未来计划 01、项目背景 1.1 当前实时数仓架构 当前的淘天实时架构是从…...

多杆合一驱动城市空间治理智慧化

引言&#xff1a;城市“杆林困境”与智慧化破局 走在现代城市的街道上&#xff0c;路灯、监控、交通信号灯、5G基站等杆体林立&#xff0c;不仅侵占公共空间&#xff0c;更暴露了城市治理的碎片化问题。如何让这些“沉默的钢铁”升级为城市的“智慧神经元”&#xff1f;答案在…...

用QT写一个车速表

主要包含以下绘制步骤&#xff1a; 1、绘制画布&#xff1a; /** 绘制画布 */ void Widget::initCanvas(QPainter &painter) {//消除锯齿painter.setRenderHint(QPainter::Antialiasing,true);//设置底色painter.setBrush(QColor(0,0,0));painter.drawRect(rect());//平移…...

(19)java在区块链中的应用

&#x1f517; Java在区块链中的应用&#xff1a;智能合约开发全攻略 TL;DR: Java在区块链领域主要通过Hyperledger Fabric、Web3j和专用JVM实现智能合约开发&#xff0c;相比Solidity具有更强的企业级支持和开发效率&#xff0c;但在执行效率和Gas消耗方面存在差异&#xff0c…...

数控技术应用理实一体化平台VR实训系统

::产品概述:: 目前我国本科类院校学生普遍存在的问题就是缺少对实际工作的了解&#xff0c;一直在学习相关专业的理论知识&#xff0c;对社会的相关企业的用人情况不了解。这也就直接导致了毕业的学生和社会上的用人单位需求有点脱节&#xff0c;这也是由于我国的现行本科教育侧…...

C# 将HTML文档、HTML字符串转换为图片

在.NET开发中&#xff0c;将HTML内容转换为图片的需求广泛存在于报告生成、邮件内容存档、网页快照等场景。Free Spire.Doc for .NET作为一款免费的专业文档处理库&#xff0c;无需Microsoft Word依赖&#xff0c;即可轻松实现这一功能。本文将深入解析HTML文档和字符串转图片两…...

界面控件DevExpress WinForms v24.2新版亮点:富文本编辑器功能全新升级

DevExpress WinForms拥有180组件和UI库&#xff0c;能为Windows Forms平台创建具有影响力的业务解决方案。DevExpress WinForms能完美构建流畅、美观且易于使用的应用程序&#xff0c;无论是Office风格的界面&#xff0c;还是分析处理大批量的业务数据&#xff0c;它都能轻松胜…...

华为云Flexus+DeepSeek征文|华为云 Flexus X 加速 Dify 平台落地:高性能、低成本、强可靠性的云上选择

目录 前言 1 一键部署 Dify 平台的完整步骤 1.1 选择模板 1.2 参数配置 1.3 资源栈设置 1.4 配置确认与部署 2 Flexus X 服务器的技术优势 2.1 柔性算力随心配 2.2 一直加速一直快 2.3 越用越省降本多 2.4 安全可靠更放心 3 Flexus X 在 Dify 解决方案中的性能体验…...

Jenkins 2.479.1安装和邮箱配置教程

1.安装 在JDK安装并设置环境变量完成后&#xff0c;下载官网对应的war版本&#xff0c;在对应目录下打开命令行窗口并输入 java -jar jenkins.war其余参数感兴趣可以自行查阅&#xff0c;这里启动的 jenkins 服务默认占用8080端口&#xff0c;在浏览器输入 localhost:8080进入…...

MySQL 大战 PostgreSQL

一、底层架构对比 ​​维度​​​​MySQL​​​​PostgreSQL​​​​存储引擎​​多引擎支持&#xff08;InnoDB、MyISAM等&#xff09;单一存储引擎&#xff08;支持扩展如Zheap、Zedstore&#xff09;​​事务实现​​基于UNDO日志的MVCC基于堆表(Heap)的MVCC​​锁机制​​…...

DFS入门刷题c++

目录 821. 跳台阶 - AcWing题库 ​92. 递归实现指数型枚举 - AcWing题库 ​P1706 全排列问题 - 洛谷 (luogu.com.cn) P1157 组合的输出 - 洛谷 (luogu.com.cn) ​P1036 [NOIP 2002 普及组] 选数 - 洛谷 (luogu.com.cn) P2089 烤鸡 - 洛谷 (luogu.com.cn) P1088 [NOIP 2…...

ToolsSet之:十六进制及二进制编辑运算工具

ToolsSet是微软商店中的一款包含数十种实用工具数百种细分功能的工具集合应用&#xff0c;应用基本功能介绍可以查看以下文章&#xff1a; Windows应用ToolsSet介绍https://blog.csdn.net/BinField/article/details/145898264 ToolsSet中Number菜单下的Hex Operate工具可以进…...

服务器液冷:突破散热瓶颈,驱动算力革命的“冷静”引擎

在人工智能大模型训练、高性能计算和超密集数据中心爆发的时代&#xff0c;CPU/GPU芯片的功耗已突破千瓦大关&#xff0c;传统风冷散热捉襟见肘。液冷技术正从实验室走向数据中心核心&#xff0c;成为解锁更高算力密度的关键钥匙。本文将深度解析液冷技术的原理、方案与应用。 …...

1.2 HarmonyOS NEXT分布式架构核心技术解析

HarmonyOS NEXT分布式架构核心技术解析 在数字化浪潮中&#xff0c;HarmonyOS NEXT以其卓越的分布式架构&#xff0c;重塑了设备间协同交互的格局&#xff0c;为开发者开拓出全新的应用设计思路。本章节将深入剖析HarmonyOS NEXT分布式架构的三大核心技术&#xff0c;助力开发…...

【Python训练营打卡】day40 @浙大疏锦行

DAY 40 训练和测试的规范写法 知识点回顾&#xff1a; 1. 彩色和灰度图片测试和训练的规范写法&#xff1a;封装在函数中 2. 展平操作&#xff1a;除第一个维度batchsize外全部展平 3. dropout操作&#xff1a;训练阶段随机丢弃神经元&#xff0c;测试阶段eval模式关闭dropo…...

MCP Server的五种主流架构:从原理到实践的深度解析

&#x1f525;「炎码工坊」技术弹药已装填&#xff01; 点击关注 → 解锁工业级干货【工具实测|项目避坑|源码燃烧指南】 在AI大模型与外部数据交互的浪潮中&#xff0c;MCP Server&#xff08;Model Context Protocol Server&#xff09;已成为连接模型与现实世界的桥梁。本文…...