当前位置： 首页 > news >正文

Netty基础

news 2025/11/5 23:43:43

Netty基础

  • 一级目录
    • I/O请求基础知识
      • Netty如何实现自己的I/O模型
    • 网络框架的选型
  • Netty整体架构
    • Netty逻辑处理架构
      • 网络通信层
      • 事件调度层
      • 服务编排层
    • 组件关系梳理
    • Netty源码结构

netty是目前最流行的一款高性能java网络编程框架，广泛使用于中间件、直播、社交、游戏等领域。
是Dubbo、RocketMQ、Elasticsearch、Hbase等

netty的高性能表现在哪些方面？
netty中有哪些重要组件，他们之间的联系
netty的内存池、对象池是如何设计的
针对netty有哪些印象深刻的系统调优案例

一级目录

netty对于：数据编解码、拆包/粘包、TCP断线重连

提供了现成的解决方案
遇到问题可以在社区讨论
netty的迭代周期短修复问题快
可靠性和健壮性

在这里插入图片描述

为什么选择netty
I/O模型、线程模型和事件处理机制
易用性API接口
对数据协议、序列化的支持

I/O请求基础知识

  • I/O调用阶段：用户进程向内核发起系统调用
  • I/O执行阶段：内核等待I/O请求处理完成返回

在这里插入图片描述
Linux的五种I/O模式

  1. 同步阻塞I/O（BIO）
    在这里插入图片描述

  2. 同步非阻塞I/O（NIO）
    在这里插入图片描述

  3. I/O多路复用
    在这里插入图片描述

  4. 信号驱动I/O
    在这里插入图片描述

  5. 异步I/O

Netty如何实现自己的I/O模型

基于非阻塞I/O实现
底层依赖的是JDK NIO框架的多路复用器Selector
一个多路复用器Selector可以同时轮询多个Channel

在I/O多路复用的场景下，当有数据处于就绪状态后，需要一个事件分发器（Event Dispather）
负责将读写事件分发给对应的读写事件处理器（Event Handler）
事件分发器有两种设计模式
Reactor（采用同步I/O）和Proactor（采用异步I/O）

netty采用主从reactor多线程模型，所有的I/O事件都注册到一个I/O多路复用器上，当有I/O事件就绪后I/O多路复用器会将该I/O事件通过事件分发器，分发到对应的事件处理器中，该线程模型避免了同步问题以及多线程切换带来的资源开销，真正做到高性能低延迟
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
更低的资源消耗：
面临大量的网络对象创建和销毁的问题

  • 对象池复用技术
  • 零拷贝技术

网络框架的选型

在这里插入图片描述

Netty整体架构

在这里插入图片描述
主要分为三个模块：
Core核心层
提供底层网络通信的通用抽象和实现，包括可扩展的事件模型、通用的通信API、支持零拷贝的ByteBuf等
Protocol Support 协议支持层
覆盖了主流协议的编解码实现，如HTTP、SSL、Protobuf、压缩、大文件传输、WebSocket、文本、二进制等
支持自定义应用层协议
TransportService传输服务层
传输服务层提供了网络传输能力的定义和实现方法，支持Socket、HTTP隧道、虚拟机管道等传输方式
netty的模块设计具有较高的通用性和可扩展性

Netty逻辑处理架构

在这里插入图片描述

网络通信层

职责是执行网络I/O的操作，支持多种网络协议和I/O模型的连接操作
4
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

事件调度层

通过Reactor线程模型对各类事件进行聚合处理
通过Selector主循环线程集成多种事件
核心组件包括EventLoopGroup、EventLoop

在这里插入图片描述
eventLoopGroup本质是一个线程池，主要负责接收I/O请求，并分配线程执行处理请求

  1. 一个eventLoopGroup往往包含一个或多个EventLoop，EventLoop用于处理channel生命周期内的所有I/O事件，如accept、read、write等等
  2. EventLoop同一个时间会与一个线程绑定，每个EventLoop负责处理多个channel
  3. 每新建一个channel，EventLoopGroup会选择一个EventLoop与其绑定，该channel在生命周期内都可以对eventLoop进行多次绑定和解绑

在这里插入图片描述
EventLoopGroup是Netty Reactor线程模型的具体实现方式
在这里插入图片描述
事件调度层负责监听网络连接和读写操作，然后触发各种类型的网络事件，需要一种机制管理这种错综复杂的事件，并有序地执行

服务编排层

负责组装各类服务，用以实现网络事件的动态编排和有序传播
在这里插入图片描述
ChannelPipeline负责组装各种ChannelHandler
实际数据的编解码以及加工处理操作由ChannelHandler完成

当I/O读写事件触发时，ChannelPipeline会依次调用ChannelHandle列表对Channel的数据进行拦截和处理
ChannelPipeline是线程安全的，因为每一个新的Channel会对应绑定一个新的ChannelPipeline
一个ChannelPipeline关联一个EventLoop，一个EventLoop仅会绑定一个线程

在这里插入图片描述
以客户端为例：数据从客户端发往服务端，该过程称为出站，反之为入站
数据入站有一系列InboundHandler处理，再以一系列相反方向的outboundHandler处理后完成出站，我们经常使用的编码encoder是编码操作，解码decoder是入站操作

服务端接收到客户端数据后，需要先经过decoder入站处理后，再通过encoder出站通知客户端
在这里插入图片描述
在这里插入图片描述
每创建一个Channel都会绑定一个新的ChannelPipeline；
ChannelPIpeline中每加入一个ChannelHandler都会绑定一个ChannelHandleContext

每个Handler绑定Context的作用是什么？

  1. context 用于保存ChannelHandler上下文，通过它可以知道ChannelPipeline和ChannelHandler的关联关系
  2. context实现了ChannelHandler之间的交互
  3. context包含了ChannelHandler生命周期的所有事件，如connect、bind、read、flush、write、close等
    在这里插入图片描述

组件关系梳理

在这里插入图片描述

Netty源码结构

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

相关文章：

Netty基础

Netty基础 一级目录I/O请求基础知识Netty如何实现自己的I/O模型 网络框架的选型 Netty整体架构Netty逻辑处理架构网络通信层事件调度层服务编排层 组件关系梳理Netty源码结构 netty是目前最流行的一款高性能java网络编程框架，广泛使用于中间件、直播、社交、游戏等领…...

编程日记 2024/10/16 18:19:36

602，好友申请二：谁有最多的好友

好友申请二：谁有最多的好友 实现 with tmp as (selectrequester_id idfrom RequestAcceptedunion allselectaccepter_id idfrom RequestAccepted )selectid,count(*) num from tmp group by id order by num desc limit 1;...

编程日记 2024/10/16 18:18:35

【Matlab算法MATLAB实现的音频信号时频分析与可视化（附MATLAB完整代码）

MATLAB实现的音频信号时频分析与可视化 前言正文：时频分析实现原理代码实现代码运行结果图及说明结果图：结果说明：总结前言 音频信号的时频分析是信号处理领域中的一个重要研究方向。它允许我们同时观察信号在时间和频率域的特性，为音频处理、语音识别、音乐分析等应用提供…...

编程日记 2024/10/16 18:14:31

界面耻辱纪念堂--可视元素03

更多的迹象表明，关于在程序里使用新的动态界面元素，微软的态度是不确定的，其中一个是仅仅需要对比一下Office97 里的“Coolbars”和“标准工具条”。Coolbar 按钮直到用户指针通过的时候才成为按钮（否则是平的）。 工具…...

编程日记 2024/10/16 18:13:31

国产龙芯处理器选择迅为2K1000开发板有资料

硬件配置国产龙芯处理器，双核64位系统，板载2G DDR3内存，流畅运行Busybox、Buildroot、Loognix、QT5.12 系统!接口全板载4路USB HOST、2路千兆以太网、2路UART、2路CAN总线、Mini PCIE、SATA固态盘接口、4G接口、GPS接口WIF1、蓝牙、Mini HDMI…...

编程日记 2024/10/16 18:12:29

MySQL 命令（持续更新）

将 MySQL 命令结果输出到文件中 通过 k8s MySQL pod 里的客户端连接到 MySQL 服务器 kubectl exec mysql-pod -- mysql -hx.x.x.x -uroot -proot -e SELECT * FROM db.table; > result.txt通过 k8s MySQL pod 的客户端连接 MySQL 服务器，直接进入到 MySQL 客户端…...

编程日记 2024/10/16 18:11:28

Linux下Docker方式Jenkins安装和配置

一、下载&安装 Jenkins官方Docker仓库地址：https://hub.docker.com/r/jenkins/jenkins 从官网上可以看到，当前最新的稳定版本是 jenkins/jenkins:lts-jdk17。建议下在新的，后面依赖下不来 所以，我们这里，执行doc…...

编程日记 2024/10/16 18:10:27

低代码框架参考

企业管理信息系统作为一类重要的应用软件系统，具有自己的特点，主要有两个方面： 1. 系统规模大，目前市场上常见的ERP系统一般都有几千个页面。 2. 页面逻辑相似性强。经过比较可以发现，大部分页面具有类似的功能&…...

编程日记 2024/10/16 18:08:25

2024 年 9 月区块链游戏研报：行业回暖，Telegram 游戏引发热潮

作者：Stella L (stellafootprint.network) 数据来源：Footprint Analytics Games Research Page 9 月份，区块链游戏代币的市场总值增长了 29.2%，达到 232 亿美元，日活跃用户（DAU）数量上升了 1…...

编程日记 2024/10/16 18:07:24

python爬虫登录校验之滑块验证、图形验证码（OCR）

在爬虫过程中，验证码和滑块验证是常见的反爬措施。针对这些挑战，通常采用OCR识别图形验证码和模拟滑块拖动来处理滑块验证。以下是如何处理这两种类型验证的详细方法。 1. 图形验证码（OCR） a. 使用 tesserocr 和 Pillow 处理图形…...

编程日记 2024/10/16 18:06:23

（一）Python程序结构

1、Python写模块 使用缩进分层来写模块； 2、缩进规范 最好使用同一种缩进方式，统一使用tab或者空格键； 3、换行符：\n； print("窗前明月光\n疑似地上霜") 4、续行符号：\； 注意1…...

编程日记 2024/10/16 18:05:21

二叉树——相同的树

还是应用递归的思想，将这个问题拆分为三个部分，第一：当两棵树均为空树，或者访问到最后的子树时均为空树时，则返回true。第二：当两棵树中其中一棵树为空树，另一棵树不是空树，证明两棵…...

编程日记 2024/10/16 18:03:19

探秘 1688 商品详情接口：高并发批量采集的实战攻略

在进行 1688 商品详情接口批量采集并考虑高并发使用时，你可以从以下几个方面着手： 一、技术选型 选择合适的编程语言和框架：例如 Python 的 Scrapy 框架或者 Java 的 Spring Boot 结合相关爬虫库等，这些工具可以帮助你高效地实现…...

编程日记 2024/10/16 18:01:18

【C语言】sizeof

tmp_buf = (char *)malloc(size)不可以直接使用`sizeof`来查看动态分配内存的大小。在C语言中，`sizeof`操作符是在编译时确定类型或对象的大小，并不能用于动态获取malloc分配的内存大小。 下面解释为什么不能用`sizeof(tmp_buf)`查看动态分配的内存大小： 1. 编译时 vs 运行时…...

编程日记 2024/10/16 18:00:16

2024-10-15 问AI: [AI面试题] 人工智能中使用了哪些不同的搜索算法？

文心一言 人工智能中使用了多种不同的搜索算法来解决问题，这些算法各有特点，适用于不同的场景和问题类型。以下是一些常见的人工智能搜索算法： 深度优先搜索（DFS）： 是一种基于树或图的搜索算法。核心思想是…...

编程日记 2024/10/16 17:59:15

2024 年 04 月编程语言排行榜，PHP 排名创新低？

编程语言的流行度总是变化莫测，每个月的排行榜都揭示着新的趋势。2024年4月的编程语言排行榜揭示了一个引人关注的现象：PHP的排名再次下滑，创下了历史新低。这种变化对于PHP开发者和整个技术社区来说，意味着什么呢？ P…...

编程日记 2024/10/16 17:58:13

Element中el-table组件设置max-height右侧出现空白列的解决方法

之前就出现过这个情况，没理过，因为不影响啥除了不美观...但今天看着实在是难受，怎么都不顺眼(可能是我自己烦躁--) 试了很多网上的方法，都不得行，后面发现了这篇文章，解决了! 感谢！ Element中t…...

编程日记 2024/10/16 17:50:05

unity学习-全局光照（GI）

在全局光照（Lighting）界面有两个选项 Realtime Light（实时光照）：在项目中会提前计算好光照以及阴影的程序，当你需要调用实时全局光照的时候会将程序调用出来使用 Mixed Light（烘焙光照&#x…...

编程日记 2024/10/16 17:47:00

记录Centos7 漫漫配置路

记录Centos7 漫漫配置路 一、 配置源二、 clinfo三、 PCL 配置1. 依赖2. eigen3. boost4. flann5. pcl 四、YAML-CPP五、 miniconda 安装 python3.6 和 pytorch六、libbot 配置1. 容易安装的依赖2. 需要源码安装的依赖3. [libbot](https://github.com/libbot2/libbot2) 简单地说…...

编程日记 2024/10/16 17:45:59

论文 | OpenICL: An Open-Source Framework for In-context Learning

主要内容： 2. 提供多种 ICL 方法： 3. 完整的教程： 4. 评估和验证： 背景： 随着大型语言模型 (LLM) 的发展，上下文学习 (ICL) 作为一种新的评估范式越来越受到关注。问题： ICL 的实现复杂&#xf…...

编程日记 2024/10/16 17:44:57

龙虎榜——20250610

上证指数放量收阴线，个股多数下跌，盘中受消息影响大幅波动。 深证指数放量收阴线形成顶分型，指数短线有调整的需求，大概需要一两天。 2025年6月10日龙虎榜行业方向分析 1. 金融科技 代表标的：御银股份、雄帝科技 驱动…...

编程新知 2025/11/5 7:59:10

网络六边形受到攻击

大家读完觉得有帮助记得关注和点赞！！！ 抽象 现代智能交通系统 （ITS） 的一个关键要求是能够以安全、可靠和匿名的方式从互联车辆和移动设备收集地理参考数据。Nexagon 协议建立在 IETF 定位器/ID 分离协议 （…...

编程新知 2025/11/4 3:06:30

业务系统对接大模型的基础方案：架构设计与关键步骤

业务系统对接大模型：架构设计与关键步骤 在当今数字化转型的浪潮中，大语言模型（LLM）已成为企业提升业务效率和创新能力的关键技术之一。将大模型集成到业务系统中，不仅可以优化用户体验，还能为业务决策提供…...

编程新知 2025/11/3 20:37:55

深入剖析AI大模型：大模型时代的 Prompt 工程全解析

今天聊的内容，我认为是AI开发里面非常重要的内容。它在AI开发里无处不在，当你对 AI 助手说 "用李白的风格写一首关于人工智能的诗"，或者让翻译模型 "将这段合同翻译成商务日语" 时，输入的这句话就是 Prompt。…...

编程新知 2025/10/30 20:34:49

（二）TensorRT-LLM | 模型导出（v0.20.0rc3）

0. 概述 上一节 对安装和使用有个基本介绍。根据这个 issue 的描述，后续 TensorRT-LLM 团队可能更专注于更新和维护 pytorch backend。但 tensorrt backend 作为先前一直开发的工作，其中包含了大量可以学习的地方。本文主要看看它导出模型的部分&#x…...

编程新知 2025/11/2 16:08:18

基础测试工具使用经验

背景 vtune，perf, nsight system等基础测试工具，都是用过的，但是没有记录，都逐渐忘了。所以写这篇博客总结记录一下，只要以后发现新的用法，就记得来编辑补充一下 perf 比较基础的用法： 先改这…...

编程新知 2025/9/18 15:40:29

从零实现STL哈希容器：unordered_map/unordered_set封装详解

本篇文章是对C学习的STL哈希容器自主实现部分的学习分享 希望也能为你带来些帮助~ 那咱们废话不多说&#xff0c;直接开始吧&#xff01; 一、源码结构分析 1. SGISTL30实现剖析 // hash_set核心结构 template <class Value, class HashFcn, ...> class hash_set {ty…...

编程新知 2025/11/1 20:53:34

06 Deep learning神经网络编程基础 激活函数 --吴恩达

深度学习激活函数详解 一、核心作用 引入非线性：使神经网络可学习复杂模式控制输出范围：如Sigmoid将输出限制在(0,1)梯度传递：影响反向传播的稳定性二、常见类型及数学表达 Sigmoid σ ( x ) = 1 1 +...

编程新知 2025/10/2 18:05:53

select、poll、epoll 与 Reactor 模式

在高并发网络编程领域&#xff0c;高效处理大量连接和 I/O 事件是系统性能的关键。select、poll、epoll 作为 I/O 多路复用技术的代表&#xff0c;以及基于它们实现的 Reactor 模式&#xff0c;为开发者提供了强大的工具。本文将深入探讨这些技术的底层原理、优缺点。​ 一、I…...

编程新知 2025/11/3 20:14:40

回溯算法学习

一、电话号码的字母组合 import java.util.ArrayList; import java.util.List;import javax.management.loading.PrivateClassLoader;public class letterCombinations {private static final String[] KEYPAD {"", //0"", //1"abc", //2"…...

编程新知 2025/10/25 15:52:58