Netty内存管理--内存池空间规格化SizeClasses
一、规格化
内存池类似于一个内存零售商, 从操作系统中申请一整块内存, 然后对其进行合理分割, 将分割后的小内存返回给程序。这里存在3个尺寸:
- 分割尺寸: 底层内存管理的基本单位, 比如常见的以页为单位分配, 但是页的大小是灵活的;
- 申请尺寸: 内存使用者希望申请到的内存大小;
- 分配尺寸: 内存池实际分配的内存大小, 存在该尺寸的原因是分配尺寸>=申请尺寸;
总结来说, 内存规格化就是确定有哪些尺寸的内存, 针对不同的申请尺寸提供对应的分配尺寸。
二、规格化描述7元组
每一种尺寸使用下面的7元组表示| 元组字段以及含义如下
| name | 代码注释 | 个人理解 |
|---|---|---|
| index | Size class index | 从0开始的索引 |
| log2Group | Log of group base size (no deltas added) | 尺寸分组的base |
| log2Delta | Log of delta to previous size class | 分组内的增量单位 |
| nDelta | Delta multiplier | 分组内增量单位的倍数 |
| isMultiPageSize | ‘yes’ if a multiple of the page size ‘no’ otherwise | 是否为Page的整倍数 |
| isSubPage | ‘yes’ if a subpage size class ‘no’ otherwise. | 是否可能为SubPage |
| log2DeltaLookup | Same as log2Delta if a lookup table size class ‘no’ otherwise. | 代码中没有使用 |
三、规格化结果
| index | log2Group | log2Delta | nDelta | isMultiPageSize | isSubPage | log2DeltaLookup | size |
|---|---|---|---|---|---|---|---|
| 0 | 4 | 4 | 0 | 0 | 1 | 4 | 16 |
| 1 | 4 | 4 | 1 | 0 | 1 | 4 | 32 |
| 2 | 4 | 4 | 2 | 0 | 1 | 4 | 48 |
| 3 | 4 | 4 | 3 | 0 | 1 | 4 | 64 |
| 4 | 6 | 4 | 1 | 0 | 1 | 4 | 80 |
| 5 | 6 | 4 | 2 | 0 | 1 | 4 | 96 |
| 6 | 6 | 4 | 3 | 0 | 1 | 4 | 112 |
| 7 | 6 | 4 | 4 | 0 | 1 | 4 | 128 |
| 8 | 7 | 5 | 1 | 0 | 1 | 5 | 160 |
| 9 | 7 | 5 | 2 | 0 | 1 | 5 | 192 |
| 10 | 7 | 5 | 3 | 0 | 1 | 5 | 224 |
| 11 | 7 | 5 | 4 | 0 | 1 | 5 | 256 |
| 12 | 8 | 6 | 1 | 0 | 1 | 6 | 320 |
| 13 | 8 | 6 | 2 | 0 | 1 | 6 | 384 |
| 14 | 8 | 6 | 3 | 0 | 1 | 6 | 448 |
| 15 | 8 | 6 | 4 | 0 | 1 | 6 | 512 |
| 16 | 9 | 7 | 1 | 0 | 1 | 7 | 640 |
| 17 | 9 | 7 | 2 | 0 | 1 | 7 | 768 |
| 18 | 9 | 7 | 3 | 0 | 1 | 7 | 896 |
| 19 | 9 | 7 | 4 | 0 | 1 | 7 | 1024 |
| 20 | 10 | 8 | 1 | 0 | 1 | 8 | 1280 |
| 21 | 10 | 8 | 2 | 0 | 1 | 8 | 1536 |
| 22 | 10 | 8 | 3 | 0 | 1 | 8 | 1792 |
| 23 | 10 | 8 | 4 | 0 | 1 | 8 | 2048 |
| 24 | 11 | 9 | 1 | 0 | 1 | 9 | 2560 |
| 25 | 11 | 9 | 2 | 0 | 1 | 9 | 3072 |
| 26 | 11 | 9 | 3 | 0 | 1 | 9 | 3584 |
| 27 | 11 | 9 | 4 | 0 | 1 | 9 | 4096 |
| 28 | 12 | 10 | 1 | 0 | 1 | 0 | 5120 |
| 29 | 12 | 10 | 2 | 0 | 1 | 0 | 6144 |
| 30 | 12 | 10 | 3 | 0 | 1 | 0 | 7168 |
| 31 | 12 | 10 | 4 | 1 | 1 | 0 | 8192 |
| 32 | 13 | 11 | 1 | 0 | 1 | 0 | 10240 |
| 33 | 13 | 11 | 2 | 0 | 1 | 0 | 12288 |
| 34 | 13 | 11 | 3 | 0 | 1 | 0 | 14336 |
| 35 | 13 | 11 | 4 | 1 | 1 | 0 | 16384 |
| 36 | 14 | 12 | 1 | 0 | 1 | 0 | 20480 |
| 37 | 14 | 12 | 2 | 1 | 1 | 0 | 24576 |
| 38 | 14 | 12 | 3 | 0 | 1 | 0 | 28672 |
| 39 | 14 | 12 | 4 | 1 | 0 | 0 | 32768 |
| 40 | 15 | 13 | 1 | 1 | 0 | 0 | 40960 |
| 41 | 15 | 13 | 2 | 1 | 0 | 0 | 49152 |
| 42 | 15 | 13 | 3 | 1 | 0 | 0 | 57344 |
| 43 | 15 | 13 | 4 | 1 | 0 | 0 | 65536 |
| 44 | 16 | 14 | 1 | 1 | 0 | 0 | 81920 |
| 45 | 16 | 14 | 2 | 1 | 0 | 0 | 98304 |
| 46 | 16 | 14 | 3 | 1 | 0 | 0 | 114688 |
| 47 | 16 | 14 | 4 | 1 | 0 | 0 | 131072 |
| 48 | 17 | 15 | 1 | 1 | 0 | 0 | 163840 |
| 49 | 17 | 15 | 2 | 1 | 0 | 0 | 196608 |
| 50 | 17 | 15 | 3 | 1 | 0 | 0 | 229376 |
| 51 | 17 | 15 | 4 | 1 | 0 | 0 | 262144 |
| 52 | 18 | 16 | 1 | 1 | 0 | 0 | 327680 |
| 53 | 18 | 16 | 2 | 1 | 0 | 0 | 393216 |
| 54 | 18 | 16 | 3 | 1 | 0 | 0 | 458752 |
| 55 | 18 | 16 | 4 | 1 | 0 | 0 | 524288 |
| 56 | 19 | 17 | 1 | 1 | 0 | 0 | 655360 |
| 57 | 19 | 17 | 2 | 1 | 0 | 0 | 786432 |
| 58 | 19 | 17 | 3 | 1 | 0 | 0 | 917504 |
| 59 | 19 | 17 | 4 | 1 | 0 | 0 | 1048576 |
| 60 | 20 | 18 | 1 | 1 | 0 | 0 | 1310720 |
| 61 | 20 | 18 | 2 | 1 | 0 | 0 | 1572864 |
| 62 | 20 | 18 | 3 | 1 | 0 | 0 | 1835008 |
| 63 | 20 | 18 | 4 | 1 | 0 | 0 | 2097152 |
| 64 | 21 | 19 | 1 | 1 | 0 | 0 | 2621440 |
| 65 | 21 | 19 | 2 | 1 | 0 | 0 | 3145728 |
| 66 | 21 | 19 | 3 | 1 | 0 | 0 | 3670016 |
| 67 | 21 | 19 | 4 | 1 | 0 | 0 | 4194304 |
| 68 | 22 | 20 | 1 | 1 | 0 | 0 | 5242880 |
| 69 | 22 | 20 | 2 | 1 | 0 | 0 | 6291456 |
| 70 | 22 | 20 | 3 | 1 | 0 | 0 | 7340032 |
| 71 | 22 | 20 | 4 | 1 | 0 | 0 | 8388608 |
| 72 | 23 | 21 | 1 | 1 | 0 | 0 | 10485760 |
| 73 | 23 | 21 | 2 | 1 | 0 | 0 | 12582912 |
| 74 | 23 | 21 | 3 | 1 | 0 | 0 | 14680064 |
| 75 | 23 | 21 | 4 | 1 | 0 | 0 | 16777216 |
四、相关计算公式
a. 每个内存规格的尺寸计算公式
size = (1 << log2Group) + (1 << log2Delta) * nDelta;
b. 第0组是单独初始化不予考虑, 从第1组开始
log2Group = log2Delta + 2;
c. 通过a,b合并得到
size = 2 ^ log2Delta (4 + nDelta)
d. 从c得到, 自第1组开始组内每个内存大小是logDelta的[ 5,6,7,8 ]倍;
五、结果说明
- 最小尺寸16B, 最大尺寸16M;
- 尺寸分19组, 每组4个, 共76种尺寸(规格, 颗粒度);
- 从第1组开始, 后一组是前一组容量的2倍;
- 组内后一个是在前一个的尺寸基础上+log2Delta;
- 尺寸>=pageSize(8K)的有40个;
- 尺寸小于pageSize(8K)的有36个;
- 这种尺寸作为分配的最小颗粒度, 同时也影响了做实际分配时的空间大小以及对应的最小颗粒度(元素)数量;
六、小结
本篇介绍的是Netty4.1.73-Final的内存规格化, 后续的内存分配均以该内存规格为基础进行。整个尺寸要覆盖小尺寸和大尺寸, 平衡分配效率和空间利用率。这里仅仅介绍了其内存规格化的实现结果, 如此设计的原因和历史的演进, 感兴趣的小伙伴可以去进一步研究Jmelloc项目。
相关文章:
Netty内存管理--内存池空间规格化SizeClasses
一、规格化 内存池类似于一个内存零售商, 从操作系统中申请一整块内存, 然后对其进行合理分割, 将分割后的小内存返回给程序。这里存在3个尺寸: 分割尺寸: 底层内存管理的基本单位, 比如常见的以页为单位分配, 但是页的大小是灵活的;申请尺寸: 内存使用者希望申请到的内存大小…...
数据结构刷题(三十):96不同的二叉搜索树、01背包问题理论、416分割等和子集
一、96. 不同的二叉搜索树 1.这个题比较难想递推公式, dp[3],就是元素1为头结点搜索树的数量 元素2为头结点BFS的数量 元素3为头结点BFS的数量 元素1为头结点搜索树的数量 右子树有2个元素的搜索树数量 * 左子树有0个元素的搜索树数量 元素2为头结…...
bash的进程与欢迎讯息自定义
在bash shell中,可以通过多种方式自定义欢迎讯息和提示符。主要有: 修改/etc/profile文件: 该文件在用户登录后执行,定义了PROMPT_COMMAND和PS1提示符。可以修改其内容实现自定义欢迎讯息和提示符。 例如,修改为: bash PROMPT_COMMANDecho -e "\nWelcome to My Bash She…...
本周大新闻|苹果首款MR没有主打卖点;Meta认为AI是AR OS的基础
本周XR大新闻,AR方面,苹果首款MR或没有主打卖点,反而尽可能支持更多App和服务;扎克伯格表示基于AI的AR眼镜操作系统是下一代计算平台的基础;微软芯片工程VP Jean Boufarhat加入Meta芯片团队;Humane展示了…...
Java中工具类Arrays、Collections、Objects
Arrays Arrays是Java中提供的一个针对数组操作的工具类,所有的方法都是静态的。 大致有这些常用的方法 sort()针对常用的基本数据类型,都能进行排序,byte、char、int、long、float、doubleparallelSort()并行排序,多线程排序&am…...
Docker安装Nginx/Python/Golang/Vscode【亲测可用】
一、docker安装nginx docker安装nginx,安装的是最新版本的:docker pull nginx:latest 创建一个容器:docker run --name my-nginx -p 80:80 -d nginx:latest 开启一个交互模式终端:docker exec -it my-nginx bash 创建django项…...
蓝桥杯2022年第十三届决赛真题-最大数字
蓝桥杯2022年第十三届决赛真题-最大数字 时间限制: 3s 内存限制: 320MB 题目描述 给定一个正整数 N。你可以对 N 的任意一位数字执行任意次以下 2 种操作: 将该位数字加 1。如果该位数字已经是 9,加 1 之后变成 0。 将该位数字减 1。如果该位数字已经…...
smbms项目搭建
目录 1.搭建一个maven web项目 2.配置Tomcat 3.测试项目是否能够跑起来 4.导入项目中会遇到的Jar包 5.项目结构搭建 6.项目实体类搭建 7.编写基础公共类 1.数据库配置文件 2.编写数据库的公共类 3.编写字符编码过滤器 3.1web配置注册 4.导入静态资源 1.搭建一个maven web项目 …...
进程/线程 状态模型详解
前言:最近操作系统复习到线程的状态模型(也可以说进程的状态模型,本文直接用线程来说)时候,网上查阅资料,发现很多文章都说的很不一样,有五状态模型、六状态模型、七状态模型.......虽然都是对的…...
数据结构与算法之队列: Leetcode 621. 任务调度器 (Typescript版)
任务调度器 https://leetcode.cn/problems/task-scheduler/ 描述 给你一个用字符数组 tasks 表示的 CPU 需要执行的任务列表。其中每个字母表示一种不同种类的任务。任务可以以任意顺序执行,并且每个任务都可以在 1 个单位时间内执行完。在任何一个单位时间&#…...
【报错】arXiv上传文章出现XXX.sty not found
笔者在overleaf上编译文章一切正常,但上传文章到arxiv时出现类似于如下报错: 一般情况下观察arxiv的编译log,不通过的原因,很多时候都是由于某一行导入了啥package,引起的报错;但是如果没有任何一个具体的…...
项目合同管理
项目合同管理的基本概念及分类、项目合同签订、项目合同管理以及项目合同索赔处理等内容 信息系统工程的建设过程实际上就是合同的执行和监控的过程 1、项目合同的概念及分类 合同法律关系:权力和义务关系 合同可以是书面形式、口头形式和其他形式 书面形式是指…...
聊聊ClickHouse向量化执行引擎-过滤操作
俄罗斯Yandex开发的ClickHouse是一款性能黑马的OLAP数据库,其对SIMD的灵活运用给其带来了难以置信的性能。本文我们聊聊它如何对过滤操作进行SIMD优化。 基本思想 1、有一个数组data,即ColumnVector::data,存放数据 2、使用uint8类型…...
数据可视化第二版-拓展-网约车分析案例
文章目录 数据可视化第二版-拓展-网约车分析案例竞赛介绍 1等奖作品-IT从业者张某某的作品结论过程数据和思考数据处理数据探索数据分析方法选择数据分析相关性分析转化率分析分析结论 完单数量分析分析结论 司机数量分析分析结论 时间分析每日订单分析 工作日各时段分析周六日…...
pytest - Getting Start
前言 项目开发中有很多的功能,通常开发人员需要对自己编写的代码进行自测,除了借助postman等工具进行测试外,还需要编写单元测试对开发的代码进行测试,通过单元测试来判断代码是否能够实现需求,本文介绍的pytest模块是…...
( 字符串) 205. 同构字符串 ——【Leetcode每日一题】
❓205. 同构字符串 难度:简单 给定两个字符串 s 和 t ,判断它们是否是同构的。 如果 s 中的字符可以按某种映射关系替换得到 t ,那么这两个字符串是同构的。 每个出现的字符都应当映射到另一个字符,同时不改变字符的顺序。不同…...
python+django+vue消防知识宣传网站
开发语言:Python 框架:django Python版本:python3.7.7 数据库:mysql 数据库工具:Navicat 开发软件:PyCharm 层随着移动应用技术的发展,越来越多的消防单位借助于移动手机、电脑完成生活中的事…...
彻底告别手动配置任务,魔改xxl-job!
分析 改造 1、接口调用 2、创建新注解 3、自动注册核心 4、自动装配 测试 测试后 XXL-Job是一款非常优秀的任务调度中间件,其轻量级、使用简单、支持分布式等优点,被广泛应用在我们的项目中,解决了不少定时任务的调度问题。不仅如此&a…...
【五一创作】Springboot+多环境+多数据源(MySQL+Phoenix)配置及查询(多知识点)
文章目录 1. 背景2. 技术点3 子模块依赖SpringBoot设置4. 多环境配置4.1 application.yml4.2 application-pro.yml 5. 多数据源配置5.1 yml配置5.2 自定义数据源在Java中配置5.2.1 PhoenixDataSourceConfig5.2.2 MysqlDataSourceConfig 6. 完整的Pom6. 测试6.1 Mapper配置6.2 方…...
Python小姿势 - 线程和进程:
线程和进程: Python里面线程是真正的并行执行,进程是可以并行执行的。 所谓进程,就是操作系统中执行一个程序的独立单元,它是系统进行资源分配和调度的基本单位。一个进程可以创建和撤销另一个进程,同一个进程内可以并…...
多云管理“拦路虎”:深入解析网络互联、身份同步与成本可视化的技术复杂度
一、引言:多云环境的技术复杂性本质 企业采用多云策略已从技术选型升维至生存刚需。当业务系统分散部署在多个云平台时,基础设施的技术债呈现指数级积累。网络连接、身份认证、成本管理这三大核心挑战相互嵌套:跨云网络构建数据…...
Android Wi-Fi 连接失败日志分析
1. Android wifi 关键日志总结 (1) Wi-Fi 断开 (CTRL-EVENT-DISCONNECTED reason3) 日志相关部分: 06-05 10:48:40.987 943 943 I wpa_supplicant: wlan0: CTRL-EVENT-DISCONNECTED bssid44:9b:c1:57:a8:90 reason3 locally_generated1解析: CTR…...
C++实现分布式网络通信框架RPC(3)--rpc调用端
目录 一、前言 二、UserServiceRpc_Stub 三、 CallMethod方法的重写 头文件 实现 四、rpc调用端的调用 实现 五、 google::protobuf::RpcController *controller 头文件 实现 六、总结 一、前言 在前边的文章中,我们已经大致实现了rpc服务端的各项功能代…...
大语言模型如何处理长文本?常用文本分割技术详解
为什么需要文本分割? 引言:为什么需要文本分割?一、基础文本分割方法1. 按段落分割(Paragraph Splitting)2. 按句子分割(Sentence Splitting)二、高级文本分割策略3. 重叠分割(Sliding Window)4. 递归分割(Recursive Splitting)三、生产级工具推荐5. 使用LangChain的…...
NFT模式:数字资产确权与链游经济系统构建
NFT模式:数字资产确权与链游经济系统构建 ——从技术架构到可持续生态的范式革命 一、确权技术革新:构建可信数字资产基石 1. 区块链底层架构的进化 跨链互操作协议:基于LayerZero协议实现以太坊、Solana等公链资产互通,通过零知…...
如何在最短时间内提升打ctf(web)的水平?
刚刚刷完2遍 bugku 的 web 题,前来答题。 每个人对刷题理解是不同,有的人是看了writeup就等于刷了,有的人是收藏了writeup就等于刷了,有的人是跟着writeup做了一遍就等于刷了,还有的人是独立思考做了一遍就等于刷了。…...
分布式增量爬虫实现方案
之前我们在讨论的是分布式爬虫如何实现增量爬取。增量爬虫的目标是只爬取新产生或发生变化的页面,避免重复抓取,以节省资源和时间。 在分布式环境下,增量爬虫的实现需要考虑多个爬虫节点之间的协调和去重。 另一种思路:将增量判…...
关于easyexcel动态下拉选问题处理
前些日子突然碰到一个问题,说是客户的导入文件模版想支持部分导入内容的下拉选,于是我就找了easyexcel官网寻找解决方案,并没有找到合适的方案,没办法只能自己动手并分享出来,针对Java生成Excel下拉菜单时因选项过多导…...
LCTF液晶可调谐滤波器在多光谱相机捕捉无人机目标检测中的作用
中达瑞和自2005年成立以来,一直在光谱成像领域深度钻研和发展,始终致力于研发高性能、高可靠性的光谱成像相机,为科研院校提供更优的产品和服务。在《低空背景下无人机目标的光谱特征研究及目标检测应用》这篇论文中提到中达瑞和 LCTF 作为多…...
QT开发技术【ffmpeg + QAudioOutput】音乐播放器
一、 介绍 使用ffmpeg 4.2.2 在数字化浪潮席卷全球的当下,音视频内容犹如璀璨繁星,点亮了人们的生活与工作。从短视频平台上令人捧腹的搞笑视频,到在线课堂中知识渊博的专家授课,再到影视平台上扣人心弦的高清大片,音…...
