Netty内存管理--内存池空间规格化SizeClasses
一、规格化
内存池类似于一个内存零售商, 从操作系统中申请一整块内存, 然后对其进行合理分割, 将分割后的小内存返回给程序。这里存在3个尺寸:
- 分割尺寸: 底层内存管理的基本单位, 比如常见的以页为单位分配, 但是页的大小是灵活的;
- 申请尺寸: 内存使用者希望申请到的内存大小;
- 分配尺寸: 内存池实际分配的内存大小, 存在该尺寸的原因是分配尺寸>=申请尺寸;
总结来说, 内存规格化就是确定有哪些尺寸的内存, 针对不同的申请尺寸提供对应的分配尺寸。
二、规格化描述7元组
每一种尺寸使用下面的7元组表示| 元组字段以及含义如下
| name | 代码注释 | 个人理解 |
|---|---|---|
| index | Size class index | 从0开始的索引 |
| log2Group | Log of group base size (no deltas added) | 尺寸分组的base |
| log2Delta | Log of delta to previous size class | 分组内的增量单位 |
| nDelta | Delta multiplier | 分组内增量单位的倍数 |
| isMultiPageSize | ‘yes’ if a multiple of the page size ‘no’ otherwise | 是否为Page的整倍数 |
| isSubPage | ‘yes’ if a subpage size class ‘no’ otherwise. | 是否可能为SubPage |
| log2DeltaLookup | Same as log2Delta if a lookup table size class ‘no’ otherwise. | 代码中没有使用 |
三、规格化结果
| index | log2Group | log2Delta | nDelta | isMultiPageSize | isSubPage | log2DeltaLookup | size |
|---|---|---|---|---|---|---|---|
| 0 | 4 | 4 | 0 | 0 | 1 | 4 | 16 |
| 1 | 4 | 4 | 1 | 0 | 1 | 4 | 32 |
| 2 | 4 | 4 | 2 | 0 | 1 | 4 | 48 |
| 3 | 4 | 4 | 3 | 0 | 1 | 4 | 64 |
| 4 | 6 | 4 | 1 | 0 | 1 | 4 | 80 |
| 5 | 6 | 4 | 2 | 0 | 1 | 4 | 96 |
| 6 | 6 | 4 | 3 | 0 | 1 | 4 | 112 |
| 7 | 6 | 4 | 4 | 0 | 1 | 4 | 128 |
| 8 | 7 | 5 | 1 | 0 | 1 | 5 | 160 |
| 9 | 7 | 5 | 2 | 0 | 1 | 5 | 192 |
| 10 | 7 | 5 | 3 | 0 | 1 | 5 | 224 |
| 11 | 7 | 5 | 4 | 0 | 1 | 5 | 256 |
| 12 | 8 | 6 | 1 | 0 | 1 | 6 | 320 |
| 13 | 8 | 6 | 2 | 0 | 1 | 6 | 384 |
| 14 | 8 | 6 | 3 | 0 | 1 | 6 | 448 |
| 15 | 8 | 6 | 4 | 0 | 1 | 6 | 512 |
| 16 | 9 | 7 | 1 | 0 | 1 | 7 | 640 |
| 17 | 9 | 7 | 2 | 0 | 1 | 7 | 768 |
| 18 | 9 | 7 | 3 | 0 | 1 | 7 | 896 |
| 19 | 9 | 7 | 4 | 0 | 1 | 7 | 1024 |
| 20 | 10 | 8 | 1 | 0 | 1 | 8 | 1280 |
| 21 | 10 | 8 | 2 | 0 | 1 | 8 | 1536 |
| 22 | 10 | 8 | 3 | 0 | 1 | 8 | 1792 |
| 23 | 10 | 8 | 4 | 0 | 1 | 8 | 2048 |
| 24 | 11 | 9 | 1 | 0 | 1 | 9 | 2560 |
| 25 | 11 | 9 | 2 | 0 | 1 | 9 | 3072 |
| 26 | 11 | 9 | 3 | 0 | 1 | 9 | 3584 |
| 27 | 11 | 9 | 4 | 0 | 1 | 9 | 4096 |
| 28 | 12 | 10 | 1 | 0 | 1 | 0 | 5120 |
| 29 | 12 | 10 | 2 | 0 | 1 | 0 | 6144 |
| 30 | 12 | 10 | 3 | 0 | 1 | 0 | 7168 |
| 31 | 12 | 10 | 4 | 1 | 1 | 0 | 8192 |
| 32 | 13 | 11 | 1 | 0 | 1 | 0 | 10240 |
| 33 | 13 | 11 | 2 | 0 | 1 | 0 | 12288 |
| 34 | 13 | 11 | 3 | 0 | 1 | 0 | 14336 |
| 35 | 13 | 11 | 4 | 1 | 1 | 0 | 16384 |
| 36 | 14 | 12 | 1 | 0 | 1 | 0 | 20480 |
| 37 | 14 | 12 | 2 | 1 | 1 | 0 | 24576 |
| 38 | 14 | 12 | 3 | 0 | 1 | 0 | 28672 |
| 39 | 14 | 12 | 4 | 1 | 0 | 0 | 32768 |
| 40 | 15 | 13 | 1 | 1 | 0 | 0 | 40960 |
| 41 | 15 | 13 | 2 | 1 | 0 | 0 | 49152 |
| 42 | 15 | 13 | 3 | 1 | 0 | 0 | 57344 |
| 43 | 15 | 13 | 4 | 1 | 0 | 0 | 65536 |
| 44 | 16 | 14 | 1 | 1 | 0 | 0 | 81920 |
| 45 | 16 | 14 | 2 | 1 | 0 | 0 | 98304 |
| 46 | 16 | 14 | 3 | 1 | 0 | 0 | 114688 |
| 47 | 16 | 14 | 4 | 1 | 0 | 0 | 131072 |
| 48 | 17 | 15 | 1 | 1 | 0 | 0 | 163840 |
| 49 | 17 | 15 | 2 | 1 | 0 | 0 | 196608 |
| 50 | 17 | 15 | 3 | 1 | 0 | 0 | 229376 |
| 51 | 17 | 15 | 4 | 1 | 0 | 0 | 262144 |
| 52 | 18 | 16 | 1 | 1 | 0 | 0 | 327680 |
| 53 | 18 | 16 | 2 | 1 | 0 | 0 | 393216 |
| 54 | 18 | 16 | 3 | 1 | 0 | 0 | 458752 |
| 55 | 18 | 16 | 4 | 1 | 0 | 0 | 524288 |
| 56 | 19 | 17 | 1 | 1 | 0 | 0 | 655360 |
| 57 | 19 | 17 | 2 | 1 | 0 | 0 | 786432 |
| 58 | 19 | 17 | 3 | 1 | 0 | 0 | 917504 |
| 59 | 19 | 17 | 4 | 1 | 0 | 0 | 1048576 |
| 60 | 20 | 18 | 1 | 1 | 0 | 0 | 1310720 |
| 61 | 20 | 18 | 2 | 1 | 0 | 0 | 1572864 |
| 62 | 20 | 18 | 3 | 1 | 0 | 0 | 1835008 |
| 63 | 20 | 18 | 4 | 1 | 0 | 0 | 2097152 |
| 64 | 21 | 19 | 1 | 1 | 0 | 0 | 2621440 |
| 65 | 21 | 19 | 2 | 1 | 0 | 0 | 3145728 |
| 66 | 21 | 19 | 3 | 1 | 0 | 0 | 3670016 |
| 67 | 21 | 19 | 4 | 1 | 0 | 0 | 4194304 |
| 68 | 22 | 20 | 1 | 1 | 0 | 0 | 5242880 |
| 69 | 22 | 20 | 2 | 1 | 0 | 0 | 6291456 |
| 70 | 22 | 20 | 3 | 1 | 0 | 0 | 7340032 |
| 71 | 22 | 20 | 4 | 1 | 0 | 0 | 8388608 |
| 72 | 23 | 21 | 1 | 1 | 0 | 0 | 10485760 |
| 73 | 23 | 21 | 2 | 1 | 0 | 0 | 12582912 |
| 74 | 23 | 21 | 3 | 1 | 0 | 0 | 14680064 |
| 75 | 23 | 21 | 4 | 1 | 0 | 0 | 16777216 |
四、相关计算公式
a. 每个内存规格的尺寸计算公式
size = (1 << log2Group) + (1 << log2Delta) * nDelta;
b. 第0组是单独初始化不予考虑, 从第1组开始
log2Group = log2Delta + 2;
c. 通过a,b合并得到
size = 2 ^ log2Delta (4 + nDelta)
d. 从c得到, 自第1组开始组内每个内存大小是logDelta的[ 5,6,7,8 ]倍;
五、结果说明
- 最小尺寸16B, 最大尺寸16M;
- 尺寸分19组, 每组4个, 共76种尺寸(规格, 颗粒度);
- 从第1组开始, 后一组是前一组容量的2倍;
- 组内后一个是在前一个的尺寸基础上+log2Delta;
- 尺寸>=pageSize(8K)的有40个;
- 尺寸小于pageSize(8K)的有36个;
- 这种尺寸作为分配的最小颗粒度, 同时也影响了做实际分配时的空间大小以及对应的最小颗粒度(元素)数量;
六、小结
本篇介绍的是Netty4.1.73-Final的内存规格化, 后续的内存分配均以该内存规格为基础进行。整个尺寸要覆盖小尺寸和大尺寸, 平衡分配效率和空间利用率。这里仅仅介绍了其内存规格化的实现结果, 如此设计的原因和历史的演进, 感兴趣的小伙伴可以去进一步研究Jmelloc项目。
相关文章:
Netty内存管理--内存池空间规格化SizeClasses
一、规格化 内存池类似于一个内存零售商, 从操作系统中申请一整块内存, 然后对其进行合理分割, 将分割后的小内存返回给程序。这里存在3个尺寸: 分割尺寸: 底层内存管理的基本单位, 比如常见的以页为单位分配, 但是页的大小是灵活的;申请尺寸: 内存使用者希望申请到的内存大小…...
数据结构刷题(三十):96不同的二叉搜索树、01背包问题理论、416分割等和子集
一、96. 不同的二叉搜索树 1.这个题比较难想递推公式, dp[3],就是元素1为头结点搜索树的数量 元素2为头结点BFS的数量 元素3为头结点BFS的数量 元素1为头结点搜索树的数量 右子树有2个元素的搜索树数量 * 左子树有0个元素的搜索树数量 元素2为头结…...
bash的进程与欢迎讯息自定义
在bash shell中,可以通过多种方式自定义欢迎讯息和提示符。主要有: 修改/etc/profile文件: 该文件在用户登录后执行,定义了PROMPT_COMMAND和PS1提示符。可以修改其内容实现自定义欢迎讯息和提示符。 例如,修改为: bash PROMPT_COMMANDecho -e "\nWelcome to My Bash She…...
本周大新闻|苹果首款MR没有主打卖点;Meta认为AI是AR OS的基础
本周XR大新闻,AR方面,苹果首款MR或没有主打卖点,反而尽可能支持更多App和服务;扎克伯格表示基于AI的AR眼镜操作系统是下一代计算平台的基础;微软芯片工程VP Jean Boufarhat加入Meta芯片团队;Humane展示了…...
Java中工具类Arrays、Collections、Objects
Arrays Arrays是Java中提供的一个针对数组操作的工具类,所有的方法都是静态的。 大致有这些常用的方法 sort()针对常用的基本数据类型,都能进行排序,byte、char、int、long、float、doubleparallelSort()并行排序,多线程排序&am…...
Docker安装Nginx/Python/Golang/Vscode【亲测可用】
一、docker安装nginx docker安装nginx,安装的是最新版本的:docker pull nginx:latest 创建一个容器:docker run --name my-nginx -p 80:80 -d nginx:latest 开启一个交互模式终端:docker exec -it my-nginx bash 创建django项…...
蓝桥杯2022年第十三届决赛真题-最大数字
蓝桥杯2022年第十三届决赛真题-最大数字 时间限制: 3s 内存限制: 320MB 题目描述 给定一个正整数 N。你可以对 N 的任意一位数字执行任意次以下 2 种操作: 将该位数字加 1。如果该位数字已经是 9,加 1 之后变成 0。 将该位数字减 1。如果该位数字已经…...
smbms项目搭建
目录 1.搭建一个maven web项目 2.配置Tomcat 3.测试项目是否能够跑起来 4.导入项目中会遇到的Jar包 5.项目结构搭建 6.项目实体类搭建 7.编写基础公共类 1.数据库配置文件 2.编写数据库的公共类 3.编写字符编码过滤器 3.1web配置注册 4.导入静态资源 1.搭建一个maven web项目 …...
进程/线程 状态模型详解
前言:最近操作系统复习到线程的状态模型(也可以说进程的状态模型,本文直接用线程来说)时候,网上查阅资料,发现很多文章都说的很不一样,有五状态模型、六状态模型、七状态模型.......虽然都是对的…...
数据结构与算法之队列: Leetcode 621. 任务调度器 (Typescript版)
任务调度器 https://leetcode.cn/problems/task-scheduler/ 描述 给你一个用字符数组 tasks 表示的 CPU 需要执行的任务列表。其中每个字母表示一种不同种类的任务。任务可以以任意顺序执行,并且每个任务都可以在 1 个单位时间内执行完。在任何一个单位时间&#…...
【报错】arXiv上传文章出现XXX.sty not found
笔者在overleaf上编译文章一切正常,但上传文章到arxiv时出现类似于如下报错: 一般情况下观察arxiv的编译log,不通过的原因,很多时候都是由于某一行导入了啥package,引起的报错;但是如果没有任何一个具体的…...
项目合同管理
项目合同管理的基本概念及分类、项目合同签订、项目合同管理以及项目合同索赔处理等内容 信息系统工程的建设过程实际上就是合同的执行和监控的过程 1、项目合同的概念及分类 合同法律关系:权力和义务关系 合同可以是书面形式、口头形式和其他形式 书面形式是指…...
聊聊ClickHouse向量化执行引擎-过滤操作
俄罗斯Yandex开发的ClickHouse是一款性能黑马的OLAP数据库,其对SIMD的灵活运用给其带来了难以置信的性能。本文我们聊聊它如何对过滤操作进行SIMD优化。 基本思想 1、有一个数组data,即ColumnVector::data,存放数据 2、使用uint8类型…...
数据可视化第二版-拓展-网约车分析案例
文章目录 数据可视化第二版-拓展-网约车分析案例竞赛介绍 1等奖作品-IT从业者张某某的作品结论过程数据和思考数据处理数据探索数据分析方法选择数据分析相关性分析转化率分析分析结论 完单数量分析分析结论 司机数量分析分析结论 时间分析每日订单分析 工作日各时段分析周六日…...
pytest - Getting Start
前言 项目开发中有很多的功能,通常开发人员需要对自己编写的代码进行自测,除了借助postman等工具进行测试外,还需要编写单元测试对开发的代码进行测试,通过单元测试来判断代码是否能够实现需求,本文介绍的pytest模块是…...
( 字符串) 205. 同构字符串 ——【Leetcode每日一题】
❓205. 同构字符串 难度:简单 给定两个字符串 s 和 t ,判断它们是否是同构的。 如果 s 中的字符可以按某种映射关系替换得到 t ,那么这两个字符串是同构的。 每个出现的字符都应当映射到另一个字符,同时不改变字符的顺序。不同…...
python+django+vue消防知识宣传网站
开发语言:Python 框架:django Python版本:python3.7.7 数据库:mysql 数据库工具:Navicat 开发软件:PyCharm 层随着移动应用技术的发展,越来越多的消防单位借助于移动手机、电脑完成生活中的事…...
彻底告别手动配置任务,魔改xxl-job!
分析 改造 1、接口调用 2、创建新注解 3、自动注册核心 4、自动装配 测试 测试后 XXL-Job是一款非常优秀的任务调度中间件,其轻量级、使用简单、支持分布式等优点,被广泛应用在我们的项目中,解决了不少定时任务的调度问题。不仅如此&a…...
【五一创作】Springboot+多环境+多数据源(MySQL+Phoenix)配置及查询(多知识点)
文章目录 1. 背景2. 技术点3 子模块依赖SpringBoot设置4. 多环境配置4.1 application.yml4.2 application-pro.yml 5. 多数据源配置5.1 yml配置5.2 自定义数据源在Java中配置5.2.1 PhoenixDataSourceConfig5.2.2 MysqlDataSourceConfig 6. 完整的Pom6. 测试6.1 Mapper配置6.2 方…...
Python小姿势 - 线程和进程:
线程和进程: Python里面线程是真正的并行执行,进程是可以并行执行的。 所谓进程,就是操作系统中执行一个程序的独立单元,它是系统进行资源分配和调度的基本单位。一个进程可以创建和撤销另一个进程,同一个进程内可以并…...
多模态2025:技术路线“神仙打架”,视频生成冲上云霄
文|魏琳华 编|王一粟 一场大会,聚集了中国多模态大模型的“半壁江山”。 智源大会2025为期两天的论坛中,汇集了学界、创业公司和大厂等三方的热门选手,关于多模态的集中讨论达到了前所未有的热度。其中,…...
C++初阶-list的底层
目录 1.std::list实现的所有代码 2.list的简单介绍 2.1实现list的类 2.2_list_iterator的实现 2.2.1_list_iterator实现的原因和好处 2.2.2_list_iterator实现 2.3_list_node的实现 2.3.1. 避免递归的模板依赖 2.3.2. 内存布局一致性 2.3.3. 类型安全的替代方案 2.3.…...
ip子接口配置及删除
配置永久生效的子接口,2个IP 都可以登录你这一台服务器。重启不失效。 永久的 [应用] vi /etc/sysconfig/network-scripts/ifcfg-eth0修改文件内内容 TYPE"Ethernet" BOOTPROTO"none" NAME"eth0" DEVICE"eth0" ONBOOT&q…...
佰力博科技与您探讨热释电测量的几种方法
热释电的测量主要涉及热释电系数的测定,这是表征热释电材料性能的重要参数。热释电系数的测量方法主要包括静态法、动态法和积分电荷法。其中,积分电荷法最为常用,其原理是通过测量在电容器上积累的热释电电荷,从而确定热释电系数…...
算法岗面试经验分享-大模型篇
文章目录 A 基础语言模型A.1 TransformerA.2 Bert B 大语言模型结构B.1 GPTB.2 LLamaB.3 ChatGLMB.4 Qwen C 大语言模型微调C.1 Fine-tuningC.2 Adapter-tuningC.3 Prefix-tuningC.4 P-tuningC.5 LoRA A 基础语言模型 A.1 Transformer (1)资源 论文&a…...
嵌入式学习笔记DAY33(网络编程——TCP)
一、网络架构 C/S (client/server 客户端/服务器):由客户端和服务器端两个部分组成。客户端通常是用户使用的应用程序,负责提供用户界面和交互逻辑 ,接收用户输入,向服务器发送请求,并展示服务…...
热烈祝贺埃文科技正式加入可信数据空间发展联盟
2025年4月29日,在福州举办的第八届数字中国建设峰会“可信数据空间分论坛”上,可信数据空间发展联盟正式宣告成立。国家数据局党组书记、局长刘烈宏出席并致辞,强调该联盟是推进全国一体化数据市场建设的关键抓手。 郑州埃文科技有限公司&am…...
WebRTC调研
WebRTC是什么,为什么,如何使用 WebRTC有什么优势 WebRTC Architecture Amazon KVS WebRTC 其它厂商WebRTC 海康门禁WebRTC 海康门禁其他界面整理 威视通WebRTC 局域网 Google浏览器 Microsoft Edge 公网 RTSP RTMP NVR ONVIF SIP SRT WebRTC协…...
数据分析六部曲?
引言 上一章我们说到了数据分析六部曲,何谓六部曲呢? 其实啊,数据分析没那么难,只要掌握了下面这六个步骤,也就是数据分析六部曲,就算你是个啥都不懂的小白,也能慢慢上手做数据分析啦。 第一…...
raid存储技术
1. 存储技术概念 数据存储架构是对数据存储方式、存储设备及相关组件的组织和规划,涵盖存储系统的布局、数据存储策略等,它明确数据如何存储、管理与访问,为数据的安全、高效使用提供支撑。 由计算机中一组存储设备、控制部件和管理信息调度的…...
