Netty内存管理--内存池空间规格化SizeClasses
一、规格化
内存池类似于一个内存零售商, 从操作系统中申请一整块内存, 然后对其进行合理分割, 将分割后的小内存返回给程序。这里存在3个尺寸:
- 分割尺寸: 底层内存管理的基本单位, 比如常见的以页为单位分配, 但是页的大小是灵活的;
- 申请尺寸: 内存使用者希望申请到的内存大小;
- 分配尺寸: 内存池实际分配的内存大小, 存在该尺寸的原因是分配尺寸>=申请尺寸;
总结来说, 内存规格化就是确定有哪些尺寸的内存, 针对不同的申请尺寸提供对应的分配尺寸。
二、规格化描述7元组
每一种尺寸使用下面的7元组表示| 元组字段以及含义如下
| name | 代码注释 | 个人理解 |
|---|---|---|
| index | Size class index | 从0开始的索引 |
| log2Group | Log of group base size (no deltas added) | 尺寸分组的base |
| log2Delta | Log of delta to previous size class | 分组内的增量单位 |
| nDelta | Delta multiplier | 分组内增量单位的倍数 |
| isMultiPageSize | ‘yes’ if a multiple of the page size ‘no’ otherwise | 是否为Page的整倍数 |
| isSubPage | ‘yes’ if a subpage size class ‘no’ otherwise. | 是否可能为SubPage |
| log2DeltaLookup | Same as log2Delta if a lookup table size class ‘no’ otherwise. | 代码中没有使用 |
三、规格化结果
| index | log2Group | log2Delta | nDelta | isMultiPageSize | isSubPage | log2DeltaLookup | size |
|---|---|---|---|---|---|---|---|
| 0 | 4 | 4 | 0 | 0 | 1 | 4 | 16 |
| 1 | 4 | 4 | 1 | 0 | 1 | 4 | 32 |
| 2 | 4 | 4 | 2 | 0 | 1 | 4 | 48 |
| 3 | 4 | 4 | 3 | 0 | 1 | 4 | 64 |
| 4 | 6 | 4 | 1 | 0 | 1 | 4 | 80 |
| 5 | 6 | 4 | 2 | 0 | 1 | 4 | 96 |
| 6 | 6 | 4 | 3 | 0 | 1 | 4 | 112 |
| 7 | 6 | 4 | 4 | 0 | 1 | 4 | 128 |
| 8 | 7 | 5 | 1 | 0 | 1 | 5 | 160 |
| 9 | 7 | 5 | 2 | 0 | 1 | 5 | 192 |
| 10 | 7 | 5 | 3 | 0 | 1 | 5 | 224 |
| 11 | 7 | 5 | 4 | 0 | 1 | 5 | 256 |
| 12 | 8 | 6 | 1 | 0 | 1 | 6 | 320 |
| 13 | 8 | 6 | 2 | 0 | 1 | 6 | 384 |
| 14 | 8 | 6 | 3 | 0 | 1 | 6 | 448 |
| 15 | 8 | 6 | 4 | 0 | 1 | 6 | 512 |
| 16 | 9 | 7 | 1 | 0 | 1 | 7 | 640 |
| 17 | 9 | 7 | 2 | 0 | 1 | 7 | 768 |
| 18 | 9 | 7 | 3 | 0 | 1 | 7 | 896 |
| 19 | 9 | 7 | 4 | 0 | 1 | 7 | 1024 |
| 20 | 10 | 8 | 1 | 0 | 1 | 8 | 1280 |
| 21 | 10 | 8 | 2 | 0 | 1 | 8 | 1536 |
| 22 | 10 | 8 | 3 | 0 | 1 | 8 | 1792 |
| 23 | 10 | 8 | 4 | 0 | 1 | 8 | 2048 |
| 24 | 11 | 9 | 1 | 0 | 1 | 9 | 2560 |
| 25 | 11 | 9 | 2 | 0 | 1 | 9 | 3072 |
| 26 | 11 | 9 | 3 | 0 | 1 | 9 | 3584 |
| 27 | 11 | 9 | 4 | 0 | 1 | 9 | 4096 |
| 28 | 12 | 10 | 1 | 0 | 1 | 0 | 5120 |
| 29 | 12 | 10 | 2 | 0 | 1 | 0 | 6144 |
| 30 | 12 | 10 | 3 | 0 | 1 | 0 | 7168 |
| 31 | 12 | 10 | 4 | 1 | 1 | 0 | 8192 |
| 32 | 13 | 11 | 1 | 0 | 1 | 0 | 10240 |
| 33 | 13 | 11 | 2 | 0 | 1 | 0 | 12288 |
| 34 | 13 | 11 | 3 | 0 | 1 | 0 | 14336 |
| 35 | 13 | 11 | 4 | 1 | 1 | 0 | 16384 |
| 36 | 14 | 12 | 1 | 0 | 1 | 0 | 20480 |
| 37 | 14 | 12 | 2 | 1 | 1 | 0 | 24576 |
| 38 | 14 | 12 | 3 | 0 | 1 | 0 | 28672 |
| 39 | 14 | 12 | 4 | 1 | 0 | 0 | 32768 |
| 40 | 15 | 13 | 1 | 1 | 0 | 0 | 40960 |
| 41 | 15 | 13 | 2 | 1 | 0 | 0 | 49152 |
| 42 | 15 | 13 | 3 | 1 | 0 | 0 | 57344 |
| 43 | 15 | 13 | 4 | 1 | 0 | 0 | 65536 |
| 44 | 16 | 14 | 1 | 1 | 0 | 0 | 81920 |
| 45 | 16 | 14 | 2 | 1 | 0 | 0 | 98304 |
| 46 | 16 | 14 | 3 | 1 | 0 | 0 | 114688 |
| 47 | 16 | 14 | 4 | 1 | 0 | 0 | 131072 |
| 48 | 17 | 15 | 1 | 1 | 0 | 0 | 163840 |
| 49 | 17 | 15 | 2 | 1 | 0 | 0 | 196608 |
| 50 | 17 | 15 | 3 | 1 | 0 | 0 | 229376 |
| 51 | 17 | 15 | 4 | 1 | 0 | 0 | 262144 |
| 52 | 18 | 16 | 1 | 1 | 0 | 0 | 327680 |
| 53 | 18 | 16 | 2 | 1 | 0 | 0 | 393216 |
| 54 | 18 | 16 | 3 | 1 | 0 | 0 | 458752 |
| 55 | 18 | 16 | 4 | 1 | 0 | 0 | 524288 |
| 56 | 19 | 17 | 1 | 1 | 0 | 0 | 655360 |
| 57 | 19 | 17 | 2 | 1 | 0 | 0 | 786432 |
| 58 | 19 | 17 | 3 | 1 | 0 | 0 | 917504 |
| 59 | 19 | 17 | 4 | 1 | 0 | 0 | 1048576 |
| 60 | 20 | 18 | 1 | 1 | 0 | 0 | 1310720 |
| 61 | 20 | 18 | 2 | 1 | 0 | 0 | 1572864 |
| 62 | 20 | 18 | 3 | 1 | 0 | 0 | 1835008 |
| 63 | 20 | 18 | 4 | 1 | 0 | 0 | 2097152 |
| 64 | 21 | 19 | 1 | 1 | 0 | 0 | 2621440 |
| 65 | 21 | 19 | 2 | 1 | 0 | 0 | 3145728 |
| 66 | 21 | 19 | 3 | 1 | 0 | 0 | 3670016 |
| 67 | 21 | 19 | 4 | 1 | 0 | 0 | 4194304 |
| 68 | 22 | 20 | 1 | 1 | 0 | 0 | 5242880 |
| 69 | 22 | 20 | 2 | 1 | 0 | 0 | 6291456 |
| 70 | 22 | 20 | 3 | 1 | 0 | 0 | 7340032 |
| 71 | 22 | 20 | 4 | 1 | 0 | 0 | 8388608 |
| 72 | 23 | 21 | 1 | 1 | 0 | 0 | 10485760 |
| 73 | 23 | 21 | 2 | 1 | 0 | 0 | 12582912 |
| 74 | 23 | 21 | 3 | 1 | 0 | 0 | 14680064 |
| 75 | 23 | 21 | 4 | 1 | 0 | 0 | 16777216 |
四、相关计算公式
a. 每个内存规格的尺寸计算公式
size = (1 << log2Group) + (1 << log2Delta) * nDelta;
b. 第0组是单独初始化不予考虑, 从第1组开始
log2Group = log2Delta + 2;
c. 通过a,b合并得到
size = 2 ^ log2Delta (4 + nDelta)
d. 从c得到, 自第1组开始组内每个内存大小是logDelta的[ 5,6,7,8 ]倍;
五、结果说明
- 最小尺寸16B, 最大尺寸16M;
- 尺寸分19组, 每组4个, 共76种尺寸(规格, 颗粒度);
- 从第1组开始, 后一组是前一组容量的2倍;
- 组内后一个是在前一个的尺寸基础上+log2Delta;
- 尺寸>=pageSize(8K)的有40个;
- 尺寸小于pageSize(8K)的有36个;
- 这种尺寸作为分配的最小颗粒度, 同时也影响了做实际分配时的空间大小以及对应的最小颗粒度(元素)数量;
六、小结
本篇介绍的是Netty4.1.73-Final的内存规格化, 后续的内存分配均以该内存规格为基础进行。整个尺寸要覆盖小尺寸和大尺寸, 平衡分配效率和空间利用率。这里仅仅介绍了其内存规格化的实现结果, 如此设计的原因和历史的演进, 感兴趣的小伙伴可以去进一步研究Jmelloc项目。
相关文章:
Netty内存管理--内存池空间规格化SizeClasses
一、规格化 内存池类似于一个内存零售商, 从操作系统中申请一整块内存, 然后对其进行合理分割, 将分割后的小内存返回给程序。这里存在3个尺寸: 分割尺寸: 底层内存管理的基本单位, 比如常见的以页为单位分配, 但是页的大小是灵活的;申请尺寸: 内存使用者希望申请到的内存大小…...
数据结构刷题(三十):96不同的二叉搜索树、01背包问题理论、416分割等和子集
一、96. 不同的二叉搜索树 1.这个题比较难想递推公式, dp[3],就是元素1为头结点搜索树的数量 元素2为头结点BFS的数量 元素3为头结点BFS的数量 元素1为头结点搜索树的数量 右子树有2个元素的搜索树数量 * 左子树有0个元素的搜索树数量 元素2为头结…...
bash的进程与欢迎讯息自定义
在bash shell中,可以通过多种方式自定义欢迎讯息和提示符。主要有: 修改/etc/profile文件: 该文件在用户登录后执行,定义了PROMPT_COMMAND和PS1提示符。可以修改其内容实现自定义欢迎讯息和提示符。 例如,修改为: bash PROMPT_COMMANDecho -e "\nWelcome to My Bash She…...
本周大新闻|苹果首款MR没有主打卖点;Meta认为AI是AR OS的基础
本周XR大新闻,AR方面,苹果首款MR或没有主打卖点,反而尽可能支持更多App和服务;扎克伯格表示基于AI的AR眼镜操作系统是下一代计算平台的基础;微软芯片工程VP Jean Boufarhat加入Meta芯片团队;Humane展示了…...
Java中工具类Arrays、Collections、Objects
Arrays Arrays是Java中提供的一个针对数组操作的工具类,所有的方法都是静态的。 大致有这些常用的方法 sort()针对常用的基本数据类型,都能进行排序,byte、char、int、long、float、doubleparallelSort()并行排序,多线程排序&am…...
Docker安装Nginx/Python/Golang/Vscode【亲测可用】
一、docker安装nginx docker安装nginx,安装的是最新版本的:docker pull nginx:latest 创建一个容器:docker run --name my-nginx -p 80:80 -d nginx:latest 开启一个交互模式终端:docker exec -it my-nginx bash 创建django项…...
蓝桥杯2022年第十三届决赛真题-最大数字
蓝桥杯2022年第十三届决赛真题-最大数字 时间限制: 3s 内存限制: 320MB 题目描述 给定一个正整数 N。你可以对 N 的任意一位数字执行任意次以下 2 种操作: 将该位数字加 1。如果该位数字已经是 9,加 1 之后变成 0。 将该位数字减 1。如果该位数字已经…...
smbms项目搭建
目录 1.搭建一个maven web项目 2.配置Tomcat 3.测试项目是否能够跑起来 4.导入项目中会遇到的Jar包 5.项目结构搭建 6.项目实体类搭建 7.编写基础公共类 1.数据库配置文件 2.编写数据库的公共类 3.编写字符编码过滤器 3.1web配置注册 4.导入静态资源 1.搭建一个maven web项目 …...
进程/线程 状态模型详解
前言:最近操作系统复习到线程的状态模型(也可以说进程的状态模型,本文直接用线程来说)时候,网上查阅资料,发现很多文章都说的很不一样,有五状态模型、六状态模型、七状态模型.......虽然都是对的…...
数据结构与算法之队列: Leetcode 621. 任务调度器 (Typescript版)
任务调度器 https://leetcode.cn/problems/task-scheduler/ 描述 给你一个用字符数组 tasks 表示的 CPU 需要执行的任务列表。其中每个字母表示一种不同种类的任务。任务可以以任意顺序执行,并且每个任务都可以在 1 个单位时间内执行完。在任何一个单位时间&#…...
【报错】arXiv上传文章出现XXX.sty not found
笔者在overleaf上编译文章一切正常,但上传文章到arxiv时出现类似于如下报错: 一般情况下观察arxiv的编译log,不通过的原因,很多时候都是由于某一行导入了啥package,引起的报错;但是如果没有任何一个具体的…...
项目合同管理
项目合同管理的基本概念及分类、项目合同签订、项目合同管理以及项目合同索赔处理等内容 信息系统工程的建设过程实际上就是合同的执行和监控的过程 1、项目合同的概念及分类 合同法律关系:权力和义务关系 合同可以是书面形式、口头形式和其他形式 书面形式是指…...
聊聊ClickHouse向量化执行引擎-过滤操作
俄罗斯Yandex开发的ClickHouse是一款性能黑马的OLAP数据库,其对SIMD的灵活运用给其带来了难以置信的性能。本文我们聊聊它如何对过滤操作进行SIMD优化。 基本思想 1、有一个数组data,即ColumnVector::data,存放数据 2、使用uint8类型…...
数据可视化第二版-拓展-网约车分析案例
文章目录 数据可视化第二版-拓展-网约车分析案例竞赛介绍 1等奖作品-IT从业者张某某的作品结论过程数据和思考数据处理数据探索数据分析方法选择数据分析相关性分析转化率分析分析结论 完单数量分析分析结论 司机数量分析分析结论 时间分析每日订单分析 工作日各时段分析周六日…...
pytest - Getting Start
前言 项目开发中有很多的功能,通常开发人员需要对自己编写的代码进行自测,除了借助postman等工具进行测试外,还需要编写单元测试对开发的代码进行测试,通过单元测试来判断代码是否能够实现需求,本文介绍的pytest模块是…...
( 字符串) 205. 同构字符串 ——【Leetcode每日一题】
❓205. 同构字符串 难度:简单 给定两个字符串 s 和 t ,判断它们是否是同构的。 如果 s 中的字符可以按某种映射关系替换得到 t ,那么这两个字符串是同构的。 每个出现的字符都应当映射到另一个字符,同时不改变字符的顺序。不同…...
python+django+vue消防知识宣传网站
开发语言:Python 框架:django Python版本:python3.7.7 数据库:mysql 数据库工具:Navicat 开发软件:PyCharm 层随着移动应用技术的发展,越来越多的消防单位借助于移动手机、电脑完成生活中的事…...
彻底告别手动配置任务,魔改xxl-job!
分析 改造 1、接口调用 2、创建新注解 3、自动注册核心 4、自动装配 测试 测试后 XXL-Job是一款非常优秀的任务调度中间件,其轻量级、使用简单、支持分布式等优点,被广泛应用在我们的项目中,解决了不少定时任务的调度问题。不仅如此&a…...
【五一创作】Springboot+多环境+多数据源(MySQL+Phoenix)配置及查询(多知识点)
文章目录 1. 背景2. 技术点3 子模块依赖SpringBoot设置4. 多环境配置4.1 application.yml4.2 application-pro.yml 5. 多数据源配置5.1 yml配置5.2 自定义数据源在Java中配置5.2.1 PhoenixDataSourceConfig5.2.2 MysqlDataSourceConfig 6. 完整的Pom6. 测试6.1 Mapper配置6.2 方…...
Python小姿势 - 线程和进程:
线程和进程: Python里面线程是真正的并行执行,进程是可以并行执行的。 所谓进程,就是操作系统中执行一个程序的独立单元,它是系统进行资源分配和调度的基本单位。一个进程可以创建和撤销另一个进程,同一个进程内可以并…...
【大模型RAG】拍照搜题技术架构速览:三层管道、两级检索、兜底大模型
摘要 拍照搜题系统采用“三层管道(多模态 OCR → 语义检索 → 答案渲染)、两级检索(倒排 BM25 向量 HNSW)并以大语言模型兜底”的整体框架: 多模态 OCR 层 将题目图片经过超分、去噪、倾斜校正后,分别用…...
日语AI面试高效通关秘籍:专业解读与青柚面试智能助攻
在如今就业市场竞争日益激烈的背景下,越来越多的求职者将目光投向了日本及中日双语岗位。但是,一场日语面试往往让许多人感到步履维艰。你是否也曾因为面试官抛出的“刁钻问题”而心生畏惧?面对生疏的日语交流环境,即便提前恶补了…...
PHP和Node.js哪个更爽?
先说结论,rust完胜。 php:laravel,swoole,webman,最开始在苏宁的时候写了几年php,当时觉得php真的是世界上最好的语言,因为当初活在舒适圈里,不愿意跳出来,就好比当初活在…...
Opencv中的addweighted函数
一.addweighted函数作用 addweighted()是OpenCV库中用于图像处理的函数,主要功能是将两个输入图像(尺寸和类型相同)按照指定的权重进行加权叠加(图像融合),并添加一个标量值&#x…...
视频字幕质量评估的大规模细粒度基准
大家读完觉得有帮助记得关注和点赞!!! 摘要 视频字幕在文本到视频生成任务中起着至关重要的作用,因为它们的质量直接影响所生成视频的语义连贯性和视觉保真度。尽管大型视觉-语言模型(VLMs)在字幕生成方面…...
有限自动机到正规文法转换器v1.0
1 项目简介 这是一个功能强大的有限自动机(Finite Automaton, FA)到正规文法(Regular Grammar)转换器,它配备了一个直观且完整的图形用户界面,使用户能够轻松地进行操作和观察。该程序基于编译原理中的经典…...
重启Eureka集群中的节点,对已经注册的服务有什么影响
先看答案,如果正确地操作,重启Eureka集群中的节点,对已经注册的服务影响非常小,甚至可以做到无感知。 但如果操作不当,可能会引发短暂的服务发现问题。 下面我们从Eureka的核心工作原理来详细分析这个问题。 Eureka的…...
Python ROS2【机器人中间件框架】 简介
销量过万TEEIS德国护膝夏天用薄款 优惠券冠生园 百花蜂蜜428g 挤压瓶纯蜂蜜巨奇严选 鞋子除臭剂360ml 多芬身体磨砂膏280g健70%-75%酒精消毒棉片湿巾1418cm 80片/袋3袋大包清洁食品用消毒 优惠券AIMORNY52朵红玫瑰永生香皂花同城配送非鲜花七夕情人节生日礼物送女友 热卖妙洁棉…...
C++使用 new 来创建动态数组
问题: 不能使用变量定义数组大小 原因: 这是因为数组在内存中是连续存储的,编译器需要在编译阶段就确定数组的大小,以便正确地分配内存空间。如果允许使用变量来定义数组的大小,那么编译器就无法在编译时确定数组的大…...
嵌入式学习笔记DAY33(网络编程——TCP)
一、网络架构 C/S (client/server 客户端/服务器):由客户端和服务器端两个部分组成。客户端通常是用户使用的应用程序,负责提供用户界面和交互逻辑 ,接收用户输入,向服务器发送请求,并展示服务…...
