【C++项目】从零实现高并发内存池（一）：核心原理与设计思路

一什么是内存池1. 池化技术定义程序先向系统申请过量资源自己管理备用避免频繁申请系统资源的开销。核心思想提前申请 → 自行管理 → 快速复用提升运行效率。常见应用内存池、连接池、线程池、对象池等。线程池例子预先启动若干线程让它们休眠收到客户端请求时唤醒池中一个线程处理处理完后线程回到休眠状态等待下次复用。2. 内存池定义程序预先向操作系统申请一块足够大的内存之后申请内存不从系统直接申请而是从内存池获取释放内存不直接还给系统而是归还到内存池真正释放程序退出或特定时机才将内存还给系统。3. 内存池主要解决的问题效率问题避免频繁调用malloc/free系统调用开销大内存池内部分配/回收速度更快提升程序性能。内存碎片问题频繁分配/释放不同大小内存会产生大量无法利用的小内存块内存碎片内存池通过合理组织内存块减少碎片提高内存利用率。以下这种是外碎片的例子还回来的时候不连续所以造成空间碎片化还有内碎片我们在后面会提到维度内碎片外碎片位置已分配内存块内部已分配内存块之间的空闲区本质分配过剩“用不完”空闲分散“凑不齐”可见性对分配者可见占用了但没用对分配者不可见整体空闲但用不了影响单个内存块利用率低无法满足大块内存分配请求典型解决精细化大小类、减少对齐填充页合并、伙伴系统、内存池4. malloc 的本质C/C 动态申请内存的接口是malloc但它并非直接从堆获取内存。malloc本身就是一个内存池实现向操作系统“批发”大块内存再将这块内存“零售”给程序使用当内存售罄或程序有大量需求时才向操作系统再次“进货”系统调用。malloc 有多种实现方案不同编译器/平台使用不同版本WindowsVS系列微软自研的 malloc 实现。LinuxGCCglibc 中的ptmalloc最常见的开源实现。二先设计一个定长的内存池学习一下我们知道申请内存的使用的是mallocmalloc是通用的但是任何场景都可以就意味着任何场景都不会有一个很高的性能现在我们先设计一个定长的内存池去熟悉一下简单内存池是怎么控制的以及会作为我们后面的内存池的一个组件。主要实现了一个简单的定长内存池ObjectPool旨在通过复用内存块来减少频繁new/delete带来的系统开销1. 核心模块解析系统级内存分配SystemAlloc功能封装了操作系统层面的内存申请接口。实现在 Windows 下使用VirtualAlloc按页申请空间kpage13即kpage * 8KB。inline static void* SystemAlloc(size_t kpage) { void* ptr VirtualAlloc(0, kpage 13, MEM_COMMIT | MEM_RESERVE, PAGE_READWRITE); if (ptr nullptr) throw std::bad_alloc(); return ptr; }内存池类ObjectPool这是一个模板类用于管理特定类型T的对象内存。成员变量_memory指向当前正在使用的大块内存块的指针。_remainBytes记录当前大块内存剩余可用字节数 。_freelist自由链表头指针指向已归还且可复用的对象内存。核心方法New优先复用检查_freelist是否为空。若不空从链表头部取出一个节点返回。内存不足时扩容若_remainBtyes不足则通过向堆申请新的 128KB 内存块。切割内存计算对象大小考虑指针大小对齐移动_memory指针减少_remainBtyes。构造对象使用new (obj) T在指定内存地址调用构造函数。核心方法Delete析构对象显式调用析构函数obj-~T()。归还内存将对象指针通过头插法插入_freelist链表供下次New复用。测试结构TreeNode与测试函数TestObjectPoolTreeNode一个简单的二叉树节点结构用于作为内存池管理的对象类型。TestObjectPool对比逻辑分别使用原生new/delete和ObjectPool的New/Delete进行多轮次Rounds、大数量N的申请释放操作。计时使用clock()记录两种方式消耗的 CPU 时钟 ticks。预期结果通常情况下ObjectPool耗时会显著低于原生new/delete因为减少了系统调用和内存碎片。结果成功达成提高性能效果实现的内存池相比直接new分配内存性能提升了约 2.26 倍111 / 49 ≈ 2.26符合对象池技术的预期效果。2. 关键总结自由链表Free List通过_freelist将释放的对象内存串联起来。Delete时将对象转为链表节点利用对象内存本身存储 next 指针New时直接从链表头部摘取。内存块管理不是一次性申请所有内存而是当当前内存块128KB用完时再申请新的块。Placement New使用new (obj) T语法在已分配的原始内存上构造对象分离了内存分配与对象构造。三高并发内存池整体框架设计1.设计背景现代开发多为多核多线程环境内存申请场景存在激烈锁竞争常规malloc在高并发场景下性能不足因此需设计高并发内存池模仿tcmalloc核心解决三大问题性能问题多线程环境锁竞争问题内存碎片问题。二、整体架构三层结构cmalloc采用thread cache central cache page cache三层架构实现高并发下的高效内存管理。1. thread cache线程缓存这个的特点就是要的字节比较少的时候也会多给属性每个线程独有线程本地缓存无锁竞争。适用场景分配小于256KB的小块内存。核心优势线程从自身thread cache申请内存时无需加锁是高并发的核心支撑点。运行逻辑thread cache按需从central cache获取内存对象线程释放内存时先放回自身thread cache暂不立即归还central cache。2. central cache中心缓存属性所有线程共享的中心缓存层。核心作用统一管理内存对象的分配与回收平衡各线程内存占用避免单个线程长期占用过多内存导致其他线程内存紧张实现内存按需调度、均衡分配。锁机制存在锁竞争但竞争程度低原因仅thread cache内存不足时才会向其申请且采用桶机制细化锁粒度。运行逻辑thread cache内存耗尽时向central cache申请批量内存对象thread cache释放内存时也归还给central cache统一管理。3. page cache页缓存属性位于central cache上层的缓存层以页为单位管理内存。核心作用为central cache提供大块内存支撑central cache内存不足时从page cache分配连续页切割为固定大小小块内存供central cache使用解决内存碎片当某个span的多个跨度页对应的对象全部回收后page cache会回收这些满足条件的span合并相邻的页组成更大的连续页缓解内存碎片。运行逻辑向系统申请大块内存页时优先从page cache获取回收central cache的内存时先归还给page cache再由page cache判断是否合并页、归还系统。三、核心设计逻辑总结层级核心特性解决问题关键机制thread cache线程独享、无锁、小内存分配高并发下的锁竞争、性能瓶颈线程本地缓存批量申请/释放central cache全局共享、锁竞争弱、均衡调度多线程内存分配不均、锁竞争激烈桶机制按需分配减少锁粒度page cache页级管理、合并相邻页内存碎片、大块内存分配页级缓存内存合并缓解碎片四、核心价值通过三层分级缓存将内存分配的锁竞争从“全局”下沉到“线程本地”大幅提升多线程并发分配效率同时通过内存合并机制有效降低内存碎片兼顾性能与内存利用率。