当前位置: 首页 > article >正文

别再傻傻分不清了!Linux下共享内存(shm)和内存映射(mmap)到底有啥区别?

Linux下共享内存(shm)与内存映射(mmap)的本质区别与工程实践在Linux系统编程中当我们需要在进程间高效传递数据时共享内存shm和内存映射mmap这两个概念常常让开发者感到困惑。它们看似都能实现内存共享但底层机制和适用场景却大不相同。本文将深入剖析两者的技术本质并通过实际案例展示如何正确选择和使用这两种机制。1. 从表象到本质理解核心差异许多开发者第一次接触共享内存和内存映射时最直观的感受就是它们都能让不同进程访问同一块内存区域。但为什么Linux要提供两种看似相似的机制让我们先看一个典型的误用场景// 错误示例混淆shm和mmap的使用场景 int fd open(data.bin, O_RDWR); void* addr mmap(NULL, size, PROT_READ|PROT_WRITE, MAP_SHARED, fd, 0); // 然后试图将其作为共享内存使用...这种用法虽然能工作但却忽略了两种机制设计初衷的根本区别。**共享内存shm是专门为进程间通信IPC设计的高效机制而内存映射mmap**最初是为了优化文件I/O操作。1.1 设计哲学对比特性共享内存 (shm)内存映射 (mmap)主要目的进程间高效数据共享文件I/O性能优化持久性通常临时性进程退出后消失可持久化到文件使用场景结构化数据共享大文件随机访问典型APIshm_open()/shmget()mmap()内核实现基于tmpfs基于page cache注意虽然POSIX共享内存底层也使用mmap系统调用但这不改变两者的设计初衷差异。1.2 性能特征实测通过一个简单的基准测试我们可以观察到两者在性能上的微妙差异# 测试共享内存的读写速度 $ ./benchmark --shm --size 1GB --iter 1000 Average latency: 0.12μs/op # 测试文件映射的读写速度 $ ./benchmark --mmap --file /tmp/test.bin --size 1GB --iter 1000 Average latency: 0.15μs/op虽然看起来差异不大但在高并发场景下这种差距会被放大。更重要的是当系统内存压力大时文件映射可能会触发额外的磁盘I/O而共享内存则保持纯内存操作。2. 深入实现机制/dev/shm与tmpfs的奥秘理解共享内存的关键在于认识/dev/shm这个特殊目录。这不是普通的磁盘目录而是一个tmpfs文件系统的挂载点。tmpfs有以下几个重要特性完全驻留在内存中除非需要swap不占用磁盘空间除非发生交换大小动态调整受限于系统内存文件权限与传统文件系统一致2.1 shm_open的底层实现当我们调用shm_open时glibc实际上执行了以下操作在/dev/shm目录下创建临时文件设置O_NOFOLLOW和O_CLOEXEC标志位返回文件描述符供后续mmap使用// 简化的shm_open实现逻辑 int shm_open(const char *name, int oflag, mode_t mode) { char path[PATH_MAX]; snprintf(path, sizeof(path), /dev/shm/%s, name); return open(path, oflag | O_NOFOLLOW | O_CLOEXEC, mode); }2.2 内存管理视角从free命令的输出中我们可以观察到共享内存的特殊表现$ free -h total used free shared buff/cache available Mem: 62G 3.2G 56G 1.4G 2.8G 57G Swap: 0B 0B 0B关键点shared字段显示System V共享内存的使用量buff/cache包含tmpfs包括POSIX共享内存的使用量删除/dev/shm下的文件会立即释放相应内存3. 工程实践如何正确选择和使用3.1 何时选择共享内存共享内存最适合以下场景需要频繁交换结构化数据如数据库缓存对延迟极其敏感的应用如高频交易系统短期存在的进程间通信需要POSIX语义的同步机制典型用例实时市场数据分发系统// 创建共享内存区域 int fd shm_open(/market_data, O_CREAT | O_RDWR, 0666); ftruncate(fd, sizeof(struct MarketData)); struct MarketData *data mmap(NULL, sizeof(struct MarketData), PROT_READ | PROT_WRITE, MAP_SHARED, fd, 0); // 生产者进程>// 映射日志文件进行分析 int fd open(large_log.txt, O_RDONLY); struct stat sb; fstat(fd, sb); char *log mmap(NULL, sb.st_size, PROT_READ, MAP_PRIVATE, fd, 0); // 随机访问文件内容 for (int i 0; i sb.st_size; i 4096) { process_log_entry(log i); }3.3 高级技巧与陷阱规避大小调整策略共享内存创建后可用ftruncate调整大小文件映射需要重新映射调整后的区域同步机制选择共享内存通常配合信号量或互斥锁使用文件映射可使用msync确保数据持久化常见陷阱忘记处理竞争条件错误估计内存使用量导致OOM忽略权限设置导致安全漏洞// 正确的同步示例 pthread_mutexattr_t attr; pthread_mutexattr_init(attr); pthread_mutexattr_setpshared(attr, PTHREAD_PROCESS_SHARED); pthread_mutex_init(data-lock, attr);4. 性能优化与监控4.1 调优参数Linux提供了多个参数控制共享内存行为# 查看System V共享内存限制 $ sysctl kernel.shmmax kernel.shmmax 18446744073692774399 # 查看POSIX共享内存限制实际是tmpfs大小 $ df -h /dev/shm Filesystem Size Used Avail Use% Mounted on tmpfs 32G 1.2G 31G 4% /dev/shm4.2 监控工具ipcs查看System V IPC状态$ ipcs -m ------ Shared Memory Segments -------- key shmid owner perms bytes nattch status 0x0052e2c1 0 user 600 1024 2lsof查看进程映射情况$ lsof /dev/shm COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME worker 1234 user mem REG 0,19 1048576 123 /dev/shm/market_datapmap分析进程内存映射$ pmap -x 1234 Address Kbytes RSS Dirty Mode Mapping 00007f3d4a000000 1024 512 512 rw-s- /dev/shm/market_data在实际项目中我们发现正确使用共享内存可以将进程间通信延迟降低到传统管道或消息队列的1/10以下。但这也带来了更高的复杂性和维护成本。一个经验法则是只有在性能瓶颈确实出现在IPC环节时才考虑使用共享内存。

相关文章:

别再傻傻分不清了!Linux下共享内存(shm)和内存映射(mmap)到底有啥区别?

Linux下共享内存(shm)与内存映射(mmap)的本质区别与工程实践 在Linux系统编程中,当我们需要在进程间高效传递数据时,共享内存(shm)和内存映射(mmap)这两个概念常常让开发者感到困惑。它们看似都能实现内存共…...

CREO新手避坑指南:从拉伸到抽壳,这10个建模细节90%的人都踩过

CREO新手避坑指南:从拉伸到抽壳,这10个建模细节90%的人都踩过 刚接触CREO三维建模时,许多初学者会被软件强大的功能所吸引,却往往在基础操作上反复踩坑。本文将从实际案例出发,剖析那些看似简单却暗藏玄机的建模细节&a…...

用STM32F103和LORA模块,从零搭建一个轮询式本地传感网(附避坑点)

基于STM32F103与LoRa的工业级轮询传感网实战指南 在工业物联网和智能农业领域,稳定可靠的无线传感网络是数据采集的基石。当我们手头有几个STM32F103开发板和LoRa模块时,如何构建一个抗干扰性强、响应及时的轮询式传感网络?本文将深入解析从硬…...

uni-app视频播放二选一:手把手对比调试video.js与MuiPlayer插件(H5/m3u8实战)

uni-app视频播放方案深度对比:video.js与MuiPlayer在H5/m3u8场景下的实战抉择 当uni-app开发者面临H5端m3u8视频播放需求时,技术选型往往成为项目推进的第一道门槛。video.js与MuiPlayer作为两大主流解决方案,各自拥有独特的生态优势与适配特…...

终极指南:如何用5分钟安装FF14动画跳过插件提升副本效率

终极指南:如何用5分钟安装FF14动画跳过插件提升副本效率 【免费下载链接】FFXIV_ACT_CutsceneSkip 项目地址: https://gitcode.com/gh_mirrors/ff/FFXIV_ACT_CutsceneSkip 还在为《最终幻想14》国服副本中冗长的动画而烦恼吗?FFXIV_ACT_Cutscene…...

如何实现虚拟游戏控制器:ViGEmBus驱动完整技术解析

如何实现虚拟游戏控制器:ViGEmBus驱动完整技术解析 【免费下载链接】ViGEmBus Windows kernel-mode driver emulating well-known USB game controllers. 项目地址: https://gitcode.com/gh_mirrors/vi/ViGEmBus ViGEmBus是一款专业的Windows内核模式驱动&am…...

深入CAN总线时序测试:如何用PicoScope精准测量Tbit与Tmess(以CAN ID 0x380为例解析异常)

深入CAN总线时序测试:如何用PicoScope精准测量Tbit与Tmess(以CAN ID 0x380为例解析异常) 在汽车电子和工业控制领域,CAN总线的时序一致性测试是确保通信可靠性的关键环节。当工程师面对Tbit计算结果异常或特殊报文结构时&#xff…...

网络工程师面试必看:通过一个华为ENSP综合实验,拆解中小型网络规划的核心思路

网络工程师面试必看:中小型网络规划的设计思维与实战解析 当面试官抛出"请描述你如何设计一个中小型网络"这个问题时,大多数求职者会陷入两种极端:要么机械罗列配置命令,要么泛泛而谈架构概念。真正能打动面试官的&…...

从宿舍区隔离到无线网配置:手把手教你用Cisco Packet Tracer实现企业级网络策略

企业级网络隔离与无线接入实战:Cisco Packet Tracer全流程配置指南 在数字化转型浪潮中,网络架构设计已成为企业IT基础设施的核心竞争力。想象这样一个场景:某科技园区需要为研发部门、行政部门和访客区域构建差异化的网络访问策略——研发数…...

别再死记硬背了!用Python+仿真软件复现莱顿瓶实验,轻松理解电容器原理

用Python仿真软件复现莱顿瓶实验:从历史装置到现代电容教学 在工程教育中,电容原理常常是学生遇到的第一个抽象概念。传统的板书推导和公式记忆往往让学习者陷入"知其然而不知其所以然"的困境。18世纪的莱顿瓶作为人类最早的电容器&#xff0c…...

别再硬编码了!ABAP Text Elements 三分钟搞定报表字段中文显示(附图标添加技巧)

ABAP文本元素实战:告别硬编码的报表开发艺术 每次看到报表界面上那些冷冰冰的字段名——MATNR、WERKS、VBELN——你是不是也感到一丝尴尬?业务用户可不懂这些技术缩写,他们需要的是直观的"物料编号"、"工厂"和"销售…...

Qt项目实战:用CryptoPP库给本地配置文件做AES加密(C++保姆级教程)

Qt项目实战:用CryptoPP库实现本地配置文件AES加密(C完整指南) 在桌面应用开发中,配置文件的安全性常常被忽视。想象一下,当用户打开你的应用目录,轻易就能用记事本查看到数据库密码或API密钥——这种赤裸裸…...

ARM SVE架构LD1H指令详解与性能优化

1. ARM SVE架构与LD1H指令概述在Armv8.2架构引入的可扩展向量扩展(Scalable Vector Extension, SVE)彻底改变了传统SIMD指令集的设计理念。与固定128位或256位宽度的NEON指令不同,SVE采用向量长度不可知(Vector Length Agnostic, VLA)编程模型,允许同一套…...

告别黑白日志!用Xshell正则高亮集,让服务器报错、成功信息一目了然

告别黑白日志!用Xshell正则高亮集,让服务器报错、成功信息一目了然 在运维和开发人员的日常工作中,与服务器打交道是家常便饭。无论是查看系统日志、调试应用程序,还是执行自动化脚本,我们都需要面对大量的命令行输出信…...

非线性声学与强化学习融合的智能声学处理技术

1. 非线性声学与强化学习的融合框架解析在复杂声学环境中,传统线性声学模型往往难以应对高阶声学现象。非线性声学理论通过Westervelt方程和KZK方程等物理模型,能够准确描述声波在非线性介质中的传播特性。这些方程考虑了介质压缩性和边界反射等非线性效…...

从AT24C02 EEPROM的I2C时序出发,手把手调试你的蓝桥杯单片机存储模块

从AT24C02 EEPROM的I2C时序出发,手把手调试你的蓝桥杯单片机存储模块 在蓝桥杯单片机竞赛中,AT24C02 EEPROM存储模块的稳定读写是基本功,但真正的高手往往能在底层通信协议层面发现问题、解决问题。本文将带你从I2C时序的微观视角&#xff0c…...

SpringBoot 2.6.2 + MyBatis-Plus 3.5.2 集成人大金仓Kingbase 8.6.0保姆级教程(含本地JAR安装避坑)

SpringBoot 2.6.2 MyBatis-Plus 3.5.2 集成人大金仓Kingbase 8.6.0实战指南 在国产化技术浪潮下,越来越多的企业开始采用国产数据库解决方案。作为国内领先的关系型数据库产品,人大金仓Kingbase以其高兼容性和稳定性受到广泛关注。本文将手把手带你完成…...

别光盯着分号!从C2143编译错误,聊聊C++预处理和语法解析那些事儿

别光盯着分号!从C2143编译错误,聊聊C预处理和语法解析那些事儿 当你盯着屏幕上的C2143错误,反复检查分号却依然无解时,有没有想过编译器到底"看"到了什么?这个看似简单的语法错误背后,隐藏着从源…...

Jetson Orin Nano 新手避坑:从零部署YoloV5,我踩过的那些环境配置的‘雷’

Jetson Orin Nano 边缘AI部署实战:YOLOv5环境配置全攻略与避坑指南 1. 硬件准备与系统烧录 Jetson Orin Nano作为NVIDIA新一代边缘计算设备,其强大的AI算力与紧凑体积使其成为计算机视觉项目的理想选择。但在开始YOLOv5部署前,正确的硬件准…...

Mac/Win双平台保姆级教程:从零配置ADB环境到连接真机/模拟器

Mac/Win双平台保姆级教程:从零配置ADB环境到连接真机/模拟器 第一次接触Android开发或测试时,配置ADB环境往往是让人头疼的第一步。不同操作系统、不同设备品牌、不同模拟器之间的差异,让很多新手在"adb devices"命令前败下阵来。…...

仓库盘点、物流交接?用UniApp+PDA扫码提升效率的实战配置与避坑指南

UniAppPDA扫码在仓储物流中的实战配置与效率提升指南 当仓储管理员小李第一次使用传统扫码枪配合PC系统进行月度盘点时,他需要反复核对Excel表格与实物位置,8小时的工作量常常延长到深夜。而现在,通过UniApp开发的移动端应用配合工业级PDA设备…...

实战指南:如何将SPIN的超像素思想,迁移到你的图像修复项目里(附思路)

超像素注意力机制在图像修复中的工程实践指南 当你在处理一张模糊的老照片时,是否曾为那些无法辨认的面部细节而苦恼?或者在增强低分辨率监控画面时,发现传统方法总是让边缘变得生硬不自然?这些问题背后,隐藏着一个被大…...

告别‘偏科’模型:用CAST双流架构搞定视频动作识别,兼顾时空理解

时空双流协同:CAST架构如何重塑视频动作识别的平衡之道 视频动作识别正面临一个关键瓶颈——现有模型往往在时空理解上"偏科"。就像人类大脑需要左右半球协同工作才能完整理解世界一样,理想的视频理解模型也需要同时具备敏锐的空间感知和精准的…...

超越跑分:深入CoreMark源码,看它如何“拷问”RISC-V CPU的三大核心能力

超越跑分:深入CoreMark源码,看它如何“拷问”RISC-V CPU的三大核心能力 在嵌入式处理器性能评估领域,CoreMark早已成为行业标准测试工具。但大多数开发者仅关注最终得分,却鲜少探究这个不足3000行代码的基准测试程序如何精准"…...

Redis详解以应用场景

一、Redis简介 1.1 什么是Redis Redis Remote Dictionary Service(远程字典服务) 传统数据库:数据存储在磁盘,访问需要磁盘IO└── 速度慢,但数据持久化Redis:所有数据存储在内存└── 速度极快&#xf…...

Cat-Catch浏览器资源嗅探扩展深度解析:高性能流媒体捕获架构揭秘

Cat-Catch浏览器资源嗅探扩展深度解析:高性能流媒体捕获架构揭秘 【免费下载链接】cat-catch 猫抓 浏览器资源嗅探扩展 / cat-catch Browser Resource Sniffing Extension 项目地址: https://gitcode.com/GitHub_Trending/ca/cat-catch Cat-Catch作为一款专业…...

如何永久免费解锁Cursor Pro全部功能:终极解决方案完全指南

如何永久免费解锁Cursor Pro全部功能:终极解决方案完全指南 【免费下载链接】cursor-free-vip [Support 0.45](Multi Language 多语言)自动注册 Cursor Ai ,自动重置机器ID , 免费升级使用Pro 功能: Youve reached you…...

手把手教你用STM32F103C8T6和NTC热敏电阻DIY一个水温监测器(附完整代码)

手把手教你用STM32F103C8T6和NTC热敏电阻DIY一个水温监测器(附完整代码) 水温监测在家庭养鱼、咖啡机控制、热水器管理等场景中非常实用。本文将带你从零开始,用最常见的STM32F103C8T6最小系统板和NTC热敏电阻,打造一个低成本、高…...

APK Installer:在Windows上轻松安装Android应用的完整指南

APK Installer:在Windows上轻松安装Android应用的完整指南 【免费下载链接】APK-Installer An Android Application Installer for Windows 项目地址: https://gitcode.com/GitHub_Trending/ap/APK-Installer APK Installer是一款专为Windows系统设计的Andro…...

强化学习回报归一化:ARN方法原理与SFC分区实践

1. 强化学习中的回报归一化:理论与实现在深度强化学习(DRL)的实际应用中,训练稳定性一直是困扰研究者的核心难题。特别是在处理服务功能链(SFC)分区等复杂网络编排任务时,由于任务周期长、状态空…...