从硬件角度理解“Linux下一切皆文件“,详解用户级缓冲区
目录
前言
一、从硬件角度理解"Linux下一切皆文件"
从理解硬件是种“文件”到其他系统资源的抽象
二、缓冲区
1.缓冲区介绍
2.缓冲区的刷新策略
3.用户级缓冲区
这个用户级缓冲区在哪呢?
解释关于fork再加重定向“>”后数据会打印两份的原因
4.内核缓冲区简介
总结
前言
"Linux下一切皆文件",这是Linux的一个基本设置理念同时也是Linux的设计哲学所在。
这篇博客,笔者首先总结一下我自学习Linux以来,到目前自己对“Linux下一切皆文件”的感悟和理解,其次再讨论Linux中的缓冲区机制。
提示:以下是本篇文章正文内容,下面案例可供参考
一、从硬件角度理解"Linux下一切皆文件"
首先需要再次明确Linux操作系统的主要目的或者作用:
对上,方便用户使用——为用户提供稳定的、高效的、安全的使用环境。
对下,管理好计算机繁杂的软硬件资源;
其次需要明确的是文件无外乎由两部分构成:内容和属性
内容决定文件“是什么”(数据含义)。
属性决定文件的“如何用”(权限、存储、类型)。
比如一个普通文件:
他的内容是文本、二进制数据;
他的属性是文件名、权限、大小、时间戳等。
我们可以通过write、read等修改文件内容,也可以用chmod函数修改文件的权限等属性。
初识Linux:常见指令介绍,文件权限的更改,以及粘滞位的理解-CSDN博客
那么思维发散一下,我们能否将这些硬件的自身状态、操作方法抽象为“内容+属性”,并用统一的接口修改这些硬件呢?
已知的是Linux似乎正是将系统资源(如硬件设备等)抽象为文件,提供统一的文件操作接口(open
, read
, write
, close
等)。使得无论操作对象是普通文件、目录、设备,用户都可以通过相同的文件系统与之交互。
从理解硬件是种“文件”到其他系统资源的抽象
对于计算机上诸多的硬件资源,我目前认为操作系统通过:先整理,再管理的方法管理这些硬件。
所谓先整理,在管理。这是笔者从进程PCB的创建受到的启发。OS为方便管理不同的进程会为其创建PCB,其中包含着进程的所有属性信息,那管理硬件是不是也可以通过创建某种数据结构来实现管理呢?
①假设OS为方便管理各种硬件资源会为其创建某种数据结构——这里想象成某种结构体struct file,该结构体中记录着该硬件的各种属性信息和行为函数——即IO操作。
②通过对冯诺依曼体系结构的抽象,将计算机抽象为存储器和其他。这个其他中包括cpu和各种硬件设备,这么划分的原因是这些硬件都要与内存进行IO操作。我们不妨暂将所有硬件的IO操作抽象为两个函数read( )和write( )。
通过上述两点,创建一个struct file结构体,其中有着各硬件的状态信息和函数行为:
struct file
{//内容int type;int status;……//属性int (*write)();//函数指针int (*read)();……
}
那么将每个硬件file实例化(与多态有些相似),再通过一个数据结构如链表将这些硬件的struct对象管理起来,如链表。
综上,当站在上层视角来看,这些硬件都是一种统一的数据,其中有着“内容+属性”,这不就是一种抽象的“文件”吗。这些个文件提供统一的文件操作接口(write、read、open、close等),无论操作对象是键盘、鼠标还是其他什么硬件,用户都可以通过相同的接口与之交互。
将上述思想和方法发散到其他系统资源,同样通过“先整理,再管理”的思想,这或许是理解“Linux下一切皆文件”的思路之一吧。
问:磁盘等硬件有输入输出好理解,那如显示器等硬件不是只有输入或者只有输出吗?
答:虽然如显示器等设备没有输入操作,我们只需将其struct内部的函数指针置为NULL即可。
以上是笔者目前对“Linux下一切皆文件”的理解,若笔者有错误的认识或者读者有更深的理解,还请读者不吝赐教,在评论区中一起讨论。
二、缓冲区
1.缓冲区介绍
1)什么是缓冲区
缓冲区本质上就是一段内存。
2)为什么要有缓冲区
磁盘等存储设备物理I/O效率极低,通过引入缓冲区将多次小数据操作合并为大数据操作,从而节省数据IO时间,提升性能。
2.缓冲区的刷新策略
通过以下代码观察缓冲区:
在程序sleep的十秒之间printf不会打印,等sleep结束后才会打印。
注意printf没有带\n。
1 #include<stdio.h>2 #include<unistd.h>3 int main()4 {5 printf("hello Linux");//注意没带\n6 sleep(10); 7 return 0;8 }
但在printf和sleep之间添加了fflsh(stdout)后,printf会立即打印。
下面是缓冲区的三种刷新策略。
1)立即刷新——无缓冲
2)行刷新——行缓冲
3)缓冲区满——全缓冲(效率最高)
有两种特殊情况缓冲区会立即刷新:
①用户强制刷新(如上述的fflush函数);
②程序退出——这也是为什么在某些集成开发环境下(如vs2022)程序时得等一会才能在控制台上看到打印结果。
3.用户级缓冲区
引子——观察下列代码在bash不同指令下的执行情况:
1 #include<stdio.h>2 #include<unistd.h>3 #include<string.h>4 int main()5 {6 printf("hello Linux\n");//注意没带\n7 fprintf(stdout,"hello fprintf\n");8 fputs("hello fpurs",stdout);9 const char *str="hello writie\n";10 write(stdout->_fileno,str,strlen(str));11 12 fork(); 13 return 0;14 }
执行 . / test:
执行. / test > log.txt
可以发现. / test > log.txt比. / test多打印了几行,这多打印的全是C标准库提供的函数。
这个用户级缓冲区在哪呢?
通过观察stdout的类型,我们可以推导出FILE中不仅有文件描述符,还存在缓冲区,所有当我们想要主动刷新缓冲区时,fflush传入的是FILE*指针。
解释关于fork再加重定向“>”后数据会打印两份的原因
①没有进行>时,我们看到打印了四条数据。stdout默认采用的是行刷新,在进行fork之前三条C函数已经将数据打印到显示器上了,FILE中不在存有相应数据了;
②如果我们进行了>,写入的文件不再是显示器,而是普通文件,采用的刷新策略也不再是行缓冲而是全缓冲,而这三条C打印显然不能填满缓冲区,于是数据就没有被刷新。fork函数之后紧接着就是程序退出,故当fork创建子进程后,无论父子进程谁先退出都必定会发生写时拷贝(缓冲区刷新就是修改),因此父子进程分别向log.txt中打印了数据。
至于write,他是linux系统调用,不属于C,且write用的是fd文件描述符没有使用FILE结构体,所以C提供的缓冲区中就不考虑write,因此无论那种情况write都只打印了一次。
为什么stdout标准输出默认采用行缓冲?
有关文件描述符的解释,参看:Linux中有关文件操作的系统接口,文件描述符,重定向的介绍-CSDN博客
有关fork函数和写时拷贝的解释,参看:
Linux环境下的进程创建-fork函数的使用与写时拷贝, 进程退出exit和_exit的区别,以及进程等待waitpid和status数据的提取方法-CSDN博客
4.内核缓冲区简介
1)内核缓冲区在相应文件的file_struct中。流是文件的特殊或者说流是文件的一种高级抽象。
file_struct与task_struct(PCB)一样都是内核级数据结构,在task_struct中有着指向file_struct的指针。
2)内核缓冲区的刷新策略完全由OS自主决定;
3)完整的数据刷新过程:
4)fsync函数:强制将内核缓冲区中的数据刷入磁盘。
总结
笔者水平浅薄,对于上述内容难免有疏忽疑错,还请读者多多指处。
希望本文对你有所帮助
读完点赞,手留余香~
相关文章:

从硬件角度理解“Linux下一切皆文件“,详解用户级缓冲区
目录 前言 一、从硬件角度理解"Linux下一切皆文件" 从理解硬件是种“文件”到其他系统资源的抽象 二、缓冲区 1.缓冲区介绍 2.缓冲区的刷新策略 3.用户级缓冲区 这个用户级缓冲区在哪呢? 解释关于fork再加重定向“>”后数据会打印两份的原因 4.内核缓冲…...
【第76例】IPD流程实战:华为业务流程架构BPA进化的4个阶段
目录 简介 第一个阶段,业务流程架构BPA1.0 第二个阶段,业务流程架构BPA2.0 BPA3.0、4.0 作者简介 简介 不管业务是复杂还是简单,企业内外的所有事情、所有业务都最终会归于流程。 甚至是大家经常说的所谓的各种方法论,具体的落脚点还是在流程上。 比如把大象放进冰…...

游戏站的几种形式
游戏站点的主要形式:单品游戏站、游戏盒子站与单类型游戏盒子站 随着互联网的普及和游戏产业的快速发展,游戏站点作为玩家获取游戏资源和信息的重要平台,呈现出多种形式。本文将分析三种常见的游戏站点形式:单品游戏站、游戏盒子站…...
OpenCV 图像透视变换详解
在计算机视觉领域,图像的视角问题常常会影响后续的分析与处理。例如,从倾斜角度拍摄的文档、带有畸变的场景图像等,都需要通过特定的方法进行矫正。OpenCV 作为计算机视觉领域的重要库,提供了强大的图像透视变换功能,能…...
AI日报 - 2024年5月16日
🌟 今日概览 (60秒速览) ▎🤖 大模型前沿 | OpenAI推出GPT-4.1及mini版,专为编码优化;Google DeepMind发布AlphaEvolve,Gemini驱动算法发现。 GPT-4.1提升编码效率与指令遵循,AlphaEvolve在矩阵乘法、数学问…...
Ubuntu 更改 Nginx 版本
将 1.25 降为 1.18 先卸载干净 # 1. 完全卸载当前Nginx sudo apt purge nginx nginx-common nginx-core# 2. 清理残留配置 sudo apt autoremove sudo rm -rf /etc/apt/sources.list.d/nginx*.list修改仓库地址 # 添加仓库(通用稳定版仓库) codename$(…...
Python requests GET 报错:ChunkedEncodingError
问题 在实际项目中遇到的这样一个问题:通过Python GET从服务器请求url列表,因为是公司内部数据,知道大概多少条数据,所以直接一次请求500条。平稳运行了一段时间之后,突然某天这个GET请求报错了… response request…...
RabbitMQ是什么?应用场景有哪些?
RabbitMQ 是一款开源的消息代理中间件,基于 AMQP(高级消息队列协议)实现,用于在分布式系统中进行异步通信和消息传递。它通过将消息的发送者和接收者解耦,提高了系统的可扩展性、可靠性和灵活性。 核心特点 多协议支持:不仅支持 AMQP,还兼容 STOMP、MQTT 等多种消息协议…...

打造智能化军工软件工厂,破解版本管理难题
在数字化浪潮席卷全球的当下,军工行业正经历着前所未有的软件工业化转型。作为这一进程的核心支撑,软件工厂模式正在重塑军工领域的研发体系。然而,传统版本管理方式已难以适应现代军工软件研发的复杂需求,成为制约行业发展的关键…...

SpringbBoot nginx代理获取用户真实IP
为了演示多级代理场景,我们分配了以下服务器资源: 10.1.9.98:充当客户端10.0.3.137:一级代理10.0.4.105:二级代理10.0.4.129:三级代理10.0.4.120:服务器端 各级代理配置 以下是各级代理的基本配…...

allure报告自定义logo和名称
根据pytest框架,做自动化测试的时候,选择的是allure测试报告,这个报告是目前所有报告中功能最强大最好用的测试报告之一 我们在使用这个测试报告的时候,怎么样去把allure的logo和名称替换成自己公司或者自己的logo呢?…...
鸿蒙OSUniApp 实现的地图定位与导航功能#三方框架 #Uniapp
UniApp 实现的地图定位与导航功能 随着移动互联网的发展,地图定位与导航功能已成为众多应用的标配。本文将详细介绍如何在 UniApp 框架下实现地图定位与导航功能,并探讨如何适配鸿蒙系统,助力开发者打造更加流畅的地图体验。 前言 最近在做一…...

【AI论文】对抗性后期训练快速文本到音频生成
摘要:文本到音频系统虽然性能不断提高,但在推理时速度很慢,因此对于许多创意应用来说,它们的延迟是不切实际的。 我们提出了对抗相对对比(ARC)后训练,这是第一个不基于蒸馏的扩散/流模型的对抗加…...
Android 中 显示 PDF 文件内容(AndroidPdfViewer 库)
PDFView 是一个用于在 Android 应用中显示 PDF 文档的库。它提供了丰富的功能和灵活的配置选项,使得开发者能够轻松地在应用中嵌入 PDF 阅读器。 一、 添加依赖 在模块的 build.gradle 文件中添加以下依赖: // pdfimplementation("com.github.bar…...
Linux 软件包|服务管理
rpm 指令备注rpm -qa查看已安装软件,可以结合grep过滤查找rpm -e firefox卸载firefoxrpm -ivh firefox-115.12.0-1.el7.centos.i686.rpm安装gcc(只能离线安装) yum 能够从指定的服务器自动下载 RPM 包并且安装 指令备注yum list列出所有可…...

测试工程师如何学会Kubernetes(k8s)容器知识
Kubernetes(K8s)作为云原生时代的关键技术之一,对于运维工程师、开发工程师以及测试工程师来说,都是一门需要掌握的重要技术。作为一名软件测试工程师,学习Kubernetes是一个有助于提升自动化测试、容器化测试以及云原生应用测试能力的重要过程…...

遥感图像露天矿区检测数据集VOC+YOLO格式1542张1类别
数据集格式:Pascal VOC格式YOLO格式(不包含分割路径的txt文件,仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件) 图片数量(jpg文件个数):1542 标注数量(xml文件个数):1542 标注数量(txt文件个数):1542 …...

每日Prompt:迷你 3D 建筑
提示词 3D Q版迷你风格,一个充满奇趣的迷你星巴克咖啡馆,外观就像一个巨大的外带咖啡杯,还有盖子和吸管。建筑共两层,大大的玻璃窗清晰地展示出内部温馨而精致的设计:木质的家具、温暖的灯光以及忙碌的咖啡师们。街道…...
解决 Sarspace 处理陆探一号辐射定标地理编码出现条纹问题:DEM 下载篇
在使用 Sarspace 处理陆探一号辐射定标地理编码时,结果出现条纹现象,经排查确定是 DEM(数字高程模型)下载存在问题。以下为利用自动下载功能解决该问题的过程。 问题排查 陆探一号数据处理中,条纹现象的出现往往与多种…...

el-breadcrumb 面包屑第一项后面怎么写没有分隔符
<el-breadcrumb separator"/"><el-breadcrumb-item>当前位置:</el-breadcrumb-item><el-breadcrumb-item :to"{ path: / }">首页</el-breadcrumb-item><el-breadcrumb-item><a href"/">活…...
Free2AI解锁教育新可能:LLM+RAG 技术驱动智能学习的关键路径
一、引言 在科技飞速发展的当下,人工智能技术正深刻地改变着各个领域,教育领域也不例外。大型语言模型(LLM)和检索增强生成(RAG)技术的兴起,为教育与智能学习带来了前所未有的机遇。LLM 凭借其强大的语言理解和生成能力,能够与用户进行自然流畅的对话,仿佛一位知识…...

MYSQL 高可用
目录 一 什么是MYSQL高可用 1.1 什么是MySQL高可用 1.2方案组成 1.3 优势 2.1 案例环境 二 案例实施 1.安装mysql数据库 (1 基础环境 (2二进制安装进行bash (3 设置配置文件 MYSQL 的配置文件跟上面编译安装的配置文件类似 (4. 配…...

【GaussDB迁移攻略】DRS支持CDC,解决大规模数据迁移挑战
目录 1 背景介绍 2 CDC的实现原理 3 DRS的CDC实现方式 4 DRS的CDC使用介绍 5 总结 1 背景介绍 随着国内各大行业数字化转型的加速,客户的数据同步需求越来越复杂。特别是当需要将一个源数据库的数据同时迁移到不同的目标库场景时,华为云通常会创建…...

HoloTime:从一张图片生成可交互的4D虚拟世界——突破静态生成模型,重构VR/AR内容生产范式
引言:静态生成模型的局限与HoloTime的突破 在空间智能与虚拟内容生成领域,传统生成模型(如扩散模型)面临两大瓶颈: 静态输出:仅能生成固定视角的3D场景或局部物体动画。沉浸感缺失:无法构建用户可“走进去”的动态4D空间(时间+空间)。HoloTime 通过“图像→全景视频→…...
【Python CGI编程】
Python CGI(通用网关接口)编程是早期Web开发中实现动态网页的技术方案。以下是系统化指南,包含核心概念、实现步骤及安全实践: 一、CGI 基础概念 1. 工作原理 浏览器请求 → Web服务器(如Apache) → 执行…...
JavaScript 时间转换:从 HH:mm:ss 到十进制小时及反向转换
关键点 JavaScript 可以轻松实现时间格式(HH:mm:ss 或 HH:mm)与十进制小时(如 17.5)的相互转换。两个函数分别处理时间字符串到十进制小时,以及十进制小时到时间字符串的转换,支持灵活的输入和输出格式。这…...

【深度学习】#11 优化算法
主要参考学习资料: 《动手学深度学习》阿斯顿张 等 著 【动手学深度学习 PyTorch版】哔哩哔哩跟李牧学AI 目录 深度学习中的优化挑战局部极小值鞍点梯度消失 凸性凸集凸函数 梯度下降一维梯度下降学习率局部极小值 多元梯度下降 随机梯度下降随机梯度更新动态学习率…...
《数字藏品APP开发:解锁高效用户身份认证与KYC流程》
开发一款数字藏品APP,要面对诸多复杂且关键的环节,其中,实现高效的用户身份认证与KYC(了解你的客户)流程,无疑是重中之重。这不仅关乎用户资产安全与平台合规运营,更是构建用户信任、保障平台可…...
ros2中自定义的package查不到?
在ros2中自定义的package功能包,使用命令:ros2 pkg list无法查找到自己的功能包? 首先,利用ros2 pkg create命令创建好功能包之后要利用colcon build命令进行编译,编译成功之后,在当前路径需要运行命令&am…...

根据台账批量制作个人表
1. 前期材料准备 1)要有 人员总的信息台账 2)要有 个人明白卡模板 2. 开始操作 1)打开 人员总的信息台账,选择所需要的数据模块; 2)点击插入,选择数据透视表,按流程操作&…...