当前位置: 首页 > article >正文

深入理解计算机系统——浮点数

目录一、为什么需要浮点数1.1 二进制小数的局限1.2 浮点数的思想二、IEEE 754 浮点数标准2.1 表示形式2.2 两种精度2.3 编码的三种情况三、浮点数的舍入Rounding3.1 为什么要舍入3.2 四种舍入模式IEEE 754 定义3.3 四舍五入Rounding详解四、浮点运算4.1 浮点数加减4.2 浮点数乘法4.3 浮点数除法参考(19 封私信 / 80 条消息) 一文彻底掌握浮点数 - 知乎No41.浮点数近似规则_guard round sticky-CSDN博客一、为什么需要浮点数1.1 二进制小数的局限二进制小数只能精确表示形如的数如 0.5, 0.25, 0.125…。很多有理数如 1/3, 1/5在二进制中是无限循环小数无法精确保存。定点表示法固定二进制小数点位置能表示的数值范围非常有限既不能表示极大值也不能表示极小值。1.2 浮点数的思想用科学记数法的二进制版本,其中 M (尾数/有效数字) 在 [1,2) 或 [0,1) 之间E指数可正可负。这样同样的位数可以覆盖极大的动态范围。二、IEEE 754 浮点数标准2.1 表示形式s符号位0 正 1 负。M尾数Significand。E指数Exponent。2.2 两种精度精度总位数sexp (k)frac (n)Bias单精度 (float)321823127双精度 (double)641115210232.3 编码的三种情况规格化值Normalized指数部分exp不全为 0 且不全为 1。尾数部分可以是任意值。作用用于表示大多数非零数值非规格化值Denormalized指数部分exp 000…0。尾数部分可以是任意值。作用提供表示数值 0 的方法。因为规格化中 M≥1 所以无法表示 0。用于表示非常接近于 0 的数值这些数值太小无法用规格化格式表示。它们填补了 0 和最小规格化正数之间的间隙提供了渐近于 0的连续表示防止了所谓的“下溢”。特殊值 Special Values指数部分exp 111…1。尾数部分全为 0 则表示无穷大不全为 0 则表示 NaN。作用特殊值用于表示那些无法用常规数值表示的情况如无穷大、非数NaN等。这些值通常用于操作的错误或特殊情况的结果如除以0、无效操作等。三、浮点数的舍入Rounding3.1 为什么要舍入位数有限浮点数只能表示有限位尾数。两个浮点数运算加减乘除的精确结果可能不在这个离散集合中。必须用“最接近”的可表示值来近似这个过程就是舍入。3.2 四种舍入模式IEEE 754 定义舍入模式规则描述特点 / 典型应用最近舍入Round to Nearest向最接近的可表示值舍入若正好位于中点则舍入到尾数最低位为偶数的值即最后一位为0默认模式无统计偏差适合科学计算、通用浮点运算向零舍入Round Toward Zero直接丢弃小数部分总是向零的方向舍入正数向下取整负数向上取整截断式舍入适合金融计算、整数转换向上舍入Round Up向正无穷大方向舍入结果不小于原值用于区间上限估计、某些数值算法向下舍入Round Down向负无穷大方向舍入结果不大于原值用于区间下限估计、某些数值算法3.3 四舍五入Rounding详解在二进制中我们要将尾数舍入到固定的frac位数如 23 位。Guard 位 (G)近似后的最低位。Round 位 (R)Guard位的后一位Sticky 位 (S)Round位后的所有位进行或运算后视作一位。1.近似位是0保留位保留保留位后面的全部都丢了这是肯定的近似位不是1都没有达到四舍五入的五。2.近似位为1如果近似位后面任意一位还有1粘滞位那么没商量保留位直接加1因为这比四舍五入的“五”要大了3.近似位为1但是近似位后面的全部都是0到了抉择的时候了1如果保留位是0就把保留位后面的全丢了2如果保留位是1那就给保留位加1让它进位后变成0总之就是在四舍五入刚好等于“五”时把保留位变成偶数即0四、浮点运算4.1 浮点数加减浮点数加法和减法首先需要对操作数进行对齐使得它们的指数相同较小的指数增加同时相应地调整尾数。这可能涉及将尾数的二进制表示向右移位可能导致精度损失。然后执行加法或减法操作。对结果进行规范化和舍入。4.2 浮点数乘法符号位计算结果的符号由两个操作数的符号位决定。如果符号位相同都是正数或都是负数结果为正如果符号位不同结果为负。指数相加两个数的指数相加并减去偏置值单精度浮点数中为127双精度为1023。尾数相乘两个数的尾数相乘。这里的尾数包括隐含的最高位1。结果规范化如果乘法的结果需要规范化即调整为1.xxxx的形式则相应调整指数。舍入处理如果需要对结果进行舍入以适应目标格式。检查溢出或下溢如果指数超出了表示范围则发生溢出结果可能为无穷大或特殊值如果指数太小发生下溢结果可能为 0 或非规格化数。4.3 浮点数除法符号位计算与乘法类似结果的符号由两个操作数的符号位决定。指数相减被除数的指数减去除数的指数再加上偏置值。尾数相除被除数的尾数除以除数的尾数。结果规范化如果必要调整结果使其规范化。舍入处理如果需要对结果进行舍入。检查溢出或下溢与乘法类似的检查。

相关文章:

深入理解计算机系统——浮点数

目录 一、为什么需要浮点数? 1.1 二进制小数的局限 1.2 浮点数的思想 二、IEEE 754 浮点数标准 2.1 表示形式 2.2 两种精度 2.3 编码的三种情况 三、浮点数的舍入(Rounding) 3.1 为什么要舍入? 3.2 四种舍入模式&#x…...

如何免费解锁网盘全速下载:网盘直链下载助手终极指南

如何免费解锁网盘全速下载:网盘直链下载助手终极指南 【免费下载链接】baiduyun 油猴脚本 - 一个免费开源的网盘下载助手 项目地址: https://gitcode.com/gh_mirrors/ba/baiduyun 还在为网盘下载速度只有几十KB而烦恼吗?网盘直链下载助手就是你需…...

技术管理中的目标设定与绩效评估

技术管理中的目标设定与绩效评估:驱动团队高效创新的核心 在快速发展的技术领域,目标设定与绩效评估是管理团队、推动创新的关键工具。明确的目标能够为技术团队提供方向,而科学的绩效评估则能确保资源高效利用,激发成员潜力。无…...

告别WSL安装等待:Phi-3-mini-4k-instruct-gguf提供离线配置与问题排查手册

告别WSL安装等待:Phi-3-mini-4k-instruct-gguf提供离线配置与问题排查手册 1. 为什么你需要这份指南 如果你正在Windows上尝试安装WSL(Windows Subsystem for Linux),很可能已经遇到了"wsl --install下载太慢"这个令人…...

万象视界灵坛实操手册:如何用8px硬边投影UI提升多模态分析沉浸感

万象视界灵坛实操手册:如何用8px硬边投影UI提升多模态分析沉浸感 1. 平台概述 万象视界灵坛是一款基于OpenAI CLIP技术的高级多模态智能感知平台。它将复杂的语义对齐过程转化为直观的像素风格交互体验,通过独特的16-Bit游戏美学设计,为用户…...

SiameseAOE模型在STM32嵌入式产品用户手册反馈分析中的潜在应用

SiameseAOE模型在STM32嵌入式产品用户手册反馈分析中的潜在应用 1. 引言 你有没有遇到过这样的情况?作为一名嵌入式工程师,拿到一块新的STM32开发板,兴致勃勃地翻开数据手册,准备大干一场,结果发现某个关键外设的配置…...

如何免费解锁网盘全速下载:3步终极指南

如何免费解锁网盘全速下载:3步终极指南 【免费下载链接】baiduyun 油猴脚本 - 一个免费开源的网盘下载助手 项目地址: https://gitcode.com/gh_mirrors/ba/baiduyun 你是否曾因网盘下载速度只有100KB/s而焦急等待?明明拥有高速宽带,下…...

动态窗口法避障的5个调参陷阱:用Python可视化分析成本函数权重影响

动态窗口法避障的5个调参陷阱:用Python可视化分析成本函数权重影响 在智能移动机器人开发中,动态窗口法(Dynamic Window Approach, DWA)因其计算高效和实时性强的特点,成为主流的局部路径规划算法之一。但许多开发者在实际调参过程中常遇到机…...

保姆级教程:用Python 3.11和Poetry在本地搞定GraphRAG v2.7.0索引与查询

保姆级教程:用Python 3.11和Poetry在本地搞定GraphRAG v2.7.0索引与查询 GraphRAG作为微软开源的图增强检索生成技术,正在知识管理、智能问答等领域掀起新的效率革命。本文将带你用最新v2.7.0版本,在Python 3.11环境下通过Poetry构建完整的本…...

FireRed-OCR Studio部署教程:阿里云ECS+GPU实例一键部署全流程

FireRed-OCR Studio部署教程:阿里云ECSGPU实例一键部署全流程 1. 引言 你是不是经常遇到这样的麻烦?拿到一份纸质合同、一份扫描的PDF报告,或者一张满是表格和公式的文档截图,想把里面的文字和表格结构提取出来,却找…...

Venera:打造你的跨平台漫画图书馆,告别碎片化阅读体验

Venera:打造你的跨平台漫画图书馆,告别碎片化阅读体验 【免费下载链接】venera A comic app 项目地址: https://gitcode.com/gh_mirrors/ve/venera 还在为漫画文件散落在手机、平板和电脑上而烦恼吗?是否厌倦了在不同漫画应用之间来回…...

厦门数据安全企业哪家专业

在数字化转型的浪潮中,企业数据安全已成为不可忽视的重要议题。厦门作为东南沿海重要的经济中心,聚集了一批专业的数据安全服务企业。本文将为您介绍一家在数据安全领域具有深厚技术积累和丰富实战经验的企业——福建安鲲网络科技有限公司。企业概况福建…...

Fillinger智能填充脚本:Adobe Illustrator图形分布自动化解决方案

Fillinger智能填充脚本:Adobe Illustrator图形分布自动化解决方案 【免费下载链接】illustrator-scripts Adobe Illustrator scripts 项目地址: https://gitcode.com/gh_mirrors/il/illustrator-scripts 在数字设计工作流中,图形元素的均匀分布是…...

别再花钱买服务器了!用闲置云主机+frp 0.65.0搭建免费内网穿透服务(保姆级教程)

闲置云主机变身内网穿透神器:frp实战指南 手里有台快过期的学生优惠云服务器?别急着让它吃灰。今天我们就来聊聊如何把这类"鸡肋"资源变成实用的内网穿透工具。相比动辄几百元的商业穿透服务,用frp自建方案不仅零成本,还…...

SenseVoice Small实战应用:视频内容打标,自动生成文字摘要和情感倾向

SenseVoice Small实战应用:视频内容打标,自动生成文字摘要和情感倾向 1. 引言:当视频内容遇上“读心术” 想象一下,你手头有几百小时的视频素材,可能是会议录像、课程录播、用户访谈,或是社交媒体上的海量…...

别再让PCB走线偷走你的电压!手把手教你用开尔文四线连接搞定FPGA核心电源设计

别再让PCB走线偷走你的电压!手把手教你用开尔文四线连接搞定FPGA核心电源设计 调试FPGA板卡时,你是否遇到过这样的场景:电源模块输出显示1.8V完美无缺,但用万用表测量FPGA核心供电引脚时,电压却只有1.72V?…...

昇腾AI处理器:从单芯片算力到集群智能的架构演进

1. 昇腾AI处理器的技术演进背景 第一次接触昇腾910芯片时,我被它的性能参数震撼到了——320 TFLOPS的FP16算力,这是什么概念?相当于在一秒钟内完成320万亿次浮点运算。这种计算能力放在五年前,可能需要一整个机柜的传统服务器才能…...

WeChatExporter:3步解锁iOS微信聊天记录,让数字记忆不再丢失

WeChatExporter:3步解锁iOS微信聊天记录,让数字记忆不再丢失 【免费下载链接】WeChatExporter 一个可以快速导出、查看你的微信聊天记录的工具 项目地址: https://gitcode.com/gh_mirrors/wec/WeChatExporter 你是否曾因手机存储空间不足而被迫删…...

Asian Beauty Z-Image Turbo GPU算力优化:BF16精度下显存占用降低35%实测

Asian Beauty Z-Image Turbo GPU算力优化:BF16精度下显存占用降低35%实测 如果你尝试过在本地跑AI画图,尤其是生成高清人像,大概率会遇到一个头疼的问题:显存不够用。模型刚加载完,显存就红了,别说生成4K图…...

从零构建基于Hadoop的网站流量日志分析平台:以搜狗搜索日志为例

1. 为什么需要网站流量日志分析平台 每天都有数以亿计的用户在互联网上浏览网页、搜索信息。这些行为产生的日志数据就像一座金矿,蕴含着用户偏好、市场趋势等宝贵信息。但处理这些数据可不容易——想象一下,你要从500万条杂乱无章的日志记录中找出最有…...

DeerFlow进阶技巧:自定义研究流程,打造专属智能助理

DeerFlow进阶技巧:自定义研究流程,打造专属智能助理 如果你已经体验过DeerFlow的基础功能,知道它能帮你搜索信息、分析数据、生成报告,那么今天我们来聊聊更有意思的部分——如何让它真正成为你的专属智能助理。 很多朋友用Deer…...

大模型显存占用对比:Qwen2.5-7B推理vs微调,你的显卡够用吗?

Qwen2.5-7B模型显存实战指南:从消费级显卡到专业硬件的适配策略 当你在本地部署一个7B参数的大语言模型时,第一道门槛往往不是算法理解,而是冰冷的硬件现实——显存不足的报错提示。去年团队第一次尝试在RTX 3090上跑Qwen2.5-7B推理时&#…...

Qwen3互联网应用架构:构建可扩展的字幕处理微服务

Qwen3互联网应用架构:构建可扩展的字幕处理微服务 想象一下,你负责一个在线教育平台,每天有成千上万的用户上传课程视频。用户希望视频能立刻配上字幕,方便学习和搜索。高峰期时,每分钟可能有上百个视频同时涌入。如果…...

避坑指南:为什么conda安装ipywidgets后tqdm进度条还是不显示?完整排查流程

深度排查:为什么conda安装ipywidgets后tqdm进度条依然消失? 当你满怀期待地在JupyterLab中运行数据分析脚本,却发现tqdm进度条只输出冷冰冰的HBox提示而非动态可视化效果时,这种挫败感就像等待下载进度条卡在99%。本文将从底层原理…...

在浏览器中快速编辑代码:VSCode Web 集成实践

在浏览器中快速编辑代码:VSCode Web 集成实践 AI 分析完代码后,如何立即在浏览器中打开编辑器进行修改?本文分享 HagiCode 项目中集成 code-server 的实践经验,实现 AI 助手与代码编辑体验的无缝连接。 背景 在 AI 辅助编程的时代…...

HunyuanVideo-Foley私有部署教程:Ubuntu20.04安装与一键GPU环境配置

HunyuanVideo-Foley私有部署教程:Ubuntu20.04安装与一键GPU环境配置 1. 引言 最近在音视频生成领域,HunyuanVideo-Foley模型凭借其出色的音画同步能力和高质量的音频生成效果,受到了开发者社区的广泛关注。但对于很多刚接触这个领域的朋友来…...

终极工业管理革命:如何用DoubleQoL模组让《工业队长》效率提升300%

终极工业管理革命:如何用DoubleQoL模组让《工业队长》效率提升300% 【免费下载链接】DoubleQoLMod-zh 项目地址: https://gitcode.com/gh_mirrors/do/DoubleQoLMod-zh 你是否曾在《工业队长》中花费数小时等待生产线运转,或者因视角限制而无法全…...

软件变更管理化的影响评估与实施控制

软件变更管理的影响评估与实施控制 在快速迭代的软件开发过程中,变更管理是确保系统稳定性和项目成功的关键环节。无论是需求调整、缺陷修复还是性能优化,每一次变更都可能对系统功能、性能或安全性产生深远影响。科学的影响评估与严格的实施控制成为变…...

【chrony】从原理到实战:构建高精度企业级时间同步服务

1. 为什么企业需要高精度时间同步 想象一下这样的场景:证券交易所里,一笔价值上亿的交易因为两台服务器的时间差0.1秒而被系统判定为无效;医院的手术室里,来自不同设备的生命体征监测数据因为时间不同步而无法准确关联&#xff1…...

馈线自动化(FA)如何重塑现代配电网?核心价值与技术路径解析

1. 馈线自动化:配电网的"智能医生" 想象一下凌晨三点你家突然停电的场景。传统配电网下,抢修人员需要逐段排查故障点,可能几小时后才能恢复供电。而配备了馈线自动化(FA)的智能配电网,能在90秒内…...