当前位置: 首页 > article >正文

别再被0.1+0.2≠0.3搞懵了!用Python和Java代码手把手拆解IEEE-754浮点数存储

浮点数精度之谜用代码揭开0.10.2≠0.3的真相当你在Python控制台输入0.1 0.2时得到的不是预期的0.3而是0.30000000000000004。这个看似简单的数学运算为何会出现如此诡异的结果本文将带你用Python和Java代码深入计算机内部一探浮点数存储的奥秘。1. 浮点数精度问题的本质计算机使用二进制表示所有数据包括浮点数。但很多十进制小数无法精确转换为二进制就像1/3在十进制中表示为无限循环小数0.333...一样。IEEE 754标准定义了浮点数在计算机中的存储方式它使用类似科学计数法的方法来表示大范围和小数。浮点数由三个部分组成符号位1位表示正负指数位8位单精度或11位双精度表示数量级尾数位23位单精度或52位双精度表示精度# Python中查看浮点数精度问题 print(0.1 0.2) # 输出0.30000000000000004 print(0.1 0.2 0.3) # 输出False2. IEEE 754标准详解IEEE 754标准定义了浮点数的二进制表示方法。以64位双精度浮点数为例组成部分位数说明符号位10表示正数1表示负数指数位11使用偏移量1023表示实际指数尾数位52隐含前导1实际精度53位浮点数的值计算公式为值 (-1)^符号位 × (1 尾数) × 2^(指数 - 偏移量)// Java中浮点数的二进制表示 public class FloatBinary { public static void main(String[] args) { double num 0.1; long bits Double.doubleToLongBits(num); System.out.println(Long.toBinaryString(bits)); } }3. 用代码拆解浮点数让我们用Python代码将浮点数拆解为二进制表示import struct def double_to_bits(f): # 将浮点数转换为8字节 packed struct.pack(!d, f) # 将字节转换为64位整数 integer int.from_bytes(packed, big) # 转换为二进制字符串补齐64位 return format(integer, 064b) def analyze_float(f): bits double_to_bits(f) sign bits[0] exponent bits[1:12] mantissa bits[12:] print(f数值: {f}) print(f符号位: {sign} ({负 if sign 1 else 正})) print(f指数位: {exponent} (实际指数: {int(exponent, 2) - 1023})) print(f尾数位: {mantissa}) print(- * 50) analyze_float(0.1) analyze_float(0.2) analyze_float(0.3)运行这段代码你会看到0.1、0.2和0.3在计算机内部的真实表示理解为什么0.10.2不等于0.3。4. 精度问题的解决方案了解了问题的根源后我们来看看如何在实际编程中处理浮点数精度问题使用整数运算将金额等关键数据以分为单位存储避免小数使用Decimal类型from decimal import Decimal print(Decimal(0.1) Decimal(0.2) Decimal(0.3)) # 输出True设置精度容忍范围def is_close(a, b, rel_tol1e-09, abs_tol0.0): return abs(a-b) max(rel_tol * max(abs(a), abs(b)), abs_tol) print(is_close(0.1 0.2, 0.3)) # 输出TrueJava中的BigDecimalimport java.math.BigDecimal; public class PreciseCalculation { public static void main(String[] args) { BigDecimal a new BigDecimal(0.1); BigDecimal b new BigDecimal(0.2); System.out.println(a.add(b).equals(new BigDecimal(0.3))); // 输出true } }5. 浮点数运算的最佳实践在实际开发中处理浮点数时应注意避免直接比较永远不要用直接比较两个浮点数注意累积误差大量浮点运算会累积误差定期重置或使用更高精度类型了解语言特性不同语言对浮点数的处理可能有细微差别性能权衡Decimal/BigDecimal比原生浮点类型慢只在必要时使用# 浮点数比较的正确方式 a 0.1 0.2 b 0.3 print(abs(a - b) 1e-10) # 输出True # 使用math.isclosePython 3.5 import math print(math.isclose(a, b)) # 输出True6. 深入理解为什么0.1无法精确表示0.1在二进制中是一个无限循环小数0.1 (十进制) 0.0001100110011001100110011001100110011001100110011... (二进制)由于计算机内存有限必须截断这个无限循环导致精度丢失。当我们将0.1和0.2相加时两个近似值的和自然会产生微小的误差。# 计算0.1的二进制表示 def decimal_to_binary(f, max_bits50): binary [] while f 0 and len(binary) max_bits: f * 2 bit int(f) binary.append(str(bit)) f - bit return 0. .join(binary) print(decimal_to_binary(0.1)) # 显示0.1的二进制近似表示理解浮点数的存储原理不仅能解释0.10.2≠0.3的现象还能帮助你在实际开发中避免许多潜在的数值计算问题。下次遇到类似问题时你会知道这不是计算机的bug而是浮点数表示方式的固有特性。

相关文章:

别再被0.1+0.2≠0.3搞懵了!用Python和Java代码手把手拆解IEEE-754浮点数存储

浮点数精度之谜:用代码揭开0.10.2≠0.3的真相 当你在Python控制台输入0.1 0.2时,得到的不是预期的0.3,而是0.30000000000000004。这个看似简单的数学运算为何会出现如此"诡异"的结果?本文将带你用Python和Java代码深入…...

【独家逆向分析】:Perplexity招聘页埋点数据如何被提取?附Python自动化脚本(限24小时领取)

更多请点击: https://kaifayun.com 第一章:Perplexity薪资数据查询 Perplexity 作为一家以 AI 原生搜索和研究工具著称的科技公司,其薪酬结构长期未公开披露,但可通过多源交叉验证方式获取合理估算。目前主流可信渠道包括 Levels…...

Pwn题卡壳了?用LibcSearcher快速定位libc版本,附Python3安装与实战避坑指南

Pwn题卡壳了?用LibcSearcher快速定位libc版本,附Python3安装与实战避坑指南 在CTF竞赛和二进制安全研究中,Pwn题往往是最具挑战性的环节之一。当你在解题过程中成功泄露了某个libc函数的地址,却因为不知道目标系统的libc版本而无法…...

为什么你的Perplexity自定义主题总被覆盖?揭秘其CSS优先级陷阱与3层覆盖防护机制

更多请点击: https://codechina.net 第一章:Perplexity自定义主题失效的典型现象与归因初判 当用户在 Perplexity 桌面端或浏览器扩展中配置了 CSS 主题(如通过 userChrome.css 或注入式样式脚本),却未观察到预期视觉…...

指纹浏览器缓存机制原理与环境数据安全管控策略

引言绝大多数使用者在日常运用指纹浏览器搭建独立虚拟浏览环境时,重点注意力都集中在硬件指纹修改、代理网络绑定、基础参数调试等显性操作之上,往往忽略了软件内部缓存运行机制带来的各类隐性影响。虚拟环境运行过程中自动生成的页面缓存、站点数据、本…...

5个核心功能技巧:用MPh实现COMSOL仿真自动化

5个核心功能技巧:用MPh实现COMSOL仿真自动化 【免费下载链接】MPh Pythonic scripting interface for Comsol Multiphysics 项目地址: https://gitcode.com/gh_mirrors/mp/MPh 你是一个文章写手,你负责为开源项目写专业易懂的文章。今天我们要介绍…...

通过 Taotoken CLI 工具一键配置开发环境中的多模型访问密钥

🚀 告别海外账号与网络限制!稳定直连全球优质大模型,限时半价接入中。 👉 点击领取海量免费额度 通过 Taotoken CLI 工具一键配置开发环境中的多模型访问密钥 在接入多个大模型服务时,开发者通常需要为不同的工具&…...

Windows HEIC缩略图终极解决方案:3步解锁苹果照片完美预览

Windows HEIC缩略图终极解决方案:3步解锁苹果照片完美预览 【免费下载链接】windows-heic-thumbnails Enable Windows Explorer to display thumbnails for HEIC/HEIF files 项目地址: https://gitcode.com/gh_mirrors/wi/windows-heic-thumbnails 还在为iPh…...

无王无帝定乾坤,来自田间第一人 道统传承兴万民

无王无帝定乾坤 来自田间第一人 华夏千载文脉绵延,万古道统源远流长,自古圣贤立心传道,只为正本清源、润泽苍生。往昔道统多依附王权存续,受朝堂礼制所拘,流传受限,难入寻常百姓之家,普惠世间之…...

普通人如何从零开始搭建自己的AI标题助手?低成本实战指南

就在今天,我刷到了一篇爆文,其标题乃是“用AI制作标题,短短3分钟就能产出100个爆款,而我的阅读量竟翻了5倍之多”,随后我点了进去,看过之后,又将其关掉,此时心里略微有那么点儿不是滋…...

War3地图制作入门:不用写代码,用触发器和变量也能做出有趣玩法

War3地图制作入门:用触发器和变量打造专属游戏玩法 魔兽争霸3(War3)地图编辑器是游戏史上最强大的玩家创作工具之一,即使没有任何编程基础,也能通过触发器和变量系统创造出令人惊叹的游戏玩法。本文将带你从零开始&…...

打卡信奥刷题(3286)用C++实现信奥题 P8929 「TERRA-OI R1」别得意,小子

P8929 「TERRA-OI R1」别得意,小子 题目背景 战至中途,蓝紫色天空瞬间变为黑压压一片,噬神者身上一些紫色外壳开始脱落,化为更小的蟒蛇,这些小家伙从出现开始便不要命的向你冲过来,刚清理掉这些小家伙&…...

渗透测试中的Windows痕迹清理:从“删库跑路”到“雁过无痕”的反取证艺术

引子:想象一下武侠小说里的场景:绝顶高手在别人家的藏经阁偷学了绝世武功,临走时不但不留下一丝指纹,还顺手把烛台复原、抹平了地上的脚印,甚至故意丢下一枚别的门派的暗器——这,就是网络安全界“痕迹清理…...

别再傻傻分不清!PECL、CML、LVDS三种高速差分接口,硬件工程师选型避坑指南

高速差分接口选型实战:PECL、CML、LVDS的工程化决策指南 当PCB布线密度突破8层板、信号速率迈入Gbps时代,差分接口的选择直接决定系统稳定性。某通信设备厂商曾因误用LVPECL接口导致整批产品EMC测试失败,损失超百万——这类故事在硬件圈屡见不…...

从“寄生二极管”入手:用万用表二极管档快速判别NMOS/PMOS管脚与好坏

从“寄生二极管”入手:用万用表二极管档快速判别NMOS/PMOS管脚与好坏 当你面对一个没有任何标识的MOS管,或者怀疑电路板上的MOS管损坏时,如何快速准确地判断它是NMOS还是PMOS,并识别出D、S、G三个引脚?本文将详细介绍一…...

iGnav RTK/INS紧组合:从算法理论到代码实现的深度解析

1. RTK/INS紧组合技术概述 RTK(实时动态定位)和INS(惯性导航系统)的紧组合技术是当前高精度导航定位领域的重要发展方向。简单来说,RTK通过接收卫星信号实现厘米级定位,但在信号遮挡环境下性能下降&#xf…...

std::accumulate算法深度解析:从求和到通用折叠,解锁STL隐藏的瑞士军刀

1. 重新认识std::accumulate:不只是求和工具 第一次接触std::accumulate时,大多数人都是从求和开始的。确实,这个算法默认行为就是对范围内的元素进行累加。但如果你只把它当作一个高级计算器,那就太小看这个STL中的"瑞士军刀…...

3步解决B站缓存视频播放难题:m4s-converter使用指南

3步解决B站缓存视频播放难题:m4s-converter使用指南 【免费下载链接】m4s-converter 一个跨平台小工具,将bilibili缓存的m4s格式音视频文件合并成mp4 项目地址: https://gitcode.com/gh_mirrors/m4/m4s-converter 你是否曾为B站缓存视频无法在其他…...

仅限内部团队使用的Perplexity行业扫描协议(附可复用Prompt模板库+信源可信度评分表v2.3)

更多请点击: https://codechina.net 第一章:Perplexity行业扫描协议的定位与适用边界 Perplexity行业扫描协议(Perplexity Industry Scanning Protocol,简称PISP)并非通用型AI评估框架,而是一套面向垂直领…...

LeetCode 每日一题笔记 日期:2026.05.16 题目:154. 寻找旋转排序数组中的最小值 II

LeetCode 每日一题笔记 0. 前言 日期:2026.05.16题目:154. 寻找旋转排序数组中的最小值 II难度:困难标签:数组、二分查找 1. 题目理解 问题描述: 给定一个可能存在重复元素的升序数组,经过1~n次旋转后&…...

LeetCode 每日一题笔记 日期:2026.05.19 题目:2540. 最小公共值

LeetCode 每日一题笔记 0. 前言 日期:2026.05.19题目:2540. 最小公共值难度:简单标签:数组、双指针、哈希表 1. 题目理解 问题描述: 给定两个按非降序排序的整数数组 nums1 和 nums2,请返回它们的最小公共整…...

限时公开!Perplexity内部图书语义索引机制解析(含ISBN/DOI/学科标签三级权重算法)

更多请点击: https://intelliparadigm.com 第一章:限时公开!Perplexity内部图书语义索引机制解析(含ISBN/DOI/学科标签三级权重算法) Perplexity 的图书知识图谱并非依赖传统全文倒排索引,而是构建于一套动…...

TS9580,TS3440,TS3400,G3000,G1810,G2810,G3810,G4810,TS9020,TS9120报错5B00,P07,E08,1700,5b04废墨垫清零,亲测有用。

下载:点这里下载 备用下载:https://pan.baidu.com/s/1WrPFvdV8sq-qI3_NgO2EvA?pwd0000 常见型号如下: G系列 G1000、G1100、G1200、G1400、G1500、G1800、G1900、G1010、G1110、G1120、G1410、G1420、G1411、G1510、G1520、G1810、G1820、…...

3步轻松延长JetBrains IDE评估期:开源工具让你的开发体验永不停歇

3步轻松延长JetBrains IDE评估期:开源工具让你的开发体验永不停歇 【免费下载链接】ide-eval-resetter 项目地址: https://gitcode.com/gh_mirrors/id/ide-eval-resetter 还在为JetBrains IDE评估期结束而烦恼吗?作为开发者,我们经常…...

别再死记硬背了!用Pointer Network让AI学会‘抄作业’,搞定文本摘要和对话生成

别再死记硬背了!用Pointer Network让AI学会‘抄作业’,搞定文本摘要和对话生成 想象一下,当你面对一篇冗长的技术文档时,最有效的学习方法是什么?不是逐字背诵,而是用荧光笔划出关键概念——这正是Pointer …...

2025最新易支付模板源码 全开源 前台+用户中心+后台三合一

内容目录一、详细介绍二、效果展示1.部分代码2.效果图展示三、学习资料下载一、详细介绍 2025最新易支付模板源码 全开源 前台用户中心后台三合一 二、效果展示 1.部分代码 代码如下(示例): case orderList:$sql" 11";if(isse…...

枚举进阶:从常量集合到业务逻辑承载者的实战扩展技巧

1. 项目概述:从“能用”到“好用”的枚举进阶之路在软件开发中,枚举(Enum)是我们再熟悉不过的基础工具了。它把一组有限的、具名的常量组织在一起,让代码意图更清晰,避免“魔法数字”满天飞。但不知道你有没…...

AI一键生成微信红包封面系统源码

内容目录一、详细介绍二、效果展示1.部分代码2.效果图展示三、学习资料下载一、详细介绍 AI微信红包封面生成器源码是一款开源的微信红包封面生成工具,由前腾讯微信后台开发工程师「idoubi」开发并开源。项目名为“AI Cover”,旨在利用人工智能技术为用…...

嵌入式边缘AI论坛参会全攻略:从技术趋势到实战社交

1. 论坛核心价值与参会目标拆解“6天倒计时!”这个标题,精准地抓住了所有技术从业者在面对一个高价值行业活动时,那种既兴奋又略带紧迫感的共同心理。这不仅仅是一个简单的会议通知,它更像是一份来自同行的“战前简报”。对于嵌入…...

桌面Z箍缩实验:从等离子体原理到聚变中子探测的DIY实践

1. 项目概述:从“人造太阳”到桌面实验的能源狂想“如何通过聚变制造能源及如何实现”,这个标题背后,是无数工程师和科学家为之奋斗终身的终极能源梦想。它听起来宏大得像是国家实验室的专属课题,但今天我想从一个更接地气的、带有…...