Java浮点运算为什么不精确
有的时候博客内容会有变动,首发博客是最新的,其他博客地址可能会未同步,认准
https://blog.zysicyj.top
首发博客地址[1]
面试题手册[2]
系列文章地址[3]
1. 什么是 Java 浮点运算?
在 Java 中,浮点运算指的是对浮点数进行加减乘除等基本运算操作。Java 提供了两种浮点类型:float 和 double。
2. 为什么 Java 浮点运算不精确?
Java 浮点运算不精确主要是由于浮点数的内部表示方式以及计算机硬件的限制所导致的。
2.1 浮点数的内部表示
浮点数在计算机中采用二进制科学计数法来表示,即将一个实数分解为尾数和指数两个部分,并使用有限位数的二进制数来近似表示。例如,0.1 无法精确地用二进制表示,因此在计算机中会存在一定的误差。
2.2 计算机硬件的限制
计算机硬件对浮点数的存储和计算都有一定的限制。通常情况下,计算机使用固定长度的字节来表示浮点数,如 32 位或 64 位。这就意味着浮点数的有效位数是有限的,超过该位数的部分会被截断或舍入,从而引入了误差。
另外,计算机处理浮点数时还需要进行舍入操作,以适应有限的存储空间。舍入操作会导致一定的精度损失。
3. Java 浮点运算的实现原理
Java 浮点数的内部表示采用 IEEE 754 标准,该标准定义了浮点数的二进制格式以及基本运算规则。在进行浮点运算时,Java 会按照 IEEE 754 标准对浮点数进行处理。
具体来说,Java 使用有符号位、指数位和尾数位来表示浮点数。其中,指数位用于表示浮点数的数量级,尾数位用于表示浮点数的精度。通过调整指数位和尾数位的值,可以表示不同范围和精度的浮点数。
在进行浮点运算时,Java 会根据运算符和操作数的类型选择相应的运算规则。例如,加法运算会将两个浮点数的尾数对齐,并根据指数位的差异进行补偿,然后再进行相加。这样的处理方式可以保证运算结果的有效性和正确性。
4. Java 浮点运算的使用示例
下面是一个简单的 Java 浮点运算示例:
double a = 0.1;
double b = 0.2;
double c = a + b;
System.out.println(c);
输出结果为:
0.30000000000000004
上述代码中,由于 0.1 和 0.2 无法精确表示,所以在进行加法运算时会引入一定的误差,导致最终结果不是 0.3。
5. Java 浮点运算的优点
-
能够处理大范围和高精度的数值计算需求。 -
提供了标准化的浮点数表示方式和运算规则,保证了跨平台的兼容性。
6. Java 浮点运算的缺点
-
精度有限,可能存在舍入误差。 -
对于要求精确计算的场景(如金融领域),需要使用 BigDecimal 等其他数据类型来替代浮点数。
7. Java 浮点运算的使用注意事项
-
避免直接比较浮点数是否相等,应该使用误差范围判断。 -
在涉及到累加或累减操作时,尽量避免多次运算,可以先将所有操作数累加或累减后再进行运算,以减少舍入误差的积累。
8. 总结
Java 浮点运算不精确主要是由于浮点数的内部表示方式以及计算机硬件的限制所导致的。虽然存在一定的精度损失,但 Java 提供了标准化的浮点数表示方式和运算规则,能够满足大多数数值计算需求。在需要精确计算的场景下,可以使用 BigDecimal 等其他数据类型来替代浮点数。
参考资料
首发博客地址: https://blog.zysicyj.top/
[2]面试题手册: https://store.amazingmemo.com/chapterDetail/1685324709017001
[3]系列文章地址: https://blog.zysicyj.top/categories/技术文章/后端技术/系列文章/面试题精讲/
本文由 mdnice 多平台发布
相关文章:
Java浮点运算为什么不精确
有的时候博客内容会有变动,首发博客是最新的,其他博客地址可能会未同步,认准https://blog.zysicyj.top 首发博客地址[1] 面试题手册[2] 系列文章地址[3] 1. 什么是 Java 浮点运算? 在 Java 中,浮点运算指的是对浮点数进行加减乘除等基本运算…...
linux使用操作[1]
文章目录 版权声明快捷键ctrl c 强制停止ctrl d 退出、登出history命令光标移动快捷键清屏快捷键 软件安装命令常见linux系统包管理器yum命令apt命令 systemctl命令软连接日期&时区修改linux时区ntp程序 IP地址&主机名ip&主机名域名解析win配置主机名映射虚拟机…...
权限提升Linux篇
提权工具 https://github.com/liamg/traitor https://github.com/AlessandroZ/BeRoot https://github.com/rebootuser/LinEnum https://github.com/mzet-/linux-exploit-suggester https://github.com/sleventyeleven/linuxprivchecker https://github.com/jondonas/linux…...
影刀自动化采集底层逻辑
hello,大家好,这里是【玩数据的诡途】 接上回 <我的影刀故事> 今天给大家介绍一下整个采集的底层逻辑,包括业务流程自动化也是基于这一套基础逻辑进行展开的,顺便带大家熟悉一下影刀,既然叫影刀系列了,那后续一些…...
swiper使用
介绍 Swiper(swiper master)是一个第三方的库,可以用来实现移动端、pc端的滑动操作。,swiper应用广泛,使用频率仅次于jquery, 轮播图类排名第一,是网页设计师必备技能,众多耳熟能详的品牌在使用…...
基于遗传算法解决的多仓库多旅行推销员问题(Matlab代码实现)
💥💥💞💞欢迎来到本博客❤️❤️💥💥 🏆博主优势:🌞🌞🌞博客内容尽量做到思维缜密,逻辑清晰,为了方便读者。 ⛳️座右铭&a…...
微信小程序 工具使用(HBuilderX)
微信小程序 工具使用:HBuilderX 一 HBuilderX 的下载二 工具的配置2.1 工具 --> 设置 --> 运行配置2.1.1 微信开发者工具路径2.1.2 node 运行配置 2.2 插件 工具 --> 插件安装2.2.1 下载插件 三 微信小程序端四 同步运行五 BUG5.1 nodemon在终端无法识别 一 HBuilderX…...
设计模式:观察者模式(C++实现)
观察者模式(Observer Pattern)是一种设计模式,用于定义对象之间的一对多依赖关系,当一个对象(称为主题或可观察者)的状态发生变化时,它的所有依赖对象(称为观察者)都会收…...
【前端打怪升级日志之微前端框架篇】微前端qiankun框架子应用间跳转方法
参考链接qiankun官网:微应用之间如何跳转? 1.主应用、子应用路由都是hash模式 主应用根据 hash 来判断微应用,无需考虑该问题 2.主应用根据path判断子应用 方法实现适用条件参数传递存在问题a标签跳转<a href"/toA"></…...
C语言中的typedef struct用法
在学习数据结构的时候,我经常遇到typedef struct,刚开始感觉很别扭,查阅资料之后才真真理解了。 先从结构体说起。 1、结构体用法 struct Student{int age;char s;}如果要定义一个该结构体变量,就需要:struct Student st1; 有没…...
司徒理财:9.27黄金原油日内多空走势行情操作建议
黄金走势分析: 黄金昨日抵达了此前一直强调的日线布林下轨的1903位置,甚至更低!昨天的空单也是直接获利收割了!现在如果是要继续做空,下方是有日线支撑的,甚至周线的支撑也不远,在1890…...
C++设计模式(Design Patterns)
设计模式主要原则 单一职责原则(Single Responsibility Principle) 实现类要职责单一 里氏替换原则(Liskov Substitution Principle) 不要破坏继承关系 依赖倒置原则(Dependence Inversion Principle) …...
vue点击按钮收缩菜单
问题描述 VUE菜单有一个BUG,当我们点击其它按钮或者首页的时候,已经展示的一级菜单是不会自动收缩的。这个问题也导致很多开发者把一级菜单都换成了二级菜单。 错误展示 错误的效果请看下图。 解决方法 1、寻找菜单文件 因为我使用的是ruoyi的前端框…...
Vue 防止忘记的命令
创建新项目 npm init vuelatest cd <项目名> npm install npm run dev 运行项目 yarn yarn serve 这里如果我用npm install 或者npm run serve会报错,但是新建项目用npm就不会,有大佬知道为什么吗...
APACHE NIFI学习之—RouteOnContent
RouteOnContent 描述: 通过正则表达式匹配输入数据流的内容,然后将输入数据流的副本路由到正则表达式相匹配的输出数据流。 正则表达式作为用户自定义的属性添加,并以该属性名称为输出连线,其值为正则表达式所匹配数据流内容。 当用户定义的属性支持属性表达式语言时,其结…...
【C语言】【结构体的内存对齐】计算结构体内存大小,有图解
计算结构体内存大小,需要用到结构体内存对齐的知识 来段代码看看什么是结构体对齐: #include<stdio.h> struct S1 {char a;char b;int num; }; struct S2 {char a;int num;char b; }; int main() {printf("%zd\n", sizeof(struct S1))…...
Intel 700 800系网卡升级支持WOL UEFI PXE方法
Intel 700 800系网卡默认的NVM版本是不支持UEFI的,升级NVM也不能解决,需要将UEFI driver 包到NVM里。操作步骤如下: 1. 下载Preboot软件包,有Windows和Linux版本,本次使用Linux版本做示例。 Intel Ethernet Connecti…...
vue3 - 使用 xlsx 库将数据导出到 Excel 文件
GitHub Demo 地址 在线预览 xlsx是由SheetJS开发的一个处理excel文件的JavaScript库。它可以读取、编写和操作 Excel 文件 安装xlsx npm install xlsx --save实现一个通过的数据导出工具类 import * as XLSX from xlsx/*** description: 导出excel* param {any} dataList* p…...
机器学习,深度学习
一 、Numpy 1.1 安装numpy 2.2 Numpy操作数组 jupyter扩展插件(用于显示目录) 1、pip install jupyter_contrib_nbextensions -i https://pypi.tuna.tsinghua.edu.cn/simple 2、pip install jupyter_nbextensions_configurator -i https://pypi.tuna.t…...
【性能测试】jmeter连接数据库jdbc
一、下载第三方工具包驱动数据库 1. 因为JMeter本身没有提供链接数据库的功能,所以我们需要借助第三方的工具包来实现。 (有这个jar包之后,jmeter可以发起jdbc请求,没有这个jar包,也有jdbc取样器,但不能…...
西门子1517F与KTP精致屏:主机厂程序框架探秘
西门子1517F搭配KTP精致屏 主机厂程序框架模板,程序结构清晰,主流程采用顺控器编写,包含各种常用功能块的手自动以及手动调用,HMI画面多采用多路复用,大大缩短编程时间, 组态从站有拧紧枪,以及从…...
C语言main函数怎么写?6种写法教你正确使用入口函数
名为main的函数,是C程序的入口之处的函数,也就是程序的执行,是从main函数起始的,对于其他函数的调用,也是直接或者间接地,在main函数当中被调用的。那么main函数又究竟是被谁所调用的呢?答案是操…...
从零搭建RAG知识库系统:手把手带你玩转检索增强生成,解决大模型三大痛点!
在探索AI落地应用的过程中,RAG知识库系统是一项无法回避的关键技术。近期我开始系统学习这一领域,并决定以笔记形式持续记录和分享学习心得,一方面督促自己深入理解,另一方面也希望能与大家共同探讨、相互启发。 本文整理自我对RA…...
MinIO搭配Nginx部署,除了反向代理解决CORS,这些安全与性能配置你也该知道
MinIO与Nginx生产级部署:从CORS解决到安全性能全栈优化 当对象存储服务MinIO遇上高性能Web服务器Nginx,两者的结合能为企业级应用带来怎样的化学反应?这不仅仅是简单的反向代理配置,而是一套涵盖安全加固、性能调优、高可用设计的…...
3个维度掌握Seed-VC:零样本语音转换工具实战指南
3个维度掌握Seed-VC:零样本语音转换工具实战指南 【免费下载链接】seed-vc zero-shot voice conversion & singing voice conversion, with real-time support 项目地址: https://gitcode.com/GitHub_Trending/se/seed-vc 语音转换技术正经历从"训练…...
【问题】cursor无法识别python包
目录 问题描述解决方法 问题描述 pip install -e .安装的python可以正常导入,不报错,但cursor无法跳转,这应该怎么修复呢? 解决方法 在cursor的打开目录中新建pyrightconfig.json,填入extraPaths路径, …...
三步搞定全网资源下载:手把手教你使用res-downloader网络资源嗅探工具
三步搞定全网资源下载:手把手教你使用res-downloader网络资源嗅探工具 【免费下载链接】res-downloader 资源下载器、网络资源嗅探,支持微信视频号下载、网页抖音无水印下载、网页快手无水印视频下载、酷狗音乐下载等网络资源拦截下载! 项目地址: http…...
Spring Boot 与 Prometheus 监控实战
Spring Boot 与 Prometheus 监控实战 引言 大家好,今天想和大家聊聊 Spring Boot 与 Prometheus 的监控实践。作为一名 Java 架构师,我深知监控对于生产环境的重要性。Prometheus 作为云原生监控的事实标准,与 Spring Boot 的集成非常顺畅。让…...
终极指南:如何用DeepSpeech构建离线语音识别系统
终极指南:如何用DeepSpeech构建离线语音识别系统 【免费下载链接】DeepSpeech DeepSpeech is an open source embedded (offline, on-device) speech-to-text engine which can run in real time on devices ranging from a Raspberry Pi 4 to high power GPU serve…...
AI图像放大神器Upscayl:告别模糊时代的终极解决方案
AI图像放大神器Upscayl:告别模糊时代的终极解决方案 【免费下载链接】upscayl 🆙 Upscayl - Free and Open Source AI Image Upscaler for Linux, MacOS and Windows built with Linux-First philosophy. 项目地址: https://gitcode.com/GitHub_Trendi…...
