基础知识总结:小数计算为什么不精确?
来源:互联网 发布:ac68u 网络设置 编辑:程序博客网 时间:2024/06/01 23:35
类型float的的计算不精确的问题
System.out.println(0.1f*0.1f);
得到0.0100001
不精确的原因:因为计算机是用二进制存储小数的,这个二进制不能精确表示0.1只能表示一个无限接近0.1的一个数,为什么0.1不能精却表示因为二进制使用2的多少次方
2^-1 0.5
2^-2 0.25
2^-3 0.125
2^-4 0.0625
所以进行计算的结果会出现不精确的情况,当误差足够小的时候就看上去是精确的,其实一般是不精确的
要保持精确用BigDecimal的类型,就是效率低
阅读全文
0 0
- 基础知识总结:小数计算为什么不精确?
- 浮点数为什么不精确?
- 一个浮不精确到7位小数
- 不精确认计算java内存大小
- 关于BigDecimal 的不精确计算问题
- 计算矩形旋转角度(不精确)
- 彻底解决Javascript数字计算不精确的问题
- 关于float计算结果不精确问题
- 由atof发现的C中浮点小数不精确问题
- JavaScript对浮点小数运算结果不精确bug的解决办法
- Java中double类型计算不精确的解决办法(BigDecimal)
- C#计算float类型数据求和不精确问题
- 解决javascript中的浮点数计算不精确问题
- 小数为什么有误差?
- 计算机程序的思维逻辑 (5) - 小数计算为什么会出错?
- JAVA为什么有时候除法计算结果本来应该是小数。但是得到整数int类型
- 处理mysql金额运算sum*float出现多位不精确小数
- 用shell计算小数
- PHP分析工具安装
- selenium处理上传控件、不能操作的windows控件
- 三子棋(贼菜的算法)
- 堆溢出、栈溢出
- Windows系统下搭建MPI(并行计算)环境
- 基础知识总结:小数计算为什么不精确?
- PL/SQL批量运行SQL语句
- 内部类
- 电器的好基友,还带多种玩法,0元送云合智能插座
- Linux系统如何正确的开机关机及快捷键的使用
- Android Camera2 Opengles2.0 图像实时滤镜 显示 视频编码
- LeetCode.532 K-diff Pairs in an Array
- Android studio 升级3.0后ReactNative 打包报错 Could not find com.android.tools.build:gradle:3.0.0.
- OpenJ_POJ C17K Lying Island