double类型的精度问题【计算时有误差】。 (0.1 * 0.1 , 1.0 - 0.9)
来源:互联网 发布:大华网络视频解码器 编辑:程序博客网 时间:2024/05/22 03:34
如果你认为 if ( 0.1*0.1 == 0.01 ) 的结果是true
那你就错了!!
以下计算得到的结果:
System.out.println(0.1*0.1);System.out.println(1.0-0.9);
0.010000000000000002
0.09999999999999998
原因:
浮点数数值采用二进制表示,在二进制系统之无法精确表示1/10,就像十进制无法表示1/3一样,
这样就产生了误差,如果想尽量避免误差,就应用BigDecimal类来运算,尤其是在金融领域.
- double类型的精度问题【计算时有误差】。 (0.1 * 0.1 , 1.0 - 0.9)
- 编程语言计算0.1+0.2精度误差的问题
- Java浮点数float和double精确计算的精度误差问题总结
- Java浮点数float,bigdecimal和double精确计算的精度误差问题总结
- Java浮点数float和double精确计算的精度误差问题总结
- Java浮点数float和double精确计算的精度误差问题总结
- Java浮点数float和double精确计算的精度误差问题总结
- Java浮点数float,bigdecimal和double精确计算的精度误差问题总结
- Java浮点数float,bigdecimal和double精确计算的精度误差问题总结
- double 计算精度的问题
- double类型计算精度确实问题
- double类型精度计算
- Java中的Double类型的精度计算
- Double 类型运算时的精度问题
- Double 类型运算时的精度问题
- iOS double类型精度问题以及计算问题
- java中double、float类型计算精度丢失问题
- c++ double类型的误差
- dwr跟ssh集成
- 一个介绍emacs lisp的个人主页
- 来自老教授的罗嗦
- 二叉树的应用详解 - 数据结构
- Python os模块的Examples
- double类型的精度问题【计算时有误差】。 (0.1 * 0.1 , 1.0 - 0.9)
- c#读取文件
- 西北农林科技大学信息工程学院10级Java考试不标准答案
- HTK在windows 系统下的安装步骤
- java变量与方法总结
- 多继承下的内存布局
- 读STL源码剖析(3)
- mini2440上 移植yaffs2
- C#中using关键字的作用及其用法