double类型的2.0-1.1为什么等于0.89999999999999999999
来源:互联网 发布:网络教育英语统考作弊 编辑:程序博客网 时间:2024/05/16 12:22
double类型占了64位。
第一位为符号位,0为正,1为负。
最后52位为十进制转换为二进制后的值。
中间11位为阶码,可表示-1024~1023,表示最后52位为2的多少次方。比如最后52位为二进制的1.0*2^1(即二进制10),那么十一位阶码的十进制值为1,为了方便表示,加上1023变成非负数。
float类型占32位(1位符号位,8位阶码,23位二进制值)
将2.0转换为二进制表示
整数部分为10
小数部分为00000000000000000000000000000000000000000000000000
整数部分和小数部分合起来占52位
将1.1转换为二进制表示
整数部分为1 (整数部分转换为二进制为不停地除以2,直到为1为止)
小数部分为00011001100110011001100110011001100110011001100110 (0.1转换为二进制表示为不停地*2,直到小数部分为0为止)
最终二进制2.0 减去二进制1.1 (原理同十进制减法,不够向前借位)
得到0.111001100110011001100无穷循环,为0.89999999
2.0二进制为:0 10000000000 1000000000000000000000000000000000000(51个0) (阶位计算为1+1023)
1.1二进制位:0 01111111111 100011001100110011001100110011001100 1100 (阶位计算为0+1023)
0.89999999表示为二进制为:0 011111110 111001100110011001100(1100循环直到52位) (阶位计算为-1 + 1023)
想当年在学校死活无法理解二进制的转换以及double float long 为什么有范围区别。工作两年了终于明白了,亡羊补牢,为时也不晚
想当年在学校死活无法理解二进制的转换以及double float long 为什么有范围区别。工作两年了终于明白了,亡羊补牢,为时也不晚
虽然是转载的文章这里在补充一下double和float的一些区别
double 和 float 的区别是double精度高,有效数字16位,float精度7位。但double消耗内存是float的两倍,double的运算速度比float慢得多,C语言中数学函数名称double 和 float不同,不要写错,能用单精度时不要用双精度(以省内存,加快运算速度)。
类型 比特数 有效数字 数值范围
float 32 6-7 -3.4*10(-38)~3.4*10(38)
double 64 15-16 -1.7*10(-308)~1.7*10(308)
long double 128 18-19 -1.2*10(-4932)~1.2*10(4932)
简单来说,Float为单精度,内存中占4个字节,有效数位是7位(因为有正负,所以不是8位),在我的电脑且VC++6.0平台中默认显示是6位有效数字;double为双精度,占8个字节,有效数位是16位,但在我的电脑且VC++6.0平台中默认显示同样是6位有效数字。
0 0
- double类型的2.0-1.1为什么等于0.89999999999999999999
- double类型的2.0-1.1为什么等于0.89999999999999999999
- 值类型为什么不能等于null
- C++ double 类型范围为什么那么大
- double类型的讨论
- double类型的运算
- double类型的计算
- mysql varchar 类型的等于
- java,为什么float f1=0.1是错的? 0.1是double类型的么?为什么?谢
- double float 类型的输出
- 显示double类型的数据
- c++ double类型的误差
- double类型引发的问题
- double类型的输出方式
- double 类型的有效位
- 基本数据类型double和封装类型Double引起的bug
- java的double 类型的运算
- junit中double类型的比较
- python获取csdn的访问量和排名+falcon画图
- apache2三种模式及参数调优
- Apache源码编译安装
- VTK修炼之道78:交互与拾取_点拾取
- try catch finally return执行顺序
- double类型的2.0-1.1为什么等于0.89999999999999999999
- 欢迎使用CSDN-markdown编辑器
- CSS内边距使用记录
- 【Python】学习笔记——-3.1、调用函数
- Git简单使用
- hdu 1257 最少拦截系统(最长递增子序列)
- C++ 开发工程师 第一周笔记 boolan.com
- PriorityQueue<> JAVA
- 【读书笔记】僵尸进程和wait,waitpid