浮点数有效数字位数
来源:互联网 发布:软件质量保证措施 编辑:程序博客网 时间:2024/04/30 19:34
在上一篇《浮点数能够精确表示的整数的范围》中,我们知道了,对于float,实际有效的尾数是23位,对于double,实际有效的位数是53位。所以这里我们可以得到float的十进制表示有效数字个数为:
这里最小的n为7,对于double,最小的n为15。
有时我们在代码中可能会看到比较浮点数时,会使用一个epsilon,而这个epsilon = 1e-6,可能就是因为当浮点数绝对值 >= 1时,小数点后有效位数为6位。
EDIT: (2012/7/7)
上面的说法可能有些有些模糊,这里我再试图说明一下。
对于IEEE754格式,具体的尾数的有效数字个数分2种,一种是规格化数的情况,另一种是非规格化数的情况。非规格化数的尾数的有效位数是23,而规格化数多一位,是24。对于绝对值>=1的数,是由规格化数来表示的,也就是这里由24位,那么实际的十进制有效位数就是8。当然绝对值<1的数,也可能是由规格化数来表示,所以此时小数点后应该最多是8位。
Reference:
http://en.wikipedia.org/wiki/Floating_point
- 浮点数有效数字位数
- C++浮点数输出 保留有效数字位数设定
- 浮点数精确位数
- c# 保留浮点数的n位有效数字
- c++浮点数可以表示十进制有效数字
- c++控制输出浮点型格式 小数点后位数或者整个浮点型数字的有效数字
- 关于浮点数的的表数精度和有效位数:
- c#中将一个浮点数保留指定有效位数的方法
- 【程序设计】浮点数有效位数,与零值的比较,两两比较的问题。
- C语言printf(""),浮点数打印保留有效位数,小数部分的四舍五入
- C++输出有效数字位数
- JAVA浮点数保留位数
- 实战c++中的string系列--指定浮点数有效数字并转为string
- C++中32位单精度浮点数有效数字是多少位?
- 使用setprecision控制输出流显示浮点数的有效数字个数(C++)
- java数字保留有效位数及异常
- 获得一个浮点数的小数位数
- js parseFloat 浮点数求和 精确位数
- LayoutAnimationController的使用方法
- VC6.0 添加函数注释宏,VS2010同样可以添加
- Debug中标志寄存器的查看
- 黑马程序员 日记七:泛型总结
- 遍历二叉树
- 浮点数有效数字位数
- 第三章 字符设备驱动程序(笔记)
- java Integer.valueOf()方法
- Service: 监听外部存储设备
- a^n % k 的logn 的算法
- bashrc与profile的区别
- 湘潭市比赛A题 Anti-Goldbach's Conjecture
- 李刚java笔记___深入数组
- linux设备驱动模型一字符设备 驱动实例