浮点数有效数字位数

来源:互联网 发布:软件质量保证措施 编辑:程序博客网 时间:2024/04/30 19:34

在上一篇《浮点数能够精确表示的整数的范围》中,我们知道了,对于float,实际有效的尾数是23位,对于double,实际有效的位数是53位。所以这里我们可以得到float的十进制表示有效数字个数为:


这里最小的n为7,对于double,最小的n为15。

有时我们在代码中可能会看到比较浮点数时,会使用一个epsilon,而这个epsilon = 1e-6,可能就是因为当浮点数绝对值 >= 1时,小数点后有效位数为6位。


EDIT:  (2012/7/7)

上面的说法可能有些有些模糊,这里我再试图说明一下。

对于IEEE754格式,具体的尾数的有效数字个数分2种,一种是规格化数的情况,另一种是非规格化数的情况。非规格化数的尾数的有效位数是23,而规格化数多一位,是24。对于绝对值>=1的数,是由规格化数来表示的,也就是这里由24位,那么实际的十进制有效位数就是8。当然绝对值<1的数,也可能是由规格化数来表示,所以此时小数点后应该最多是8位。


Reference:

http://en.wikipedia.org/wiki/Floating_point

原创粉丝点击