符点数运算,值的精度问题

来源:互联网 发布:淘宝代购dw表是真的吗 编辑:程序博客网 时间:2024/05/17 09:05

  今天实际应用中还真遇到了有关浮点数精度的问题,下面为问题概括代码:

 float num = 1.15; float test = num * 100; int test1 = test; int test2 = num * 100;

  能看出test1和test2的值之间有什么差别吗?它们的值分别是115和114,什么原因呢?

  不同类型运算会自动进行类型转换,那么

  num * 100的类型转换是:num转为double,100转为double,计算结果为double 假设为tempDou,而且这个值应该是114.99999....无限接近115

  float test = tempDou;//结果由double转为float,向下转精度丢失,这时候114.999.....因为某种原因变为115.0000...

  int test2 = tempDou;//结果由double转为int,114.999....保留整数部分即为114。

  实际上也就是这样的问题:

double tempDouble = 1.15 * 100;float test = tempDouble;int test1 = test;int test2 = tempDouble;

  经过测试,果然如上所说完全相同。

  总结:编码过程中对浮点数处理为了避免精度问题,1. 应尽量避免使用float,用double做高精度计算。2. 能用int就不要用浮点数。 3. 尽量不要做浮点数到其它类型的转换。

  以下是之前总结的浮点数精度问题原因:

  

根据国际标准IEEE 754,浮点数二进制用如下方式表示:
  1. V = (-1)^s × M × 2^E
  2.   (1)(-1)^s表示符号位,当s=0,V为正数;当s=1,V为负数。
  3.   (2)M表示有效数字,大于等于1,小于2。
  4.   (3)2^E表示指数位。
  举例来说,十进制数5.0,写成二进制是101.0,相当于1.01 × 2^2。那么按照上面的格式,s = 0, M = 1.01, E = 2。
  IEEE 754规定,对于32位浮点数,最高的一位是符号位s,接着的8位是指数E,剩下的23位是有效数字M。

  64位浮点数,最高的一位是符号位s,接着的11位是指数E,剩下的52位是有效数字M。

  IEEE 754对有效数字M和指数E,还有一些特殊规定。
  有效数字M:前面说过,1≤M≤2,也就是说,M写成1.xxxx的形式,xxxx表示小数部分。IEEE 754规定,因为M的第一位一定是1,可以被舍去,所以机器内容M只保存后面的xxxx部分。比如,保存1.01时,只保存01,等到读取时再把第一位的1加上去。这样可以节省一位有效数字。
  指数E的规定:
  首先,E是一个无符号整数。这意味着,如果E为8位,它的取值范围为0~255。但是,科学计数法中的E是可以出现负数的,所以IEEE 754规定,E的真实值必须再减去一个中间数,对于8位的E,这个中间数是127。
  比如,2^10的E是10,所以保存32位浮点数时,必须保存成10 127=137,即10001001。
  然后,指数E还可以再分成3种情况:
  1. E不全为0或不全为1。这时,浮点数就采用上面的规则表示,即指数E的计算值减去127(或1023),得到真实值,再将有效数字M前加上第一位的1
  2. E全为0。这时,浮点数的指数E等于1-127(或者1-1023),有效数字M不再加上第一位的1,而是还原为0.xxxxxx的小数。这样做是为了表示±0,以及接近于0的很小的数字。
  3. E全为1。这时,如果有效数字M全为0,表示±无穷大(正负取决于符号位s);如果有效数字M不全为0,表示这个数不是一个数(NaN)。
  那么为什么会有精度问题呢?
  首先,尝试将0.456这个浮点数,转用2进制表示。类似于十进制,二进制小数0.1意为1× 2^-1为十进制0.5;0.01意为1× 2^-2为十进制0.25。(转换方法原理不做解释)
  计算步骤为:
  1. 1位,0.456小于位阶值0.5,故该位为0;
  2. 2位,0.456大于位阶值0.25,该位为1,并将0.45减去0.25得0.206进下一位;
  3. 3位,0.206大于位阶值0.125,该位为1,并将0.206减去0.125得0.081进下一位;
  4. 4位,0.081大于0.0625,为1,并将0.081减去0.0625得0.0185进下一位;
  5. 5位0.0185小于0.03125,为0……
  这时候我们可以看到,可能超过M的最大位数(32位浮点数为23)也不会除尽。那么也就是说,机器中无法精确的保存0.456这个浮点数,其保存的值是接近0.456的一个数。

  其次,float类型的浮点数,有效数字位数有限(一般是十进制7位),在进行浮点运算的时候,这个精度往往会导致运算的结果和实际期望的结果之间有误差。  float的有效数字是23bit,对应7~8位十进制数,所以有效数字有的编译器是7位,也有的是8位。所以超过有效数字长度的部分计算机就不知道了,比如:
  1. float f = 1.23456789 * 10^8;//这里写法代表科学计数法,只是个意思,可能编译器不认识
  2. float m = f + 20;
  3. //这样计算机会认为f和m是相等的
  综上,我们了解到对浮点数进行比较运算会很不靠谱,要尽量避免浮点数的比较操作。一定要比较可以用如下:
  1. fabs(A-B) < epsilon,epsilon为绝对误差
  2. 或者
  3. fabs((A-B)/A) < relError,relError为相对误差
这类误差分析的方式。但是,即使这样仍然是不能保证结果的可靠或者可以接受。