符点数运算,值的精度问题
来源:互联网 发布:淘宝代购dw表是真的吗 编辑:程序博客网 时间:2024/05/17 09:05
今天实际应用中还真遇到了有关浮点数精度的问题,下面为问题概括代码:
float num = 1.15; float test = num * 100; int test1 = test; int test2 = num * 100;
能看出test1和test2的值之间有什么差别吗?它们的值分别是115和114,什么原因呢?
不同类型运算会自动进行类型转换,那么
num * 100的类型转换是:num转为double,100转为double,计算结果为double 假设为tempDou,而且这个值应该是114.99999....无限接近115
float test = tempDou;//结果由double转为float,向下转精度丢失,这时候114.999.....因为某种原因变为115.0000...
int test2 = tempDou;//结果由double转为int,114.999....保留整数部分即为114。
实际上也就是这样的问题:
double tempDouble = 1.15 * 100;float test = tempDouble;int test1 = test;int test2 = tempDouble;
经过测试,果然如上所说完全相同。
总结:编码过程中对浮点数处理为了避免精度问题,1. 应尽量避免使用float,用double做高精度计算。2. 能用int就不要用浮点数。 3. 尽量不要做浮点数到其它类型的转换。
以下是之前总结的浮点数精度问题原因:
根据国际标准IEEE 754,浮点数二进制用如下方式表示:
- V = (-1)^s × M × 2^E
- (1)(-1)^s表示符号位,当s=0,V为正数;当s=1,V为负数。
- (2)M表示有效数字,大于等于1,小于2。
- (3)2^E表示指数位。
举例来说,十进制数5.0,写成二进制是101.0,相当于1.01 × 2^2。那么按照上面的格式,s = 0, M = 1.01, E = 2。
IEEE 754规定,对于32位浮点数,最高的一位是符号位s,接着的8位是指数E,剩下的23位是有效数字M。
64位浮点数,最高的一位是符号位s,接着的11位是指数E,剩下的52位是有效数字M。
IEEE 754对有效数字M和指数E,还有一些特殊规定。
有效数字M:前面说过,1≤M≤2,也就是说,M写成1.xxxx的形式,xxxx表示小数部分。IEEE 754规定,因为M的第一位一定是1,可以被舍去,所以机器内容M只保存后面的xxxx部分。比如,保存1.01时,只保存01,等到读取时再把第一位的1加上去。这样可以节省一位有效数字。
指数E的规定:
首先,E是一个无符号整数。这意味着,如果E为8位,它的取值范围为0~255。但是,科学计数法中的E是可以出现负数的,所以IEEE 754规定,E的真实值必须再减去一个中间数,对于8位的E,这个中间数是127。
比如,2^10的E是10,所以保存32位浮点数时,必须保存成10 127=137,即10001001。
然后,指数E还可以再分成3种情况:
- E不全为0或不全为1。这时,浮点数就采用上面的规则表示,即指数E的计算值减去127(或1023),得到真实值,再将有效数字M前加上第一位的1。
- E全为0。这时,浮点数的指数E等于1-127(或者1-1023),有效数字M不再加上第一位的1,而是还原为0.xxxxxx的小数。这样做是为了表示±0,以及接近于0的很小的数字。
- E全为1。这时,如果有效数字M全为0,表示±无穷大(正负取决于符号位s);如果有效数字M不全为0,表示这个数不是一个数(NaN)。
那么为什么会有精度问题呢?
首先,尝试将0.456这个浮点数,转用2进制表示。类似于十进制,二进制小数0.1意为1× 2^-1为十进制0.5;0.01意为1× 2^-2为十进制0.25。(转换方法原理不做解释)
计算步骤为:
- 1位,0.456小于位阶值0.5,故该位为0;
- 2位,0.456大于位阶值0.25,该位为1,并将0.45减去0.25得0.206进下一位;
- 3位,0.206大于位阶值0.125,该位为1,并将0.206减去0.125得0.081进下一位;
- 4位,0.081大于0.0625,为1,并将0.081减去0.0625得0.0185进下一位;
- 5位0.0185小于0.03125,为0……
这时候我们可以看到,可能超过M的最大位数(32位浮点数为23)也不会除尽。那么也就是说,机器中无法精确的保存0.456这个浮点数,其保存的值是接近0.456的一个数。
其次,float类型的浮点数,有效数字位数有限(一般是十进制7位),在进行浮点运算的时候,这个精度往往会导致运算的结果和实际期望的结果之间有误差。 float的有效数字是23bit,对应7~8位十进制数,所以有效数字有的编译器是7位,也有的是8位。所以超过有效数字长度的部分计算机就不知道了,比如:
- float f = 1.23456789 * 10^8;//这里写法代表科学计数法,只是个意思,可能编译器不认识
- float m = f + 20;
- //这样计算机会认为f和m是相等的
综上,我们了解到对浮点数进行比较运算会很不靠谱,要尽量避免浮点数的比较操作。一定要比较可以用如下:这类误差分析的方式。但是,即使这样仍然是不能保证结果的可靠或者可以接受。
- fabs(A-B) < epsilon,epsilon为绝对误差
- 或者
- fabs((A-B)/A) < relError,relError为相对误差
- 符点数运算,值的精度问题
- JS浮点运算精度的问题
- Double 类型运算时的精度问题
- Double 类型运算时的精度问题
- JavaScript浮点运算的精度问题
- JavaScript 浮点数运算的精度问题
- C语言移位运算符精度问题
- double运算精度问题
- DecimalFormat精度解决,商业运算精度问题
- DecimalFormat精度解决,商业运算精度问题
- JAVA的浮点运算精度问题的解决
- java中Double类型的运算精度丢失的问题
- JS小数运算精度问题
- 关于java中float运算的精度问题
- 关于java中Double类型的运算精度问题
- 关于java中Double类型的运算精度问题
- Java中运算精度的问题(double与BigDecimal)
- 关于java中Double类型的运算精度问题
- Mark To Market - MTM
- jsDoc
- 关于内存中栈和堆的区别
- vs2010中臃肿的ipch和sdf文件
- 一个数组中列出一个数比前面数大,比后面数小的集合
- 符点数运算,值的精度问题
- ./snmpGet: error while loading shared libraries: libsnmp++.so: cannot open shared object file: No su
- Oracle Expdp/Impdp 进行数据迁移的 几点注意事项
- Spring Bean定义
- 2012年通信业十大发展趋势展望
- SVN版本控制器(一)
- Sending 'ccColor4B' (aka 'struct _ccColor4B') to parameter of incompatible type 'CIColor *'
- Android:pt 、sp、dp之间的换算
- Resource ID #0x7f050001 type #0x12 is not valid