100个0.1相加等于多少?

来源:互联网 发布:sql select 字段加一 编辑:程序博客网 时间:2024/04/27 16:18

原文地址:https://community.esm-cn.com/t/100-0-1/2147/3



一、前言

在大家的认知过程中可能会认为计算机是不会出现计算错误的,但是实际上,依然存在程序运行后无法得到正确数值的情况。其中,最经典的就是小数运算。(做金融的一定要小心!!!)


二、引入

在我们的世界里面,100个0.1相加就是10,这个是没有疑问的。但是当我们用程序来计算的时候,结果并非是10(不同语言计算的结果可能不同)。

首先是一段计算代码:


int main(void) { 
float sum;
int i;
sum = 0;
for (i=0 ;i<100;i++) {
sum += 0.1;
}
printf("%f\n",sum);
}

运行结果如下:

10.000002

计算机通过编译、链接、运行得到的结果是10.000002。程序没有错。现在让我们来看一下具体原因吧。

三、计算机计算结果不正确的原因

简单来说,就是无法表示正确的数值,导致计算出来的结果成了近似值。下面进一步剖析一下。

首先,我们来看一下在计算机世界里面如何用二进制数表示小数:

例如把1011.0011这个小数点的二进制数转成十进制数。(只需将各数位数值和位权相乘,然后将相乘的结果相加)

也就是:1*2^3+0*2^2+1*2^1+1*2^0+0*2^(-1)+0*2^(-2)+1*2^(-3)+1*2^(-4) = 11.1875。

了解了二进制表示的小数转十进制的方法后,计算出错的原因也就容易理解了。用小数点后4位用二进制表示时的数值范围为:0.0000~0.1111。因此,对应的十进制结果如下:

从上面的对照表可以看出,0的下一位就是0.625。因此0~0.0625之间的数值计算机无法用小数点后4位数的二进制数表示。因此可以看出0.1无法用4位二进制数表示。就算增加二进制的位数,也无法得到2^(-x) =0.1 这个结果。

实际上,十进制0.1转成二进制后,就变成了0.0001100110011……(1100循环)这样的循环小数。就像1/3是一个道理。因此100各0.1相加不等于10,而是等于近似值。

---------------------------------------------以上就能够回答标题的原因了---------------------------------------------

四、What is 浮点数?

其实像刚才那样的1011.0011这种表现形式完全是纸面上的二进制数表现形式,在计算机内部是无法使用的(计算机内部只是0101001……没有"."这个概念)。实际上,编程语言提供了双精度浮点数(double)和单精度浮点数(float)。双精度浮点数类型用64位、单精度浮点数用32位来表示全体小数。

浮点数:就是用符号、尾数、基数和指数表示的小数。

其中:±表示符号,m表示尾数,n表示基数,e表示指数。实际数据中不考虑基数。因此:

其中:

1、符号部分:1表示负、0表示正或者0。

2、尾数部分用的是:将小数点前面的值固定位1的正则表达式。

3、指数部分:用的是EXCESS系统表现。

先看看尾数部分。对于十进制的0.75。我们有如下的表示方法:

①、0.75 = 0.75*10^0

②、0.75 = 75*10^(-2)

③、0.75 = 0.075*10^1

十进制的表示正则为:小数点前面是0,小数点后面第一位不是0的规则表示。而对于二进制也是一样的道理,使用的是:将小数点前面的值固定为1的正则。也就是将二进制数表示的小数左移或右移(逻辑移位)数次后,整数部分的第一位变成1,第二位之后变成0.而且第1位的1在实际数据中不保存。

例如1011.0011:

移位变成0001.0110011,确保小数点后23位:0001.01100110000000000000000,仅保留小数点后面完成正则:01100110000000000000000。

再看看指数部分。EXCESS系统表现:将指数部分表示范围的中间值设置为0,使得负数不需要用符号来表示。例如当指数部分是8为单精度浮点时,最大值11111111=225的1/2即01111111=127表示0。双精度类似。

因此对于单精度浮点数的表现,其表示范围就是:00000000~11111111也就是-127~128。看下面例子:


int main(int argc, char *argv[]) {
float data;
unsigned long buff;
int i;
char n[34];
//将0.75以单精度浮点数形式存储在data中
data = (float)0.75;

memcpy(&buff,&data,4);for (i=33;i>=0;i--) {    if(i==1 || i==10) {        n[i] = '-';    }else {        if(buff%2==1) {            n[i] = '1';        }else {            n[i]='0';        }        buff/=2;    }    }n[33] = '\0';printf("%s\n",n);

}

运行结果:

0-01111110-10000000000000000000000
其中01111110是126,EXCESS表示为-1。

小数点前面的第一位是1。因此尾数就是:1.10000000000000000000000也就是1.5。

也就是+1.5*2^(-1) = 0.75。

五、如何避免小数计算出错导致的问题

可以将小数替换成整数来计算。然后在缩小相应的倍数。

来源:博客园 Kakarotto-卡卡罗特


0 0
原创粉丝点击