浮点数的大小比较

节选自 ： http://blog.csdn.net/waitfor_/article/details/8035773

浮点数(以C/C++为准)，一般用的较多的是float, double。

 

占字节数

数值范围

十进制精度位数

float

4

-3.4e-38～3.4e38

6~7

double

8

-1.7e-308～1.7e308

14~15

如果内存不是很紧张或者精度要求不是很低，一般选用double。14位的精度(是有效数字位，不是小数点后的位数)通常够用了。注意，问题来了，数据精度位数达到了14位，但有些浮点运算的结果精度并达不到这么高，可能准确的结果只有10~12位左右。那低几位呢？自然就是不可预料的数字了。这给我们带来这样的问题：即使是理论上相同的值，由于是经过不同的运算过程得到的，他们在低几位有可能(一般来说都是)是不同的。这种现象看似没太大的影响，却会一种运算产生致命的影响: ==。恩，就是判断相等。注意，C/C++中浮点数的==需要完全一样才能返回true。

#include<stdio.h>#include<math.h>int main(){   double a = asin(sqrt(2.0) / 2) * 4.0;   double b = acos(-1.0);   printf("      a = %.20lf\n", a);   printf("      b = %.20lf\n", b);   printf(" a - b = %.20lf\n", a - b);   printf("a == b = %d\n", a == b);   return 0;}

输出：

      a = 3.14159265358979360000

      b = 3.14159265358979310000

 a - b = 0.00000000000000044409

a == b = 0

我们解决的办法是引进eps，来辅助判断浮点数的相等。

eps缩写自epsilon，表示一个小量，但这个小量又要确保远大于浮点运算结果的不确定量。eps最常见的取值是1e-8左右。用法如下：

#include<stdio.h>void main(){ long fun(int n); int i; double e=0; double eps=1e-6;//eps表示精度 此处指10的-6次方 for(i=0;1.0/fun(i)>eps;i++) {  e+=1.0/fun(i);   } printf("e=%lf\n",e);}long fun(int n)//求n!的函数 {  if(n==0)   return 1;  else   return n*fun(n-1); }

则各种判断大小的运算都应做如下修正:

传统意义

修正写法

a == b

 

fabs(a – b) < eps

a != b

fabs(a – b) > eps

a < b

a – b < -eps

a <= b

a – b < eps

a > b

a – b > eps

a >= b

a – b > -eps

这样，我们才能把相差非常近的浮点数判为相等;同时把确实相差较大(差值大于eps)的数判为不相等。

PS: 养成好习惯，尽量不要再对浮点数做==判断。例如，我的修正写法里就没有出现==。

eps带来的函数越界

如果sqrt(a), asin(a), acos(a) 中的a是你自己算出来并传进来的，那就得小心了。

如果a本来应该是0的，由于浮点误差，可能实际是一个绝对值很小的负数(比如1e-12),这样sqrt(a)应得0的，直接因a不在定义域而出错。

类似地，如果a本来应该是±1,则asin(a)、acos(a)也有可能出错。

因此，对于此种函数，必需事先对a进行校正。