DBL_EPSILON和 FLT_EPSILON的用法

来源:互联网 发布:mac excel solver 编辑:程序博客网 时间:2024/05/17 23:32


DBL_EPSILON和 FLT_EPSILON主要用于单精度和双精度的比较当中:


[cpp] view plain copy
 在CODE上查看代码片派生到我的代码片
  1. double a = 0.5;  
  2. if (a == 0.5) //正确  
  3.     x++;  
  4.   
  5. double b = sin(M_PI / 6.0);  
  6. if (b == 0.5) //错误  
  7.     x++;  

第一个比较正确,第二个可能正确也可能错误,b==0.5的结果取决于处理器、编译器的版本和设置。比如 Visual C++ 2010 编译器编译后运行b的值为0.49999999999999994

一种正确的比较方法应该是这样的:


[cpp] view plain copy
 在CODE上查看代码片派生到我的代码片
  1. double b = sin(M_PI / 6.0);  
  2. if (fabs(b - 0.5) < DBL_EPSILON)  
  3.     x++;  

以上的例子可以看出,EPSILON是最小误差。 是EPSILON+X不等于X的最小的正数。
0 0
原创粉丝点击