DBL_EPSILON和 FLT_EPSILON的用法

来源:互联网 发布:mac ftp上传工具下载 编辑:程序博客网 时间:2024/05/21 08:59




DBL_EPSILON和 FLT_EPSILON主要用于单精度和双精度的比较当中:

A、

    double a = 0.5;if (a == 0.5) //正确x++;


B、

double b = sin(M_PI / 6.0);    if (b == 0.5) //不一定就正确        x++;


A、就正确

B、就不一定正确,b==0.5的结果取决于处理器、编译器的版本和设置。比如 Visual C++ 2010 编译器编译后运行b的值为0.49999999999999994

我的一种改进:

double b = sin(M_PI / 6.0);if (fabs(b - 0.5) < DBL_EPSILON)x++;
或者:

double b = sin(M_PI / 6.0);x+= (fabs(b - 0.5) < DBL_EPSILON)?0:1;



0 0
原创粉丝点击