VC6 的小BUG —— fmodf()

来源:互联网 发布:买卖二手手机的软件 编辑:程序博客网 时间:2024/04/28 01:06

以前写一个程序遇到一个小问题,但是一直没时间把这个问题整理出来。当时的测试程序也早已经不在了,只能重新写一个。

BUG来源于VC里的数学库。fmodf()函数可以对float型的变量进行取模运算,但是对有些值的有些运算却不能正确表达。可以参照以下这个程序。

 

#include <math.h>

#include <iostream>

using namespace std;

void main()

{

       float f;

       do

       {

              cout<<"---------------------------"<<endl;

              cin>>f;

              cout

              <<fmodf(f , 100.0f) / 10.0f<<endl

              <<fmodf(f , 10.0f) / 1.0f<<endl

              <<fmodf(f , 1.0f) / 0.1f<<endl

              <<fmodf(f , 0.1f) / 0.01f<<endl;

             

              cout<<"---------------------------"<<endl;

       }while(f>0);

}

这里首先定义一个float类型的变量,然后在输出提示行后输入变量。在对变量进行分别取模运算后除相应的数字来突出最高位,更加明了显示结果。

比如输入52.53,会分别突出各自的十位,个位,十分位,百分位。注意测试中最后一位的2.9998其实近似为3,所以结果是正确的。

如果输入更多的位的浮点数,结果也是正确的。在实际应用中可以对其舍入来完成需求。

但是在输入一个小数部分都为0值的时候,不论是输入10,还是输入10.00,或者10.0000,都会产生错误。在取十分位的时候本应该得到近似0值,这里却得到近似10值。这里就是编译器的BUG所在。事实上,如果对f再进行0.01f的模运算,结果也是正确的。所以编译器对fmodf()函数的对0.1f的取模运算有错误。

解决方法也很简单。因为浮点数的要求精度也许并不高,这样可以使用在对被取模数加小数的方法使其小数部分不为0值。所以应该加上以下一条语句:

f += 0.000001;

如果加更小的数,超出浮点数范围,仍然会出错。

以下是一些测试结果。

---------------------------

52.53

5.253

2.53

5.29999

2.9998

---------------------------

---------------------------

52.0265

5.20265

2.0265

0.265007

2.64999

---------------------------

---------------------------

10

1

0

0

9.99999

---------------------------

---------------------------

10.00

1

0

0

9.99999

---------------------------

---------------------------

10.00001

1

9.53674e-006

9.53674e-005

0.000938773

---------------------------

本程序在VC环境下和DEV C++环境下都测试过,都有同样的错误。没有TC环境,没有测试。
原创粉丝点击