c语言数据运算超范围要注意

来源:互联网 发布:php截取字符串第一组 编辑:程序博客网 时间:2021/06/16 04:17
注意:计算式,能不写成一大行的就分开写,只要保证了精度就可以了!!写一大行有时候反而影响精度!
例如:unsigned long int X;
  double AD;
AD=AD/50.0;
X=AD*5000.0000/1023.00;
最好先局部计算一下,X=AD*100/1023.00;

1。浮点类型的不能做“模”运算。 例如:float a=1234.56;    a=a%10;  这是错误的。只有整形才能做“模”int a=12345;  a=a%10;
2.如果你想做普通的四则运算。那肯定是浮点数的运算。整形的除法不是我们平时的除法,它是舍去了余数,即小数部分。例如:int a=1;   a=a/10;   结果会得到0;因为只有商被保留下来。正确的是: float  a=1;   a=a/10;   得到结果是:0.1
3。四则运算中常量之间做除法是特别注意:要加小数部分,不管它有没有小数部分;例如:float  a;   a=12/36; 这是错误的,只能得到0。正确的应该是:float  a;   a=12.0/36.0;   加上小数点就对了,得到结果 0.3   。不过,赋值运算符右边只要有一个变量或常量是浮点型就可以了。即:a=12.0/36;   也得到a=0.3;因为C语言能自动想高一级转换类型。但是注意:int 与浮点“常量”运算并不能把他的范围扩大除非计算式里有浮点“变量”例如:int a=5,llong int b;  b=a*3.0+65536;是错误的,第二次加法还是会超范围(int )。平时我们应该养成浮点数加小数点的习惯。同时注意:常量也分数据类型的。 “12”代表是非浮点型(整型int或字符型char)“12.0”则是浮点型(float)
4. 对于不同类型的变量做计算时,要考虑计算的每一步的值否超过了变量类型的范围注意:是每一步的计算结果,不单是最终结果。否则会出错,带来不必要的麻烦。 例如 unsigned int  a,b=7;   a=b+65536;得到的结果不会是65543,因为它已经超出了a的最大值 65536;  又如 a=b-65536;也不会得到负数.  a=b*65536;也超出范围。a=b/65536.0;也不会得到小数。对于多次计算更要特别注意,每一部分是否有可能超出范围,对超出范围的做相应处理。例如:unsinged int a,b=123;  a=b*5000.0/1000000.0;  这样得到的结果不会是你想要的,因为第一次乘法已经超出了范围,第二次做除法时要使用的上次结果已经是个错误的值了。 可见:四则运算要注意三点。1。数据类型。2.。精度问题 。 3。计算超范围问题。 特别是变量与常量的四则运算加倍注意是否超范围。