单片机keil-c51语言乘除法和取膜超范围问题(部分不适用于C)

来源:互联网 发布:php截取字符串第一组 编辑:程序博客网 时间:2021/06/16 03:36

注意:计算式,能不写成一大行的就分开写,只要保证了精度就可以了!!写一大行有时候反而影响精度!

例如:unsigned long int X;

  double AD;

AD=AD/50.0;

X=AD*5000.0000/1023.00;

最好先局部计算一下,X=AD*100/1023.00;


1。浮点类型的不能做“模”运算。 例如:float a=1234.56;    a=a%10;  这是错误的。只有整形才能做“模”int a=12345;  a=a%10;

2.如果你想做普通的四则运算。那肯定是浮点数的运算。整形的除法叫取模,不是我们平时的除法,它是舍去了余数,即小数部分。例如:int a=1;   a=a/10;   结果会得到0;因为只有商被保留下来。正确的是: float  a=1;   a=a/10;   得到结果是:0.1

3。四则运算中常量之间做除法是特别注意:要加小数部分,不管它有没有小数部分;例如:float  a;   a=12/36; 这是错误的,这是取商运算,不叫“除法”,只能得到0。正确的应该是:float  a;   a=12.0/36.0;   加上小数点就对了,得到结果 0.3   。a=90*1000.0/20.0;第一步运算必须要有一个变量或常量是浮点型,后面的可以不用浮点数。C语言能自动想高一级转换类型。平时我们应该养成浮点数加小数点的习惯。常量也分数据类型的。 “12”代表是非浮点型(整型int或字符型char)“12.0”则是浮点型(float)

 

4. 整形先乘法再除法,第一步乘法部分也不能超过左侧最大范围。 unsigned int a,char  b=90;   a=b*1000/3000.0; 计算结果a=8;因为b*1000这里超过了a的最大范围65536,取模后得到8。正确写法:a=b*100/3000*10;这里可以得到a=30。

但是浮点数乘法再除法。就不会超范围; a=b*1000.0/3000;a结果是30.

 

6. 对于不同类型的变量做计算时,要考虑结果是否超过了左面被赋值变量类型的范围 例如 unsigned int  a,b=7;   a=b+65536;得到的结果不会是65543,因为它已经超出了a的最大值 65536;  又如 a=b-65536;也不会得到负数.  a=b*65536;也超出计算式最大数据类型的范围。因为是计算完之后才赋值为左边的数据类型

 可见:四则运算要注意三点。1。数据类型。2.。精度问题 。 3。计算式超过最大数据类型范围的问题,计算完之后才会赋值为左边的数据类型。 特别是变量与常量的四则运算加倍注意是否超范围。