编程教训---四则运算别超范围(int*int结果不可超过int最大值)
来源:互联网 发布:php截取字符串第一组 编辑:程序博客网 时间:2024/03/29 01:35
注意:计算式,能不写成一大行的就分开写,只要保证了精度就可以了!!写一大行有时候反而影响精度!
例如:unsigned long int X;
double AD;
AD=AD/50.0;
X=AD*5000.0000/1023.00;
最好先局部计算一下,X=AD*100/1023.00;
1。浮点类型的不能做“模”运算。 例如:float a=1234.56; a=a%10; 这是错误的。只有整形才能做“模”int a=12345; a=a%10;
2.如果你想做普通的四则运算。那肯定是浮点数的运算。整形的除法是取商,不是我们平时的除法,它是舍去了余数,即小数部分。例如:int a=1; a=a/10; 结果会得到0;因为只有商被保留下来。正确的是: float a=1; a=a/10; 得到结果是:0.1
3。四则运算中常量之间做除法是特别注意:要加小数部分,不管它有没有小数部分;例如:float a; a=12/36; 这是错误的,这是取商运算,不叫“除法”,只能得到0。正确的应该是:float a; a=12.0/36.0; 加上小数点就对了,得到结果 0.3 。a=90*1000.0/20.0;第一步运算有一个变量或常量是浮点型,这样扩大了最大范围,防止运算值溢出。C语言能自动想高一级转换类型。平时我们应该养成浮点数加小数点的习惯。常量也分数据类型的。 “12”代表是非浮点型(整型int或字符型char)“12.0”则是浮点型(float)
4. 整形先乘法再除法,每步运算不能超过两个因子中,最大的那个变量类型的最大范围。
unsigned int a, b=90; a=b*1000/3000.0; 第一步乘法后溢出90000-65536=24464计算结果a=8;因为b*1000这里超过了a的最大范围65536,取模后得到8。正确写法:a=b*100/3000*10;这里可以得到a=30。因为受寄存器限制,最大2个字节65535。
但是浮点数乘法再除法。就不会超范围; a=b*1000.0/3000;浮点数范围大a结果是30.
6. 对于不同类型的变量做计算时,要考虑结果是否超过了最大范围。这个最大范围由两个因子中最大的决定。 例如 unsigned int a,b=7; a=b+65535;得到的结果不会是65542,而是溢出部分6.因为它已经超出了a的最大值 65536; 又如 a=b-65535;也不会得到负数,而是8等效一下a=b+(-65535);即:a=b+1=8这里运算. a=b*65536;也超出计算式最大数据类型的范围。因为是计算完之后才赋值为左边的数据类型
可见:四则运算要注意三点。1。数据类型。2.。精度问题 。 3。计算式超过最大数据类型范围的问题,计算完之后才会赋值为左边的数据类型。 特别是变量与常量的四则运算加倍注意是否超范围。
整数除法是整数运算中最慢的,所以应该尽可能避免。例如连除,这里除法可以由乘法代替。这个替换的副作用是有可能在算乘积时会溢出,所以只能在一定范围的除法中使用。
不好的代码:
int i, j, k, m;
m = i / j / k;
推荐的代码:
int i, j, k, m;
m = i / (j * k);- 编程教训---四则运算别超范围(int*int结果不可超过int最大值)
- int最大值
- int的最大值、超过最大值后类型转换的不同
- 最小公倍数--结果超出int表示范围
- int,long long int 范围
- int
- int?
- int ?
- int
- Int
- int?
- int的最大值
- JAVA int 最大值 最小值
- 打印int最大值
- 【实用技巧】INT型最大值
- 求int 的最大值
- 关于int的最大值
- int最大值2147483647
- 河北正定县2010年政府工作报告(1)
- 河北正定县2010年政府工作报告(2)
- 关于测周法转速测量改进:采样次数的设定
- 单片机keil-c51语言乘除法和取膜超范围问题(部分不适用于C)
- c语言数据运算超范围要注意
- 编程教训---四则运算别超范围(int*int结果不可超过int最大值)
- 诗词
- java中Hashmap的实现原理
- 多年后,你未娶,我未嫁,我们就结婚吧?
- 乒乓球女队迎战第50届世乒赛热身赛在正定基地举行
- 做了一个米表odomain.cn,免费添加友情链接
- 关于单片机I/0口置低的引脚不能拉高的问题
- gridview合并单元格
- 河北正定县领导为参加世博会的常山战鼓队送行