警惕C++中整数除法计算的精度损失
来源:互联网 发布:51信用卡工作 知乎 编辑:程序博客网 时间:2024/05/16 01:33
很偶然发现了一个精度损失的问题,简单来说:
有表达式: l = i/30 + j/40 + k/25, 求当{i,j,k} = {50,85,27}时l的值,很简单,用计算器马上可以算出答案为4.8717,但是编写了以下程序来实现:
int i = 50,j = 85, k = 27;
double l = i/30 + j/40 + k/25;
运行后,结果显示4.000000000!
int i = 50,j = 85, k = 27;
double l = i/30.0 + j/40.0 + k/25.0;
0 0
- 警惕C++中整数除法计算的精度损失
- 整数行列式计算 高斯方法 无精度损失
- Java中double数据类型计算会损失精度问题
- java double 计算损失精度
- java double 计算损失精度
- 利用除法计算整数的位数
- c语言编程提高除法运算的精度
- python中整数除法的正负号
- 高精度计算-大整数除法
- 任意精度整数运算(计算2的4000次方)
- 关于BigDecimal比较的精度损失问题
- 计算整数中1的个数的C语言实现
- matlab中计算精度的问题
- java中数值计算的精度问题
- Java 中double变量的精度计算
- Java中数值计算的精度问题
- Android中数值计算的精度
- C/计算一个整数二进制位中1的个数
- linux 内核学习之系统调用
- socket 通信机制
- 苹果iWatch确实存在 或于第四季度发布
- uva 11464 - Even Parity (枚举+递推)
- GDB指定和修改搜素源码文件的路径(set substitute-path)
- 警惕C++中整数除法计算的精度损失
- linux下的Boost.Regex的编译和使用方法
- 从B树、B+树、B*树谈到R 树
- Android 简单2D绘图
- OCP 1Z0 052 107
- 使用TortoiseGit时如何实现SSH免密码登录
- Android中图片占用内存的计算
- C++中传送函数指针
- 6-9 编程练习题答案