浮点数计算精度: 先乘后除 vs 先除后乘 ,前者精度高
来源:互联网 发布:吉田朱里 知乎 编辑:程序博客网 时间:2024/04/30 17:08
下面两行代码,理论上结果应该一样,但是实际不同:
trace(Math.round(0.935 * 100) / 100);
trace(Math.round(0.935 /0.01) *0.01);
结果:
0.94
trace(Math.round(0.935 * 100) / 100);
trace(Math.round(0.935 /0.01) *0.01);
结果:
0.94
0.9400000000000001
原因:
==============================================================================
http://blog.csdn.net/waitfor_/article/details/8035773
http://www.cnblogs.com/JeffreyZhao/archive/2009/11/24/precision-of-float-point-calculation.html
浮点数失真的原因:
http://blog.sina.com.cn/s/blog_68e4d2910100j0x8.html
- 浮点数计算精度: 先乘后除 vs 先除后乘 ,前者精度高
- 浮点数精度计算
- js浮点数相加、减、乘、除精确计算
- JS浮点数精确计算函数(加,减,乘,除)
- js浮点数精确计算(加、减、乘、除)
- js浮点数相加、减、乘、除精确计算
- 浮点数计算精度控制
- 浮点数加,减,乘,除运算
- 高精度除单精度
- js加、减、乘、除的精度问题
- 浮点数计算注意精度问题
- Java浮点数计算精度问题总结
- 实现js浮点数加、减、乘、除的精确计算
- 浮点数精度
- 浮点数精度
- 浮点数精度错误
- 浮点数精度问题
- 单精度浮点数
- 构建高可扩Web架构和分布式系统实战(下)
- oracle笔记----3.26
- 用Maven如何构建一个基于Hibernate Annotation的web项目?
- /boot/grub/grub.conf文件
- frame框架刷新页面
- 浮点数计算精度: 先乘后除 vs 先除后乘 ,前者精度高
- Android KEYCODE键值对应大全
- BeanUtils用法举例
- 关于log4j的日志文件保存位置解决方案
- PendingIntent requestCode
- SQL实例名
- linux安装VIM等软件
- iphone里读取gb2312(中文)编码文件或者二进制流。
- python中if __name__ == '__main__': 的解析