mysql中统计精度问题
来源:互联网 发布:雪梨淘宝店叫什么名字 编辑:程序博客网 时间:2024/05/09 10:07
mysql数据统计
1在订单中计算orderPrice 分别用如下sql进行统计 得到结果如下
SELECT sum(order_price) as orderPrice,sum(price) as splitPrice FROM alipay_shop_split_record WHERE pass_status=1
数据a 1512151.11 数据b 1498940.31
SELECT round(sum(order_price),3) as orderPrice,round(sum(price),3) as splitPrice FROM alipay_shop_split_record WHERE pass_status=1
数据a 1512151.110 数据b 1498940.314
由于截断误差造成的
因为现在的CPU都是算double的。
float运算会被转化为double运算,结果四舍五入成float的精度。
结果0.8999999999...就变成了0.9。
double相减后面还有n个9,但是被简单截断隐藏了,它不会四舍五入。
如果你格式化输出数字,你可以看到大约还有15或者16个9。
float运算会被转化为double运算,结果四舍五入成float的精度。
结果0.8999999999...就变成了0.9。
double相减后面还有n个9,但是被简单截断隐藏了,它不会四舍五入。
如果你格式化输出数字,你可以看到大约还有15或者16个9。
float,double容易产生误差,对精确度要求比较高时,建议使用decimal来存,decimal在mysql内存是以字符串存储的,
用于定义货币要求精确度高的数据。
0 0
- mysql中统计精度问题
- MySQL中统计函数的使用
- MYSQL中统计查询结果总行数的便捷方法
- 在mysql中统计每人每天num总和
- eclipse中统计代码行数
- sqlserver 中统计信息语句
- eclipse中统计代码行数
- Eclipse中统计代码行数
- VS2008中统计代码行数
- R中统计假设检验总结
- VIM中统计字符数
- VS中统计代码量
- MATLAB中统计程序执行时间
- 字符串中统计单词个数
- Swift中统计代码行数
- Servlet中统计网站访问量
- git中统计代码行数
- MYSQL中统计查询结果总行数的便捷方法【转载】
- 闭包错误-Cannot invoke 'responseResult' with an argument list of type
- Invert Binary Tree
- 软件开发过程学习笔记(一)之软件开发流程
- STL - deque(双端队列)
- iOS 开发 admob 使用报错
- mysql中统计精度问题
- except as a control flow mechanism
- mysql概念解释
- 台大机器学习基石笔记(一)——机器学习可行性
- 细说Angular ng-class
- A/B(扩展欧几里得算法)
- Android 之一个简单计算器源代码
- 浅析 Ant 脚本部署 RCP 项目
- 取出动态Map中的key值放入List