Mysql的浮点精确度
来源:互联网 发布:扬尼斯-阿德托昆博数据 编辑:程序博客网 时间:2024/05/08 11:30
1.mysql的用于记录小数的类型有三个float ,decimal 和double他们之间的关系
先创建一个表test都用了float ,decimal 和double
插入一条数据查看发现没有发现精度丢失问题
再插入一条数据,发现精度损失:
查看三个类型的范围:
插入小数的位数多的话会进行四舍五入,不会给出警告或者插入不进去的情况:
插入位数多点的,发现float精度损失更加严重而decimal精度没有损失:
这就是浮点数的不精确性造成的。
在mysql中float、double(或real)是浮点数,decimal(或numberic)是定点数。
浮点数相对于定点数的优点是在长度一定的情况下,浮点数能够表示更大的数据范围;它的缺点是会引起精度问题。
在今后关于浮点数和定点数的应用中,大家要记住以下几点:
1、浮点数存在误差问题;
2、对货币等对精度敏感的数据,应该用定点数表示或存储;
3、编程中,如果用到浮点数,要特别注意误差问题,并尽量避免做浮点数比较;
4、要注意浮点数中一些特殊值的处理。
0 0
- Mysql的浮点精确度
- Java浮点数运算的精确度和四舍五入的问题
- ACM中关于浮点型的精确度问题
- ACM中关于浮点型的精确度问题
- hdoj1063&&poj1001 Exponentiation(大数据的处理,浮点数的幂高精确度表示)
- 加和,浮点数精确度问题
- Java浮点数计算精确度问题
- 关于JAVA的精确度
- 实型数据的精确度
- double的精确度
- 精确度的获得
- 利用CUDA的矩阵乘法1 <利用 Kahan's Summation Formula 来提高CUDA 的浮点数运算精确度>
- 名字、身份证号校验;浮点数据精确度限制小工具整理
- BC高精确度函数库—浮点数运算
- java 除法精确度的问题
- 数据丢失精确度的问题的解决
- MySQL数据库浮点数据类型的坑
- 对于精确度要求更高的定时操作
- R语言入门
- 【Python基础】Python面向对象 - 8 - 元类2
- 学习函数指针
- Linux常用命令学习笔记
- CCClippingNode 的简单使用(coco2d-x 2.2.4)
- Mysql的浮点精确度
- 地球人都在玩跨境电商
- ruby 哈希常用方法
- libcurl的share interface与curl_easy_perform的性能
- 3.2.5.6 查找英语语句里所有形容词
- 晶体管基本放大电路总结
- CSS a:hover
- eclipse上,生产可执行的JAR
- 利用Eclipse构建Spark集成开发环境