java 小数精度相关
来源:互联网 发布:qt 5编程入门pdf下载 编辑:程序博客网 时间:2024/05/17 06:37
最近在用double 加减乘除时发现存在丢失精度的情况(js vb 也存在这个情况)
具体原因与二进制表示有关
http://www.cnblogs.com/yewsky/articles/1864934.html
int a = 3;
double b = 0.03;
double c = 0.03;
double d = a + b + c;
System.out.println(“first d:” + d);
结果:first d:3.0599999999999996
为了解决这个情况,我们可以使用bigdecimal 进行数值计算比较等操作。
使用bigdecimal 进行四舍五入时要注意表名舍位的模式
参数定义
ROUND_CEILING
Rounding mode to round towards positive infinity.
向正无穷方向舍入
ROUND_DOWN
Rounding mode to round towards zero.
向零方向舍入
ROUND_FLOOR
Rounding mode to round towards negative infinity.
向负无穷方向舍入
ROUND_HALF_DOWN
Rounding mode to round towards “nearest neighbor” unless both neighbors are equidistant, in which case round down.
向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,向下舍入, 例如1.55 保留一位小数结果为1.5
ROUND_HALF_EVEN
Rounding mode to round towards the “nearest neighbor” unless both neighbors are equidistant, in which case, round towards the even neighbor.
向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,如果保留位数是奇数,使用ROUND_HALF_UP ,如果是偶数,使用ROUND_HALF_DOWN
ROUND_HALF_UP
Rounding mode to round towards “nearest neighbor” unless both neighbors are equidistant, in which case round up.
向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,向上舍入, 1.55保留一位小数结果为1.6
ROUND_UNNECESSARY
Rounding mode to assert that the requested operation has an exact result, hence no rounding is necessary.
计算结果是精确的,不需要舍入模式
ROUND_UP
Rounding mode to round away from zero.
向远离0的方向舍入
另外bigdecimal做除法运算要保留小数,否则遇到除不尽会报错,而且一个公式中有乘法除法一定要最后算除法,且最好将a/b/c转换成a/(b*c)否则会有精度问题。
默认为ROUND_HALF_EVEN 银行家舍位(vb 的round ,js 的format 也是)。
http://www.cnblogs.com/liqforstudy/p/5652517.html
- java 小数精度相关
- 小数精度
- 小数精度。
- js,java小数计算精度问题
- JAVA中double格式化控制精度小数位数,float同理
- java随机生成指定精度小数、定长字符串------随笔
- JAVA中double格式化控制精度小数位数,float同理
- 小数按精度转换
- 小数精度设置
- iOS取小数精度
- 保留小数精度
- BigDecimal 小数精度问题
- pandas小数精度
- 如何保留小数精度
- JS小数精度加减法
- Java 小数类 及四舍五入的方法 精度很高的小数时用
- VC中处理小数精度
- 精度、小数位数和长度
- 收获,不止SQL优化——抓住SQL的本质--第十三章
- Windows下flask发送邮件完美解决in create_connection raise err error: [Errno 10061]等错误问题
- Swift 中的集合 (Set)
- jersey实现rest入门实例
- 链表基本操作
- java 小数精度相关
- 收获,不止SQL优化——抓住SQL的本质--第十四章
- 十二、人工神经元的其他模型(tanh、ReLU)
- python random模块学习笔记
- 更改gcc默认版本(gcc版本降级/升级)
- 2018美团点评内推笔试编程题1
- 什么是I帧,P帧,B帧
- Spring+SpringMVC的整合 具体的开发步骤和xml文件配置
- 最简单 Viewpager 滑动页面