java 小数精度相关

来源:互联网 发布:qt 5编程入门pdf下载 编辑:程序博客网 时间:2024/05/17 06:37

最近在用double 加减乘除时发现存在丢失精度的情况(js vb 也存在这个情况)
具体原因与二进制表示有关
http://www.cnblogs.com/yewsky/articles/1864934.html

int a = 3;
double b = 0.03;
double c = 0.03;
double d = a + b + c;
System.out.println(“first d:” + d);
结果:first d:3.0599999999999996
为了解决这个情况,我们可以使用bigdecimal 进行数值计算比较等操作。

使用bigdecimal 进行四舍五入时要注意表名舍位的模式
参数定义

ROUND_CEILING
Rounding mode to round towards positive infinity.
向正无穷方向舍入

ROUND_DOWN
Rounding mode to round towards zero.
向零方向舍入

ROUND_FLOOR
Rounding mode to round towards negative infinity.
向负无穷方向舍入

ROUND_HALF_DOWN
Rounding mode to round towards “nearest neighbor” unless both neighbors are equidistant, in which case round down.
向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,向下舍入, 例如1.55 保留一位小数结果为1.5

ROUND_HALF_EVEN
Rounding mode to round towards the “nearest neighbor” unless both neighbors are equidistant, in which case, round towards the even neighbor.
向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,如果保留位数是奇数,使用ROUND_HALF_UP ,如果是偶数,使用ROUND_HALF_DOWN

ROUND_HALF_UP
Rounding mode to round towards “nearest neighbor” unless both neighbors are equidistant, in which case round up.
向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,向上舍入, 1.55保留一位小数结果为1.6

ROUND_UNNECESSARY
Rounding mode to assert that the requested operation has an exact result, hence no rounding is necessary.
计算结果是精确的,不需要舍入模式

ROUND_UP
Rounding mode to round away from zero.
向远离0的方向舍入

另外bigdecimal做除法运算要保留小数,否则遇到除不尽会报错,而且一个公式中有乘法除法一定要最后算除法,且最好将a/b/c转换成a/(b*c)否则会有精度问题。
默认为ROUND_HALF_EVEN 银行家舍位(vb 的round ,js 的format 也是)。
http://www.cnblogs.com/liqforstudy/p/5652517.html