浮点数类型计算问题,bigDecimal对象构造函数尽量使用字符串参数
来源:互联网 发布:易语言取网页源码乱码 编辑:程序博客网 时间:2024/05/29 11:59
最近查看rebate数据时,发现一个bug,主要现象是,当扣款支付宝的账号款项时,返回的是数字的金额为元,而数据库把金额存储为分,这中间要做元与分的转化,这个转化规则很简单,就是*100的,所以一开始代码很简单,如下。
当s=”9.86”时,杯具出现了,result的结果为985而不是986,float的精度损失导致float(985.99994)转化为整形时,丢掉小数部分成为985,简单的方法,我们可以提高精度使用双精度的double类型,提高精度,比如
当s=”9.86”时,确实能够得到正确结果,但是当s=”1219.86”时,这时候由于精度问题导致最终的result为121985为不是121986。当时以为使用double解决的问题,其实隐藏更隐蔽的bug。
针对这样的问题,如果使用C/C++语言,那么通用解决方案可以这样。但是,我们使用的java语言,java应该有更优雅的解决方案,那就是BigDecimal。
使用BigDecimal的解决方案成这个样子
输出如下
不会再加上一个BigDecimal(0.5)吧。我相信在使用过BigDecimal过程中,肯定有那里不对的地方,multiply方法中可以传入精度,那就构造MathContext对象,修改如下。最后结果输出为986,貌似已经找到完成解决方案,其实不然,注意到MathContext中的4了嘛?这是因为我们保留4位有效数字,假如我们输入的数字是大于4的,比如1219.86,最终输出结果是122000,这是因为1219.86保留4位有效数字时,第四位的9四舍五入,除去精确位补零,所以最终结果成了122000。问题就成了,我们必须知道元变分后的最终有效位数,”9.86”,有效位数是4,”19.86”有效位数是5,把字符串s的长度传过去就可以了,那么代码如下
至此,已经可以得到一个正确的元转分的代码,但是这里的s.length()终归不让人感觉舒服,接下来,我们探索BigDecimal原理,尝试用更优雅的方法解决这个问题。
BigDecimal,不可变的、任意精度的有符号十进制数。BigDecimal 由任意精度的整数非标度值 和 32 位的整数标度(scale) 组成。如果为零或正数,则标度是小数点后的位数。如果为负数,则将该数的非标度值乘以 10 的负 scale 次幂。因此,BigDecimal 表示的数值是 (unscaledValue × 10-scale)。我们知道BigDecimal有三个主要的构造函数
1
public BigDecimal(double val)
将double表示形式转换为BigDecimal
2
public BigDecimal(int val)
将int表示形式转换为BigDecimal
3
public BigDecimal(String val)
将字符串表示形式转换为BigDecimal
通过这三个构造函数,可以把double类型,int类型,String类型构造为BigDecimal对象,在BigDecimal对象内通过BigIntegerintVal存储传递对象数字部分,通过int scale;记录小数点位数,通过int precision;记录有效位数(默认为0)。
BigDecimal的加减乘除就成了BigInteger与BigInteger之间的加减乘除,浮点数的计算也转化为整形的计算,可以大大提供性能,并且通过BigInteger可以保存大数字,从而实现真正大十进制的计算,在整个计算过程中,还涉及scale的判断和precision判断从而确定最终输出结果。
我们先看一个例子
看似相似的代码,其结果完全不同,第一个例子中,抛出异常。第二个例子中,输出打印结果为1.5。造成这种差异的主要原因是第一个例子中的创建BigDecimal时,0.6和0.4是浮动类型的,浮点型放入BigDecimal内,其存储值为
这两个浮点数相除时,由于除不尽,而又没有设置精度和保留小数点位数,导致抛出异常。而第二个例子中0.6和0.4是字符串类型,由于BigDecimal存储特性,通过BigInteger记录BigDecimal的值,所以,0.6和0.4可以非常正确的记录为
两者相除得出1.5来。
对于第一个例子,如果我们想得到正确结果,可以这样来
现在看我们留下的那个问题,使用更优雅的方式解决元转化为分的方式,上一个问题中,我们通过传递s.length()从而获得精度,如果之前的s是double类型的,那边这样的方式就会有问题,通过上面的例子,我们可以调整为一下的通用方式
我们通过/1,然后设置保留小数点方式,以及设置数字保留模式,从而得到两个数乘积的小数部分。还有以下模式
枚举常量摘要
ROUND_CEILING
向正无限大方向舍入的舍入模式。
ROUND_DOWN
向零方向舍入的舍入模式。
ROUND_FLOOR
向负无限大方向舍入的舍入模式。
ROUND_HALF_DOWN
向最接近数字方向舍入的舍入模式,如果与两个相邻数字的距离相等,则向下舍入。
ROUND_HALF_EVEN
向最接近数字方向舍入的舍入模式,如果与两个相邻数字的距离相等,则向相邻的偶数舍入。
ROUND_HALF_UP
向最接近数字方向舍入的舍入模式,如果与两个相邻数字的距离相等,则向上舍入。
ROUND_UNNECESSARY
用于断言请求的操作具有精确结果的舍入模式,因此不需要舍入。(默认模式)
ROUND_UP
远离零方向舍入的舍入模式。
总结:
1:尽量避免传递double类型,有可能话,尽量使用int和String类型。
2:做乘除计算时,一定要设置精度和保留小数点位数。
3:BigDecimal计算时,单独放到try catch内。
参考资料
IEEE 754简介: http://baike.baidu.com/view/1698149.htm
IEEE 754官方协议:http://grouper.ieee.org/groups/754/
BigDecimal函数列表:http://hi.baidu.com/logan9999/item/eeaea014677323fd9c778abd
浮点数与IEEE 754: http://www.cnblogs.com/kingwolfofsky/archive/2011/07/21/2112299.html
MathContext:http://doc.java.sun.com/DocWeb/api/all/java.math.MathContext
BigDecimal:http://doc.java.sun.com/DocWeb/api/all/java.math.BigDecimal
转载自:http://blog.csdn.net/ugg/article/details/8213666
- 浮点数类型计算问题,bigDecimal对象构造函数尽量使用字符串参数
- 使用BigDecimal对象进行Java浮点数精确计算
- BigDecimal浮点数计算
- java 浮点数计算的问题,计算要用BigDecimal
- 【Java】解决计算浮点数精度问题(BigDecimal)
- Java中使用BigDecimal进行浮点数高精度计算
- Java中使用BigDecimal进行浮点数精确计算、超大整数、浮点数等计算
- 利用BigDecimal精确的计算浮点数
- Java中使用BigDecimal进行浮点数精确计算、超大整数、浮点数等计算,没有数位限制
- Java中使用BigDecimal进行浮点数精确计算、超大整数、浮点数等计算,没有数位限制
- Java中使用BigDecimal进行浮点数精确计算、超大整数、浮点数等计算,没有数位限制
- Java中使用BigDecimal进行浮点数精确计算、超大整数、浮点数等计算,没有数位限制
- Java中使用BigDecimal进行浮点数精确计算、超大整数、浮点数等计算,没有数位限制
- Hibernate 将浮点数类型设置为 BigDecimal,保证计算的精确性
- BigDecimal构造函数传Double类型的值,精度问题
- 浮点数计算问题
- Java浮点数float,bigdecimal和double精确计算的精度误差问题总结
- Java浮点数float,bigdecimal和double精确计算的精度误差问题总结
- Linux 2
- Linux源码分析笔记1 (bootsect.s文件分析)
- intellij idea 中Python模块的扩展之读写excel文件的扩展
- H5 14
- MyBatis中的注解
- 浮点数类型计算问题,bigDecimal对象构造函数尽量使用字符串参数
- 微信支付的坑
- FastDfs (四) Fastdfs安装
- H5 14
- 几种任务调度的 Java 实现方法与比较
- java——socket
- IMX6之emmc的u-boot无法启动调试方法
- 双链表的实现以及插入删除等操作
- ConcurrentHashMap源码解析