数字计算问题

来源:互联网 发布:f3飞控调参软件下载 编辑:程序博客网 时间:2024/06/13 13:57

java代码中当设计到数字计算问题时候,请使用BigDecimal类,add(+)、subtract(-)、multiply(*) 和 divide(\), 同时出现小数进行位数设置时,使用setScale(2, BigDecimal.ROUND_HALF_UP)


Java代码new BigDecimal(double d)存在精度问题,需要改成 BigDecimal.valueOf( double d )


js页面显示出现数字计算并且出现约等于进位问题的时候,

 js计算,之前修改,但还是存在精度问题,故下载github分享的big.js(模拟Java的Bigdecimal)包, 引入标签:<script type="text/javascript" src="${ctx}/scripts/big.min.js"></script>,去掉之前的<script type="text/javascript" src="${ctx}/scripts/jquery.tofixed.plugin.js"></script>的引入。
写法举例:var price = 12.88; var taxRate = 0.17; var newCount = 4; var totalPrice = new Big(0); totalPrice = new Big(price).mul(taxRate.add(1)).mul(new Big(newCount)).toFixed(2);
方法名:乘法mul,加法add,减法sub,除法div,判断是否相等eq,大于gt,小于lt, 新定义参数 new Big();
big.js的API地址,有兴趣可以浏览一下 http://mikemcl.github.io/big.js/#
请大家及时修改自己代码,所有+,-,*,/,<,>,==,都需要修改 

0 0
原创粉丝点击