浮点数精确位数
来源:互联网 发布:mac导入图片到iphone 编辑:程序博客网 时间:2024/05/16 05:32
用浮点数时候,经常会遇到相加得到的结果如下:3.00000001这样的结果
如果用BigDecimal就可以解决这种问题。
代码如下:
-------浮点数,容易出现很大的数字的不精确,我们用BigDecimal来代替 /** * rev * @param event */ public void recTotalCost(ActionEvent event){ this.cleanErrorMsg(); BigDecimal b1 = new BigDecimal(Double.toString(0.0)); //total BigDecimal b2 = new BigDecimal(Double.toString(0.0)); //unitCost BigDecimal b3 = new BigDecimal(Integer.toString(0)); //recQty PoDetail item = null; if(availablePoDetailList!=null&&!availablePoDetailList.isEmpty()){ for (int i = 0; i < availablePoDetailList.size(); i++) { item = availablePoDetailList.get(i); if(item.getActiveFlag()!=null&&item.getActiveFlag().equals("Y")){ b2 = new BigDecimal(Double.toString(item.getUnitCost()!=null?item.getUnitCost():0.0)); if( item.getRecQty()!=null && item.getRecQty()>0){ int recQty = item.getRecQty(); b3 = new BigDecimal(Integer.toString(recQty)); b1 = b1.add(b2.multiply(b3)); } } } this.poItem.setRevTotalCost(b1.doubleValue()); msg.sendInfoMSG(""); }else{ msg.sendErrorMSG("NO data"); } }
0 0
- 浮点数精确位数
- js parseFloat 浮点数求和 精确位数
- 浮点数精确计算
- 精确表达浮点数
- 精确表达浮点数
- 精确表达浮点数
- 精确表达浮点数
- 精确表达浮点数
- 精确表达浮点数
- 精确表达浮点数
- 精确表达浮点数
- 精确表达浮点数
- 精确表达浮点数
- 浮点数的精确计算
- Java浮点数精确运算
- java 浮点数精确计算
- 2.6-精确表达浮点数
- Java浮点数精确运算
- ascii码中的可见字符
- requireJS的初步掌握(二)
- EJB3.0,JPA,Hibernate之间的关系
- Doxygen学习笔记(0)- 利用Doxygen快速生成帮助文档
- Tablayout和ViewPager的结合使用Tablayout标题右上角加标记
- 浮点数精确位数
- MVC,MVP,MVVM的区别
- linux查看系统信息命令
- Java HashSet和HashMap源码剖析
- [Android新手学习笔记01]-如何手动创建Activity
- html5多媒体标签之audio标签
- Spring4.3.x 浅析xml配置的解析过程(11)——解析aop命名空间之scoped-proxy标签
- HTTP访问控制(CORS) 跨域访问
- ubuntu下安装opencv3.2出现-- ICV: Downloading ippicv_linux_20151201.tgz...