解决js进行四则运算时出现的小数尾差问题
来源:互联网 发布:部分软件无法连接网络 编辑:程序博客网 时间:2024/05/14 09:12
最近项目中用到js对数据进行运算,运算10.37-1.1-1.1=8.169999999999,让我很是郁闷,谷歌了一下发现这是一个js本身对浮点运算的bug,不知道为什么一直没有修复。。。
一开始我如果仅对加法进行简单的处理,即所有的数都乘以1000或10000得到整数在进行运算,但是在减法等中还是会有问题。要彻底解决这个bug,只有重新自己写加减乘除的方法,如下:
乘法:
function accDiv(arg1, arg2) {
var t1 = 0, t2 = 0, r1, r2;
try { t1 = arg1.toString().split(".")[1].length } catch (e) { }
try { t2 = arg2.toString().split(".")[1].length } catch (e) { }
with (Math) {
r1 = Number(arg1.toString().replace(".", ""))
r2 = Number(arg2.toString().replace(".", ""))
return (r1 / r2) * pow(10, t2 - t1);
}
}
除法:function accMul(arg1, arg2) {
var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
try { m += s1.split(".")[1].length } catch (e) { }
try { m += s2.split(".")[1].length } catch (e) { }
return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)
}
加法:function accAdd(arg1, arg2) {
var r1, r2, m, c;
try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
c = Math.abs(r1 - r2);
m = Math.pow(10, Math.max(r1, r2))
if (c > 0) {
var cm = Math.pow(10, c);
if (r1 > r2) {
arg1 = Number(arg1.toString().replace(".", ""));
arg2 = Number(arg2.toString().replace(".", "")) * cm;
}
else {
arg1 = Number(arg1.toString().replace(".", "")) * cm;
arg2 = Number(arg2.toString().replace(".", ""));
}
}
else {
arg1 = Number(arg1.toString().replace(".", ""));
arg2 = Number(arg2.toString().replace(".", ""));
}
return (arg1 + arg2) / m
}
减法:function accSub(arg1,arg2){
var r1,r2,m,n;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2));
//动态控制精度长度
n=(r1>=r2)?r1:r2;
return ((arg1*m-arg2*m)/m).toFixed(n);
}
特别的是,你可以给Number类型增加四个方法,让调用更加方便。
比如加法:
给Number赋个add方法
Number.prototype.add = function(arg) {
return accAdd(arg, this);
}
计算3.4+2.1只需调用(3.4)add(2.1)即可。
- 解决js进行四则运算时出现的小数尾差问题
- JS小数运算出现多位小数的问题
- JS 数字相加出现多个小数的问题
- 解决MySQL中float字段SUM()时出现一堆小数的问题
- js计算出现多位小数-Javascript 浮点运算问题分析与解决
- JS保留四舍五入两小数(解决保留两位小数输入1.999变成1.100的问题)
- js精确小数乘法(解决精度问题)
- 解决js图片加载时出现404的问题
- js小数运算精度问题,js浮点数运算时出现精度问题
- 黑马程序员-float小数比较时出现的问题
- 解决Oracle出现以0开头的小数,开头的0消失的问题
- js中加减乘除遇到小数时的位数问题
- 解决js 出现乱码问题
- Java中的浮点型进行四则运算精度丢失的问题
- sybase 数据库 处理小数问题的解决
- 解决tomcat在大进行大并发请求时,出现内存溢出的问题
- 解决tomcat在进行大并发请求时,出现内存溢出的问题
- 解决使用NDK进行编译时出现undefined reference to function的问题
- sqlalchemy的两种方法详解
- 在Ubuntu上安装MySQLdb
- 【整洁代码之设计篇】Clean Design 1 - Single Responsibility Principle理论和实践
- 健康的说法加快速度更好
- 对比for 循环和while 循环,两种形式的优缺点各是什么?
- 解决js进行四则运算时出现的小数尾差问题
- java session失效设置
- IOS开发之——蓝牙通信浅谈
- 比较三种数据类型的类模板
- Windows平台下C++插件系统实现的几个关键技术问题及其解决思路
- geoserver 中GWC的切图路径问题
- 我的opencv作死之旅 [0] -- 开端
- QDialog 模态对话框与事件循环
- 抽象类和接口的区别、为什么用抽象类。