JS的乘、除、加、减法结果会有误差,在两个浮点数相乘的时候会比较明显
来源:互联网 发布:c语言 定义green 编辑:程序博客网 时间:2024/04/28 04:45
问题:
37.5*5.5=206.08 (JS算出来是这样的一个结果,我四舍五入取两位小数)
我先怀疑是四舍五入的问题,就直接用JS算了一个结果为:206.08499999999998
怎么会这样,两个只有一位小数的数字相乘,怎么可能多出这么小数点出来。
我Google了一下,发现原来这是JavaScript浮点运算的一个bug。
比如:7*0.8 JavaScript算出来就是:5.6000000000000005
-
-
-
-
- function accMul(arg1,arg2)
- {
- var m=0,s1=arg1.toString(),s2=arg2.toString();
- try
- {
- m+=s1.split(".")[1].length
-
- }
- catch(e)
- {}
- try
- {
- m+=s2.split(".")[1].length
- }
- catch(e)
- {}
- return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
- }
-
-
- Number.prototype.mul = function (arg)
- {
- return accMul(arg, this);
- }
-
-
-
-
-
-
- function accDiv(arg1,arg2)
- {
- var t1=0,t2=0,r1,r2;
- try
- {
- t1=arg1.toString().split(".")[1].length
- }
- catch(e)
- {}
- try
- {
- t2=arg2.toString().split(".")[1].length
- }
- catch(e)
- {}
- with(Math)
- {
- r1=Number(arg1.toString().replace(".",""))
- r2=Number(arg2.toString().replace(".",""))
- return (r1/r2)*pow(10,t2-t1);
- }
- }
-
-
- Number.prototype.div = function (arg)
- {
- return accDiv(this, arg);
- }
-
-
-
-
-
-
- function accAdd(arg1,arg2)
- {
- var r1,r2,m;
- try
- {
- r1=arg1.toString().split(".")[1].length
- }
- catch(e)
- {
- r1=0
- }
- try
- {
- r2=arg2.toString().split(".")[1].length
- }
- catch(e)
- {
- r2=0
- }
- m=Math.pow(10,Math.max(r1,r2))
- return (arg1*m+arg2*m)/m
- }
-
-
- Number.prototype.add = function (arg)
- {
- return accAdd(arg,this);
- }
- <p>
-
-
-
-
- function accSub(arg1,arg2)
- {
- var r1,r2,m,n;
- try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
- try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
- m=Math.pow(10,Math.max(r1,r2));
-
-
- n=(r1>=r2)?r1:r2;
- return ((arg2*m-arg1*m)/m).toFixed(n);
- }</p><p>
- Number.prototype.sub = function (arg)
- {
- return accSub(arg,this);
- }</p><p> </p><p>比如你要计算:12*0.95 ,则改成 (12).mul(0.95) ;
- 12/0.95, 则改成 (12).div(0.95) ;
- 12+0.95, 则改成 (12).add(0.95)
- 12-0.95, 则改成 (12).sub(0.95)</p><p> </p>
在你要用的地方包含这些函数,然后调用它来计算就可以了。
比如你要计算:7*0.8 ,则改成 (7).mul(8)
其它运算类似,就可以得到比较精确的结果。
看了很多关于解决javacsript浮点计算BUG办法,这个算是比较不错的了。但最终测试发现,加法还是有BUG
accAdd(0.0192, 0.12965)计算出来的结果0.14884999999999998,仍然存在问题。经过冷凝改写JS后,完美解决加法问题。
代码如下:
-
-
-
-
-
-
-
-
-
- function accDiv(arg1, arg2) {
-
- var t1 = 0, t2 = 0, t3 = 0, r1, r2;
-
- try { t1 = arg1.toString().split(".")[1].length } catch (e) { }
-
- try { t2 = arg2.toString().split(".")[1].length } catch (e) { }
-
- r1 = Number(arg1.toString().replace(".", ""))
-
- r2 = Number(arg2.toString().replace(".", ""))
-
- if (r2 == 0)
- return 0;
-
- var result = String(r1 / r2);
-
- try { t3 = result.toString().split(".")[1].length } catch (e) { }
-
- var index = t2 - t1 - t3;
-
- if (index < 0) {
- result = result.replace(".", "");
-
- while (result.length <= Math.abs(index)) {
- result = '0' + result;
- }
-
- var start = result.substring(0, result.length + index);
- var end = result.substring(result.length + index, result.length);
-
- result = start + '.' + end;
-
- return Number(result);
- }
- else if (index > 0) {
- result = result.replace(".", "");
-
- while (result.length <= Math.abs(index)) {
- result += '0';
- }
- return Number(result);
- }
- else return Number(result.replace(".", ""));
-
- }
-
-
-
-
- Number.prototype.div = function (arg) {
-
-
-
- return accDiv(this, arg);
-
- }
- function accMul(arg1, arg2) {
-
- var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
-
- try { m += s1.split(".")[1].length } catch (e) { }
-
- try { m += s2.split(".")[1].length } catch (e) { }
-
- return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)
-
- }
-
- Number.prototype.mul = function (arg) {
-
-
-
- return accMul(arg, this);
-
- }
-
- function accAdd(arg1, arg2) {
-
- var r1, r2, m, c;
-
- try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
-
- try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
-
- c = Math.abs(r1 - r2);
- m = Math.pow(10, Math.max(r1, r2))
- if (c > 0) {
- var cm = Math.pow(10, c);
- if (r1 > r2) {
- arg1 = Number(arg1.toString().replace(".", ""));
- arg2 = Number(arg2.toString().replace(".", "")) * cm;
- }
- else {
- arg1 = Number(arg1.toString().replace(".", "")) * cm;
- arg2 = Number(arg2.toString().replace(".", ""));
- }
- }
- else {
- arg1 = Number(arg1.toString().replace(".", ""));
- arg2 = Number(arg2.toString().replace(".", ""));
- }
- return (arg1 + arg2) / m
-
- }
-
- Number.prototype.add = function (arg) {
-
-
-
- return accAdd(arg, this);
-
- }
0 0