js中数字计算精度(经测试,比较好)
来源:互联网 发布:约会吧软件怎么样 编辑:程序博客网 时间:2024/06/03 16:13
------------------------------
/*
* 数值简单运算精度修正函数
* m 数值1(number)
* n 数值2(number)
* op 操作符(string)
*/
function fixMath(m, n, op) {
var a = (m+"");
var b = (n+"");
var x = 1;
var y = 1;
var c = 1;
if(a.indexOf(".")>0) {
x = Math.pow(10, a.length - a.indexOf(".") - 1);
}
if(b.indexOf(".")>0) {
y = Math.pow(10, b.length - b.indexOf(".") - 1);
}
switch(op)
{
case '+':
case '-':
c = Math.max(x,y);
m = Math.round(m*c);
n = Math.round(n*c);
break;
case '*':
c = x*y
m = Math.round(m*x);
n = Math.round(n*y);
break;
case '/':
c = Math.max(x,y);
m = Math.round(m*c);
n = Math.round(n*c);
c = 1;
break;
}
return eval("("+m+op+n+")/"+c);
}
用法如下:
-----------------------
fixMath(2.3, 1.9, '*')
fixMath(1.98, 1.9, '-')
fixMath(83.50, 74.15, '-')
本文来自CSDN博客,转载请标明出处:http://blog.csdn.net/xjdawu/archive/2007/09/27/1803204.aspx
- js中数字计算精度(经测试,比较好)
- js中数字计算精度
- js中数字计算精度
- JS中数字计算精度
- JS中数字计算精度
- JS数字计算精度误差解决方法
- js数字精度问题
- JS精度计算 (转帖,补充减法)
- 关于js精度计算
- js计算精度解决办法
- js计算精度问题
- JS精度计算
- JS精度计算
- js 计算精度问题
- js计算精度
- java 数字计算精度问题
- JS数字精度丢失详解
- java中比较好的测试工具
- TDataSet控件的locate查找方法
- jquery 检测元素是否存在
- 在一个apk中调用另外一个apk中的activity
- Ones
- mina2.0 源码分析--- 基于nio的服务端socket监听过程
- js中数字计算精度(经测试,比较好)
- C程序退出
- 半月痕
- 在flash builder 中报1046:找不到类型,或者它不是编译是常数:Matrix3D 的解决方法
- 三次握手
- ActiveX、OLE和COM介绍 『转』
- matlab 快捷键
- 日期时间函数
- Delphi 调用netsh命令修改IP地址