javascript两个数值简单运算精度修正函数
来源:互联网 发布:天天特价9.9淘宝网灰枣 编辑:程序博客网 时间:2024/06/06 20:59
之前发在csdn的javascript版
------------------------------
/*
* 数值简单运算精度修正函数
* m 数值1(number)
* n 数值2(number)
* op 操作符(string)
*/
function fixMath(m, n, op) {
var a = (m+"");
var b = (n+"");
var x = 1;
var y = 1;
var c = 1;
if(a.indexOf(".")>0) {
x = Math.pow(10, a.length - a.indexOf(".") - 1);
}
if(b.indexOf(".")>0) {
y = Math.pow(10, b.length - b.indexOf(".") - 1);
}
switch(op)
{
case '+':
case '-':
c = Math.max(x,y);
m = Math.round(m*c);
n = Math.round(n*c);
break;
case '*':
c = x*y
m = Math.round(m*x);
n = Math.round(n*y);
break;
case '/':
c = Math.max(x,y);
m = Math.round(m*c);
n = Math.round(n*c);
c = 1;
break;
}
return eval("("+m+op+n+")/"+c);
}
用法如下:
-----------------------
fixMath(2.3, 1.9, '*')
fixMath(1.98, 1.9, '-')
fixMath(83.50, 74.15, '-')
- javascript两个数值简单运算精度修正函数
- javascript数值四则运算精度修正函数
- javascript数值四则运算精度修正函数
- javascript中对数值计算控制精度的函数
- 实现double数值的精度加减乘除运算
- 运算精度丢失和数值丢失问题
- javascript中的float运算精度
- javascript数值计算得注意精度问题
- 位运算-加法运算、交换两个数值
- javascript数值格式化函数
- double、float数值运算出现精度问题的解决方式
- JavaScript赋值运算与数值运算
- JavaScript浮点数运算 -- 精度问题
- javascript浮点数运算精度问题
- javascript float数学运算精度控制
- JavaScript浮点运算的精度问题
- JavaScript 浮点数运算的精度问题
- JavaScript浮点数及运算精度问题
- perl实现异常时报警
- 第一
- IE浏览器及注册表设置常见问题
- COM组件转换成.NET组件
- ado
- javascript两个数值简单运算精度修正函数
- NET客户端应用程序:.NET应用程序更新组件
- SQL Server 阻止了对组件 /'Ad Hoc Distributed Queries/' 的访问
- cookie技术在Java ME平台的应用与实现
- webservice--eclipse配置cxf开发环境
- SQL注入原理,值得一看!
- 图像数据类型及转换函数
- 扑克牌图片
- The Inventor Mentor-第十六章 Inventor组件库