js加减乘除丢失精度问题解决方法 你试一下12*1.3就知道了
来源:互联网 发布:宾夕法尼亚大学 知乎 编辑:程序博客网 时间:2024/05/19 12:38
在javascript中,当你使用小数进行加减乘除运算时,你会发现,所得到的结果有时后面带有长长的一段小数,使运算变得复杂,并且影响计算结果。上网查询了一下原因,大致如下:在javascript中,带小数的数据运算时总会出现好多位小数.这是因为在javascript中浮点数的计算是以2进制计算的。
/**
* 加法运算,避免数据相加小数点后产生多位数和计算精度损失。
*
* @param num1加数1 | num2加数2
*/
function numAdd(num1, num2) {
var baseNum, baseNum1, baseNum2;
try {
baseNum1 = num1.toString().split(".")[1].length;
} catch (e) {
baseNum1 = 0;
}
try {
baseNum2 = num2.toString().split(".")[1].length;
} catch (e) {
baseNum2 = 0;
}
baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
return (num1 * baseNum + num2 * baseNum) / baseNum;
};
/**
* 加法运算,避免数据相减小数点后产生多位数和计算精度损失。
*
* @param num1被减数 | num2减数
*/
function numSub(num1, num2) {
var baseNum, baseNum1, baseNum2;
var precision;// 精度
try {
baseNum1 = num1.toString().split(".")[1].length;
} catch (e) {
baseNum1 = 0;
}
try {
baseNum2 = num2.toString().split(".")[1].length;
} catch (e) {
baseNum2 = 0;
}
baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
precision = (baseNum1 >= baseNum2) ? baseNum1 : baseNum2;
return ((num1 * baseNum - num2 * baseNum) / baseNum).toFixed(precision);
};
/**
* 乘法运算,避免数据相乘小数点后产生多位数和计算精度损失。
*
* @param num1被乘数 | num2乘数
*/
function numMulti(num1, num2) {
var baseNum = 0;
try {
baseNum += num1.toString().split(".")[1].length;
} catch (e) {
}
try {
baseNum += num2.toString().split(".")[1].length;
} catch (e) {
}
return Number(num1.toString().replace(".", "")) * Number(num2.toString().replace(".", "")) / Math.pow(10, baseNum);
};
/**
* 除法运算,避免数据相除小数点后产生多位数和计算精度损失。
*
* @param num1被除数 | num2除数
*/
function numDiv(num1, num2) {
var baseNum1 = 0, baseNum2 = 0;
var baseNum3, baseNum4;
try {
baseNum1 = num1.toString().split(".")[1].length;
} catch (e) {
baseNum1 = 0;
}
try {
baseNum2 = num2.toString().split(".")[1].length;
} catch (e) {
baseNum2 = 0;
}
with (Math) {
baseNum3 = Number(num1.toString().replace(".", ""));
baseNum4 = Number(num2.toString().replace(".", ""));
return (baseNum3 / baseNum4) * pow(10, baseNum2 - baseNum1);
}
};
- js加减乘除丢失精度问题解决方法 你试一下12*1.3就知道了
- js加减乘除丢失精度问题解决方法
- js加减乘除丢失精度问题解决方法
- js加减乘除丢失精度问题
- JS中toFixed()方法引起的精度丢失的问题解决
- JS浮点类型运算精度丢失问题解决办法
- JS的浮点数计算精度丢失问题解决方案
- JavaScript加减乘除丢失精度问题处理
- 趣图:什么是测试?看完你就知道了
- 什么是测试?看完你就知道了
- js精度问题解决方案
- Js计算,精度丢失处理
- JS数字精度丢失详解
- 关于Java精度不丢失的加减乘除运算
- 使用BigDecimal解决double加减乘除丢失精度问题
- double运算丢失精度问题解决方案.
- JavaScript小数计算精度丢失问题解决方案
- 其实你早已知道了成功的方法
- Spark Executor 报错 java.lang.StackOverflowError
- 优化器、激活函数、评价函数
- 如何判断设备是网站以及移动设备
- MySQL-基本使用
- OSGi主要应用场景 和 发展前景
- js加减乘除丢失精度问题解决方法 你试一下12*1.3就知道了
- K-means聚类算法(无监督学习算法)
- 用List集合传递学生信息
- vim 使用技巧
- 0-1背包问题
- SSM+maven+bootstrap实现分页
- mysql字符集,不担心乱码了
- [C++ Primer Plus]学习笔记--浮点数的优缺点
- ionic使用iframe时在iOS上无法显示网页问题处理