JS小数运算丢失精度计算错误等解决方案
来源:互联网 发布:知乎 俄罗斯电影 编辑:程序博客网 时间:2024/05/22 03:21
//给Number类型增加一个div方法,调用起来更加方便。Number.prototype.div = function (arg){ return accDiv(this, arg);};//乘法函数,用来得到精确的乘法结果//说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。//调用:accMul(arg1,arg2)//返回值:arg1乘以arg2的精确结果function accMul(arg1,arg2){ var m=0,s1=arg1.toString(),s2=arg2.toString(); try{m+=s1.split(".")[1].length}catch(e){} try{m+=s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m);}//给Number类型增加一个mul方法,调用起来更加方便。Number.prototype.mul = function (arg){ return accMul(arg, this);};//加法函数,用来得到精确的加法结果//说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。//调用:accAdd(arg1,arg2)//返回值:arg1加上arg2的精确结果function accAdd(arg1,arg2){ var r1,r2,m; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)); return (arg1*m+arg2*m)/m;}//给Number类型增加一个add方法,调用起来更加方便。Number.prototype.add = function (arg){ return accAdd(arg,this);}//减法函数function accSub(arg1,arg2){ var r1,r2,m,n; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)); //last modify by deeka //动态控制精度长度 n=(r1>=r2)?r1:r2; return ((arg2*m-arg1*m)/m).toFixed(n);}///给number类增加一个sub方法,调用起来更加方便Number.prototype.sub = function (arg){ return accSub(arg,this);}
0 0
- JS小数运算丢失精度计算错误等解决方案
- javascript(js)小数精度丢失的解决方案
- JS小数运算精度问题
- JavaScript小数计算精度丢失问题解决方案
- Js计算,精度丢失处理
- js中的小数计算精度问题,修正计算精度
- js,java小数计算精度问题
- js浮点运算精度丢失的解决办法
- js浮点运算精度丢失的解决办法
- js中小数运算精度丢失问题
- js做两位小数运算防止经度丢失
- js小数运算精度问题,js浮点数运算时出现精度问题
- java中float/double计算丢失精度解决方案
- JS 四则运算(加减乘除小数运算)避免损失精度
- js中保证小数运算精度的解决
- JS小数精度加减法
- JS浮点类型运算精度丢失问题解决办法
- JS的浮点数计算精度丢失问题解决方案
- service redis does not support chkconfig的解决办法
- adb无法使用,error: unknown host service
- 本人同步文档工具小计
- Eclipse导入已有工程
- 蓝牙音频A2DP(一)-- A2DP音频设备加载
- JS小数运算丢失精度计算错误等解决方案
- android自定义控件(星级评分)
- 笔记:Jquery遮罩ShowLoading组件
- use vue vuex vue-router, not use webpack
- Cordova的热更新插件配置
- shell脚本删除几天前的备份文件
- SQL高级语句-NULL 函数-- ISNULL()、NVL()、IFNULL() 和 COALESCE() 函数
- Centos6.5 安装zabbix3
- div 设置一行文字,文字超过后用...表示