JS小数运算精度问题

来源:互联网 发布:照片大小调整软件 编辑:程序博客网 时间:2024/05/01 12:53

我们可能在平时运算过程中碰到以下类似情况:
0.1 + 0.2 结果是 0.30000000000000004
0.0003 * 10 结果是 0.0029999999999999996
0.003 / 10 结果是 0.00030000000000000003

原因在于:在计算机内部,使用二进制浮点数并不能准确地表示像 0.1, 0.2 或 0.3 这样的数字,所以当编码或解释代码时,像“0.1”其实已经舍入为与0.1最接近的数字,即使在计算发生之前已经会导致小的舍入误差(是的,所有语言都是这样)

如果不想看到这些额外的小数位数:在显示时,我们可以用toFixed()或toPrecision() 之类将结果格式化为固定的小数位数

toFixed(num)可把 Number 四舍五入为指定小数位数的数字
toPrecision(num)可在对象的值超出指定位数时将其转换为指数计数法

阅读全文
'); })();
0 0
原创粉丝点击
热门IT博客
热门问题 老师的惩罚 人脸识别 我在镇武司摸鱼那些年 重生之率土为王 我在大康的咸鱼生活 盘龙之生命进化 天生仙种 凡人之先天五行 春回大明朝 姑娘不必设防,我是瞎子 在线输入导学号 导学号下载安装 导学号在线直接搜题 导学号搜题 到学号 七年级上册导学案 七年级数学导学案 351高效课堂导学案 初一数学导学案 数学导学案 中华少年 导学案 物理导学案 高效课堂导学案 物理导学案答案 数学导学案答案 271导学案 七年级语文导学案 七年级英语导学案 初中语文导学案 初一地理导学案 什么叫导学案 初中物理导学案 归去来兮辞导学案 穷人导学案 口技导学案 高二物理导学案 四年级语文导学案 小学科学导学案 合并同类项导学案 八年级语文导学案 故都的秋导学案 高三数学导学案 桥导学案 什么是导学案 丑小鸭导学案 初中地理导学案 高中语文导学案 故都的秋 导学案 五年级语文导学案 尺规作图导学案 洋思中学导学案