JavaScript 浮点数运算的精度问题
来源:互联网 发布:人工智能 在线观看 编辑:程序博客网 时间:2024/05/04 14:41
问题描述
在 JavaScript 中整数和浮点数都属于 Number
数据类型,所有数字都是以 64 位浮点数形式储存,即便整数也是如此。 所以我们在打印 1.00
这样的浮点数的结果是 1
而非 1.00
。在一些特殊的数值表示中,例如金额,这样看上去有点变扭,但是至少值是正确了。然而要命的是,当浮点数做数学运算的时候,你经常会发现一些问题,举几个例子:
问题的原因
似乎是不可思议。小学生都会算的题目,JavaScript 不会?我们来看看其真正的原因。
JavaScript 里的数字是采用 IEEE 754 标准的 64 位双精度浮点数。该规范定义了浮点数的格式,对于64位的浮点数在内存中的表示,最高的1位是符号位,接着的11位是指数,剩下的52位为有效数字,具体:
- 第0位:符号位, s 表示 ,0表示正数,1表示负数;
- 第1位到第11位:储存指数部分, e 表示 ;
- 第12位到第63位:储存小数部分(即有效数字),f 表示,
如图:
符号位决定了一个数的正负,指数部分决定了数值的大小,小数部分决定了数值的精度。 IEEE 754规定,有效数字第一位默认总是1,不保存在64位浮点数之中。也就是说,有效数字总是1.xx…xx的形式,其中xx..xx的部分保存在64位浮点数之中,最长可能为52位。因此,JavaScript提供的有效数字最长为53个二进制位(64位浮点的后52位+有效数字第一位的1)。
计算过程
比如在 JavaScript 中计算 0.1 + 0.2
时,到底发生了什么呢?
首先,十进制的0.1
和0.2
都会被转换成二进制,但由于浮点数用二进制表达时是无穷的,例如。
IEEE 754 标准的 64 位双精度浮点数的小数部分最多支持 53 位二进制位,所以两者相加之后得到二进制为:
因浮点数小数位的限制而截断的二进制数字,再转换为十进制,就成了 0.30000000000000004
。所以在进行算术计算时会产生误差。
整数的精度问题
在 Javascript 中,整数精度同样存在问题,先来看看问题:
同样的原因,在 JavaScript 中 Number
类型统一按浮点数处理,整数是按最大54位来算最大(253 - 1
,Number.MAX_SAFE_INTEGER
,9007199254740991
) 和最小(-(253 - 1)
,Number.MIN_SAFE_INTEGER
,-9007199254740991
) 安全整数范围的。所以只要超过这个范围,就会存在被舍去的精度问题。
当然这个问题并不只是在 Javascript 中才会出现,几乎所有的编程语言都采用了 IEEE-745 浮点数表示法,任何使用二进制浮点数的编程语言都会有这个问题,只不过在很多其他语言中已经封装好了方法来避免精度的问题,而 JavaScript 是一门弱类型的语言,从设计思想上就没有对浮点数有个严格的数据类型,所以精度误差的问题就显得格外突出。
解决方案
上面说了这么多问题和原因,这里给出一些解决方案。
类库
通常这种对精度要求高的计算都应该交给后端去计算和存储,因为后端有成熟的库来解决这种计算问题。前端也有几个不错的类库:
Math.js
Math.js 是专门为 JavaScript 和 Node.js 提供的一个广泛的数学库。它具有灵活的表达式解析器,支持符号计算,配有大量内置函数和常量,并提供集成解决方案来处理不同的数据类型
像数字,大数字(超出安全数的数字),复数,分数,单位和矩阵。 功能强大,易于使用。
官网:http://mathjs.org/
GitHub:https://github.com/josdejong/mathjs
decimal.js
为 JavaScript 提供十进制类型的任意精度数值。
官网:http://mikemcl.github.io/decimal.js/
GitHub:https://github.com/MikeMcl/decimal.js
big.js
官网:http://mikemcl.github.io/big.js
GitHub:https://github.com/MikeMcl/big.js/
这几个类库帮我们解决很多这类问题,不过通常我们前端做这类运算通常只用于表现层,应用并不是很多。所以很多时候,一个函数能解决的问题不需要引用一个类库来解决。
下面介绍各个更加简单的解决方案。
整数表示
对于整数,我们可以通过用String
类型的表示来取值或传值,否则会丧失精度。
格式化数字、金额、保留几位小数等
如果只是格式化数字、金额、保留几位小数等可以查看这里 http://www.css88.com/archives/7324
浮点数运算
toFixed() 方法
浮点数运算的解决方案有很多,这里给出一种目前常用的解决方案, 在判断浮点数运算结果前对计算结果进行精度缩小,因为在精度缩小的过程总会自动四舍五入。
toFixed() 方法使用定点表示法来格式化一个数,会对结果进行四舍五入。语法为:
参数 digits
表示小数点后数字的个数;介于 0 到 20 (包括)之间,实现环境可能支持更大范围。如果忽略该参数,则默认为 0。
返回一个数值的字符串表现形式,不使用指数记数法,而是在小数点后有 digits
位数字。该数值在必要时进行四舍五入,另外在必要时会用 0 来填充小数部分,以便小数部分有指定的位数。 如果数值大于 1e+21
,该方法会简单调用 Number.prototype.toString()
并返回一个指数记数法格式的字符串。
特别注意:toFixed() 返回一个数值的字符串表现形式。
具体可以查看 MDN中的说明,那么我们可以这样解决精度问题:
在老版本的IE浏览器(IE 6,7,8)中,toFixed()
方法返回值不一定准确。所以这个方法以前很少用。以至于网上搜索出来的结果大都是下面这些方法。
还有一些其他的解决方案,简单的说需要将浮点数转换字符串,分隔成为整数部分和小数部分,小数部分再转换为整数,计算结果后,再转换为浮点数。这过程有点复杂…,网上找一下:
加法函数
减法函数
乘法函数
除法函数
- JavaScript 浮点数运算的精度问题
- JavaScript浮点数运算 -- 精度问题
- javascript浮点数运算精度问题
- JavaScript浮点数及运算精度问题
- 记录关于JavaScript 浮点数运算的精度问题
- JavaScript浮点运算的精度问题
- java 浮点数精度运算问题
- js浮点数运算精度问题
- 浮点数的精度问题
- Javascript 浮点数相加精度问题
- Javascript浮点数运算问题
- 浮点数精度问题
- 浮点数精度问题
- 浮点数精度问题
- JS浮点运算精度的问题
- JavaScript 浮点数及运算精度调整总结
- JAVA中浮点数的精度问题
- 浮点数精度的一点问题
- JavaSE 集合框架(5)-HashMap和HashSet的区别
- angularjs路径跳转/导航
- Oracle创建用户,表空间并分配权限
- 使用Python做web开发
- 南阳理工acm14 会场安排问题(简单贪心题+排序)
- JavaScript 浮点数运算的精度问题
- 笔试题目1
- arxiv每周速报第一期
- linux抓包工具 tcpdump
- Java8学习笔记 — 【Lambda表达式】
- 快速解决HDU1022问题
- DrawerLayout 侧滑菜单
- 深度学习系列——关于神经网络理解的总结
- 移植 tftp 客户端