javascript数字类型(Number)不精确问题
来源:互联网 发布:中科恒运大数据 编辑:程序博客网 时间:2024/05/22 02:16
JavaScript中所有的数字,无论是整数还是小数,其类型均为Number。在程序内部,Number类型的实质是一个64位的浮点数,这与Java中double类型的浮点数是一致的;因此,JavaScript中所有的数都是浮点数。遵循IEEE 754标准(浮点数算术标准),JavaScript所能表示的数值范围为正负1.7976931348623157乘以10的308次方,其最小所能表示的小数为正负5乘以10的负324次方,这两个边界值可以分别通过访问Number对象的MAX_VALUE属性和MIN_VALUE属性来获取。
对于整数,根据ECMAScript标准的要求(http://ecma262-5.com/ELS5_HTML.htm#Section_8.5),JavaScript能表示并进行精确算术运算的整数范围为:正负2的53次方,也即从最小值-9007199254740992到最大值+9007199254740992之间的范围;对于超过这个范围的整数,JavaScript依旧可以进行运算,但却不保证运算结果的精度。值得注意的是,对于整数的位运算(比如移位等操作),JavaScript仅支持32位整型数,也即从-2147483648到+2147483647之间的整数。当数值过大时,不用运算也会发成偏差
实验
显示JavaScript的最大数的绝对值、最小小数的绝对值:
console.log(Number.MAX_VALUE);
console.log(Number.MIN_VALUE);
显示结果为1.7976931348623157e+308和5e-324。
对正负2的53次方范围以外的整数,JavaScript无法给出精确的计算结果:
var a = 9007199254740992;
console.log(a+3);
正确的运算结果应该是9007199254740995,但JavaScript给出的计算结果却是9007199254740996。尝试改变计算公式后可以发现,只要整数大于9007199254740992,这种计算结果的错误将频繁出现。如果说计算精度的偏差尚可接受的话,那么下面这个例子的后果就更严重了:
var MAX_INT = 9007199254740992;
for (var i = MAX_INT; i < MAX_INT + 2; ++i) {
// infinite loop
}
由于计算精度问题,上面的for语句将陷入死循环。
对于位运算,JavaScript仅支持32位整型数:
var smallInt = 256;
var bigInt = 2200000000;
console.log(smallInt / 2);
console.log(smallInt >> 1);
console.log(bigInt / 2);
console.log(bigInt >> 1);
可以看到,对于32位以内的整数(256),JavaScript可以进行正确的位运算,所得结果与除法运算的结果一致(128)。而对于32位以外的整数,JavaScript可以进行正确的除法运算(1100000000),但进行位运算后所得结果却与正确结果相去甚远(-1047483648)。
如果页面有较长的long型,只能转成字符串,否则都会出现不精确情况
- javascript数字类型(Number)不精确问题
- 彻底解决Javascript数字计算不精确的问题
- 不精确数字比较问题
- JavaScript Number数字类型
- freemarker的数字不精确问题
- javascript数字类型number类型方法
- javascript学习笔记(四) Number 数字类型
- 读书笔记2---JavaScript number(数字)类型数据
- javascript类型系统——Number数字类型
- JavaScript Number(数字) 对象
- C#计算float类型数据求和不精确问题
- 解决javascript中的浮点数计算不精确问题
- iOS float类型不精确
- Javascript中Number类型
- javascript Number类型
- JAVASCRIPT:NUMBER类型
- JavaScript的Number类型
- javascript中Number类型
- linux包解压
- eclipse插件开发 -右键菜单 - popup menu
- Java ——多线程编程
- 学习笔记:iOS布局库—MyLayout库之流式布局MyFlowLayout
- 白话字符编码和字符集
- javascript数字类型(Number)不精确问题
- android ViewPager 使用详解
- faster RCNN python 安装
- What is difference between -ss and -itsoffset in ffmpeg?
- 学习笔记:iOS布局库—MyLayout库之浮动布局MyFloatLayout
- LevelDB Compaction操作
- ios 垂直方向跑马灯 循环滚动
- android 自定义view之侧滑效果
- 什么时候应该进行自动化测试