float double的内存表示及比较大小的方法
来源:互联网 发布:淘宝怎么显示折扣价 编辑:程序博客网 时间:2024/05/22 07:47
参考:
float和double类型的内存分布和比较方法收藏
Comparing floating point numbers
总结几点:
0. float占4byte,精度是6~7位;double占8byte,精度是15~16位。
1. C/C++的浮点数据类型有float和double两种。它们在内存中是以科学计数法的结果来存储的。
类型float大小为4字节,即32位,内存中的存储方式如下:
符号位(1 bit)
指数(8 bit)
尾数(23 bit)
类型double大小为8字节,即64位,内存布局如下:
符号位(1 bit)
指数(11 bit)
尾数(52 bit)
符号位决定浮点数的正负,0正1负。
指数和尾数均从浮点数的二进制科学计数形式中获取。
2. 关于比较大小
一般情况下用一个absolute epsilon value来比较(if (fabs(result - expectedResult) < 0.00001))就够了。但是在某些对数字精度有特殊要求的domain,比如graphic,需要用更合理的方法。具体,参见引用文献2.
Comparing for equality
Comparing with epsilon – absolute error
Comparing with epsilon – relative error- float double的内存表示及比较大小的方法
- float double的内存表示及比较大小的方法
- float和double类型的内存分布和比较方法
- float和double类型的内存分布和比较方法
- float和double类型的内存分布和比较方法
- float和double类型的内存分布和比较方法
- java中比较float和double的大小
- java中比较float和double的大小
- 关于C和C++中的基本数据类型int、long、long long、float、double、char、string的大小及表示范围
- 关于C和C++中的基本数据类型int、long、long long、float、double、char、string的大小及表示范围
- [C/C++] float和double类型的内存分布和比较方法
- float和double类型的内存分布和比较方法收藏
- 【转】float和double类型的内存分布和比较方法收藏
- [C/C++] float和double类型的内存分布和比较方法
- float和double类型的内存分布和比较方法收藏
- float和double类型的内存分布和比较方法收藏
- double 与 float的比较
- float和double类型的内存分布和比较
- 【转】aux,com1,com2,prn,con,nul漏洞木马的删除方法
- ABAP重要笔记
- float和double类型的内存分布和比较方法
- 自动定时重启sql server回收内存
- mac系统--在Finder中显示隐藏文件
- float double的内存表示及比较大小的方法
- Makefile详解
- 再说FlashPlayer的“弹性跑道模型”
- double数据的内存存储方式
- c#值类型和引用类型
- float & double 内存布局
- 解决vc C++ 调用 C 函数时unresolved external symbol " __cdecl 。。。无法解析的外部符合
- C语言中的二级指针(双指针)
- imageNamed和dataWithContentsOfFile的区别