浮点数精度
来源:互联网 发布:天猫数据分析表格 编辑:程序博客网 时间:2024/04/27 21:45
在C的参考书中有提到float类型数据的表示范围为-3.4*10^38~+3.4*10^38。究竟如何计算该范围,分析如下:
对于单精度浮点数(float)来说,有一位符号位,指数位共8位,尾数共23位。指数能够表示的指数范围为-128~127。尾数为23位。当尾数全1时再加上小数点前面的1,指数取到最大正数127(8位,正数最大127,负数最小-128),浮点数取得正数的最大值。
+1.111111111111111111111*2^127(1.后面23个1,由于尾数的范围1~2,其最高位总为1,故只需存取小数部分,所以小数为是23位1),约等于2*2^127=3.4*10^38。为3.4*10^38负数亦然。
Double的计算与此类似,double的符号位为63位,指数为62~52位,共11位。表示的范围为-1024~1023。尾数为51~0。表示的范围为+1.111111111111111111111*2^1023(1.后面52个1)为1.7*10^308。负数亦然。
0 0
- 浮点数精度
- 浮点数精度
- 浮点数精度错误
- 浮点数精度问题
- 单精度浮点数
- 浮点数精度
- 浮点数精度
- 浮点数精度整理
- 浮点数精度控制
- 浮点数精度问题
- 浮点数精度缺失
- 浮点数精度问题
- 浮点数精度计算
- 单精度浮点数和双精度浮点数
- 单精度浮点数与双精度浮点数
- 单精度的浮点数的精度
- 单精度与双精度浮点数
- 浮点数计算精度控制
- 指向指针的指针 char **使用技巧
- UDP点对点通讯、广播通讯、多播通讯
- 获取Odoo中由Bazaar管理的例子源代码
- C语言时间日期函数总结
- 领导带兵“两不,三要”
- 浮点数精度
- Android内存管理之道
- LeetCode-Binary Tree Postorder Traversal&Binary Tree Preorder Traversal
- 基于TI Davinci架构的多核/双核开发快速扫盲(以OMAP L138为例),dm8168多核开发参考以及达芬奇系列资料user guide整理
- flexjson
- python_socket 网络编程
- Oracle 表空间数据文件迁移
- UITableView中textLabel和detailTextLabel的使用
- Hibernate性能优化技巧