float类型能精确表达整型数100亿和1000亿吗?
来源:互联网 发布:北京赛车源码 编辑:程序博客网 时间:2024/06/05 09:11
100亿:
100亿 = 10000000000
用 float 类型在内存中的表示为:0x501502F9
展开为二进制形式:0 10100000 00101010000001011111001
指数部分:10100000 = 160
还原为整型数:1.00101010000001011111001 * 2^(160-127)
= 1001010100000010111110010000000000 (二进制)
= 10000000000 (十进制)
1000亿:
1000亿 = 100000000000
用 float 类型在内存中的表示为:0x51BA43B7
展开为二进制形式:0 10100011 01110100100001110110111
指数部分:10100011 = 163
还原为整型数:1.01110100100001110110111 * 2^(163-127)
= 1011101001000011101101110000000000000 (二进制)
= 99999997952 (十进制)
结论:
1、 float类型能精确表达 100亿,不能精确表达 1000亿。
2、 float类型能表达的有效数字最小是 6-7位,最大未知。
3、 从 -16777216 到 16777216 之间的整数能被float类型精确表达。
- float类型能精确表达整型数100亿和1000亿吗?
- 精确表达浮点数
- 精确表达浮点数
- 精确表达浮点数
- 精确表达浮点数
- 精确表达浮点数
- 精确表达浮点数
- 精确表达浮点数
- 精确表达浮点数
- 精确表达浮点数
- 精确表达浮点数
- 2.6-精确表达浮点数
- 1214 -- 精确表达浮点数
- 2.6 精确表达浮点数
- 不要在精确计算中使用float和double类型
- 答案_精确表达浮点数
- 【编程之美】精确表达浮点数
- 用分数形式精确表达浮点数
- Python获取本机Ip地址
- 在64位Linux系统交叉编译32位软件:ffmpeg
- Centos安装mysql
- 怎样给connect/express.js写中间件
- Can't configure device. Expected JTAG ID code问题总结
- float类型能精确表达整型数100亿和1000亿吗?
- [HTML5-SVG]使用svg代替css3实现渐变
- 打包软件里面安装完打开网页
- 免费的响应式bootstrap管理员后台界面主题 - Charisma
- Java自学视频整理(持续更新中...)
- Android ListView性能优化
- 详解CASSANDRA0.7配置文件
- java编程之起步HelloWorld
- Android 开发之旅:深入分析布局文件&又是“Hello World!”