程序是怎么跑起来的(3)---计算机进行小数运算时出错的原因
来源:互联网 发布:倒计时软件哪个好桌面 编辑:程序博客网 时间:2024/05/17 23:28
先问几个问题
1.二进制数0.1,用十进制表示的话是多少?
2.用小数点后三位的二进制数,能表示十进制数0.625吗?
3.将小数分为符号、尾数、基数、指数4部分进行表现的形式称为什么?
4. 二进制数的基数是多少?
5.通过把0作为数值范围的中间值,而在不使用符号位的情况下来表示负数的表示方法称为什么?
6. 1010 1100.0101 0011 这个二进制数,用十六进制数表示的话是多少?
1.将0.1累加100次也得不到10
答案
1. 0.5
2. 能表示
3. 浮点数(浮点数形式)
4. 2
5. EXECSS系统表现
6. AC.53
解析
1. 二进制数的小数点后第一位的位权是2的(-1次幂) = 0.5。也就是说,二进制数0.1 -> 1*0.5 -> 十进制0.5.
2. 十进制数0.625转换成二进制数是0.101。
3. 浮点数是指把小数用“符号 尾数*基数的指数次幂”这种形式来表示
4. 二进制数的基础是2,十进制数的基数是10。以此类推,xx进制数的基数是xx。
5. EXCESS是“剩余的”意思。例如,把0111 1111 看作是0的话,比这个数小1的0111 1110 就是-1。
6. 整数部分和小数部分一样,二进制数的4位,就相当于十六进制数的1位。
阅读全文
0 0
- 程序是怎么跑起来的(3)---计算机进行小数运算时出错的原因
- 程序是怎样跑起来的-第03章 计算机进行小数运算时出错的原因
- 《程序是怎样跑起来的》读书笔记 之 第三章 计算机进行小数运算时出错的原因
- 三:计算机进行小数运算时出错的原因
- 1.计算机是怎么跑起来的
- 程序是怎么跑起来的-1
- 程序是怎么跑起来的-2
- 《程序是怎么跑起来的》读书笔记
- 《程序是怎么跑起来的》
- 程序是怎么跑起来的?---(1)热身
- 程序是怎么跑起来的?(2)---2进制
- 计算机是怎么启动起来的?
- 计算机是怎么启动起来的?值得一看
- 计算机是怎么启动起来的?
- 程序是怎样跑起来的-计算机组成原理概要
- 程序是怎么运行起来的
- 第一章 我的程序是怎么跑起来的?
- 《程序是怎么跑起来的》读书笔记1
- phpcms 常用类
- 异常处理
- Python(7)实现一个简单的购物车逻辑
- 实验二 Linux 用户管理
- 用HTML5自制视频控件
- 程序是怎么跑起来的(3)---计算机进行小数运算时出错的原因
- Eclipse中Maven工程缺少Maven Dependencies
- angular-ng new
- 贪心算法:喷水装置(一)
- PAT 1013. Battle Over Cities (25)
- 频谱分析仪RBW和VBW
- 1003. Emergency
- grub rescue模式下修复分区缺失问题
- ftp在ubuntu下的安装