程序是怎么跑起来的(3)---计算机进行小数运算时出错的原因

来源:互联网 发布:倒计时软件哪个好桌面 编辑:程序博客网 时间:2024/05/17 23:28

先问几个问题
1.二进制数0.1,用十进制表示的话是多少?
2.用小数点后三位的二进制数,能表示十进制数0.625吗?
3.将小数分为符号、尾数、基数、指数4部分进行表现的形式称为什么?
4. 二进制数的基数是多少?
5.通过把0作为数值范围的中间值,而在不使用符号位的情况下来表示负数的表示方法称为什么?
6. 1010 1100.0101 0011 这个二进制数,用十六进制数表示的话是多少?
1.将0.1累加100次也得不到10

这里写图片描述

这里写图片描述
答案
1. 0.5
2. 能表示
3. 浮点数(浮点数形式)
4. 2
5. EXECSS系统表现
6. AC.53
解析
1. 二进制数的小数点后第一位的位权是2的(-1次幂) = 0.5。也就是说,二进制数0.1 -> 1*0.5 -> 十进制0.5.
2. 十进制数0.625转换成二进制数是0.101。
3. 浮点数是指把小数用“符号 尾数*基数的指数次幂”这种形式来表示
4. 二进制数的基础是2,十进制数的基数是10。以此类推,xx进制数的基数是xx。
5. EXCESS是“剩余的”意思。例如,把0111 1111 看作是0的话,比这个数小1的0111 1110 就是-1。
6. 整数部分和小数部分一样,二进制数的4位,就相当于十六进制数的1位。

原创粉丝点击