java——强制类型转换数据溢出的结果计算
来源:互联网 发布:外汇模拟软件下载 编辑:程序博客网 时间:2024/05/01 07:28
强制类型转换数据溢出计算:
在开发中我们经常会遇到数据溢出问题,那么问题来了,溢出得到的结果是怎么计算的呢??
小贴士:
我们知道计算机中的数据以字节的形式存储,一个字节又分出8位地址空间,用来存储1和0二进制数据。
我们在计算机上看到的其实是其原码形式,计算机是以二进制数的补码进行处理运算的。
ok就说得到这,下面来个案例说明问题!!!
byte a = (byte)130;
原码:00000000 00000000 00000000 10000010
因为正数 原反补 相同。所以呢我们得到十进制数130的二进制补码也是
补码:00000000 00000000 00000000 10000010
强制类型转换位byte类型,字节数变为1,进行数据截取得 补码:10000010
之前说过计算机处理是以补码形式,我们最终看到的是原码形式,所以我们需要进行转换。
补码:10000010
符号位 数值位
补码 1 0000010
反码 1 0000001
原码 1 1111110
所以最终得到的二进制原码是 11111110
把二进制转换成十进制为-126 即为结果啦。
在开发中我们经常会遇到数据溢出问题,那么问题来了,溢出得到的结果是怎么计算的呢??
小贴士:
我们知道计算机中的数据以字节的形式存储,一个字节又分出8位地址空间,用来存储1和0二进制数据。
我们在计算机上看到的其实是其原码形式,计算机是以二进制数的补码进行处理运算的。
ok就说得到这,下面来个案例说明问题!!!
byte a = (byte)130;
我们知道byte类型的范围是-128到+127,很显然啦上面强转越界。会出现精度缺失。但最后我们得到结果-126.那么我们来看看是怎么得到的!
原码:00000000 00000000 00000000 10000010
因为正数 原反补 相同。所以呢我们得到十进制数130的二进制补码也是
补码:00000000 00000000 00000000 10000010
强制类型转换位byte类型,字节数变为1,进行数据截取得 补码:10000010
之前说过计算机处理是以补码形式,我们最终看到的是原码形式,所以我们需要进行转换。
补码:10000010
符号位 数值位
补码 1 0000010
反码 1 0000001
原码 1 1111110
所以最终得到的二进制原码是 11111110
把二进制转换成十进制为-126 即为结果啦。
阅读全文
1 0
- java——强制类型转换数据溢出的结果计算
- java语言基础(10)——类型强制转换时的数据溢出计算
- byte类型数据的取值范围及溢出后的强制转换及在内存中的存储结果
- 使用强制类型转换,防止数据溢出
- 强制转换数据溢出
- java的强制类型转换
- java类型的强制转换
- java引用类型的强制类型转换
- java引用类型的强制类型转换
- php 的数据强制类型转换和默认类型转换
- 基本数据的自动类型转换和强制类型转换
- php 的数据强制类型转换和默认类型转换
- java强制类型转换
- JAVA强制类型转换
- Java 强制类型转换
- java强制类型转换
- java强制类型转换
- JAVA强制类型转换
- [每日问答]无约束最优化问题有哪些解法?
- js实现页面自适应
- poj1321-棋盘问题
- linux ss
- [小知识点]绝对路径与相对路径.
- java——强制类型转换数据溢出的结果计算
- 导航定位(利用锚点和jquery定位)
- Python-字典的基本操作
- 使用指针与不使用指针的区别以及int (*compare)(int a,int b)的用法
- nju1017 Heresy
- SpringMVC与Struts2的对比
- SQL Server存储过程创建和修改
- [opencv]goodFeaturesToTrack函数详细注释
- Android Studio 添加Assets目录