类型的Overflow与underflow
来源:互联网 发布:知行英语综合教程下载 编辑:程序博客网 时间:2024/06/17 02:53
Overflow:值超过了该类型所能表示的最大值
Underflow:值低于该类型所能表示的最小值
例如:
short int val=32767;//short是两个字节,最高位是符号位
//val=0111,1111,1111,1111
//接下去上面的运算,val=1000,0000,0000,0000
Underflow:值低于该类型所能表示的最小值
例如:
short int val=32767;//short是两个字节,最高位是符号位
//val=0111,1111,1111,1111
//加一 发生overflow (overflow 后结果:-32768)
//最高所能表示的数值是32767,此时如果加1,发生overflow
val = val + 1;//接下去上面的运算,val=1000,0000,0000,0000
//val减一,发生underflow(underflow后结果:32767)
//val减1,在计算机内是加上-1的补码,-1的补码是1111,1111,1111,1111
//1000,0000,0000,0000+1111,1111,1111,1111=0111,1111,1111,1111
//short能表示的最小值是-32768,发生下溢以后变成最大的正数32767
val = val -1;
结论:一个类型最大值发生上溢,马上变成这个类型所最小的数;一个类型最小值发生下溢,马上变成这个类型所最大的数
阅读全文
0 0
- 类型的Overflow与underflow
- overflow and underflow
- SPARC寄存器窗口上溢(overflow)和下溢分析(underflow)
- C++ 上溢和下溢(overflow underflow)
- 深度学习之数值计算 (一)overflow and underflow
- CSS中overflow的含义与属性
- css的overflow:scroll与ios
- CSS3 overflow-y 与overflow-y属性
- overflow与滚动条
- 对overflow与zoom”清除浮动”的一些认识
- 纠结的 hasLayout与overflow:hidden --- 清除浮动之谜
- 对overflow与zoom”清除浮动”的一些认识
- 对overflow与zoom”清除浮动”的一些认识
- 对overflow与zoom”清除浮动”的一些认识
- overflow与flex同时使用发现的问题
- 响应式高度与overflow的小总结
- float与overflow以及clear之间的关系
- overflow的另类用法
- Bootstrap常用样式类(v3.3.4)
- jQuery获取父级元素、子级元素、兄弟元素的方法
- 线程间协作的两种方式:wait、notify、notifyAll和Condition
- 接水问题
- ROT5/13/18/47 密码
- 类型的Overflow与underflow
- 集合(4)刘备 map
- 排序算法——归并排序
- 使用virtualenv Django 创建应用程序的前期配置
- 浅谈React
- 菜鸟Python(5)
- synchronized 与 Lock 区别联系
- Painting Fence[分治]
- linux学习笔记之文件基本属性