java 字节运算常见错误

来源:互联网 发布:olap 大数据 实现方案 编辑:程序博客网 时间:2024/05/17 23:01

        1.异或运算规则:按位运算,相同的取0,不同的取1。

         1111 1111 ^ 0000 0000 = 1111 1111。数学上这样运算是绝对木有问题的。但是计算机运算时,会根据不同的情况产生有点意外的结果。

          举个例子:

          java在为变量分配空间时,是手动分配的,比如一个short是两个字节,一个byte是一个字节,看下面运行的结果:

class TestByteOperator{public static void main(String[] args) {short source1 = (short)0xaaaa;byte source2 = (byte)0xaa;System.out.println("result:" + Integer.toHexString(source1 ^ source2));}}
         结果:


        解释下结果,直接换算成数学运算:source1 ^ source2 = 0xaaaa ^ 0xaa = 0xaaaa ^ 0xffaa = 1010 1010 1010 1010 ^ 1111 1111 1010 1010 = 0101 0101 0000 0000 = 0x5500。

        实际计算时,需要按照计算机内部的处理逻辑,java运算是按照第一位是符号位计算的,如果是1,会补全相差的所有高位字节为1,如果是0,会不全相差的所有高位字节为0,然后再参与运算。

原创粉丝点击