再理解一下unicode与utf-8,试着手动转换一下

来源:互联网 发布:淘宝内部优惠券图片 编辑:程序博客网 时间:2024/06/14 19:35
手动unicode转utf-8

同事问了一句,对unicode转成utf-8后,是不是还存在0字符呢。这一问有点蒙还真不知道。
所以就查了一下unicoe转utf-8。这看的过程中,还是纠正了一下原来许多错误的认识。
仅记录下来作为自己的一些参考。

原以为unicode是unicode,utf-8是utf-8。实则为Unicode只是一个符号集,只是一种规范、标准,它只规定了符号的二进制代码,却没有规定这个二进制代码应该如何存储在计算机上。UTF-8是Unicode的实现方式之一,它规定了字符如何在计算机中存储、传输等。

那么utf-8是怎样存放的呢。
两条规则:
1、对于单字节的符号,字节的第一位设为0,后面7位为这个符号的unicode码。因此对于英语字母,UTF-8编码和ASCII码是相同的
2、对于n字节的符号(n>1),第一个字节的前n位都设为1,第n+1位设为0,后面字节的前两位一律设为10。剩下的没有提及的二进制位,全部为这个符号的unicode码

看着简单的两条规则,在转换的时候还真忙活了一会。

转换表
Unicode符号范围 | UTF-8编码方式
(十六进制) | (二进制)
--------------------+---------------------------------------------
0000 0000-0000 007F | 0xxxxxxx
0000 0080-0000 07FF | 110xxxxx 10xxxxxx
0000 0800-0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx
0001 0000-0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

有资料中给出的例子是 ,汉字“严”的转换
严unicode是4E25(100111000100101),注意的是如果将“严”用记录本以unicode存储,使用ue以16进制打开查看。是 25 4E ,高位是低字节。如果使用其他汉字来转换的时候,如果借助ue,则需要注意一下这个问题。

转换
4E25处在第三行的范围内(0000 0800-0000 FFFF),因此“严”的UTF-8编码需要三个字节,即格式是“1110xxxx 10xxxxxx 10xxxxxx”。现在是这个x怎么样来填充呢?第一次的时候,我是将(100111000100101) 从左向右的方式依次填入到这个x中去。这样出来的结果是
1110 1001, ....。实际上“严”的UTF-8编码是“11100100 10111000 10100101”。发现不匹配。再回头看说明,哦。原来是。顺序弄反了。我第一次的理解是,从左向边补入x,后面的补0。实际上应该是从右向左补入x,前面的补0。呵呵。还是粗心。
原创粉丝点击