UTF-8编码规则
来源:互联网 发布:网络推广外包迅捷 编辑:程序博客网 时间:2024/05/16 11:23
UFT-8广泛用于web,email,现在越来越多的操作系统支持它。Linux默认就是UFT-8编码。
。2003年11月RFC 3629文档将UTF-8限制在[0, U+10FFFF]范围内,因此最多只能有4个字节。
下面的图来自wiki:
关于编码方法,首先要了解几个概念:
1. UTF-8的前128个字符都是用单字节表示,完全和ASCII码一样. 这就是上表的第一行
2. 2-4字节的情况下,第一个字节称为leading byte, 后面的字节叫做continuation bytes.
3. leading bytes的高位总是若干个1加上一个0组成,1的个数就是整个字节的个数,比如表格第二行就是110,第三行就是1110, 第四行就是11110.
4. continuation bytes的高位总是10
5.其余的bit用于编码,如果有用不到的bit,都设置为0
上表第一行用单字节表示128个字符,表示全部的ASCII码。
上表第二行用两字节表示1920个字符,包含了绝大多数拉丁字母。
上表第三行用三字节表示Unicode BMP中的余下字符。
上表第四行用四字节表示Unicode其他平面的字符,包括CJK中不常用的字符。
现在看一个来自wiki的例子演示如何对字符€进行UTF-8编码:
step 1:获取€的Unicode code point,是0xU+20AC
step 2:0xU+20AC范围在U+07FF和U+FFFF之间,因此用三字节表示。
step 3:0xU+20AC的二进制码是:10000010101100,14位长,要想表示3字节编码,必须凑成16 bits.因此高位补上两个0,变成2字节16位长:0010000010101100,我下面称为数值串。
step 4: 根据规则,添加一个leading byte,开头是1110,那么这个leading byte还有4个bit需要填充,从数值串高位取4个bit来,leading byte变成了:
11100010,而数值串值为000010101100
step 5: 第一个continuation byte高位应该是10,还缺少6 bits,从数值串中按高位取6 bit,这样第一个continuation byte为:
10000010,而数值串变为101100
step 6: 第二个continuation byte高位也应该是10,还缺少6 bits, 从数值串取6 bits,这样第二个continuation byte为:
10101100
最终编码形成的三字节:
11100010 10000010 10101100
写成16进制就是0xE282AC
- UTF-8编码规则
- UTF-8编码规则
- utf-8编码规则
- UTF-8编码规则
- UTF-8编码规则
- UTF-8编码规则
- UTF-8编码规则
- UTF-8编码规则
- UTF-8 编码规则
- UTF-8编码规则
- UTF 8 编码规则
- UTF-8编码规则
- UTF-8编码规则
- UTF-8编码规则 .
- UTF - 8编码规则
- UTF-8编码规则
- UTF-8编码规则
- UTF-8 编码规则
- 关于跳槽
- lXMLHttpRequest对象
- 黑马程序员-- 高级网络编程 什么是泛型?泛型的定义?泛型如何使用?为什么要使用泛型?
- C语言回调函数
- 计算机科学中最重要的32个算法
- UTF-8编码规则
- 【HDOJ】 <Problem - 1000> : A+B Problem
- android-4.4源码 在ubuntu上编译和 模拟运行
- 使用UFT进行接口测试
- 内存管理
- Android下通过pocketsphinx实现离线语音识别的环境搭建和demo运行
- strcpy(非安全性) ,strncpy ,strlcpy(转载) .
- 关于Debug和Release之本质区别 .
- 内存泄漏测试小工具