浅谈文字编码和Unicode

我曾经写过一篇《谈谈Unicode编码，简要解释UCS、UTF、BMP、BOM等名词》（以下简称《谈谈Unicode编码》），在网上流传较广，我也收到不少朋友的反馈。本文探讨《谈谈Unicode编码》中未介绍或介绍较少的代码页、Surrogates等问题，补充一些Unicode资料，顺带介绍一下我最近编写的一个Unicode工具：UniToy。本文虽然是前文的补充，但在写作上尽量做到独立成篇。

标题中的“浅谈”是对自己的要求，我希望文字能尽量浅显易懂。但本文还是假设读者知道字节、16进制，了解《谈谈Unicode编码》中介绍过的字节序和Unicode的基本概念。

0 UniToy

UniToy是我编写的一个小工具。通过UniToy，我们可以全方位、多角度地查看Unicode，了解Unicode和语言、代码页的关系，完成一些文字编码的相关工作。本文的一些内容是通过UniToy演示的。大家可以从我的网站（www.fmddlmyy.cn）下载UniToy的演示版本。

1 文字的显示

1.1 发生了什么？

我们首先以Windows为例来看看文字显示过程中发生了什么。用记事本打开一个文本文件，可以看到文件包含的文字：

如果我们用UltraEdit或Hex Workshop查看这个文件的16进制数据，可以看到：

我们看到：文件“例子GBK.txt”有10个字节，依次是“D7 D6 B7 FB BA CD B1 E0 C2 EB”，这就是记事本从文件中读到的内容。记事本是用来打开文本文件的，所以它会调用Windows的文本显示函数将读到的数据作为文本显示。Windows首先将文本数据转换到它内部使用的编码格式：Unicode，然后按照文本的Unicode去字体文件中查找字体图像，最后将图像显示到窗口上。总结一下前面的分析，文字的显示应该是这样的：

• 步骤1：文字首先以某种编码保存在文件中。
• 步骤2：Windows将文件中的文字编码映射到Unicode。
• 步骤3：Windows按照Unicode在字体文件中查找字体图像，画到窗口上。

所谓编码就是用数字表示字符，例如用D7D6表示“字”。当然，编码还意味着约定，即大家都认可。从《谈谈Unicode编码》中，我们知道Unicode也是一种文字编码，它的特殊性在于它是由国际组织设计，可以容纳全世界所有语言文字。而我们平常使用的文字编码通常是针对一个区域的语言、文字设计，只支持特定的语言文字。例如：在上面的例子中，文件“例子GBK.txt”采用的就是GBK编码。

 

如果上述3个步骤中任何一步发生了错误，文字就不能被正确显示，例如：

• 错误1：如果弄错了编码，例如将Big5编码的文字当作GBK编码，就会出现乱码。

  

• 错误2：如果从特定编码到Unicode的映射发生错误，例如文本数据中出现该编码方案未定义的字符，Windows就会使用缺省字符，通常是?。

  

• 如果当前字体不支持要显示的字符，Windows就会显示字体文件中的缺省图像：空白或方格。

在Unicode被广泛使用前，有多少种语言、文字，就可能有多少种文字编码方案。一种文字也可能有多种编码方案。那么我们怎么确定文本数据采用了什么编码？

1.2 采用了哪种编码？

按照惯例，文本文件中的数据都是文本编码，那么它怎么表明自己的编码格式？在记事本的“打开”对话框上：

我们可以看到记事本支持4种编码格式：ANSI、Unicode、Unicode big endian、UTF-8。如果读者看过《谈谈Unicode编码》，对Unicode、Unicode big endian、UTF-8应该不会陌生，其实它们更准确的名称应该是UTF-16LE（Little Endian）、UTF-16BE（Big Endian）和UTF-8，它们是基于Unicode的不同编码方案。

在《谈谈Unicode编码》中介绍过，Windows通过在文本文件开头增加一些特殊字节（BOM）来区分上述3种编码，并将没有BOM的文本数据按照ANSI代码页处理。那么什么是代码页，什么是ANSI代码页？

2 代码页和字符集

2.1 Windows的代码页

2.1.1 代码页

代码页（Code Page）是个古老的专业术语，据说是IBM公司首先使用的。代码页和字符集的含义基本相同，代码页规定了适用于特定地区的字符集合，和这些字符的编码。可以将代码页理解为字符和字节数据的映射表。

Windows为自己支持的代码页都编了一个号码。例如代码页936就是简体中文 GBK，代码页950就是繁体中文 Big5。代码页的概念比较简单，就是一个字符编码方案。但要说清楚Windows的ANSI代码页，就要从Windows的区域（Locale）说起了。

2.1.2 区域和ANSI代码页

微软为了适应世界上不同地区用户的文化背景和生活习惯，在Windows中设计了区域（Locale）设置的功能。Local是指特定于某个国家或地区的一组设定，包括代码页，数字、货币、时间和日期的格式等。在Windows内部，其实有两个Locale设置：系统Locale和用户Locale。系统Locale决定代码页，用户Locale决定数字、货币、时间和日期的格式。我们可以在控制面板的“区域和语言选项”中设置系统Locale和用户Locale：

每个Locale都有一个对应的代码页。Locale和代码页的对应关系，大家可以参阅我的另一篇文章《谈谈Windows程序中的字符编码》的附录1。系统Locale对应的代码页被作为Windows的默认代码页。在没有文本编码信息时，Windows按照默认代码页的编码方案解释文本数据。这个默认代码页通常被称作ANSI代码页（ACP）。

ANSI代码页还有一层意思，就是微软自己定义的代码页。在历史上，IBM的个人计算机和微软公司的操作系统曾经是PC的标准配置。微软公司将IBM公司定义的代码页称作OEM代码页，在IBM公司的代码页基础上作了些增补后，作为自己的代码页，并冠以ANSI的字样。我们在“区域和语言选项”高级页面的代码页转换表中看到的包含ANSI字样的代码页都是微软自己定义的代码页。例如：

• 874 （ANSI/OEM - 泰文）
• 932 （ANSI/OEM - 日文 Shift-JIS）
• 936 （ANSI/OEM - 简体中文 GBK）
• 949 （ANSI/OEM - 韩文）
• 950 （ANSI/OEM - 繁体中文 Big5）
• 1250 （ANSI - 中欧）
• 1251 （ANSI - 西里尔文）
• 1252 （ANSI - 拉丁文 I）
• 1253 （ANSI - 希腊文）
• 1254 （ANSI - 土耳其文）
• 1255 （ANSI - 希伯来文）
• 1256 （ANSI - 阿拉伯文）
• 1257 （ANSI - 波罗的海文）
• 1258 （ANSI/OEM - 越南）

在UniToy中，我们可以按照代码页编码顺序查看这些代码页的字符和编码：

我们不能直接设置ANSI代码页，只能通过选择系统Locale，间接改变当前的ANSI代码页。微软定义的Locale只使用自己定义的代码页。所以，我们虽然可以通过“区域和语言选项”中的代码页转换表安装很多代码页，但只能将微软的代码页作为系统默认代码页。

2.1.3 代码页转换表

在Windows 2000以后，Windows统一采用UTF-16作为内部字符编码。现在，安装一个代码页就是安装一张代码页转换表。通过代码页转换表，Windows既可以将代码页的编码转换到UTF-16，也可以将UTF-16转换到代码页的编码。代码页转换表的具体实现可以是一个以nls为后缀的数据文件，也可以是一个提供转换函数的动态链接库。有的代码页是不需要安装的。例如：Windows将UTF-7和UTF-8分别作为代码页65000和代码页65001。UTF-7、UTF-8和UTF-16都是基于Unicode的编码方案。它们之间可以通过简单的算法直接转换，不需要安装代码页转换表。

在安装过一个代码页后，Windows就知道怎样将该代码页的文本转换到Unicode文本，也知道怎样将Unicode文本转换成该代码页的文本。例如：UniToy有导入和导出功能。所谓导入功能就是将任一代码页的文本文件转换到Unicode文本；导出功能就是将Unicode文本转换到任一指定的代码页。这里所说的代码页就是指系统已安装的代码页：

其实，如果全世界人民在计算机刚发明时就统一采用Unicode作为字符编码，那么代码页就没有存在的必要了。可惜在Unicode被发明前，世界各国人民都发明并使用了各种字符编码方案。所以，Windows必须通过代码页支持已经被广泛使用的字符编码。从这种意义看，代码页主要是为了兼容现有的数据、程序和习惯而存在的。

2.1.4 SBCS、DBCS和MBCS

SBCS、DBCS和MBCS分别是单字节字符集、双字节字符集和多字节字符集的缩写。SBCS、DBCS和MBCS的最大编码长度分别是1字节、两字节和大于两字节（例如4或5字节）。例如：代码页1252 （ANSI-拉丁文 I）是单字节字符集；代码页936 （ANSI/OEM-简体中文 GBK）是双字节字符集；代码页54936 （GB18030 简体中文）是多字节字符集。

单字节字符集中的字符都用一个字节表示。显然，SBCS最多只能容纳256个字符。

双字节字符集的字符用一个或两个字节表示。那么我们从文本数据中读到一个字节时，怎么判断它是单字节字符，还是双字节字符的首字符？答案是通过字节所处范围来判断。例如：在GBK编码中，单字节字符的范围是0x00-0x80，双字节字符首字节的范围是0x81到0xFE。我们顺序读取字节数据，如果读到的字节在0x81到0xFE内，那么这个字节就是双字节字符的首字节。GBK定义双字节字符的尾字节范围是0x40到0x7E和0x80到0xFE。

GB18030是多字节字符集，它的字符可以用一个、两个或四个字节表示。这时我们又如何判断一个字节是属于单字节字符，双字节字符，还是四字节字符？GB18030与GBK是兼容的，它利用了GBK双字节字符尾字节的未使用码位。GB18030的四字节字符的第一字节的范围也是0x81到0xFE，第二字节的范围是0x30-0x39。通过第二字节所处范围就可以区分双字节字符和四字节字符。GB18030定义四字节字符的第三字节范围是0x81到0xFE，第四字节范围是0x30-0x39。

2.2 代码页实例

2.2.1 实例一：GB18030代码页

1.1节的“错误2”中演示了一个全被显示成'?'的文件。这个文件的数据是：

其实，这是一个包含了6个四字节字符的GB18030编码的文件。记事本按照GBK显示这些数据，而GB18030的四字节字符编码在GBK中是未定义的。Windows根据首字节范围判断出12个双字节字符，然后因为找不到匹配的转换而将其映射到默认字符'?'。使用UniToy按照GB18030代码页导入这个文件，就可以看到：

这个GB18030编码的文件是用UniToy创建的，编辑Unicode文本，然后导出到GB18030编码格式。

2.2.2 实例二：GBK和Big5的转换

综合使用UniToy的导入、导出功能就可以在任意两个代码页之间转换文本。其实，由于各代码页支持的字符范围不同，我们一般不会直接在代码页间转换文本。例如将以下GBK编码的文本：

直接转换到Big5编码，就会看到：

变成'?'的字符都是Big5编码不支持的简化字。在从Unicode转换到Big5编码时，由于Big5编码不支持这些字符，Windows就用默认字符'?'代替。在UniToy中，我们可以先将简体字转换到繁体字，然后再导出到Big5编码，就可以正常显示：

同理，将Big5编码的文本转换到GBK编码的步骤应该是：

• 将Big5编码的文本导入到Unicode文本；
• 将繁体的Unicode文本转换简体的Unicode文本；
• 将简体的Unicode文本导出到GBK文本。

2.3 互联网的字符集

2.3.1 字符集

互联网上的信息缤纷多彩，但文本依然是最重要的信息载体。html文件通过标记表明自己使用的字符集。例如：

<meta http-equiv="Content-Type" content="text/html; charset=utf-8">

或者：

<meta http-equiv="charset" content="iso-8859-1">

那么我们可以使用哪些字符集（charset）呢？在IETF（互联网工程任务组）的网页上维护着一份可以在互联网上使用的字符集的清单：CHARACTER SETS。如果有新的字符集被登记，IETF会更新这份文档。

简单浏览一下，2006年12月7日的版本列出了253个字符集。其中也包括微软的CP1250 ~ CP1258，在这里它们不会被称作什么ANSI代码页，而是被简单地称作windows-1250、windows-1251等。其实在Unicode被广泛使用前，除了中日韩等大字符集，世界上，特别是西方使用最广泛的字符集应该是ISO 8859系列字符集。

2.3.2 ISO 8859系列字符集

ISO 8859系列字符集是欧洲计算机制造商协会（ECMA）在上世纪80年代中期设计，并被国际标准化（ISO）组织采纳为国际标准。ISO 8859系列字符集目前有15个字符集，包括：

• ISO 8859-1 大部分的西欧语系，例如英文、法文、西班牙文和德文等（Latin-1）
• ISO 8859-2 大部分的中欧和东欧语系，例如捷克文、波兰文和匈牙利文等（Latin-2）
• ISO 8859-3 欧洲东南部和其它各种文字（Latin-3）
• ISO 8859-4 斯堪的那维亚和波罗的海语系（Latin-4）
• ISO 8859-5 拉丁文与斯拉夫文（俄文、保加利亚文等）
• ISO 8859-6 拉丁文与阿拉伯文
• ISO 8859-7 拉丁文与希腊文
• ISO 8859-8 拉丁文与希伯来文
• ISO 8859-9 为土耳其文修正的Latin-1（Latin-5）
• ISO 8859-10 拉普人、北欧与爱斯基摩人的文字（Latin-6）
• ISO 8859-11 拉丁文与泰文
• ISO 8859-13 波罗的海周边语系，例如拉脱维亚文等（Latin-7）
• ISO 8859-14 凯尔特文，例如盖尔文、威尔士文等（Latin-8）
• ISO 8859-15 改进的Latin-1，增加遗漏的法文、芬兰文字符和欧元符号（Latin-9）
• ISO 8859-16 罗马尼亚文（Latin-10）

其中缺少的编号12据说是为了预留给天城体梵文字母（Deva-nagari）的。印地文和尼泊尔文都使用了这种在七世纪形成的字母表。由于印度定义了自己的编码ISCII（Indian Script Code for Information Interchange），所以这个编号就未被使用。ISO 8859系列字符集都是单字节字符集，即只使用0x00-0xFF对字符编码。

大家都知道ASCII吧，那么大家知道ANSI X3.4和ISO 646吗？在1968年发布的ANSI X3.4和1972年发布的ISO 646就是ASCII编码，只不过是不同组织发布的。绝大多数字符集都与ASCII编码保持兼容，ISO 8859系列字符集也不例外，它们的0x00-0x7f都与ASCII码保持一致，各字符集的不同之处在于如何利用0x80-0xff的码位。使用UniToy可以查看ISO 8859系列所有字符集的编码，例如：

通过这些演示，大家是不是觉得代码页和字符集都是很简单、朴实的东西呢？好，在进入Unicode的话题前，让我们先看一个很深奥的概念。

3 字符编码模型

程序员经常会面对复杂的问题，而降低复杂性的最简单的方法就是分而治之。Peter Constable在他的文章"Character set encoding basics Understanding character set encodings and legacy encodings"中描述了字符编码的四层模型。我觉得这种说法确实可以更清晰地展现字符编码中发生的事情，所以在这里也介绍一下。

3.1 字符的范围（Abstract character repertoire）

设计字符编码的第一层就是确定字符的范围，即要支持哪些字符。有些编码方案的字符范围是固定的，例如ASCII、ISO 8859 系列。有些编码方案的字符范围是开放的，例如Unicode的字符范围就是世界上所有的字符。

3.2 用数字表示字符（Coded character set）

设计字符编码的第二层是将字符和数字对应起来。可以将这个层次理解成数学家（即从数学角度）看到的字符编码。数学家看到的字符编码是一个正整数。例如在Unicode中：汉字“字”对应的数字是23383。汉字“”对应的数字是134192。

在写html文件时，可以通过输入"&#23383;"来插入字符“字”。不过在设计字符编码时，我们还是习惯用16进制表示数字。即将23383写成0x5BD7，将134192写成0x20C30。

3.3 用基本数据类型表示字符（Character encoding form）

设计字符编码的第三层是用编程语言中的基本数据类型来表示字符。可以将这个层次理解成程序员看到的字符编码。在Unicode中，我们有很多方式将数字23383表示成程序中的数据，包括：UTF-8、UTF-16、UTF-32。UTF是“UCS Transformation Format”的缩写，可以翻译成Unicode字符集转换格式，即怎样将Unicode定义的数字转换成程序数据。例如，“汉字”对应的数字是0x6c49和0x5b57，而编码的程序数据是：

BYTE data_utf8[]={0xE6,0xB1,0x89,0xE5,0xAD,0x97}; // UTF-8编码
WORD data_utf16[]={0x6c49,0x5b57};                            // UTF-16编码
DWORD data_utf32[]={0x6c49,0x5b57};                         // UTF-32编码

这里用BYTE、WORD、DWORD分别表示无符号8位整数，无符号16位整数和无符号32位整数。UTF-8、UTF-16、UTF-32分别以BYTE、WORD、DWORD作为编码单位。

“汉字”的UTF-8编码需要6个字节。“汉字”的UTF-16编码需要两个WORD，大小是4个字节。“汉字”的UTF-32编码需要两个DWORD，大小是8个字节。4.2节会介绍将数字映射到UTF编码的规则。

3.4 作为字节流的字符（Character encoding scheme）

字符编码的第四层是计算机看到的字符，即在文件或内存中的字节流。例如，“字”的UTF-32编码是0x5b57，如果用little endian表示，字节流是“57 5b 00 00”。如果用big endian表示，字节流是“00 00 5b 57”。

字符编码的第三层规定了一个字符由哪些编码单位按什么顺序表示。字符编码的第四层在第三层的基础上又考虑了编码单位内部的字节序。UTF-8的编码单位是字节，不受字节序的影响。UTF-16、UTF-32根据字节序的不同，又衍生出UTF-16LE、UTF-16BE、UTF-32LE、UTF-32BE四种编码方案。LE和BE分别是Little Endian和Big Endian的缩写。

3.5 小结

通过四层模型，我们又把字符编码中发生的这些事情梳理了一遍。其实大多数代码页都不需要完整的四层模型，例如GB18030以字节为编码单位，直接规定了字节序列和字符的映射关系，跳过了第二层，也不需要第四层。

4 再谈Unicode

Unicode是国际组织制定的可以容纳世界上所有文字和符号的字符编码方案。Unicode用数字0-0x10FFFF来映射这些字符，最多可以容纳1114112个字符，或者说有1114112个码位。码位就是可以分配给字符的数字。UTF-8、UTF-16、UTF-32都是将数字转换到程序数据的编码方案。

Unicode字符集可以简写为UCS（Unicode Character Set）。早期的Unicode标准有UCS-2、UCS-4的说法。UCS-2用两个字节编码，UCS-4用4个字节编码。UCS-4根据最高位为0的最高字节分成2^7=128个group。每个group再根据次高字节分为256个平面（plane）。每个平面根据第3个字节分为256行 （row），每行有256个码位（cell）。group 0的平面0被称作BMP（Basic Multilingual Plane）。将UCS-4的BMP去掉前面的两个零字节就得到了UCS-2。

Unicode标准计划使用group 0 的17个平面: 从BMP（平面0）到平面16，即数字0-0x10FFFF。《谈谈Unicode编码》主要介绍了BMP的编码，本文将介绍完整的Unicode编码，并从多个角度浏览Unicode。本文的介绍基于Unicode 5.0.0版本。

4.1 浏览Unicode

先看一些数字：每个平面有2^16=65536个码位。Unicode计划使用了17个平面，一共有17*65536=1114112个码位。其实，现在已定义的码位只有238605个，分布在平面0、平面1、平面2、平面14、平面15、平面16。其中平面15和平面16上只是定义了两个各占65534个码位的专用区（Private Use Area），分别是0xF0000-0xFFFFD和0x100000-0x10FFFD。所谓专用区，就是保留给大家放自定义字符的区域，可以简写为PUA。

平面0也有一个专用区：0xE000-0xF8FF，有6400个码位。平面0的0xD800-0xDFFF，共2048个码位，是一个被称作代理区（Surrogate）的特殊区域。它的用途将在4.2节介绍。

238605-65534*2-6400-2408=99089。余下的99089个已定义码位分布在平面0、平面1、平面2和平面14上，它们对应着Unicode目前定义的99089个字符，其中包括71226个汉字。平面0、平面1、平面2和平面14上分别定义了52080、3419、43253和337个字符。平面2的43253个字符都是汉字。平面0上定义了27973个汉字。

在更深入地了解Unicode字符前，我们先了解一下UCD。

4.1.1 什么是UCD

UCD是Unicode字符数据库（Unicode Character Database）的缩写。UCD由一些描述Unicode字符属性和内部关系的纯文本或html文件组成。大家可以在Unicode组织的网站看到UCD的最新版本。

UCD中的文本文件大都是适合于程序分析的Unicode相关数据。其中的html文件解释了数据库的组织，数据的格式和含义。UCD中最庞大的文件无疑就是描述汉字属性的文件Unihan.txt。在UCD 5.0,0中，Unihan.txt文件大小有28,221K字节。Unihan.txt中包含了很多有参考价值的索引，例如汉字部首、笔划、拼音、使用频度、四角号码排序等。这些索引都是基于一些比较权威的辞典，但大多数索引只能检索部分汉字。

我介绍UCD的目的主要是为了使用其中的两个概念：Block和Script。

4.1.2 Block

UCD中的Blocks.txt将Unicode的码位分割成一些连续的Block，并描述了每个Block的用途：

开始码位结束码位Block名称（英文）Block名称（中文）0000007FBasic Latin基本拉丁字母008000FFLatin-1 Supplement拉丁字母补充-10100017FLatin Extended-A拉丁字母扩充-A0180024FLatin Extended-B拉丁字母扩充-B025002AFIPA Extensions国际音标扩充02B002FFSpacing Modifier Letters进格修饰字符0300036FCombining Diacritical Marks组合附加符号037003FFGreek and Coptic希腊文和哥普特文040004FFCyrillic西里尔文0500052FCyrillic Supplement西里尔文补充0530058FArmenian亚美尼亚文059005FFHebrew希伯来文060006FFArabic基本阿拉伯文0700074FSyriac叙利亚文0750077FArabic Supplement阿拉伯文补充078007BFThaana塔纳文07C007FFNKoN'Ko字母表0900097FDevanagari天成文书（梵文）098009FFBengali孟加拉文0A000A7FGurmukhi锡克教文0A800AFFGujarati古吉拉特文0B000B7FOriya奥里亚文0B800BFFTamil泰米尔文0C000C7FTelugu泰卢固文0C800CFFKannada卡纳达文0D000D7FMalayalam德拉维族文0D800DFFSinhala僧伽罗文0E000E7FThai泰文0E800EFFLao老挝文0F000FFFTibetan藏文1000109FMyanmar缅甸文10A010FFGeorgian格鲁吉亚文110011FFHangul Jamo朝鲜文1200137FEthiopic埃塞俄比亚文1380139FEthiopic Supplement埃塞俄比亚文补充13A013FFCherokee切罗基文1400167FUnified Canadian Aboriginal Syllabics加拿大印第安方言1680169FOgham欧甘文16A016FFRunic北欧古字1700171FTagalog塔加路文1720173FHanunoo哈努诺文1740175FBuhid布迪文1760177FTagbanwaTagbanwa文178017FFKhmer高棉文180018AFMongolian蒙古文1900194FLimbu林布文1950197FTai Le德宏傣文198019DFNew Tai Lue新傣文19E019FFKhmer Symbols高棉文1A001A1FBuginese布吉文1B001B7FBalinese巴厘文1D001D7FPhonetic Extensions拉丁字母音标扩充1D801DBFPhonetic Extensions Supplement拉丁字母音标扩充增补1DC01DFFCombining Diacritical Marks Supplement组合附加符号补充1E001EFFLatin Extended Additional拉丁字母扩充附加1F001FFFGreek Extended希腊文扩充2000206FGeneral Punctuation一般标点符号2070209FSuperscripts and Subscripts上标和下标20A020CFCurrency Symbols货币符号20D020FFCombining Diacritical Marks for Symbols符号用组合附加符号2100214FLetterlike Symbols似字母符号2150218FNumber Forms数字形式219021FFArrows箭头符号220022FFMathematical Operators数学运算符号230023FFMiscellaneous Technical零杂技术用符号2400243FControl Pictures控制图符2440245FOptical Character Recognition光学字符识别246024FFEnclosed Alphanumerics带括号的字母数字2500257FBox Drawing制表符2580259FBlock Elements方块元素25A025FFGeometric Shapes几何形状260026FFMiscellaneous Symbols零杂符号270027BFDingbats杂锦字型27C027EFMiscellaneous Mathematical Symbols-A零杂数学符号-A27F027FFSupplemental Arrows-A箭头符号补充-A280028FFBraille Patterns盲文2900297FSupplemental Arrows-B箭头符号补充-B298029FFMiscellaneous Mathematical Symbols-B零杂数学符号-B2A002AFFSupplemental Mathematical Operators数学运算符号2B002BFFMiscellaneous Symbols and Arrows零杂符号和箭头2C002C5FGlagolitic格拉哥里字母表2C602C7FLatin Extended-C拉丁字母扩充-C2C802CFFCoptic科普特文2D002D2FGeorgian Supplement格鲁吉亚文补充2D302D7FTifinagh提非纳字母2D802DDFEthiopic Extended埃塞俄比亚文扩充2E002E7FSupplemental Punctuation标点符号补充2E802EFFCJK Radicals Supplement中日韩部首补充2F002FDFKangxi Radicals康熙字典部首2FF02FFFIdeographic Description Characters汉字结构描述字符3000303FCJK Symbols and Punctuation中日韩符号和标点 3040309FHiragana平假名30A030FFKatakana片假名3100312FBopomofo注音符号3130318FHangul Compatibility Jamo朝鲜文兼容字母3190319FKanbun日文的汉字批注31A031BFBopomofo Extended注音符号扩充31C031EFCJK Strokes中日韩笔划31F031FFKatakana Phonetic Extensions片假名音标扩充320032FFEnclosed CJK Letters and Months带括号的中日韩字母及月份330033FFCJK Compatibility中日韩兼容字符34004DBFCJK Unified Ideographs Extension A中日韩统一表意文字扩充A4DC04DFFYijing Hexagram Symbols易经六十四卦象4E009FFFCJK Unified Ideographs中日韩统一表意文字A000A48FYi Syllables彝文音节A490A4CFYi Radicals彝文字根A700A71FModifier Tone Letters声调修饰字母A720A7FFLatin Extended-D拉丁字母扩充-DA800A82FSyloti NagriSyloti Nagri字母表A840A87FPhags-paPhags-pa字母表AC00D7AFHangul Syllables朝鲜文音节D800DB7FHigh Surrogates高位替代DB80DBFFHigh Private Use Surrogates高位专用替代DC00DFFFLow Surrogates低位替代E000F8FFPrivate Use Area专用区F900FAFFCJK Compatibility Ideographs中日韩兼容表意文字FB00FB4FAlphabetic Presentation Forms字母变体显现形式FB50FDFFArabic Presentation Forms-A阿拉伯文变体显现形式-A FE00FE0FVariation Selectors字型变换选取器FE10FE1FVertical Forms竖排标点符号FE20FE2FCombining Half Marks组合半角标示FE30FE4FCJK Compatibility Forms中日韩兼容形式FE50FE6FSmall Form Variants小型变体形式FE70FEFFArabic Presentation Forms-B阿拉伯文变体显现形式-B FF00FFEFHalfwidth and Fullwidth Forms半角及全角字符FFF0FFFFSpecials特殊区域100001007FLinear B Syllabary线形文字B音节文字10080100FFLinear B Ideograms线形文字B表意文字101001013FAegean Numbers爱琴海数字101401018FAncient Greek Numbers古希腊数字103001032FOld Italic古意大利文103301034FGothic哥特文103801039FUgaritic乌加里特楔形文字103A0103DFOld Persian古波斯文104001044FDeseret德塞雷特大学音标104501047FShavian肃伯纳速记符号10480104AFOsmanyaOsmanya字母表108001083FCypriot Syllabary塞浦路斯音节文字109001091FPhoenician腓尼基文10A0010A5FKharoshthi迦娄士悌文12000123FFCuneiform楔形文字124001247FCuneiform Numbers and Punctuation楔形文字数字和标点1D0001D0FFByzantine Musical Symbols东正教音乐符号1D1001D1FFMusical Symbols音乐符号1D2001D24FAncient Greek Musical Notation古希腊音乐符号1D3001D35FTai Xuan Jing Symbols太玄经符号1D3601D37FCounting Rod Numerals算筹1D4001D7FFMathematical Alphanumeric Symbols数学用字母数字符号200002A6DFCJK Unified Ideographs Extension B中日韩统一表意文字扩充 B2F8002FA1FCJK Compatibility Ideographs Supplement中日韩兼容表意文字补充E0000E007FTags标签E0100E01EFVariation Selectors Supplement字型变换选取器补充F0000FFFFFSupplementary Private Use Area-A补充专用区-A10000010FFFFSupplementary Private Use Area-B补充专用区-B

Block是Unicode字符的一个属性。属于同一个Block的字符有着相近的用途。Block表中的开始码位、结束码位只是用来划分出一块区域，在开始码位和结束码位之间可能还有很多未定义的码位。使用UniToy，大家可以按照Block浏览Unicode字符，既可以按列表显示：

也可以显示每个字符的详细信息：

4.1.3 Script

Unicode中每个字符都有一个Script属性，这个属性表明字符所属的文字系统。Unicode目前支持以下Script：

Script名称（英文）Script名称（中文）Script包含的字符数Arabic阿拉伯文966Armenian亚美尼亚文90Balinese巴厘文121Bengali孟加拉文91Bopomofo汉语注音符号64Braille盲文256Buginese布吉文30Buhid布迪文20Canadian Aboriginal加拿大印第安方言630Cherokee切罗基文85CommonCommon5020Coptic科普特文128Cuneiform楔形文字982Cypriot塞浦路斯音节文字55Cyrillic西里尔文277Deseret德塞雷特大学音标80Devanagari天成文书（梵文）107Ethiopic埃塞俄比亚文461Georgian格鲁吉亚文120Gothic哥特文94Glagolitic格拉哥里字母表27Greek希腊文506Gujarati古吉拉特文83Gurmukhi锡克教文77Han汉文71570Hangul韩文书写系统11619Hanunoo哈努诺文21Hebrew希伯来文133Hiragana平假名89InheritedInherited461Kannada卡纳达文86Katakana片假名164Kharoshthi迦娄士悌文65Khmer高棉文146Lao老挝文65Latin拉丁文系1070Limbu林布文(尼泊尔东部)66Linear B线形文字B211Malayalam德拉维族文(印度)78Mongolian蒙古文152Myanmar缅甸文78New Tai Lue新傣文80NkoN'Ko字母表59Ogham欧甘文字29Old Italic古意大利文35Old Persian古波斯文50Oriya奥里亚文81OsmanyaOsmanya字母表40Phags PaPhags Pa字母表(蒙古)56Phoenician腓尼基文27Runic古代北欧文78Shavian肃伯纳速记符号48Sinhala僧伽罗文80Syloti NagriSyloti Nagri字母表(印度)44Syriac叙利亚文77Tagalog塔加路文(菲律宾)20TagbanwaTagbanwa文(菲律宾)18Tai Le德宏傣文35Tamil泰米尔文71Telugu泰卢固文(印度)80Thaana马尔代夫书写体 50Thai泰国文86Tibetan藏文195Tifinagh提非纳字母表55Ugaritic乌加里特楔形文字31Yi彝文1220

其中，有两个Script值有着特殊的含义：

• Common：Script属性为Common的字符可能在多个文字系统中使用，不是某个文字系统特有的。例如：空格、数字等。
• Inherited：Script属性为Inherited的字符会继承前一个字符的Script属性。主要是一些组合用符号，例如：在“组合附加符号”区（0x300-0x36f），字符的Script属性都是Inherited。

UCD中的Script.txt列出了每个字符的Script属性。使用UniToy可以按照Script属性查看字符。例如：

左侧Script窗口中，第一层节点是按英文字母顺序排列的Script属性。第二层节点是包含该Script文字的行（row），点击后显示该行内属于这个Script的字符。这样，就可以集中查看属于同一文字系统的字符。

4.1.4 Unicode中的汉字

前面提过，在Unicode已定义的99089个字符中，有71226个字符是汉字。它们的分布如下：

Block名称开始码位结束码位数量中日韩统一表意文字扩充A34004db56582 中日韩统一表意文字4e009fbb20924 中日韩兼容表意文字f900fa2d302 中日韩兼容表意文字fa30fa6a59 中日韩兼容表意文字fa70fad9106中日韩统一表意文字扩充B200002a6d642711 中日韩兼容表意文字补充2f8002fa1d542

UCD的Unihan.txt中的部首偏旁索引（kRSUnicode）可以检索全部71226个汉字。kRSUnicode的部首是按照康熙字典定义的，共214个部首。简体字按照简体部首对应的繁体部首检索。UniToy整理了康熙字典部首对应的简体部首，提供了按照部首检索汉字的功能：

4.2 UTF编码

在字符编码的四个层次中，第一层的范围和第二层的编码在4.1节已经详细讨论过了。本节讨论第三层的UTF编码和第四层的字节序，主要谈谈第三层的UTF编码，即怎样将Unicode定义的编码转换成程序数据。

4.2.1 UTF-8

UTF-8以字节为单位对Unicode进行编码。从Unicode到UTF-8的编码方式如下：

Unicode编码(16进制)UTF-8 字节流(二进制)000000 - 00007F0xxxxxxx000080 - 0007FF110xxxxx 10xxxxxx000800 - 00FFFF1110xxxx 10xxxxxx 10xxxxxx010000 - 10FFFF11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

UTF-8的特点是对不同范围的字符使用不同长度的编码。对于0x00-0x7F之间的字符，UTF-8编码与ASCII编码完全相同。UTF-8编码的最大长度是4个字节。从上表可以看出，4字节模板有21个x，即可以容纳21位二进制数字。Unicode的最大码位0x10FFFF也只有21位。

例1：“汉”字的Unicode编码是0x6C49。0x6C49在0x0800-0xFFFF之间，使用用3字节模板了：1110xxxx10xxxxxx 10xxxxxx。将0x6C49写成二进制是：0110 1100 0100 1001， 用这个比特流依次代替模板中的x，得到：1110011010110001 10001001，即E6 B1 89。

例2：“”字的Unicode编码是0x20C30。0x20C30在0x010000-0x10FFFF之间，使用用4字节模板了：11110xxx10xxxxxx 10xxxxxx10xxxxxx。将0x20C30写成21位二进制数字（不足21位就在前面补0）：0 0010 0000 1100 0011 0000，用这个比特流依次代替模板中的x，得到：1111000010100000 1011000010110000，即F0 A0 B0 B0。

4.2.2 UTF-16

UniToy有个“输出编码”功能，可以输出当前选择的文本编码。因为UniToy内部采用UTF-16编码，所以输出的编码就是文本的UTF-16编码。例如：如果我们输出“汉”字的UTF-16编码，可以看到0x6C49，这与“汉”字的Unicode编码是一致的。如果我们输出“”字的UTF-16编码，可以看到0xD843, 0xDC30。“”字的Unicode编码是0x20C30，它的UTF-16编码是怎样得到的呢？

4.2.2.1 编码规则

UTF-16编码以16位无符号整数为单位。我们把Unicode编码记作U。编码规则如下：

• 如果U<0x10000，U的UTF-16编码就是U对应的16位无符号整数（为书写简便，下文将16位无符号整数记作WORD）。
• 如果U≥0x10000，我们先计算U'=U-0x10000，然后将U'写成二进制形式：yyyy yyyy yyxx xxxx xxxx，U的UTF-16编码（二进制）就是：110110yyyyyyyyyy110111xxxxxxxxxx。

为什么U'可以被写成20个二进制位？Unicode的最大码位是0x10ffff，减去0x10000后，U'的最大值是0xfffff，所以肯定可以用20个二进制位表示。例如：“”字的Unicode编码是0x20C30，减去0x10000后，得到0x10C30，写成二进制是：0001 0000 1100 0011 0000。用前10位依次替代模板中的y，用后10位依次替代模板中的x，就得到：11011000010000111101110000110000，即0xD843 0xDC30。

4.2.2.2 代理区（Surrogate）

按照上述规则，Unicode编码0x10000-0x10FFFF的UTF-16编码有两个WORD，第一个WORD的高6位是110110，第二个WORD的高6位是110111。可见，第一个WORD的取值范围（二进制）是11011000 00000000到11011011 11111111，即0xD800-0xDBFF。第二个WORD的取值范围（二进制）是11011100 00000000到11011111 11111111，即0xDC00-0xDFFF。

为了将一个WORD的UTF-16编码与两个WORD的UTF-16编码区分开来，Unicode编码的设计者将0xD800-0xDFFF保留下来，并称为代理区（Surrogate）：

D800DB7FHigh Surrogates高位替代DB80DBFFHigh Private Use Surrogates高位专用替代DC00DFFFLow Surrogates低位替代

高位替代就是指这个范围的码位是两个WORD的UTF-16编码的第一个WORD。低位替代就是指这个范围的码位是两个WORD的UTF-16编码的第二个WORD。那么，高位专用替代是什么意思？我们来解答这个问题，顺便看看怎么由UTF-16编码推导Unicode编码。

解：如果一个字符的UTF-16编码的第一个WORD在0xDB80到0xDBFF之间，那么它的Unicode编码在什么范围内？我们知道第二个WORD的取值范围是0xDC00-0xDFFF，所以这个字符的UTF-16编码范围应该是0xDB80 0xDC00到0xDBFF 0xDFFF。我们将这个范围写成二进制：

110110111000000011011100 00000000 - 1101101111111111 1101111111111111

按照编码的相反步骤，取出高低WORD的后10位，并拼在一起，得到

1110 0000 0000 0000 0000 - 1111 1111 1111 1111 1111

即0xe0000-0xfffff，按照编码的相反步骤再加上0x10000，得到0xf0000-0x10ffff。这就是UTF-16编码的第一个WORD在0xdb80到0xdbff之间的Unicode编码范围，即平面15和平面16。因为Unicode标准将平面15和平面16都作为专用区，所以0xDB80到0xDBFF之间的保留码位被称作高位专用替代。

4.2.3 UTF-32

UTF-32编码以32位无符号整数为单位。Unicode的UTF-32编码就是其对应的32位无符号整数。

4.2.4 字节序

根据字节序的不同，UTF-16可以被实现为UTF-16LE或UTF-16BE，UTF-32可以被实现为UTF-32LE或UTF-32BE。例如：

字符Unicode编码UTF-16LEUTF-16BEUTF32-LEUTF32-BE汉0x6C4949 6C6C 4949 6C 00 0000 00 6C 490x20C3043 D8 30 DCD8 43 DC 3030 0C 02 0000 02 0C 30那么，怎么判断字节流的字节序呢？

 

Unicode标准建议用BOM（Byte Order Mark）来区分字节序，即在传输字节流前，先传输被作为BOM的字符"零宽无中断空格"。这个字符的编码是FEFF，而反过来的FFFE（UTF-16）和FFFE0000（UTF-32）在Unicode中都是未定义的码位，不应该出现在实际传输中。下表是各种UTF编码的BOM：

UTF编码Byte Order MarkUTF-8EF BB BFUTF-16LEFF FEUTF-16BEFE FFUTF-32LEFF FE 00 00UTF-32BE00 00 FE FF

5 结束语

程序员的工作就是将复杂的世界简单地表达出来，希望这篇文章也能做到这一点。本文的初稿完成于2007年2月14日。我会在我的个人主页http://www.fmddlmyy.cn维护这篇文章的最新版本。