python的中的字符串类型：byte string和unicode string

unicode和utf8的层级关系：

unicode：

狭义：信源编码，将字符数字化，即一个字符对应一个十进制数字，是ascii表的一个扩展。
广义：信源编码+信道编码，用unicode作为信源编码，用ucs-2作为存储和传输的信道编码，即在内存或者硬盘中，一个unicode字符占两个字节，16位。

utf8：

狭义：信道编码，用于字符的存储和传输，减小存储空间，减小传输流量。utf8是可变长编码方式，存英文是一个字节，存中文是三个字节。
广义：信源编码+信道编码，以unicode作为信源编码，以utf8作为信道编码。

---

python中的byte string和unicode string两种字符的区别：

unicode string:

以unicode作为编码表（信源编码），仅仅代表一个字符，未存储，因此未被编码。从函数中返回的字符都是unicode string，因为未存储，所以未被编码。

byte string（即python中的str类型）:

以unicode作为编码表（信源编码），以utf8作为信道编码，一个中文字符对应三个字节。从文件读取的字符，因为已经存在磁盘中，因此都是byte string。python文件中初始化的字符串，也是byte string，因为.py文件本身就是存在硬盘中的

---

实验：

>>> a = '中'>>> a    '\xe4\xb8\xad'>>> a = u'中'>>> a    u'\u4e2d'

“中”在unicode里面对应的数字是20013，当a =‘中’，字符是byte string，以utf8编码，占三个字节。当a=u‘中’，未以任何形式编码，用一个字符表示。
结论：byte string和unicode string的表现形式与编码没有任何关系，都是以16进制来表示。

---

utf8编码方式介绍：

作者：uuspider
链接：https://www.zhihu.com/question/23374078/answer/65352538
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

举一个例子：It’s 知乎日报你看到的unicode字符集是这样的编码表：

I   0049t   0074'   0027s   0073    0020知  77e5乎  4e4e日  65e5报  62a5

每一个字符对应一个十六进制数字。计算机只懂二进制，因此，严格按照unicode的方式(UCS-2)，应该这样存储：

I 00000000 01001001t 00000000 01110100' 00000000 00100111s 00000000 01110011  00000000 00100000知 01110111 11100101乎 01001110 01001110日 01100101 11100101报 01100010 10100101

这个字符串总共占用了18个字节，但是对比中英文的二进制码，可以发现，英文前9位都是0！浪费啊，浪费硬盘，浪费流量。怎么办？UTF。UTF-8是这样做的：1. 单字节的字符，字节的第一位设为0，对于英语文本，UTF-8码只占用一个字节，和ASCII码完全相同；2. n个字节的字符(n>1)，第一个字节的前n位设为1，第n+1位设为0，后面字节的前两位都设为10，这n个字节的其余空位填充该字符unicode码，高位用0补足。这样就形成了如下的UTF-8标记位：
0xxxxxx
x110xxxxx 10xxxxxx
1110xxxx 10xxxxxx 10xxxxxx
11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx… …
于是，”It’s 知乎日报“就变成了：

I 01001001t 01110100' 00100111s 01110011  00100000知 11100111 10011111 10100101乎 11100100 10111001 10001110日 11100110 10010111 10100101报 11100110 10001010 10100101

和上边的方案对比一下，英文短了，每个中文字符却多用了一个字节。但是整个字符串只用了17个字节，比上边的18个短了一点点。下边是课后作业：请将”It’s 知乎日报“的GB2312和GBK码(自行google)转成二进制。不考虑历史因素，从技术角度解释为什么在unicode和UTF-8大行其道的同时，GB2312和GBK仍在广泛使用。剧透：一切都是为了节省你的硬盘和流量。

参考：
http://blog.csdn.net/use_my_heart/article/details/51303317
https://www.zhihu.com/question/23374078