有关于UTF-8 & Unicode编码问题
来源:互联网 发布:锤子科技 成都 知乎 编辑:程序博客网 时间:2024/06/05 10:51
由于计算机是美国人发明的,因此,最早只有127个字母被编码到计算机里,也就是大小写英文字母、数字和一些符号,这个编码表被称为ASCII编码,比如大写字母A的编码是65,小写字母z的编码是122。
但是当引入中文或者其他语言的时候127的字符编码就不够用了,所以,中国制定了GB2312编码,用来把中文编进去。
你可以想得到的是,全世界有上百种语言,日本把日文编到Shift_JIS里,韩国把韩文编到Euc-kr里,各国有各国的标准,就会不可避免地出现冲突,结果就是,在多语言混合的文本中,显示出来会有乱码。
也正因为这些原因,Unicode应运而生。Unicode把所有语言都统一到一套编码里,这样就不会再有乱码问题了。
Unicode标准也在不断发展,但最常用的是用两个字节表示一个字符(如果要用到非常偏僻的字符,就需要4个字节)。现代操作系统和大多数编程语言都直接支持Unicode。
现在,捋一捋ASCII编码和Unicode编码的区别:ASCII编码是1个字节,而Unicode编码通常是2个字节。
那么问题又来了:如果统一成Unicode编码,虽然消除了乱码的问题,但是如果写的文本都是英文,就会造成存储空间的浪费,对于当时紧缺的内存空间,这是一件很消耗性能的事情。
所以,本着节约的精神,又出现了把Unicode编码转化为“可变长编码”的UTF-8编码(8-bit Unicode Transformation Format)。UTF-8编码把一个Unicode字符根据不同的数字大小编码成1-6个字节,常用的英文字母被编码成1个字节,汉字通常是3个字节,只有很生僻的字符才会被编码成4-6个字节。如果你要传输的文本包含大量英文字符,用UTF-8编码就能节省空间。
小结:在计算机内存中,统一使用Unicode编码,当需要保存到硬盘或者需要传输的时候,就转换为UTF-8编码。
还有一个我的观点:UTF-8就是unicode一种压缩机制,通过一种最优二叉树的算法把unicode编码文件压缩到最小,而后通过UTF-8存储或者传输已达到存储最大化和传输效率最大化。
- 有关于UTF-8 & Unicode编码问题
- 编码有关问题(UTF-8、gb2312、unicode)
- 有关unicode, UTF-8, ANSI等编码转换
- 中文编码问题(Unicode UTF-8 GBK ...)
- python 编码 问题 UTF-8 unicode
- 中文编码问题(Unicode UTF-8 GBK ...) .
- 编码问题(UTF-8、gb2312、unicode)
- Python 编码问题 utf-8 和 unicode
- Python 编码问题 utf-8 和 unicode
- 编码问题:ASCII、Unicode和UTF-8
- 计算机编码问题ASCII,UTF-8,Unicode
- UCS-UNICODE-UTF-8编码
- unicode和UTF-8编码
- Unicode,UTF-8编码,汉字编码
- 编码方案-unicode-utf-8
- 编码:utf-8,unicode,gbk....
- Unicode,UTF-8编码,汉字编码
- unicode 转 utf-8编码
- PAT A1077
- D3D11地形渲染教程一之FirstCamera(第一人称相机)
- 最大公约数与最小公倍数
- 这一年前端自学之路
- PAT A1081
- 有关于UTF-8 & Unicode编码问题
- JavaScript框架比较:AngularJS vs ReactJS vs EmberJS
- 使用maven的过程
- 如何在VSCode内编译运行C++?
- READING NOTE: Beyond Skip Connections: Top-Down Modulation for Object Detection
- 2016 CVPR 所有论文
- PAT A1082
- 如何制作一个读取U盘文件系统的工程
- process.stdin的end事件如何触发?---关于nodejs底层的标准输入与输出的坑