1. 美国人首先对英文字符编成ASCII码,用一个字节中的低7位表示英文128个字符,高1位统一为0
2. 欧洲人字母上存在注音符,128位不够用,即采用高1位,最多可表示256位
3. 不同国家字符编码不一致,虽然0--127表示的符号是一样的,但是128--255的含义不一致,例:135在法语,希伯来语,俄语编码中完全是不同的符号。
4.中国有10万多个汉字,256也不够用,于是产生了GB2312汉字编码,用2个字节表示绝大部分的常用汉字,最多可以表示65536个汉字字符
5. 由于每个国家字符集编码不同,为了保证全世界通用性,产生了Unicode编码,它将每一个符号都给予一个独一无二的编码,现在Unicode可以容纳100多万个符号,每个符号的编码都不一样
6. Unicode 编码 虽然统一了全世界字符的二进制编码,但没有规定如何存储,如果Unicode统一规定每个符号用三个或四个字节表示,那么每个英文字母前都必然有二到三个字节是0,文本文件的大小会大二三倍,这对于存储来说是极大的浪费
7. Utf-8则是Unicode最重要的实现方式之一,另外还有utf-16、utf-32等。UTF-8是一种变长的编码方式,它可以使用1~4个字节表示一个符号,根据不同的符号而变化字节长度。这是种比较巧妙的设计,如果一个字节的第一位是0,则这个字节单独就是一个字符;如果第一位是1,则连续有多少个1,就表示当前字符占用多少个字节。
8. 注意unicode的字符编码和utf-8的存储编码表示是不同的,例如"严"字的Unicode码是4E25,UTF-8编码是E4B8A5,UTF-8编码不仅考虑了编码,还考虑了存储,E4B8A5是在存储识别编码的基础上塞进了4E25。
9.UTF-8 使用一至四个字节为每个字符编码。128 个 ASCII 字符(Unicode 范围由 U+0000 至 U+007F)只需一个字节,带有变音符号的拉丁文、希腊文、西里尔字母、亚美尼亚语、希伯来文、阿拉伯文、叙利亚文及马尔代夫语(Unicode 范围由 U+0080 至 U+07FF)需要二个字节,其他基本多文种平面(BMP)中的字符(CJK属于此类-Qieqie注)使用三个字节,其他 Unicode 辅助平面的字符使用四字节编码。
10.通常中文汉字在utf-8中是3个字节,最常见的编码方式是1110xxxx 10xxxxxx 10xxxxxx。
UTF-8编码发展历史
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。
推荐阅读更多精彩内容
- 背景 很久很久以前,美国人发明了计算机。计算机存储数据的基本单位叫做字节,一个字节用8个位(0/1)来表示,每一位...
- 摘要:本文从Unicode入手,介绍由于通信问题而产生的字符集,以及Unicode的发展情况。介绍各种字符集的及其...
- 昨天电话面试的过程中被问到了可变长编码,被问的有点懵逼。。特地来记录一下。由于度娘上面没有搜到相关的文章,所以只能...
- GB 2312 GB 2312 是 1980 年发布的中文编码,共收录 7445 个字符,有 6763 个汉字以及...
- 什么是Unicode字符集?简单地说,它就是把全世界人类发明和使用的现有的所有字符进行了集中收集和逐一编码,这个过...