字符编码那些事儿

一直被字符的编码搞得头晕脑胀,经常出现乱码却又无可奈何,最近看到两篇讲字符编码的文章,这才有点头绪,于是决定把它写出来。

位与字节

计算机是以二进制位进行存储的,8位构成一字节,那么就会引来一个问题,就是如何将现实生活中真正的字符(如'a'、'b'、'c'等)转为二进制位放到计算机中进行存储。因此字符编码也就应运而生了,即定义一些规范,将真实字符与二进制位联系起来。又因为计算机的内存是以字节为单位的,所以也就是将真实字符与字节联系起来。

字符集发展

最开始使用的是ASCII码字符集,用一个字节来表示就足够了(其实只用了7为二进制数),共128个字符,95的可打印字符(如'a'、'b'等),33个控制字符(如'\n'、'\t'等),ASCII码字符集基本满足了美国人民的需要。但是对于欧洲人民来说,这个字符集就不够用了,因为他们经常会用到一些扩展的拉丁字符(如'ẚ'等),怎么办呢?

最简单的办法就是将一个字节的8位全部用上,于是又了EASCII字符集,共256个字符,这满足了西欧人民的需要,但是对于北欧和东欧的人民来讲,仍然不够用,于是ISO 8859字符集出现了,它共由15个字符集组成,如ISO 8859-1为西欧字符集,ISO 8859-4为北欧字符集等。如此一来,欧洲人民的字符问题就解决了。

终于到我们大天朝了,中文字符数量太多,还分为简体和繁体两种。于是不得不采用两个字节进行存储,于是出现了以下几种字符集:

字符集 字节数 兼容性 说明
GB2312 变字节,1-2 兼容ASCII(1字节) 简体中文字符集
BIG5 定字节,2 兼容ASCII(2字节) 繁体中文字符集
GBK 定字节,2 兼容ASCII(2字节) GB2312的扩展(支持繁体)
Unicode

上面说了每个区域有各自的字符集标准,那么就无法再同一个文档中同时显示所有的字符,于是有人开始琢磨能不能把规定一个全球性的字符集标准,能够将世界上的所有字符都包括进去,因此有了Unicode字符集,它规定使用4个字节进行存储,包括了世界上所有的字符,并且可以扩展。但是用四个字节存储ASCII码浪费了太多存储空间,因此刚开始的时候Unicode难以得到推广,所以必须采用有效的编码方案。

可以这样说,上面讲的所有字符集都是把字符集(不包括Unicode)与编码方案紧密结合起来的,也就是每个字符都有确定的字节流(二进制位),因此GBK即可称为字符集,也可称为编码方案。但是可以说Unicode只是单纯的字符集,里面只有字符及其字符所对应的字符码。至于编码方案,有UTF-8,UTF-16,GB18030等。

UTF-8

UTF-8是目前使用最多的编码方案,其实更准确地说是Unicode的编码方案,主要有两条规则:

  1. 对于单字节字符,字节的首位二进制码为0,其余为Unicode码
  2. 对于n(2-4)字节字符,首字节的前n位二进制码为1,n+1位二进制码为0,后面字节的两位二进制码均为10,其余为Unicode码

具体如下表:

Unicode(16进制) UTF-8(二进制)
00000000 - 0000007F 0xxxxxxx
00000080 - 000007FF 110xxxxx 10xxxxxx
00000800 - 0000FFFF 1110xxxx 10xxxxxx 10xxxxxx

如此一来,问题就得到解决了,UTF-8也得到了迅速发展。

注意事项

  1. ANSI:为Windows下默认的编码方案,对英文使用ASCII码,对中文使用GB2313编码方案
  2. BOM:微软用它来标识采用UTF-8编码方案的文件,并不是通用标准
  3. 乱码:乱码的根本原因是使用错误的编码方案去解码字节流,因此当出现乱码的时候,请去查看文件的编码方案是什么,这样才能根本解决乱码

参考

  1. 关于字符编码,你所需要知道的
  2. 字符编码常识及问题解析
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,544评论 6 501
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,430评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,764评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,193评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,216评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,182评论 1 299
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,063评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,917评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,329评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,543评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,722评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,425评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,019评论 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,671评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,825评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,729评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,614评论 2 353

推荐阅读更多精彩内容