1.字符编码总览

先说一个故事:

《圣经•旧约•创世纪》上曾经记载人类为了修建一个能通往天堂的高塔,联合起来。塔一天一天的长高,上帝害怕了,为了阻止人类的计划,上帝想出了一个办法,他让人类说不同的语言。这让人类之间不能沟通,修建通天塔的计划就流产了,通天塔没能修建起来。这就是关于不同语言产生的传说。

然后开始我们今天对字符编码的介绍

第一台电子计算机ENICA于1946年2月14日诞生在美国宾大,自此拉开了计算机时代。计算机是人类发明的产物,那自然要为人类服务,例如做计算,播放音乐等。不管是哪一种都需要跟字符打交道。比如你在网页上要搜索东西,肯定需要输入搜索关键词吧。

我们知道,计算机只能识别0和1,不能直接识别英文,汉字等。聪明的人类想到用一连串01序列来表示,这就是字符编码(当然除了01序列,还有别的形式,例如摩斯密码,这里只讨论01序列,并且以下为方便简称编码。

我们先举几个最早的编码方式来说说,BCD码(全称Binary-Coded Decimal,二进码十进数)是是IBM于1959年在其1401和1620和700系列的计算机中最早使用的六位编码方案。这里可以简单介绍一下:

二进制数的每一个位表示一个计算机位(bit,简称位),按照定义,那么有n位就能表示 2^n 个数。数字0-9一共10个数,那么至少需要4位(2^4 =16>=10)。因此BCD码用了四个位元来储存一个十进制的数码,使二进制之间的转换得以快捷的进行。
例如十进制10,其二进制表示就是1010。但是很明显,缺点就是表示的内容太少。之后,又出现了ASCII码,EBCDIC码等。但是这些码都只能表示很少的字符,例如ASCII(现今最通用的单字节编码系统)最多能表示128种不同的字符。当这些编码方式遇到中文,那肯定就傻眼了,中文那么多,127怎么够。为此,中国的国标字符编码需要占用 2 个字节(最多能表示2^16=65536个字符),中国标准局依次发布了GB2312、GBK、GB18030等。

虽然每个国家或地区的字符编码自行搞定了,就以中国为例,你拿用GBK写的程序,放到香港那里,则会出现乱码,因为香港台湾那里使用的编码方式是BIG-5(俗称大五码)。国内如此,那么各个国家国家间呢?很多国家的编码区间都是重叠的,同一个汉字(比如有一些汉字同时存在于简体、繁体、日语汉字中)有不同的编码,很混乱是不是?但也凑合用了。编码不同导致了很多麻烦,比如一个网页,如果你不知道它是什么编码的,r那么你可能很难确定它显示的是什么,一个字符可能是大陆简体/台湾繁体/日本汉字,但又完全是不同的几个字。
上说所说的情况很混乱是不是?

哪有解决办法吗?答案是有。

为此Unicode编码应运而生,它整合全世界的几乎所有语言文字。1990年开始研发,1994年正式公布。Unicode在统一字符集方面的成功让它在计算机软件的国际化和本地化中有了广泛的应用。它具有一下几个特点:
1.它为每种语言中的每个字符设定了统一并且唯一的二进制编码,以满足跨语言、跨平台进行文本转换、处理的要求。
2.Unicode可以通过不同的字符编码实现。
Unicode标准定义了UTF-8,UTF-16和UTF-32等。其中使用的最普遍的有UTF-8,UTF-16和UCS-2。特别指出,超过90%的网页都使用UTF-8编码。

结束语

好了,说了这么多,不知道读者有没有对字符编码有了一个简单的认识,从这之后,我将简单介绍一下各种不同的编码方式,欢迎你们提出你们的问题和建议。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,723评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,003评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,512评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,825评论 1 290
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,874评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,841评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,812评论 3 416
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,582评论 0 271
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,033评论 1 308
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,309评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,450评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,158评论 5 341
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,789评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,409评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,609评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,440评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,357评论 2 352

推荐阅读更多精彩内容