解读 Unicode

平面 - plane

共 17 个平面,每个平面占 65536 个字符
基本多文种平面 - Basic Multilingual Plane(0x0~0xFFFF)
其余16种补充/辅助平面(0x10000 ~ 0x10FFFF)

编码空间

0x0~ 0x10FFFF

存储定义

UCS - Universal Character Set

ISO/IEC 10646 定义

  • UCS-2
    编码空间为 0x0 ~ 0xFFFF
    无辅助平面
    兼容 Unicode,保留 0xD800 ~ 0xDFFF
  • UCS-4
    旧定义
    编码空间为 0x0 ~ 0x7FFFFFFF
    新定义
    编码空间限制为 Unicode (0x0~ 0x10FFFF)
    ISO 承诺不会为超过 0x10FFFF 进行编码

UTF - Unicode Transformation Format

UTF-8

变长编码(1~4字节)
编码空间为 0x0 ~ 0x10FFFF

  • 对于单字节的符号
    字节第一位设为 0
    后面7位填充编码值
    对于 0x0~0x7F, UTF-8 和 ASCII 码是一致的

  • 对于 n 字节的符号(n>1)
    第一个字节的前 n 位 都是1
    第 n + 1 位设置为 0
    后面字节的前两位为 10
    其余空位填充为编码值

  • 旧的定义
    定义1~6字节
    RFC 2044
    RFC 2279

  • 新的定义 RFC 3629
    定义为1~4字节

    编码范围 字符数 Unicode UTF-8
    0x000000 ~ 0x00007F 128 00000000 00000000 0zzzzzzz 0zzzzzzz(00-7F)
    0x000080 ~ 0x0007FF 1920 00000000 00000yyy yyzzzzzz 110yyyyy(C0-DF)10zzzzzz(80-BF)
    0x000800 ~ 0x00D7FF
    0x00E000 ~ 0x00FFFF
    61440 00000000 xxxxyyyy yyzzzzzz 1110xxxx(E0-EF)10yyyyyy(80-BF)10zzzzzz(80-BF)
    0x010000 ~ 0x10FFFF 1048576 000wwwxx xxxxyyyy yyzzzzzz 11110www(F0-F7)10xxxxxx(80-BF)10yyyyyy(80-BF)10zzzzzz(80-BF)

UTF-16

变长编码(2或4字节)
编码空间为 0x0 ~ 0x10FFFF

  • 与 UCS-2 区别
    UTF-16 是 UCS-2 父集
    当表示 BMP 时, 与 USC-2 编码一致都是16-bit
    当表示辅助平面时,UTF-16为 32-bit,而UCS-2不能表示
  • 辅助平面表示
    码位值 - 0x10000 得到 20-bit 的值(0x0 ~ 0xFFFFF)
    该值前10位 + 0xD800(0xD800 ~ 0xDBFF)
    该值后10位 + 0xDC00(0xDC00 ~ 0xDFFF )
    连接以上两个值得到最终编码值

UTF-32

固定 32-bit 编码,与 Unicode 编码数值一致
编码空间为 0x0 ~ 0x10FFFF

  • 与 UCS-4 区别
    旧定义: UTF-32是 UCS-4 的一个子集
    新定义: 可以认为与 UCS-4 是相同
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 221,820评论 6 515
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 94,648评论 3 399
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 168,324评论 0 360
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,714评论 1 297
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,724评论 6 397
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 52,328评论 1 310
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,897评论 3 421
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,804评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 46,345评论 1 318
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,431评论 3 340
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,561评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 36,238评论 5 350
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,928评论 3 334
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,417评论 0 24
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,528评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,983评论 3 376
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,573评论 2 359

推荐阅读更多精彩内容

  • 人生是一场修行 给我们磨砺 让我们变得坚强 给我们离别 让我们感知聚的喜悦 给我们苦 让我们知道什么是甜 经历失去...
    燕zi阅读 263评论 1 9
  • 【作者】傅佳 【导师】王玉印老师 【分舵】画茧成蝶舵 【导图解说】 四大文明古国介绍。
    全脑高级培训师傅佳阅读 235评论 0 2
  • 不屑一抹芳华, 退却花火虽美过, 繁盛却惨得衰败。 聊聊蚁躯, 芸芸众生, 画一痕即天涯, 记一恨便一生。
    洛钧寒阅读 168评论 0 2
  • 刑 在沙漠找到赴刑方式 和频繁阉割一样 交易在每个角落盛行 换座精致城堡 换个美丽娃娃 观察我还有什...
    手卷梦阅读 436评论 0 3
  • 也许我应该反思一下。 昨天日更文写了《忙,我想偷个懒》,1800多字,一气呵成。最初是想告诉自己如何减压,巧偷懒,...
    马渡娃阅读 187评论 0 0