参考:
http://c.biancheng.net/view/18.html
关键词
有
两个概念,一个是字符集,一个是编码规则unicode ,字符集
每一个字符集,都对应唯一的
一个字符IDUTF-8,
编码规则Unicode
至少占用2个字节-
rune类型字符的
使用场景?- 处理
中文,日文时必须使用
- 处理
字符串中的每一个元素叫做“字符”,在遍历或者单个获取字符串元素时可以获得字符。
1、Go语言的字符有以下两种:
- 一种是
uint8类型,或者叫byte型,代表了ASCII 码的一个字符。
- 另一种是
rune类型,代表一个UTF-8字符,当需要处理中文、日文或者其他复合字符时,则需要用到rune类型。- rune 类型等价于
int32 类型。
- rune 类型等价于
1.1、byte类型
byte类型是 uint8 的别名,对于只占用1 个字节的传统 ASCII 编码的字符来说,完全没有问题,
例如 var ch byte = 'A',字符使用单引号括起来。
在 ASCII 码表中,A 的值是 65,使用 16 进制表示则为 41,所以下面的写法是等效的:
var ch byte = 65 或 var ch byte = '\x41' //(\x 总是紧跟着长度为 2 的 16 进制数)
另外一种可能的写法是 \后面紧跟着长度为 3 的八进制数,例如 \377。
1.2、runes 类型
Go语言同样支持 Unicode(UTF-8),因此字符同样称为 Unicode 代码点或者 runes,并在内存中使用 int 来表示。
在文档中,一般使用格式 U+hhhh 来表示,其中 h 表示一个 16 进制数。
在书写 Unicode 字符时,需要在 16 进制数之前加上前缀\u或者\U。
因为 Unicode 至少占用 2 个字节,所以我们使用 int16 或者 int 类型来表示。如果需要使用到 4 字节,则使用\u前缀,如果需要使用到 8 个字节,则使用\U前缀。
var ch int = '\u0041'
var ch2 int = '\u03B2'
var ch3 int = '\U00101234'
fmt.Printf("%d - %d - %d\n", ch, ch2, ch3) // integer
fmt.Printf("%c - %c - %c\n", ch, ch2, ch3) // character
fmt.Printf("%X - %X - %X\n", ch, ch2, ch3) // UTF-8 bytes
fmt.Printf("%U - %U - %U", ch, ch2, ch3) // UTF-8 code point
输出:
65 - 946 - 1053236
A - β - r
41 - 3B2 - 101234
U+0041 - U+03B2 - U+101234
格式化说明符%c用于表示字符,当和字符配合使用时,%v或%d会输出用于表示该字符的整数,%U 输出格式为 U+hhhh 的字符串。
Unicode 包中内置了一些用于测试字符的函数,这些函数的返回值都是一个布尔值,如下所示(其中 ch 代表字符):
判断是否为字母:unicode.IsLetter(ch)
判断是否为数字:unicode.IsDigit(ch)
判断是否为空白符号:unicode.IsSpace(ch)
2、UTF-8 和 Unicode 有何区别?
2.1、Unicode 与 ASCII 类似,都是一种字符集。
字符集为每个字符分配一个唯一的 ID,我们使用到的所有字符在 Unicode 字符集中都有一个唯一的 ID,
例如上面例子中的 a 在 Unicode 与 ASCII 中的编码都是 97。
汉字“你”在 Unicode 中的编码为 20320,在不同国家的字符集中,字符所对应的 ID 也会不同。
而无论任何情况下,Unicode 中的字符的 ID 都是不会变化的。
2.2、UTF-8 是编码规则,
将 Unicode 中字符的 ID 以某种方式进行编码,UTF-8 的是一种变长编码规则,从 1 到 4 个字节不等。
编码规则如下:
0xxxxxx 表示文字符号 0~127,兼容 ASCII 字符集。
从 128 到 0x10ffff 表示其他字符。
根据这个规则,拉丁文语系的字符编码一般情况下每个字符占用一个字节,而中文每个字符占用 3 个字节。
2.3、广义的 Unicode指的是一个标准,
它定义了字符集及编码规则,即
Unicode 字符集
UTF-8、
UTF-16 编码等。