举一个例子:It's 知乎日报
你看到的unicode字符集是这样的编码表:
I 0049t 0074' 0027s 00730020知77e5乎4e4e日65e5报62a5每一个字符对应一个十六进制数字。
计算机只懂二进制,因此,严格按照unicode的方式(UCS-2),应该这样存储:
I 00000000 01001001t 00000000 01110100' 00000000 00100111s 00000000 0111001100000000 00100000知01110111 11100101乎01001110 01001110日01100101 11100101报01100010 10100101这个字符串总共占用了18个字节,但是对比中英文的二进制码,可以发现,英文前9位都是0!浪费啊,浪费硬盘,浪费流量。
怎么办?
UTF。
UTF-8是这样做的:
1. 单字节的字符,字节的第一位设为0,对于英语文本,UTF-8码只占用一个字节,和ASCII码完全相同;
2. n个字节的字符(n>1),第一个字节的前n位设为1,第n+1位设为0,后面字节的前两位都设为10,这n个字节的其余空位填充该字符unicode码,高位用0补足。
这样就形成了如下的UTF-8标记位:
0xxxxxxx
110xxxxx 10xxxxxx
1110xxxx 10xxxxxx 10xxxxxx
11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
... ...
于是,”It's 知乎日报“就变成了:
I 01001001t 01110100' 00100111s 0111001100100000知11100111 10011111 10100101乎11100100 10111001 10001110日11100110 10010111 10100101报11100110 10001010 10100101和上边的方案对比一下,英文短了,每个中