UTF-8、UTF-16 和 Unicode 有什么联系
UTF-8、UTF-16 和 Unicode 有什么联系
起源
在计算机发明之初,由于计算机只能存储二进制的数据,美国人民为了交流通信方便,约定了一个编码规范,也就是 ASCII(American Standard Code for Information Interchange:美国信息交换标准代码);
ASCII 是基于拉丁字母的一套电脑编码系统,是单字节
编码,主要用于显示现代英语和其他西欧语言。它使用
7
位二进制数(剩下的1位二进制为0)来表示所有的大写和小写字母,数字0 到9、标点符号,以及在美式英语中使用的特殊控制字符。随着计算机传到了欧洲,发现很多符号(法语,德语等)没办法用 ASCII 表示,于是欧洲人自己也撸了一套编码,也就是 ISO/IEC 8859-1。
ISO/IEC 8859-1 也是单字节
编码,并且向下兼容 ASCII,其编码范围是0x00-0xFF
,0x00-0x7F
之间完全和ASCII一致,0x80-0x9F
之间是控制字符,0xA0-0xFF
之间是文字符号。和ASCII的区别体现在:ASCII是一个7位的容器,ISO-8859-1是一个8位的容器。
再后来,计算机就传入了中国,中国汉字少说就有几万,常用的就有几千个了。如果要表示中文,显然一个字节是不够的,至少需要两个字节,而且还不能和ASCII编码冲突,所以,中国制定了GB2312编码,用来把中文编进去。于是乎,我们就撸出了一套GBK,并向下兼容ASCII。
GBK 全称《汉字内码扩展规范》(GBK即“国标”、“扩展”汉语拼音的第一个字母,英文名称:Chinese Internal Code Specification),采用双字节
编码,其编码范围从8140至FEFE(剔除xx7F),共23940个码位,共收录了21003个汉字,完全兼容GB2312-80标准,支持国际标准ISO/IEC10646-1和国家标准GB13000-1中的全部中日韩汉字,并包含了BIG5编码中的所有汉字。这时国际组织看不下去了,要是这样下去每个地区都出一套自己的编码,那还得了。于是乎撸了一套把大家的编码都归纳进去的编码,也就是 unicode编码。
Unicode(统一码、万国码、单一码)是计算机科学领域里的一项业界标准,包括字符集、编码方案等。Unicode 是为了解决传统的字符编码方案的局限而产生的,它为每种语言中的每个字符设定了统一并且唯一的二进制编码,以满足跨语言、跨平台进行文本转换、处理的要求。Unicode 只是一种字符码表, 而在计算机中进行存储时,必须指定一种具体的存储方式。常见的如utf8, utf16, utf32等。
UTF—8
UTF—8(8-bit Unicode Transformation Format),以8
位无符号整数为单位对Unicode进行编码。
UTF-8 的特点是对不同范围的字符使用不同长度的编码,是一种变长编码,对于一个Unicode的字符被编码成1至4个字节。对于0x00-0x7F
之间的字符,UTF-8 编码与 ASCII 编码完全相同。
UTF-8编码的最大长度是4
个字节,即可以容纳21
位二进制数字。而 Unicode 的最大码位0x10FFFF
也只有21
位。
Unicode | UTF-8 |
---|---|
U+0000 – U+007F | 0xxxxxxx |
U+0080 – U+07FF | 110xxxxx 10xxxxxx |
U+0800 – U+FFFF | 1110xxxx 10xxxxxx 10xxxxxx |
U+10000 – U+10FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx |
0 ~0x7F
)两个字节长度的uft8 表示的unicode码范围为(0x80 ~ 0x07FF
)
三个字节长度的uft8 表示的unicode码范围为(0x0800 ~ 0xFFFF
)
四个字节长度的uft8 表示的unicode码范围为(0x10000 ~ 0x10FFFF
)
UTF—16
UTF—16(16-bit Unicode Transformation Format),以16
位无符号整数为单位对Unicode进行编码。
UTF-16 也是一种变长编码,对于一个Unicode的字符被编码成1~2个code unit
,每个code unit
使用16位 (2个字节)。