在 unix 下使用 ucs-2 (或 ucs-4) 会导致非常严重的问题. 用这些编码的字符串会包含一些特殊的字符, 比如 \0 或 /, 它们在 文件名和其他 c 库函数参数里都有特别的含义. 另外, 大多数使用 ascii 文件的 unix 下的工具, 如果不进行重大修改是无法读取 16 位的字符的. 基于这些原因, 在文件名, 文本文件, 环境变量等地方, ucs-2 不适合作为 unicode 的外部编码.
在 iso 10646-1 annex r 和 rfc 2279 里定义的 utf-8 编码没有这些问题. 它是在 unix 风格的操作系统下使用 unicode 的明显的方法.
utf-8 有以下特性:
ucs 字符 u+0000 到 u+007f (ascii) 被编码为字节 0x00 到 0x7f (ascii 兼容). 这意味着只包含 7 位 ascii 字符的文件在 ascii 和 utf-8 两种编码方式下是一样的.
所有 >u+007f 的 ucs 字符被编码为一个多个字节的串, 每个字节都有标记位集. 因此, ascii 字节 (0x00-0x7f) 不可能作为任何其他字符的一部分.
表示非 ascii 字符的多字节串的第一个字节总是在 0xc0 到 0xfd 的范围里, 并指出这个字符包含多少个字节. 多字节串的其余字节都在 0x80 到 0xbf 范围里. 这使得重新同步非常容易, 并使编码无国界, 且很少受丢失字节的影响.
可以编入所有可能的 231个 ucs 代码
utf-8 编码字符理论上可以最多到 6 个字节长, 然而 16 位 bmp 字符最多只用到 3 字节长.
bigendian ucs-4 字节串的排列顺序是预定的.
字节 0xfe 和 0xff 在 utf-8 编码中从未用到.
下列字节串用来表示一个字符. 用到哪个串取决于该字符在 unicode 中的序号.
u-00000000 - u-0000007f: 0xxxxxxx
u-00000080 - u-000007ff: 110xxxxx 10xxxxxx
u-00000800 - u-0000ffff: 1110xxxx 10xxxxxx 10xxxxxx
u-00010000 - u-001fffff: 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
u-00200000 - u-03ffffff: 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
u-04000000 - u-7fffffff: 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
xxx 的位置由字符编码数的二进制表示的位填入. 越靠右的 x 具有越少的特殊意义. 只用最短的那个足够表达一个字符编码数的多字节串. 注意在多字节串中, 第一个字节的开头"1"的数目就是整个串中字节的数目.
例如: unicode 字符 u+00a9 = 1010 1001 (版权符号) 在 utf-8 里的编码为:
11000010 10101001 = 0xc2 0xa9
而字符 u+2260 = 0010 0010 0110 0000 (不等于) 编码为:
11100010 10001001 10100000 = 0xe2 0x89 0xa0
这种编码的官方名字拼写为 utf-8, 其中 utf 代表 ucs transformation format. 请勿在任何文档中用其他名字 (比如 utf8 或 utf_8) 来表示 utf-8, 当然除非你指的是一个变量名而不是这种编码本身.
注：
什么是 ucs ?
国际标准 iso 10646 定义了 通用字符集 (universal character set, ucs). ucs 是所有其他字符集标准的一个超集. 它保证与其他字符集是双向兼容的. 就是说, 如果你将任何文本字符串翻译到 ucs格式, 然后再翻译回原编码, 你不会丢失任何信息.
ucs 包含了用于表达所有已知语言的字符. 不仅包括拉丁语,希腊语, 斯拉夫语,希伯来语,阿拉伯语,亚美尼亚语和乔治亚语的描述, 还包括中文, 日文和韩文这样的象形文字, 以及 平假名, 片假名, 孟加拉语, 旁遮普语果鲁穆奇字符(gurmukhi), 泰米尔语, 印.埃纳德语(kannada), malayalam, 泰国语, 老挝语, 汉语拼音(bopomofo), hangul, devangari, gujarati, oriya, telugu 以及其他数也数不清的语. 对于还没有加入的语言, 由于正在研究怎样在计算机中最好地编码它们, 因而最终它们都将被加入. 这些语言包括 tibetian, 高棉语, runic(古代北欧文字), 埃塞俄比亚语, 其他象形文字, 以及各种各样的印-欧语系的语言, 还包括挑选出来的艺术语言比如 tengwar, cirth 和 克林贡语(klingon). ucs 还包括大量的图形的, 印刷用的, 数学用的和科学用的符号, 包括所有由 tex, postscript, ms-dos，ms-windows, macintosh, ocr 字体, 以及许多其他字处理和出版系统提供的字符.
文章整理：站长天空 网址：http://www.z6688.com/
以上信息与文章正文是不可分割的一部分,如果您要转载本文章,请保留以上信息，谢谢!
