清除文件中的BOM特殊不可见字符

来源:互联网 发布:程序员面试流程 编辑:程序博客网 时间:2024/05/20 17:59
在一些特殊的编码下生成的文件会含有特殊字符而且文件打开不可见,但在对程序造成很大困扰,解决方法:
function removeBom($string){    if(substr($string, 0, 3) == pack("CCC", 0xef, 0xbb, 0xbf)) {         return substr($string, 3);    }    return $string;}


BOM
BOM(byte-order mark)文件编码头,即 字节顺序标记.
它是插入到以UTF-8、UTF16或UTF-32编码文件开头的特殊标记,
用来标记多字节编码文件的编码类型和字节顺序(big-endian或little- endian)。
一般用来识别文件的编码类型。

BOM编码头 常见形式如下:
EF BB BF = UTF-8                 (可选标记,因为Unicode标准未有建议)

FE FF    = UTF-16, big-endian    (大尾字节序标记)
FF FE    = UTF-16, little-endian (小尾字节序标记) (也是windows中的Unicode编码默认标记)

00 00 FE FF = UTF-32, big-endian   (大尾字节序标记)
FF FE 00 00 = UTF-32, little-endian (小尾字节序标记)

对于UTF-8来说,BOM标记的有无并不是必须的,是可选的,因为UTF8字节没有顺序,不需要标记.
也就是说一个UTF-8文件可能有BOM,也可能没有BOM.

微软在自己的UTF-8格式的文本文件之前加上了EF BB BF三个字节, 
windows上面的notepad等程序就是根据这三个字节来确定一个文本文件是ASCII的还是UTF-8的, 
然而这个只是微软暗自作的标记, 其它平台上不一定会对UTF-8文本文件做个这样的标记。
微软的一些软件会做这种检测,但有些软件不做这种检测, 而把它当作正常字符处理。(传说中的乱码问题)