UnicodeEncodeError: 'gbk' codec can't encode character

来源:互联网 发布:维多利亚秘密 知乎 编辑:程序博客网 时间:2024/05/29 16:14

今天用python读取文件时遇到了以上的问题,在网上找到了解决方案:

原博客地址:https://www.cnblogs.com/themost/p/6603409.html

Python最常用的编码转换函数是encode()和decode(),他们的本质是:unicode和str的互相转换
具体而言:
encode(encoding): 将unicode转换为str,并使用encoding编码;
decode(encoding):将str转换为unicode,其中str以encoding编码。

eg:

u=s.decode("utf-8")# 将utf-8的str转换为unicode
g=u.encode('GBK')# 将unicode转换为str,编码为GBK
printtype(s),"len=",len(s)# 输出:<type 'str'> len= 6,utf-8每个汉字占3字节
printtype(u),"len=",len(u)# 输出:<type 'str'> len= 6,unicode统计的是字数printtype(g),"len=",len(g)# 输出:g = u.encode('GBK'),GBK每个汉字占2字节prints# 在GBK/ANSI环境下(如Windows),输出乱码,#因为此时屏幕输出会被强制理解为GBK;Linux下显示正常printg# 在Windows下输出“你好”#Linux(UTF-8环境)下报错,原因同上。

以下转载全文:

使用Python写文件的时候,或者将网络数据流写入到本地文件的时候,大部分情况下会遇到:UnicodeEncodeError: 'gbk' codec can't encode character '\xa0' in position ... 这个问题。 网络上有很多类似的文件讲述如何解决这个问题,但是无非就是encode,decode相关的,这是导致该问题出现的真正原因吗?不是的。 很多时候,我们使用了decode和encode,试遍了各种编码,utf8,utf-8,gbk,gb2312等等,该有的编码都试遍了,可是编译的时候仍然出现: UnicodeEncodeError: 'gbk' codec can't encode character '\xa0' in position XXX。 崩溃了。

    在windows下面编写python脚本,编码问题很严重。

    将网络数据流写入文件时时,我们会遇到几个编码:

    1: #encoding='XXX' 这里(也就是python文件第一行的内容)的编码是指该python脚本文件本身的编码,无关紧要。只要XXX和文件本身的编码相同就行了。 比如notepad++ "格式"菜单里面里可以设置各种编码,这时需要保证该菜单里设置的编码和encoding XXX相同就行了,不同的话会报错

    2:网络数据流的编码 比如获取网页,那么网络数据流的编码就是网页的编码。需要使用decode解码成unicode编码。

    3:目标文件的编码 要将网络数据流的编码写入到新文件,那么我么需要指定新文件的编码。写文件代码如:

 

代码如下:

f.write(txt)  


,那么txt是一个字符串,它是通过decode解码过的字符串。关键点就要来了:目标文件的编码是导致标题所指问题的罪魁祸首。如果我们打开一个文件:

代码如下:


f = open("out.html","w")  


,在windows下面,新文件的默认编码是gbk,这样的话,python解释器会用gbk编码去解析我们的网络数据流txt,然而txt此时已经是decode过的unicode编码,这样的话就会导致解析不了,出现上述问题。 解决的办法就是,改变目标文件的编码:

复制代码代码如下:

f = open("out.html","w",encoding='utf-8')  


。这样,问题将不复存在。


阅读全文
0 0