python urllib介绍

来源：互联网发布：python在ubuntu怎么用编辑：程序博客网时间：2024/06/02 03:06

python urllib的使用介紹

2008-02-22 10:26

一。该模块的用途：

1。从制定的URL获取数据

2。对URL字符串进行格式化处理

二。__version__='1.17'的urllib模块中的主要函数和类介绍：

1。函数：

(1)def urlopen(url, data=None, proxies=None)

参数说明：

url 符合URL规范的字符串（包括http,ftp,gopher,local-file标准)

data 向指定的URL发送的数据字符串，GET和POST都可，但必须符合标准格式

格式为key=value&key1=value1....

proxies 代理服务器地址字典，如果未指定，在WINDOWS平台上则依据IE的设置

不支持需要验证的代理服务器

例如:proxies = {'http': 'http://www.someproxy.com:3128'}

该例子表示一个http代理服务器http://www.someproxy.com:3128

函数实现说明:

该函数使用类FancyURLopener从URLopener继承来的open方法执行具体的操作。

返回值:

返回一个类似文件对象的对象(file_like) object

该对象拥有的方法为

read()

readline()

readlines()

fileno()

close()

以上方法同file object的类似方法的使用方法基本一致

info()返回从服务器传回的MIME标签头

geturl()返回真实的URL,之所以称为真实，是因为对于某些重定向的URL,将返回被重定后的。

(2)def urlretrieve(url, filename=None, reporthook=None, data=None):

参数说明：

url 符合URL规范的字符串

filename 本地文件路径的字符串，从URL返回的数据将保存在该文件中,如果设置为None

则生成一个临时文件

reporthook 一个函数引用，自己可以任意定义该函数的行为，只需要保证函数有三个参数

urlretrieve为这个函数传递的三个参数的含义为:

第一个参数为目前为止传递的数据块数量

第二个参数为每个数据块的大小，单位为byte

第三个参数文件总的大小（某些时候可能为-1)

data 向指定的URL发送的数据字符串，GET和POST都可，但必须符合标准格式

格式为key=value&key1=value1....

函数实现说明:

该函数使用类FancyURLopener从URLopener继承来的retrieve方法执行具体的操作。

返回值：

返回一个元组 (filename, headers)

filename为参数中的 filename

headers 为从服务器传回的MIME标签头

(3)def urlcleanup():

参数说明：无参数

函数实现说明：该函数使用类FancyURLopener从URLopener继承来的cleanup方法执行具体的操作。

清除使用urlopen或urlretrieve后产生的缓存文件

返回值: 无返回值

(4)def quote(s, safe = '/'):

参数说明：

s 需要转化的字符串

safe 需要保留不转化的字符序列

函数实现说明:

根据rfc 2396规定，URL保留字符为

reserved = ";" | "/" | "?" | ":" | "@" | "&" | "=" | "+" |"$" | ","

但是这些字符并不是在所有类型的URL中都保留不转化，

所以要求使用该函数的时候在转化不同的URL时设置不同的保留字符

其中在任意部分都不转化的字符为:大小写字母，数字，'_','.','-'

对于汉字，也可以使用，但要加上相应的编码，比如quote(u'蟒蛇'.encode('gb2312'))

该函数会将所有非保留的字符转化成%xx这样的形式，其中xx为两位的十六进制数

返回值：

转化后的字符串

(5)def quote_plus(s, safe = ''):

参数说明：

s 需要转化的字符串

safe 需要保留不转化的字符序列

函数实现说明：

与quote函数基本一致，只是把参数s中的空格转化成'+',而不是%20

返回值：

转化后的字符串

(6)def unquote(s):

参数说明：

s 需要反向转化的字符串

函数实现说明：

与quote作用相反的解析函数

返回值：

转化后的字符串

(7)def unquote_plus(s):

s 需要反向转化的字符串

函数实现说明：

与quote_plus作用相反的解析函数

返回值：

转化后的字符串

(8)def urlencode(query,doseq=0):

参数说明：

query 可以是一个由二元元组做元素的元组，也可以是一个字典

doseq 如何对参数字符串化

函数实现说明：

将成对的数据按照URL中的要求组成一个参数字符串

例如:

query = (('name','cs'),('age','1'),('height','2'))

re = urllib.urlencode(query)

print re

query1 = {'name':'cs','age':'1','height':'2'}

print urllib.urlencode(query1)

这两个的效果基本一样,但字典类型会自动排序,

输出结果为:

name=cs&age=1&height=2

age=1&name=cs&height=2

doseq参数的意义，文档太简短，尝试了一下，发现在如何字符串化上不同

query1 = {'name':'cs','age':('a','b'),'height':'1'}

print urllib.urlencode(query1,1)

print urllib.urlencode(query1,0)

输出结果为:

age=a&age=b&name=cs&height=1

age=%28%27a%27%2C+%27b%27%29&name=cs&height=1

返回值:

经过拚接的参数字符串

(9)def url2pathname(pathname):

参数说明：

pathname URL字符串

函数实现说明:

该函数将根据操作系统确定如何转化URL中的'/'为'\' ，

然后其他的就和quote行为一样了(就是将字符串传递给quote来处理的)

返回值:

符合本地文件路径格式的字符串

(10)def pathname2url(pathname):

参数说明：

pathname 符合本地文件路径命名的格式的字符串

函数实现说明:

该函数将根据操作系统确定如何转化URL中的'/'为'\' ，

然后其他的就和unquote行为一样了(就是将字符串传递给unquote来处理的)

返回值:

符合URL标准的字符串

（注：9，10这两个函数一般不直接用，而是在提供的以统一的方法定位网络和本地资源的接口函数中使用）

(11)def splittag(url):

(12)def localhost():

(13)def thishost():

(14)def ftperrors():

(15)def unwrap(url):

(16)def splittype(url):

(17)def splithost(url):

(18)def splituser(host):

(19)def splitpasswd(user):

(20)def splitport(host):

(21)def splitnport(host, defport=-1):

(22)def splitquery(url):

(23)def splitattr(url):

(24)def splitvalue(attr):

(25)def splitgophertype(selector):

(26)def getproxies_environment():

(11)---(26)这些函数都是作为工具函数来使用的，主要用来对URL中的数据进行分割，如果需要添加新的协议，需要对这些函数做修改，其他的时候不会直接使用。

2。类:

（1）class URLopener:

类说明:

该类只是一个基础类，提供了基本的和服务器打交道的方法,缺乏具体的错误处理方法，

如果需要类对具体的错误具有相应的处理功能，可以从该类继承,

然后在子类里添加相应的错误处理方法.

该类的方法:

def __init__(self, proxies=None, **x509):

def close(self):

close只是调用了cleanup方法

def cleanup(self):

如果在子类中覆写了该方法，需要注意，不能在该方法中

使用任何全局对象，或者从其他模块引入的对象

因为该方法不能保证在其他的对象销毁后不被调用

def addheader(self, *args):

添加MIME标签头的内容

def open(self, fullurl, data=None):

与urlopen函数的功能基本一样

def open_unknown(self, fullurl, data=None):

def open_unknown_proxy(self, proxy, fullurl, data=None):

在open方法里，如果传入的url（可能是代理服务器）不能被自动识别出来，

则把相应的url传入open_unknown或open_unknown_proxy

然后引发一个异常

def retrieve(self, url, filename=None, reporthook=None, data=None):

与urlretrieve函数的基本功能一样

def http_error(self, url, fp, errcode, errmsg, headers, data=None):

def http_error_default(self, url, fp, errcode, errmsg, headers):

错误处理方法将去寻找形如http_error_‘errorcode’的错误处理方法

添加错误处理方法:应该在该该类的子类中添加这种形式的错误处理方法

可以参考类FancyURLopener中的错误处理方法

def open_http(self, url, data=None):

def open_gopher(self, url):

def open_file(self, url):

def open_local_file(self, url):

def open_ftp(self, url):

def open_data(self, url, data=None):

在open方法里，根据不同的url将使用上边这些方法打开

如果要加入新的协议，需要在子类中添加一个open_XXX的方法

然后修改splittype，splithost等工具函数，添加相关的信息

(2)class FancyURLopener(URLopener):

类说明:

为HTTP协议增加了错误处理方法，如果需要增加自己的错误处理方法

只需要添加形如http_error_%d的方法，%d应该为错误号

编写自己的URL处理类可以参考该类

该类的方法:

这些错误处理方法，会被URLopener类的错误处理函数自动搜索到

def __init__(self, *args, **kwargs):

def http_error_default(self, url, fp, errcode, errmsg, headers):

def http_error_302(self, url, fp, errcode, errmsg, headers, data=None):

def redirect_internal(self, url, fp, errcode, errmsg, headers, data):

http协议返回的是302错误，然后确定不是500错误后，使用方法redirect_internal

def http_error_301(self, url, fp, errcode, errmsg, headers, data=None):

def http_error_303(self, url, fp, errcode, errmsg, headers, data=None):

def http_error_307(self, url, fp, errcode, errmsg, headers, data=None):

def http_error_401(self, url, fp, errcode, errmsg, headers, data=None):

def http_error_407(self, url, fp, errcode, errmsg, headers, data=None):

def retry_proxy_http_basic_auth(self, url, realm, data=None):

def retry_proxy_https_basic_auth(self, url, realm, data=None):

def retry_http_basic_auth(self, url, realm, data=None):

def retry_https_basic_auth(self, url, realm, data=None):

def get_user_passwd(self, host, realm, clear_cache = 0):

def prompt_user_passwd(self, host, realm):

当访问需要被授权时,该类将使用该方法,让用户输入认证信息

从该类继承的子类,可以覆写该方法,以实现更多的控制功能

以下为该方法的源代码

def prompt_user_passwd(self, host, realm):

"""Override this in a GUI environment!"""

import getpass

try:

user = raw_input("Enter username for %s at %s: " % (realm,host))

passwd = getpass.getpass("Enter password for %s in %s at %s: " %(user, realm, host))

return user, passwd

except KeyboardInterrupt:

return None, None