Python3 urllib模块使用
来源:互联网 发布:淘宝同款 编辑:程序博客网 时间:2024/06/06 03:21
1.基本方法
urllib.request.
urlopen
(url, data=None, [timeout, ]*, cafile=None, capath=None, cadefault=False, context=None)
- url: 需要打开的网址
- data:Post提交的数据
- timeout:设置网站的访问超时时间
直接用urllib.request模块的urlopen()获取页面,page的数据格式为bytes类型,需要decode()解码,转换成str类型。
from urllib import requestresponse = request.urlopen(r'http://blog.csdn.net/') # <http.client.HTTPResponse object at 0x00000000048BC908> HTTPResponse类型page = response.read()page = page.decode('utf-8')
urlopen返回对象提供方法:
- read() , readline() ,readlines() , fileno() , close() :对HTTPResponse类型数据进行操作
- info():返回HTTPMessage对象,表示远程服务器返回的头信息
- getcode():返回Http状态码。如果是http请求,200请求成功完成;404网址未找到
- geturl():返回请求的url
2.使用Request
urllib.request.
Request
(url, data=None, headers={}, method=None)
使用request()来包装请求,再通过urlopen()获取页面。
from urllib import requesturl = r'http://www.lagou.com/zhaopin/Python/?labelWords=label'headers = { 'User-Agent': r'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) ' r'Chrome/45.0.2454.85 Safari/537.36 115Browser/6.0.3', 'Referer': r'http://www.lagou.com/zhaopin/Python/?labelWords=label', 'Connection': 'keep-alive'}req = request.Request(url, headers=headers)page = request.urlopen(req).read()page = page.decode('utf-8')
用来包装头部的数据:
- User-Agent :这个头部可以携带如下几条信息:浏览器名和版本号、操作系统名和版本号、默认语言
- Referer:可以用来防止盗链,有一些网站图片显示来源http://***.com,就是检查Referer来鉴定的
- Connection:表示连接状态,记录Session的状态。
3.使用GET请求:
import urllib.requestimport urllib.parsedata = {}data['word'] = 'python3'url_values = urllib.parse.urlencode(data)print(url_values)url = "http://www.baidu.com/s?"full_url = url + url_valuesdata = urllib.request.urlopen(full_url).read()z_data = data.decode('UTF-8')print(z_data)
4.Post数据
urllib.request.
urlopen
(url, data=None, [timeout, ]*, cafile=None, capath=None, cadefault=False, context=None)
urlopen()的data参数默认为None,当data参数不为空的时候,urlopen()提交方式为Post。
from urllib import request, parseurl = r'http://www.lagou.com/jobs/positionAjax.json?'headers = { 'User-Agent': r'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) ' r'Chrome/45.0.2454.85 Safari/537.36 115Browser/6.0.3', 'Referer': r'http://www.lagou.com/zhaopin/Python/?labelWords=label', 'Connection': 'keep-alive'}data = { 'first': 'true', 'pn': 1, 'kd': 'Python'}data = parse.urlencode(data).encode('utf-8')req = request.Request(url, headers=headers, data=data)page = request.urlopen(req).read()page = page.decode('utf-8')print(page)
urllib.parse.urlencode
(query, doseq=False, safe='', encoding=None, errors=None)
urlencode()主要作用就是将url附上要提交的数据。
data = { 'first': 'true', 'pn': 1, 'kd': 'Python'}data = parse.urlencode(data).encode('utf-8'
经过urlencode()转换后的data数据为?first=true?pn=1?kd=Python,最后提交的url为
http://www.lagou.com/jobs/positionAjax.json?first=true?pn=1?kd=Python
Post的数据必须是bytes或者iterable of bytes,不能是str,因此需要进行encode()编码
page = request.urlopen(req, data=data).read()
当然,也可以把data的数据封装在urlopen()参数中
5.异常处理
def get_page(url): headers = { 'User-Agent': r'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) ' r'Chrome/45.0.2454.85 Safari/537.36 115Browser/6.0.3', 'Referer': r'http://www.lagou.com/zhaopin/Python/?labelWords=label', 'Connection': 'keep-alive' } data = { 'first': 'true', 'pn': 1, 'kd': 'Python' } data = parse.urlencode(data).encode('utf-8') req = request.Request(url, headers=headers) try: page = request.urlopen(req, data=data).read() page = page.decode('utf-8') except error.HTTPError as e: print(e.code()) print(e.read().decode('utf-8')) return pag
6、使用代理
urllib.request.
ProxyHandler
(proxies=None)
当需要抓取的网站设置了访问限制,这时就需要用到代理来抓取数据。
data = { 'first': 'true', 'pn': 1, 'kd': 'Python'}proxy = request.ProxyHandler({'http': '5.22.195.215:80'}) # 设置proxyopener = request.build_opener(proxy) # 挂载openerrequest.install_opener(opener) # 安装openerdata = parse.urlencode(data).encode('utf-8')page = opener.open(url, data).read()page = page.decode('utf-8')return pag
urllib.parse分为URL parsing and URL quoting,即网址解析和网址引用。
from urllib import parseurl = r'https://docs.python.org/3.5/search.html?q=parse&check_keywords=yes&area=default'parseResult = parse.urlparse(url)print(parseResult)# ParseResult(scheme='https', netloc='docs.python.org', path='/3.5/search.html', params='',# query='q=parse&check_keywords=yes&area=default', fragment='')param_dict = parse.parse_qs(parseResult.query)param_dict{'q': ['parse'], 'check_keywords': ['yes'], 'area': ['default']}q = param_dict['q'][0]print(q)'parse'# 注意:加号会被解码,可能有时并不是我们想要的parse.parse_qs('proxy=183.222.102.178:8080&task=XXXXX|5-3+2'){'proxy': ['183.222.102.178:8080'], 'task': ['XXXXX|5-3 2']}
2、urlencode
from urllib import parsequery = { 'name': 'walker', 'age': 99, }print(parse.urlencode(query))# 'name=walker&age=99'3、quote/quote_plus
from urllib import parseprint(parse.quote('a&b/c')) #未编码斜线# 'a%26b/c'print(parse.quote_plus('a&b/c')) #编码了斜线# 'a%26b%2Fc'4、unquote/unquote_plus
from urllib import parseprint(parse.unquote('1+2')) #不解码加号# '1+2'print(parse.unquote('1+2')) #把加号解码为空格# '1 2'
- Python3 urllib模块使用
- python3使用urllib模块制作网络爬虫
- Python3学习笔记 urllib模块的使用
- Python3学习笔记(urllib模块的使用)
- urllib模块爬虫在Python2在Python3中的使用
- python3.x中的urllib模块
- python3.x中的urllib模块
- urllib模块的使用
- urllib模块的使用
- urllib模块使用笔记
- python3 下载文件urllib使用
- python3 urllib使用debug输出
- Python3 中urllib的使用
- Python3: urllib.request 的使用
- Python3中urllib使用介绍
- python3 基于urllib模块的网络编程
- Python3 urllib和第三方模块requests
- Python3 urllib(网络数据获取 模块)
- JSP页面传参出现中文乱码的解决方案
- 使用正则表达式从一段字符串中匹配出img标签的src值
- 洛谷 P1125 笨小猴
- 数组
- 数组知识点
- Python3 urllib模块使用
- leetcode之3Sum Closest 问题
- 洛谷 P1149 火柴棒等式
- 2017年年中反思
- 洛谷 P1351 联合权值
- MongoDB 安装和可视化工具
- Java中的设计模式
- 7.5 Hibernate:内置生成器 – identity
- Java用HttpsURLConnection访问https网站的时候如何跳过SSL证书的验证?