[Python]网络爬虫(五):抓站经验技巧
来源:互联网 发布:tensorflow官网下载 编辑:程序博客网 时间:2024/06/07 14:35
注意:以下代码用python3.4编写
1.Timeout 设置
Timeout设置是为了防止url不可访问,或者响应速度太慢而造成的时间浪费。
比如,你要爬取1000个网站,如果有100个需要30s才能返回数据,你等待他们返回的话就需要3000s了,如果你设置10s超时,那么就能知道最长需要多久1000个可以爬完。
import urllib.requesturllib.request.urlopen("http://www.baidu.com",timeout=10)
2.在 HTTP Request 中加入特定的 Header
要加入 header,需要使用 Request 对象:
import urllibimport urllib.requestrequest = urllib.request.Request('http://www.baidu.com/') request.add_header('User-Agent', 'fake-client') response = urllib.request.urlopen(request) print (response.read())对有些 header 要特别留意,服务器会针对这些 header 做检查
User-Agent : 有些服务器或 Proxy 会通过该值来判断是否是浏览器发出的请求
Content-Type : 在使用 REST 接口时,服务器会检查该值,用来确定 HTTP Body 中的内容该怎样解析。常见的取值有:
application/xml : 在 XML RPC,如 RESTful/SOAP 调用时使用
application/json : 在 JSON RPC 调用时使用
application/x-www-form-urlencoded : 浏览器提交 Web 表单时使用
在使用服务器提供的 RESTful 或 SOAP 服务时, Content-Type 设置错误会导致服务器拒绝服务
3.Redirect
默认情况下会针对 HTTP 3XX 返回码自动进行 redirect 动作,无需人工配置。要检测是否发生了 redirect 动作,只要检查一下 Response 的 URL 和 Request 的 URL 是否一致就可以了。
import urllibimport urllib.requesturl='http://www.baidu.com/' response = urllib.request.urlopen(url)redirected=response.geturl()==url;print (redirected) url="http://dwz.cn/1UQjc"response = urllib.request.urlopen(url)redirected=response.geturl()==url;print (redirected)
4.Cookie
如果需要得到某个 Cookie 项的值,可以这么做:
import urllib.request as request import http.cookiejar cookie = http.cookiejar.LWPCookieJar() opener = request.build_opener(request.HTTPCookieProcessor(cookie)) url = 'http://www.baidu.com' response = opener.open(url) for item in cookie: print('name=',item.name) print('value=',item.value)
运行之后就会输出访问百度的Cookie值:
name= BAIDUIDvalue= 9EDA79CDEE2BC9BA71A6989F042994C5:FG=1name= BIDUPSIDvalue= 9EDA79CDEE2BC9BA71A6989F042994C5name= H_PS_PSSIDvalue= 11194_13328_1422_13074_10902_10212_12868_13322_12691_13410_8502_12723_12736_13086_13430_13325_13203_12836_13161_13257_8498_10634name= BDSVRTMvalue= 0name= BD_HOMEvalue= 0
5.得到 HTTP 的返回码
对于 200 OK 来说,只要使用 urlopen 返回的 response 对象的 getcode() 方法就可以得到 HTTP 的返回码。但对其它返回码来说,urlopen 会抛出异常。这时候,就要检查异常对象的 code 属性了:
import urllib.request as requesttry: response = request.urlopen('http://blog.csdn.net/a359680405') except request.HTTPError as e: print(e.code)
6. 处理异常 URLError, HTTPError
import urllib.request as request import urllib.error as error url = 'http://www.baidu.com' flag = 1 try: req=request.urlopen(url) except (error.URLError,error.HTTPError) as e: print('URLError') flag = 0 if flag == 1: print("Successful connection","status:"+str(req.status), req.reason) else: print("Connection Failed")
7.表单的处理
登录必要填表,表单怎么填?
首先利用工具截取所要填表的内容。比如我一般用firefox+httpfox插件来看看自己到底发送了些什么包。以verycd为例,先找到自己发的POST请求,以及POST表单项。可以看到verycd的话需要填username,password,continueURI,fk,login_submit这几项,其中fk是随机生成的(其实不太随机,看上去像是把epoch时间经过简单的编码生成的),需要从网页获取,也就是说得先访问一次网页,用正则表达式等工具截取返回数据中的fk项。continueURI顾名思义可以随便写,login_submit是固定的,这从源码可以看出。还有username,password那就很显然了:
import urllib.parse as parse import urllib.request as requestpostdata=parse.urlencode({ 'username':'汪小光', 'password':'why888', 'continueURI':'http://www.verycd.com/', 'fk':'', 'login_submit':'登录' }).encode("utf-8")req = request.Request( url = 'http://secure.verycd.com/signin', data = postdata ) res = request.urlopen(req) print (res.read().decode("utf-8"))
8.伪装成浏览器访问
某些网站反感爬虫的到访,于是对爬虫一律拒绝请求,这时候我们需要伪装成浏览器,这可以通过修改http包中的header来实现.
- #…
- headers = {
- 'User-Agent':'Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US; rv:1.9.1.6) Gecko/20091201 Firefox/3.5.6'
- }
- req = urllib.request.Request(
- url = 'http://secure.verycd.com/signin/*/http://www.verycd.com/',
- data = postdata,
- headers = headers
- )
- #...
9.对付"反盗链"
某些站点有所谓的反盗链设置,其实说穿了很简单,就是检查你发送请求的header里面,referer站点是不是他自己,所以我们只需要像把headers的referer改成该网站即可,以cnbeta为例:
#...headers = { 'Referer':'http://www.cnbeta.com/articles'}#...
headers是一个dict数据结构,你可以放入任何想要的header,来做一些伪装。
例如,有些网站喜欢读取header中的X-Forwarded-For来看看人家的真实IP,可以直接把X-Forwarde-For改了。
- [Python]网络爬虫(五):抓站经验技巧
- [Python]网络爬虫(五):urllib2的使用细节与抓站技巧
- [Python]网络爬虫(五):urllib2的使用细节与抓站技巧
- [Python]网络爬虫(五):urllib2的使用细节与抓站技巧
- [Python]网络爬虫(五):urllib2的使用细节与抓站技巧
- [Python]网络爬虫(五):urllib2的使用细节与抓站技巧
- [Python]网络爬虫(五):urllib2的使用细节与抓站技巧
- [Python]网络爬虫(五):urllib2的使用细节与抓站技巧
- [Python]网络爬虫(五):urllib2的使用细节与抓站技巧
- [Python]网络爬虫(五):urllib2的使用细节与抓站技巧
- [Python]网络爬虫(五):urllib2的使用细节与抓站技巧
- [Python]网络爬虫(五):urllib2的使用细节与抓站技巧
- [Python]网络爬虫(五):urllib2的使用细节与抓站技巧
- 网络爬虫(五):urllib2的使用细节与抓站技巧
- 网络爬虫(五):urllib2的使用细节与抓站技巧
- python爬虫抓站的高级技巧
- python爬虫抓站的一些技巧
- python写爬虫技巧(四):urllib2技巧与抓站技巧
- 【Java基础之线程同步(二)】java线程同步:synchronized关键字,Lock接口以及可重入锁ReentrantLock
- Shaving off 50% waiting time from the iOS Edit-Build-Test cycle
- 黑马程序员——java基础——多线程
- [原]关于Java中字符编码的一点总结
- 一次oracle 中用户被锁的排查过程
- [Python]网络爬虫(五):抓站经验技巧
- Spiral Matrix I && Spiral Matrix II
- OC—数组
- 学习笔记:C程序基础(3)
- vim配置
- 智慧城市,大数据是聪明的大脑
- IOS 多视图应用的体系结构(分镜、多视图调用)
- 常用的vim配置方法
- Widget的使用(基本使用)