【Python】Python 3.x 中"HTTP Error 403: Forbidden"问题的解决方案
来源:互联网 发布:真实恐怖故事知乎 编辑:程序博客网 时间:2024/06/13 06:25
问题:
urllib.request.urlopen() 方法经常会被用来打开一个网页的源代码,然后会去分析这个页面源代码,但是对于有的网站使用这种方法时会抛出"HTTP Error 403: Forbidden"异常
例如 执行下面的语句时
[python]
<span style="font-size:14px;"> urllib.request.urlopen("http://blog.csdn.net/eric_sunah/article/details/11099295")</span>
会出现以下异常:
[python]
<span style="color:#FF0000;"> File "D:\Python32\lib\urllib\request.py", line 475, in open
response = meth(req, response)
File "D:\Python32\lib\urllib\request.py", line 587, in http_response
'http', request, response, code, msg, hdrs)
File "D:\Python32\lib\urllib\request.py", line 513, in error
return self._call_chain(*args)
File "D:\Python32\lib\urllib\request.py", line 447, in _call_chain
result = func(*args)
File "D:\Python32\lib\urllib\request.py", line 595, in http_error_default
raise HTTPError(req.full_url, code, msg, hdrs, fp)
urllib.error.HTTPError: HTTP Error 403: Forbidden</span>
分析:
之所以出现上面的异常,是因为如果用 urllib.request.urlopen 方式打开一个URL,服务器端只会收到一个单纯的对于该页面访问的请求,但是服务器并不知道发送这个请求使用的浏览器,操作系统,硬件平台等信息,而缺失这些信息的请求往往都是非正常的访问,例如爬虫.
有些网站为了防止这种非正常的访问,会验证请求信息中的UserAgent(它的信息包括硬件平台、系统软件、应用软件和用户个人偏好),如果UserAgent存在异常或者是不存在,那么这次请求将会被拒绝(如上错误信息所示)
所以可以尝试在请求中加入UserAgent的信息
方案:
对于Python 3.x来说,在请求中添加UserAgent的信息非常简单,代码如下
[python]
#如果不加上下面的这行出现会出现urllib2.HTTPError: HTTP Error 403: Forbidden错误
#主要是由于该网站禁止爬虫导致的,可以在请求加上头信息,伪装成浏览器访问User-Agent,具体的信息可以通过火狐的FireBug插件查询
headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:23.0) Gecko/20100101 Firefox/23.0'}
req = urllib.request.Request(url=chaper_url, headers=headers)
urllib.request.urlopen(req).read()
将urllib.request.urlopen.read() 替换成上面的代码后,对于出现问题的页面就可以就正常访问
0 0
- 【Python】Python 3.x 中"HTTP Error 403: Forbidden"问题的解决方案
- Python 3.x 中"HTTP Error 403: Forbidden"问题的解决方案
- Python 3.x 中"HTTP Error 403: Forbidden"问题的解决方案
- urllib2中碰到HTTPError: HTTP Error 403: Forbidden的解决方案
- python 爬虫 url error : HTTP 403 Forbidden
- python urllib webbrowser HTTPError: HTTP Error 403: Forbidden
- urllib2.HTTPError: HTTP Error 403: Forbidden的解决方案
- Python:爬虫使用代理防封IP:HTTP Error 403: Forbidden
- Python网页爬虫提示urllib2.HTTPError: HTTP Error 403: Forbidden 错误
- Python网页爬虫提示urllib2.HTTPError: HTTP Error 403: Forbidden 错误
- python3 HTTP Error 403:Forbidden
- 关于nltk download 出现http error 403 Forbidden 问题
- urllib.error.HTTPError: HTTP Error 403: Forbidden
- 关于python 的django-forbidden-csrf-cookie-not-set问题
- http/1.1 403 access Forbidden错误解决方案
- http/1.1 403 access Forbidden错误解决方案
- urllib2.HTTPError: HTTP Error 403: Forbidden
- urllib2.HTTPError: HTTP Error 403: Forbidden 错误
- map集合针对key排序
- Opencv之imwrite()函数的用处
- CentOS 6.6 安装pip
- 百度云推送javaSDK demo
- Android通过代码模拟物理、屏幕点击事件
- 【Python】Python 3.x 中"HTTP Error 403: Forbidden"问题的解决方案
- 【gulp】JS文件的压缩混淆与雪碧图
- HDU1540Tunnel Warfare(线段树区间合并)
- 排序算法之快速排序
- uboot下init_sequence_f函数之setup_reloc
- Matplotlib直方图和四方图
- poj1716Integer Intervals
- 线程常用的方法
- jQuery Mobile页面加载机制及页面跳转出现的问题