Python 简单爬虫程序 以及 urllib.urlretrieve()方法 改变文件存放文件位置
来源:互联网 发布:php手册中文版下载 编辑:程序博客网 时间:2024/06/07 02:42
把筛选的图片地址通过for循环遍历并保存到本地,代码如下:
#coding=utf-8import urllibimport redef getHtml(url): page = urllib.urlopen(url) html = page.read() return htmldef getImg(html): reg = r'src="(.+?\.jpg)" pic_ext' imgre = re.compile(reg) imglist = re.findall(imgre,html) x = 0 for imgurl in imglist: urllib.urlretrieve(imgurl,'%s.jpg' % x) x+=1html = getHtml("http://tieba.baidu.com/p/2460150866")print getImg(html)
这里的核心是用到了urllib.urlretrieve()方法,直接将远程数据下载到本地。
通过一个for循环对获取的图片连接进行遍历,为了使图片的文件名看上去更规范,对其进行重命名,命名规则通过x变量加1。保存的位置默认为程序的存放目录。
程序运行完成,将在目录下看到下载到本地的文件。
其中
urlretrieve(url, filename=None, reporthook=None, data=None)
- 参数 finename 指定了保存本地路径(如果参数未指定,urllib会生成一个临时文件保存数据。)
- 参数 reporthook 是一个回调函数,当连接上服务器、以及相应的数据块传输完毕时会触发该回调,我们可以利用这个回调函数来显示当前的下载进度。
- 参数 data 指 post 到服务器的数据,该方法返回一个包含两个元素的(filename, headers)元组,filename 表示保存到本地的路径,header 表示服务器的响应头。
比如我想把保存的文件命名为LALA1 LALA2 LALA3 。。。保存在 C:\ImageSave\ 文件夹内
将
urllib.urlretrieve(imgurl,'%s.jpg' % x) x+=1
改成
urllib.urlretrieve(imgurl,'C:\ImageSave\LALA%s.jpg' % x) x+=1
即可
参考:http://www.cnblogs.com/fnng/p/3576154.html
4 0
- Python 简单爬虫程序 以及 urllib.urlretrieve()方法 改变文件存放文件位置
- urllib.urlretrieve下载文件不可用原因
- Python urllib的urlretrieve()函数解析Python的爬虫函数
- Python urllib模块urlopen()【打开网站,写入本地文件】与urlretrieve()【直接下载网站文件到本地】
- python 使用 urllib.urlretrieve()下载网络图片,在本地打开提示文件损坏无法打开
- python 下载 保存 图片的urllib.urlretrieve()函数 简单用法
- python urllib urlretrieve学习使用
- Python中urllib的urlretrieve
- Python urllib模块urlretrieve()详解
- 【用Python写爬虫】获取html的方法【四】:使用urllib下载文件
- 如何改变表空间文件存放的位置
- class文件存放位置
- applicationContext文件存放位置
- [python爬虫]使用urllib函数urlretrieve报错[socket error][Errno 10054]
- urllib.urlretrieve
- urllib.urlretrieve()
- urllib.urlretrieve()
- Python urllib的urlretrieve()函数解析
- OpenGL学习笔记(三)
- Android OkHttp完全解析 是时候来了解OkHttp了
- 解决PL/SQL 在使用客户端情况下的中文编码问题
- strtok函数和strtok_r函数
- C++第五次作业
- Python 简单爬虫程序 以及 urllib.urlretrieve()方法 改变文件存放文件位置
- 强化学习系列<4>DQN
- 图文笔记,带你走进《未来简史》(6-10)
- 浅谈 MVP in Android
- 基于networkx的《人民的名义》人物关系图
- 设备树学习之(十二)LCD驱动
- 进阶篇_map容器(保存键值对)
- 深度学习中的可视化
- 使用User-Agent防止HttpClient发送http请求时403 Forbidden和安全拦截