Python 简单爬虫程序 以及 urllib.urlretrieve()方法 改变文件存放文件位置

来源:互联网 发布:php手册中文版下载 编辑:程序博客网 时间:2024/06/07 02:42

把筛选的图片地址通过for循环遍历并保存到本地,代码如下:

 

复制代码
#coding=utf-8import urllibimport redef getHtml(url):    page = urllib.urlopen(url)    html = page.read()    return htmldef getImg(html):    reg = r'src="(.+?\.jpg)" pic_ext'    imgre = re.compile(reg)    imglist = re.findall(imgre,html)    x = 0    for imgurl in imglist:        urllib.urlretrieve(imgurl,'%s.jpg' % x)        x+=1html = getHtml("http://tieba.baidu.com/p/2460150866")print getImg(html)
复制代码

 

  这里的核心是用到了urllib.urlretrieve()方法,直接将远程数据下载到本地。

  通过一个for循环对获取的图片连接进行遍历,为了使图片的文件名看上去更规范,对其进行重命名,命名规则通过x变量加1。保存的位置默认为程序的存放目录。

程序运行完成,将在目录下看到下载到本地的文件。


其中

urlretrieve(url, filename=None, reporthook=None, data=None)

  1. 参数 finename 指定了保存本地路径(如果参数未指定,urllib会生成一个临时文件保存数据。)
  2. 参数 reporthook 是一个回调函数,当连接上服务器、以及相应的数据块传输完毕时会触发该回调,我们可以利用这个回调函数来显示当前的下载进度。
  3. 参数 data 指 post 到服务器的数据,该方法返回一个包含两个元素的(filename, headers)元组,filename 表示保存到本地的路径,header 表示服务器的响应头。

比如我想把保存的文件命名为LALA1 LALA2 LALA3 。。。保存在 C:\ImageSave\ 文件夹内

urllib.urlretrieve(imgurl,'%s.jpg' % x)        x+=1
改成
urllib.urlretrieve(imgurl,'C:\ImageSave\LALA%s.jpg' % x)        x+=1
即可
参考:http://www.cnblogs.com/fnng/p/3576154.html

4 0
原创粉丝点击