Python爬虫学习笔记一:简单网页图片抓取
来源:互联网 发布:亨廷顿中国知乎 编辑:程序博客网 时间:2024/05/17 03:14
利用python抓取网络图片的步骤是:
1、根据给定的网址获取网页源代码
2、利用正则表达式把源代码中的图片地址过滤出来
3、根据过滤出来的图片地址下载网络图片
以下是比较简单的一个抓取某一个百度贴吧网页的图片的实现:
# -*- coding: utf-8 -*-# feimengjuanimport reimport urllibimport urllib2#抓取网页图片#根据给定的网址来获取网页详细信息,得到的html就是网页的源代码def getHtml(url): page = urllib.urlopen(url) html = page.read() return htmldef getImg(html): #利用正则表达式把源代码中的图片地址过滤出来 reg = r'src="(.+?\.jpg)" pic_ext' imgre = re.compile(reg) imglist = imgre.findall(html) #表示在整个网页中过滤出所有图片的地址,放在imglist中 x = 0 for imgurl in imglist: urllib.urlretrieve(imgurl,'%s.jpg' %x) #打开imglist中保存的图片网址,并下载图片保存在本地 x = x + 1html = getHtml("http://tieba.baidu.com/p/2460150866")#获取该网址网页详细信息,得到的html就是网页的源代码getImg(html)#从网页源代码中分析并下载保存图片
进一步对代码进行了整理,在本地创建了一个“图片”文件夹来保存图片
# -*- coding: utf-8 -*-# feimengjuanimport reimport urllibimport urllib2import os#抓取网页图片#根据给定的网址来获取网页详细信息,得到的html就是网页的源代码def getHtml(url): page = urllib.urlopen(url) html = page.read() return html#创建保存图片的文件夹def mkdir(path): path = path.strip() # 判断路径是否存在 # 存在 True # 不存在 Flase isExists = os.path.exists(path) if not isExists: print u'新建了名字叫做',path,u'的文件夹' # 创建目录操作函数 os.makedirs(path) return True else: # 如果目录存在则不创建,并提示目录已经存在 print u'名为',path,u'的文件夹已经创建成功' return False# 输入文件名,保存多张图片def saveImages(imglist,name): number = 1 for imageURL in imglist: splitPath = imageURL.split('.') fTail = splitPath.pop() if len(fTail) > 3: fTail = 'jpg' fileName = name + "/" + str(number) + "." + fTail # 对于每张图片地址,进行保存 try: u = urllib2.urlopen(imageURL) data = u.read() f = open(fileName,'wb+') f.write(data) print u'正在保存的一张图片为',fileName f.close() except urllib2.URLError as e: print (e.reason) number += 1#获取网页中所有图片的地址def getAllImg(html): #利用正则表达式把源代码中的图片地址过滤出来 reg = r'src="(.+?\.jpg)" pic_ext' imgre = re.compile(reg) imglist = imgre.findall(html) #表示在整个网页中过滤出所有图片的地址,放在imglist中 return imglist#创建本地保存文件夹,并下载保存图片if __name__ == '__main__': html = getHtml("http://tieba.baidu.com/p/2460150866")#获取该网址网页详细信息,得到的html就是网页的源代码 path = u'图片' mkdir(path) #创建本地文件夹 imglist = getAllImg(html) #获取图片的地址列表 saveImages(imglist,path) # 保存图片
结果在“图片”文件夹下保存了几十张图片,如截图:
1 0
- Python爬虫学习笔记一:简单网页图片抓取
- Python爬虫抓取网页图片
- Python爬虫抓取网页图片
- Python爬虫学习笔记二:百度贴吧网页图片抓取
- Python3简单爬虫抓取网页图片
- python网络爬虫,抓取网页图片
- Python3 爬虫(一)-- 简单网页抓取
- Python3 爬虫(一)-- 简单网页抓取
- 爬虫抓取网页图片
- 爬虫抓取网页图片
- 简单的python爬虫抓取图片实例
- python实现简单爬虫抓取图片
- python爬虫(一)抓取 色影无忌图片
- python爬虫抓取图片
- Python3学习(34)--简单网页内容抓取(爬虫入门一)
- python爬虫之抓取网页中的图片到本地
- python爬虫实战(1)抓取网页图片自动保存
- 第一个python程序,小爬虫--抓取网页图片
- 面向对象小解
- EmguCV学习(二)
- android中获得全屏显示
- Spring+SpringMVC+MyBaties学习笔记(一)环境搭建
- TTP access control (CORS) 以及 spring 解决方法
- Python爬虫学习笔记一:简单网页图片抓取
- java爬虫 之 搜狐新闻爬虫(一)
- Leetcode题解 217. Contains Duplicate
- nodejs 新建express
- golang 走起(五) Profile 的应用
- 使用 Retrofit 操作 SOAP Web Service --- 已成功调试
- IOS -Xcode7 使用NSURLSession发送HTTP请求报错
- android系统修改状态栏背景色以及文字颜色
- docker