androidbenchmark和iphonebenchmark这两页面中设备信息爬虫

来源:互联网 发布:asp微商城源码 编辑:程序博客网 时间:2024/06/15 21:32
#coding=utf-8#---------------------------------------#   程序:androidbenchmark爬虫#   作者:ewang#   日期:2016-7-11#   语言:Python 2.7#   功能:获取页面中的Android PassMark Rating信息保存到文件中。#---------------------------------------import stringimport urllib2import reimport osclass androidbenchmark_Spider:#申明相关属性def  __init__(self,url):    #给SougoPicUrl属性赋值self.androidbenchmarkUrl=url#用来保存图片URL信息self.androidbenchmark=[]print u'爬虫,爬爬...'#初始化加载页面并将其转码存储defAndroidBenchMark(self):#读取页面的原始信息Page=urllib2.urlopen(self.androidbenchmarkUrl).read()#获取页面标题title=self.find_title(Page)print u'网页名称:'+title#获取页面中文本信息self.save_infor(title)#查找页面标题def find_title(self,page):#匹配<title>xxxx</title>myTitle=re.search(r'<title>(.*?)</title>',page,re.S)#初始化标题名为暂无标题title=u'暂无标题'#如果标题存在把标题赋值给titleif myTitle:    #(.*?)这称作一个group,组是从1开始title=myTitle.group(1)else:print u'爬虫报告:无法加载网页标题...'return title#保存页面信息def save_infor(self,title):#加载页面文本信息到数组中self.get_infor()#创建并打开本地文件f=open(title+'.csv','w+')#把获取的页面信息写入文件中f.writelines(self.androidbenchmark)#关闭打开的文件f.close()print u'爬虫报告:文件'+title+'.csv'+u'已经下载:'+os.getcwd()print u'按任意键退出...'raw_input()#获取页面源码并将其存储到数组中def get_infor(self):    #获取页面中的源码page=urllib2.urlopen(self.androidbenchmarkUrl).read()#把页面中所有jpg图片的URL提取出来self.deal_Android_Device(page)def deal_Android_Device(self,page):#获取所有设备名称Android_Device=re.findall('\<a href=\"phone\.php\?phone=(.*?)\"\>',page,re.S)#把手机型号的添加到androidbenchmark列表中for aItem in Android_Device:    self.androidbenchmark.append(aItem+"\n")#------------程序入口处----------------print u"""#---------------------------------------#   程序:程序:androidbenchmark爬虫#   作者:ewang#   日期:2016-7-7#   语言:Python 2.7#   功能:获取页面中的Android PassMark Rating信息保存到文件中。#--------------------------------------------------"""#print u'需要爬取得URL(passmark_chart,memmark_chart,cpumark_chart,diskmark_chart,g2dmark_chart,g3dmark_chart):'#bdurl = 'http://www.androidbenchmark.net/' + str(raw_input(u'http://www.androidbenchmark.net/')) +'.html'And_ipone=['http://www.androidbenchmark.net/','http://www.iphonebenchmark.net/']chart_page=['passmark_chart.html','memmark_chart.html','cpumark_chart.html','diskmark_chart.html','g2dmark_chart.html','g3dmark_chart.html']for dev in And_ipone:for chart in chart_page:bdurl=dev+chartAndroid_Device_Name=androidbenchmark_Spider(bdurl)Android_Device_Name.AndroidBenchMark()
#coding=utf-8#---------------------------------------#   程序:androidbenchmark爬虫#   作者:ewang#   日期:2016-7-11#   语言:Python 2.7#   功能:获取页面中的Android PassMark Rating信息保存到文件中。#---------------------------------------import stringimport urllib2import reimport osclass androidbenchmark_Spider:#申明相关属性def  __init__(self,url):    #给SougoPicUrl属性赋值self.androidbenchmarkUrl=url#用来保存图片URL信息self.androidbenchmark=[]print u'爬虫,爬爬...'#初始化加载页面并将其转码存储defAndroidBenchMark(self):#读取页面的原始信息Page=urllib2.urlopen(self.androidbenchmarkUrl).read()#获取页面标题title=self.find_title(Page)print u'网页名称:'+title#获取页面中文本信息self.save_infor(title)#查找页面标题def find_title(self,page):#匹配<title>xxxx</title>myTitle=re.search(r'<title>(.*?)</title>',page,re.S)#初始化标题名为暂无标题title=u'暂无标题'#如果标题存在把标题赋值给titleif myTitle:    #(.*?)这称作一个group,组是从1开始title=myTitle.group(1)else:print u'爬虫报告:无法加载网页标题...'return title#保存页面信息def save_infor(self,title):#加载页面文本信息到数组中self.get_infor()#创建并打开本地文件f=open(title+'.csv','w+')#把获取的页面信息写入文件中f.writelines(self.androidbenchmark)#关闭打开的文件f.close()print u'爬虫报告:文件'+title+'.csv'+u'已经下载:'+os.getcwd()print u'按任意键退出...'raw_input()#获取页面源码并将其存储到数组中def get_infor(self):    #获取页面中的源码page=urllib2.urlopen(self.androidbenchmarkUrl).read()#把页面中所有jpg图片的URL提取出来self.deal_Android_Device(page)def deal_Android_Device(self,page):#获取所有设备名称Android_Device=re.findall('\<a href=\"phone\.php\?phone=(.*?)\"\>',page,re.S)#把手机型号的添加到androidbenchmark列表中for aItem in Android_Device:    self.androidbenchmark.append(aItem+"\n")#------------程序入口处----------------print u"""#---------------------------------------#   程序:程序:androidbenchmark爬虫#   作者:ewang#   日期:2016-7-7#   语言:Python 2.7#   功能:获取页面中的Android PassMark Rating信息保存到文件中。#--------------------------------------------------"""print u'需要爬取得URL(passmark_chart,memmark_chart,cpumark_chart,diskmark_chart,g2dmark_chart,g3dmark_chart):'bdurl = 'http://www.androidbenchmark.net/' + str(raw_input(u'http://www.androidbenchmark.net/')) +'.html'Android_Device_Name=androidbenchmark_Spider(bdurl)Android_Device_Name.AndroidBenchMark()
#coding=utf-8#---------------------------------------#   程序:iphonebenchmark爬虫#   作者:ewang#   日期:2016-7-11#   语言:Python 2.7#   功能:获取页面中的iphone PassMark Rating信息保存到文件中。#---------------------------------------import stringimport urllib2import reimport osclass iphonebenchmark_Spider:#申明相关属性def  __init__(self,url):    #给SougoPicUrl属性赋值self.iphonebenchmarkUrl=url#用来保存图片URL信息self.iphonebenchmark=[]print u'爬虫,爬爬...'#初始化加载页面并将其转码存储defiphoneBenchMark(self):#读取页面的原始信息Page=urllib2.urlopen(self.iphonebenchmarkUrl).read()#获取页面标题title=self.find_title(Page)print u'网页名称:'+title#获取页面中文本信息self.save_infor(title)#查找页面标题def find_title(self,page):#匹配<title>xxxx</title>myTitle=re.search(r'<title>(.*?)</title>',page,re.S)#初始化标题名为暂无标题title=u'暂无标题'#如果标题存在把标题赋值给titleif myTitle:    #(.*?)这称作一个group,组是从1开始title=myTitle.group(1)else:print u'爬虫报告:无法加载网页标题...'return title#保存页面信息def save_infor(self,title):#加载页面文本信息到数组中self.get_infor()#创建并打开本地文件f=open(title+'.csv','w+')#把获取的页面信息写入文件中f.writelines(self.iphonebenchmark)#关闭打开的文件f.close()print u'爬虫报告:文件'+title+'.csv'+u'已经下载:'+os.getcwd()print u'按任意键退出...'raw_input()#获取页面源码并将其存储到数组中def get_infor(self):    #获取页面中的源码page=urllib2.urlopen(self.iphonebenchmarkUrl).read()#把页面中所有jpg图片的URL提取出来self.deal_iphone_Device(page)def deal_iphone_Device(self,page):#获取所有设备名称iphone_Device=re.findall('\<a href=\"phone\.php\?phone=(.*?)\"\>',page,re.S)#把手机型号的添加到iphonebenchmark列表中for aItem in iphone_Device:    self.iphonebenchmark.append(aItem+"\n")#------------程序入口处----------------print u"""#---------------------------------------#   程序:程序:iphonebenchmark爬虫#   作者:ewang#   日期:2016-7-7#   语言:Python 2.7#   功能:获取页面中的iphone PassMark Rating信息保存到文件中。#--------------------------------------------------"""print u'需要爬取得URL(passmark_chart,memmark_chart,cpumark_chart,diskmark_chart,g2dmark_chart,g3dmark_chart):'bdurl = 'http://www.iphonebenchmark.net/' + str(raw_input(u'http://www.iphonebenchmark.net/')) +'.html'iphone_Device_Name=iphonebenchmark_Spider(bdurl)iphone_Device_Name.iphoneBenchMark()



0 0
原创粉丝点击