菜鸟成长记-----用python写一个简单的小爬虫

来源:互联网 发布:苹果手机备份软件 编辑:程序博客网 时间:2024/05/16 06:33
       小白突发奇想想来搞一搞之前的课设,于是下了个python编辑器Pycharm写个爬虫耍一耍,这里权且记下来供后人(也就是小白自己拉)参考。
       Pthon3中urllib2等几个库被整合了一下,所以在调用urlopen函数的时候就不能在通过urllib库调用了,需要引入urllib.request库让后通过这个库进行调用,之后通过这个库调用这个函数就行了,就像这样  
      page = urllib.request.urlopen(url)
      这样我们就创建了一个远程类文件对象page,通过调用read函数可以读取到网页内的源码,对于这些源码可以把他们写在txt文件中,输入文件参数的时候稍微注意一下路径中“\”和“/”,方式设置为“wb+”表示用二进制打开输入,这样一个简答的小爬虫就做好了,了了数行代码如下:
import urllib.requesturl = "http://www.view.sdu.edu.cn/"page = urllib.request.urlopen(url)html = page.read()file = open("搜索引擎\\test.txt","wb+")file.write(html)

原创粉丝点击