用Python爬网页需要了解什么背景知识
来源:互联网 发布:淘宝中小卖家扶持计划 编辑:程序博客网 时间:2024/05/16 19:13
在知乎上有一位同学提出的问题:用Python爬网页需要了解什么背景知识,恰好我对爬虫有所了解,所以昨天晚上做了回答,今天放到公众号上面希望对大家有所帮助,如有帮助欢迎转发。
文中涉及到一些教程链接在本篇文章无法打开,可以点击阅读原文查看我在知乎上的原回答,也欢迎大家给我的回答点赞。
要学会使用Python爬取网页信息无外乎以下几点内容:
1、要会Python
2、知道网页信息如何呈现
3、了解网页信息如何产生
4、学会如何提取网页信息
第一步Python是工具,所以你必须熟练掌握它,要掌握到什么程度呢?如果你只想写一写简单的爬虫,不要炫技不考虑爬虫效率,你只需要掌握:
数据类型和变量
字符串和编码
使用list和tuple
条件判断、循环
使用dict和set
你甚至不需要掌握函数、异步、多线程、多进程,当然如果想要提高自己小爬虫的爬虫效率,提高数据的精确性,那么记住最好的方式是去系统的学习一遍Python,去哪儿学习?Python教程
假设你已经熟悉了最基础的Python知识,那么进入第二步:知道网页信息如何呈现?你首先要知道所需要抓取的数据是怎样的呈现的,就像是你想要学做一幅画,在开始之前你要知道这幅画是用什么画出来的,铅笔还是水彩笔...等等,可能种类是多样的,但是放到网页信息来说这儿只有两种呈现方式:
1、HTML (HTML 简介)
2、JSON (JSON 简介)
HTML是用来描述网页的一种语言
JSON是一种轻量级的数据交换格式
假设你现在知道了数据是由HTML和JSON呈现出来的,那么我们紧接着第三步:数据怎么来?数据当然是从服务器反馈给你的,为什么要反馈给你?因为你发出了请求。
“Hi~ ,服务器我要这个资源”
“正在传输中...”
“已经收到HTML或者JSON格式的数据”
这是什么请求?要搞清楚这一点你需要了解一下http的基础知识,更加精确来说你需要去了解GET和POST是什么,区别是什么。也许你可以看看这个:浅谈HTTP中Get与Post的区别 - hyddd - 博客园
很高兴你使用的是Python,那么你只需要去掌握好快速上手 - Requests 2.10.0 文档,requests可以帮你模拟发出GET和POST请求,这真是太棒了。
饭菜已经备好,两菜一汤美味佳肴,下面就是好好享受了。现在我们已经拿到了数据,我们需要在这些错乱的数据中提取我们需要的数据,这时候我们有两个选择。
第一招:万能钥匙
Python正则表达式指南 ,再大再乱的内容,哪怕是大海捞针,只要告诉我这个针的样子我都能从茫茫大海中捞出来,强大的正则表达式是你提取数据的不二之选。
第二招:笑里藏刀
Beautiful Soup 4.2.0 文档,或许我们有更好的选择,我们把原始数据和我们想要的数据的样子扔个这个Beautifulsoup,然后让它帮我们去寻找,这也是一个不错的方案,但是论灵活性,第二招还是略逊于第一招。
第三招:双剑合璧
最厉害的招式莫过于结合第一招和第二招了,打破天下无敌手。
基础知识我都会,可是我还是写不了一个爬虫啊!
客观别急,这还没完。
以下这些项目,你拿来学习学习练练手。
两个教学项目你值得拥有:
03. 豆瓣电影TOP250
04. 另一种抓取方式
还不够?这儿有很多:
知乎--你需要这些:Python3.x爬虫学习资料整理
如何学习Python爬虫[入门篇]? - 知乎专栏
知乎--Python学习路径及练手项目合集
偶遇一个段子
- 用Python爬网页需要了解什么背景知识
- 制作网页开始时候需要认识和了解知识
- SharpPcap 背景知识了解
- 需要了解的知识
- 构建强化学习系统,你需要先了解这些背景知识
- 高级程序需要了解什么
- Python背景知识
- 系统分析员要了解什么知识?
- 需要了解的相关知识
- 网页开发需要注意什么?
- 网页设计与制作学习背景了解
- 对于BVT你需要了解什么?
- Maven系列--需要先了解些什么
- 关于区块链,程序员需要了解什么
- 黑客最初需要了解的一些知识
- .NET基本需要了解的知识
- 编写线程需要了解的知识
- 行政人员需要了解的基本企业财务知识
- 如何选择一门编程语言?
- 豆瓣5.6分的《西游伏妖篇》评论有水军吗?
- 学习数据分析你只需要这几个网站
- 他抽到H1B选择回国,因为不想把生命浪费在做螺丝钉上
- 使用爬虫如果不是用来收集数据,还能做什么有趣的事情
- 用Python爬网页需要了解什么背景知识
- 抓取了1400篇Python文章来教你如何写一篇受欢迎的技术文
- 关于微信小程序的几点思考
- 小程序如约而至
- 现在,组装自己的Master
- 怎样存储100万个电话号码?
- 30道Google开发者面试题,你要不要来试试?上篇
- 2016年度GitHub上Stars最多的10个Python项目
- 2016年度GitHub上Stars最多的项目