【python学习笔记】8:网页解析器及安装Beautiful Soup 4

来源:互联网 发布:软件检测 编辑:程序博客网 时间:2024/06/07 10:33

网页解析器:从网页中提取出有价值数据的工具。因为将互联网上的网页获取到本地以后,需要对它们进行解析,才能提取出需要的内容。

对于搜索引擎来说,它会提取出网页中所有的URL,用于后续的访问。但是对于定向爬虫来说,除了提取出这些URL之外,还会提取出有价值的数据。


Python中的几种网页解析器

①使用正则表达式,将整个网页当成一个字符串,用字符串匹配的方式得到有价值的数据。但如果文档比较复杂,这种方式就很麻烦。

②python自带的html.parser模块。

③第三方插件Beautiful Soup。它可以使用②也可以使用④,比较强大。

④第三方插件lxml。

上面的①属于模糊匹配解析,②③④属于结构化解析(将文档信息存在DOM树里进行遍历访问)。DOM树是W3C指定的标准的访问HTML网页的方式。


 

安装第三方插件Beautiful Soup

如果python自带了pip这个工具,那么可以使用pip的install方法来安装。

进入python安装目录下的Script子目录,用dos的dir命令看一下发现pip已经安装,可以使用。


pip安装Beautiful Soup 4,如下。


python中测试,安装前报错,和安装后不报错了。


0 0