Python的xml/html解析器选择
来源:互联网 发布:packageinfo.java 编辑:程序博客网 时间:2024/06/07 12:57
其实比较不同的解析器对html的处理能力是有点麻烦的,因为它们处理的步骤并不完全相同的:
1. 解析HTML:能读入
2. 解析为某个对象:能处理
3. 序列化:能输出
各个解析器做的可能是三件事中的某部分。基本上常见的解析器调查一下:
lxml: 三样都干,而且还可以使用参数指定其他几种解析器。
BeautifulSoup: 三样都干。
html5lib: 可以解析,但是它的序列化和对象化就做的一般。
ElementTree: 对象化和序列化xml,html支持一般,同时它不具备解析功能,所以通常是用html5lib把文档解析后交给它。
cElementTree: 作为c扩展的一个对象化库。
HTMLParser: 有名的解析库。但不能生成任何结果树。
htmlfill: 这个库实际上使用了HTMLParser,不过在解析的时候把解析后的结果稍微结构化了一下。
Genshi: 三样都干。
xml.dom.minidom: 对象化的库,可以把html5lib的解析结果作为输入。这个是python内置的库,但是,相信本座,不用它为好。
在实际做的时候,本座重点考察了lxml,因为它是基于c的libxml2库的,想必速度会很快。看它官网上的结论,也是很漂亮。不过官网都是自说自话,当然不能全信,因此本座也有做自己的测试。
测试使用的基准文件是Java JDK的Docs(懒得找别的了)。代码就不贴了,反正就是解析。图片是用google的chart api来生成的,大概的代码如下:
def make_chart(data, size_x=400, size_y=None, graph_type='bhs', name_format='%(name)s'): url = 'http://chart.apis.google.com/chart?' params = {} if size_y is None: size_y = len(data)*30 params['chs'] = '%sx%s' % (size_x, size_y) numbers = [number for name, number in data] params['chd'] = 'e:' + ''.join(list(encode_numbers(numbers))) names = [name_format % dict(name=name, number=number) for name, number in data] params['chxl'] = '0:|%s|' % '|'.join(reversed(names)) params['chxt'] = 'y' params['cht'] = graph_type return url + urllib.urlencode(params) digits = 'ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz0123456789-.'其中的encode_numbers主要是用来做输入数据的scale:def encode_numbers(numbers, lowest=0): """ Encodes numbers over the range of 0-4095 """ if lowest is None: lowest = min(numbers) highest = max(numbers) range = highest-lowest for number in numbers: adjusted = int((number - lowest) * 4095 / range) assert adjusted >= 0 and adjusted <= 4095, 'Out of range: %r' % adjusted yield digits[adjusted / 64] + digits[adjusted % 64]
解析
可以看到,lxml居然是最快的,比HTMLParser的速度都快(要知道后面这个老兄可是别的什么都不做),原因可能是lxml在内存中生成了一棵树吧。 xml.dom.minidom是慢到龟速了,Genshi算是速度不错的,但是也是所有解析器中最容易出错的。相对而言,html5lib、lxml和BeautifulSoup是最稳定的。尤其是html5lib,可以(从理论上而言)保证解析的鲁棒性。
序列化
虽然lxml又像博尔特一样跑在前面,但是我们可以看到对绝大多数包而言序列化都不算是费时的活。同时,minidom有一次垫底,这下你知道本座为什么叫你不要考虑用它了吧。
结论
由于源于c,实验之前本座也猜想lxml会是更快的那位,但是没有想到它有这么快。后续可能的话,应该再对内存占用率做一个比较。但由于调用的大都是c而不是python来完成运行,相信比较的结果也会比较乐观。因此,本座在后面的博客搬家以及将来一切与xml/html解析相关的工作就交给它了。
这次实验还有一个结论。长期以来,对xml/html的解析,把文件作为一个输入流而不是对象的方式读入一直被认为是最佳方案。拍拍脑袋我们大概可以想象,不断由事件驱动读入token会比在内存中储存整个对象树要。HTMLParser 和Genshi 等解析器都是采用的这种方式。不过通过这次实验我们可以看到,只要我们处理的不是数个G的怪物文件,用持有对象的lxml和ElementTree这样的库其实是更好的选择,因为对对象的处理总是比数据流来得自然很多。即使你真的有非常奇怪的需求,需要处理超大的文件,lxml也有参数可供选择。
—————————————————————————————————
本文原创自Slience的csdn技术博客。
本博客所有原创文章请以链接形式注明出处。
欢迎关注本技术博客,本博客的文章会不定期更新。
大多数人想要改造这个世界,但却罕有人想改造自己。
世上没有绝望的处境,只有对处境绝望的人。
————By slience
—————————————————————————————————
- Python的xml/html解析器选择
- python解析html/xml
- [Python]HTML/XML解析器Beautiful Soup
- XML解析器选择
- Python的html和xml解析库Beautiful Soup
- 解析html页面的选择
- python 的xml解析
- python 专题七 HTML XML解析
- XML解析器选择建议
- python HTML解析器
- python xml解析器
- Java解析xml的主要解析器: SAX和DOM的选择(附上新方法--Pull解析)
- Java解析xml的主要解析器: SAX和DOM的选择(附上新方法--Pull解析)
- Java解析xml的主要解析器: SAX和DOM的选择(附上新方法--Pull解析)
- Java解析xml的主要解析器: SAX和DOM的选择(附上新方法--Pull解析)
- Java解析xml的主要解析器: SAX和DOM的选择(附上新方法--Pull解析)
- XMLBEANS--XML解析的另一种选择
- python对XML的解析
- 几个免费的ios开发工具
- 笨方法学python(4)加分题
- Line clipping之cohen-sutherland Algorithm
- 一行代码搞定ThoughtWorks面试题
- 第六章 MVC基本工具
- Python的xml/html解析器选择
- libssl-dev 安装失败 解决方案
- ASD1.2 license ADS1.2注册码
- myeclipse.hbm.xml自动生成
- 良好的编程习惯(一)---在类构造函数中多使用this明确指定
- python类方法和静态方法
- android数据存储_概述
- 阻塞和非阻塞io区别
- python编程函数代码