scrapy xpath提取标签
来源:互联网 发布:自行车大全软件 编辑:程序博客网 时间:2024/06/07 01:25
title: xpath提取多个标签下的text
author: 青南
date: 2015-01-17 16:01:07
categories: [Python]
tags: [xpath,Python,xml,scrapy]
---
本文首发在 http://kingname.info
在写爬虫的时候,经常会使用xpath进行数据的提取,对于如下的代码:
<div id="test1">大家好!</div>
使用xpath提取是非常方便的。假设网页的源代码在selector中:
data = selector.xpath('//div[@id="test1"]/text()').extract()[0]
就可以把“大家好!”提取到data变量中去。
然而如果遇到下面这段代码呢?
<div id="test2">美女,<font color=red>你的微信是多少?</font><div>
如果使用:
data = selector.xpath('//div[@id="test2"]/text()').extract()[0]
只能提取到“美女,”;
如果使用:
data = selector.xpath('//div[@id="test2"]/font/text()').extract()[0]
又只能提取到“你的微信是多少?”
可是我本意是想把“美女,你的微信是多少?”这一整个句子提取出来。
这还不是最糟糕的,还有第三段代码:
<div id="test3">我左青龙,<span id="tiger">右白虎,<ul>上朱雀,<li>下玄武。</li></ul>老牛在当中,</span>龙头在胸口。<div>
而且内部的标签还不固定,如果我有一百段这样类似的html代码,又如何使用xpath表达式,以最快最方便的方式提取出来?
我差一点就去用正则表达式替换了。还好我去Stack Overflow上面提了问。于是很快就有人给我解答了。
使用xpath的string(.)
以第三段代码为例:
data = selector.xpath('//div[@id="test3"]')info = data.xpath('string(.)').extract()[0]
这样,就可以把“我左青龙,右白虎,上朱雀,下玄武。老牛在当中,龙头在胸口”整个句子提取出来,赋值给info变量。
2 同时选择多个属性
c=response.xpath('//div[@class="visa_table_info"][@data-key="1"]')
0 0
- scrapy xpath提取标签
- scrapy提取不在标签内文字
- 【scrapy】xpath
- scrapy xpath
- scrapy-response.xpath中无法获取标签内容的问题
- Scrapy匹配xpath时tbody标签的问题
- xpath提取多个标签下的text
- xpath提取多个标签下的text
- xpath提取多个标签下的text
- xpath提取多个标签下的text
- scrapy 一次性提取多层嵌套标签的所有文本
- scrapy 一次性提取多层嵌套标签的所有文本
- scrapy测试xpath
- scrapy xpath text拼接
- scrapy的xpath语法
- xpath提取网页内容
- scrapy爬虫必需品--------xpath学习
- 用Scrapy shell调试xpath
- 装箱和取消装箱详解
- 海哥看源码-Activity
- jmeter 压力测试各种值的意思 --吞吐量 样本
- Java中的null是个什么东西?
- RelativeLayout的子控件的布局属性
- scrapy xpath提取标签
- OJ之栈的基本使用
- java动态编程-Rhino脚本引擎
- 【Socket编程】篇四之并发服务器
- 使用json文件为当前类文件属性赋值(org.nutz.json.Json)
- 关于服务端技术如何学
- * { Box-sizing: Border-box } FTW
- 二、观察者模式--小伟带你学设计模式
- [疯狂Java]集合:专门用于聚集操作的一次性集合——Stream(流)