Scrapy 学习笔记(一)
来源:互联网 发布:美工与设计师的区别 编辑:程序博客网 时间:2024/05/23 00:27
0x00 Scarpy的安装
scrapy最简单的安装方法:
pip install Scrapy
pip的安装方法:
https://pip.pypa.io/en/latest/installing.html
下载源代码安装
http://scrapy.org/download/
安装方法:
sudo python setup.py install
0x01 创建第一个爬虫
- 创建project
scrapy startproject myproject
- 创建spider
scrapy genspider -l scrapy genspider [-t template] <name> <domain>scrapy genspider -t basic myspiderbasic douban.com
- 使用spider 进行爬取
scrapy crawl myspider
- 列出所有的spider
scrapy list
- 编辑spider
scrapy edit <spider>
- 使用spider进行爬取
scrapy crawl <spider>
- 运行contract检查
scrapy check [-l] <spider>
参考:
http://scrapy-chs.readthedocs.org/zh_CN/latest/intro/overview.html
0 0
- Scrapy 学习笔记(一)
- Scrapy学习笔记一
- Scrapy框架学习笔记(一)
- Scrapy学习笔记一:安装
- Scrapy框架学习笔记(一)
- 爬虫框架--Scrapy学习笔记一
- scrapy学习笔记--scrapy命令
- scrapy学习(一)
- scrapy学习(一)
- scrapy分布式的应用学习笔记(一)
- scrapy学习笔记--Items
- Scrapy框架学习笔记
- Scrapy-学习笔记
- scrapy学习笔记
- scrapy学习笔记
- Scrapy学习笔记
- Scrapy学习笔记
- Python学习笔记-----Scrapy
- iOS 8 AutoLayout与Size Class自悟
- Spark进阶视频之模式匹配下的提取器动手构造实战
- 享元模式
- WNDCLASS中cbClsExtra和cbWndExtra区别及其用法
- jQuery.Autocomplete 自动完成
- Scrapy 学习笔记(一)
- CodeForces 115E Linear Kingdom Races(线段树 + DP)
- linux内核内存分配(二、struct slab和struct kmem_cache)
- Android内核学习之二------JNI的使用
- 黑马程序员——Java基础——构造方法,static关键字,以及继承的详解
- (一〇九)UIButton的使用技巧 -imageView、titleLabel、圆角等
- Valid Anagram
- nginx的学习笔记
- linux 进程间通信 使用信号量