PySpider框架安装配置

转自： http://cuiqingcai.com/2443.html

安装

1. pip

首先确保你已经安装了pip，若没有安装，请参照

pip安装

2. phantomjs

PhantomJS 是一个基于 WebKit 的服务器端 JavaScript API。它全面支持web而不需浏览器支持，其快速、原生支持各种Web标准：DOM 处理、CSS 选择器、JSON、Canvas 和 SVG。 PhantomJS 可以用于页面自动化、网络监测、网页截屏以及无界面测试等。

安装

以上附有官方安装方式，如果你是 Ubuntu 或 Mac OS X用户，可以直接用命令来安装

Ubuntu:

1

sudo apt-get install phantomjs

Mac OS X:

1

brewinstallphantomjs

3. pyspider

直接利用 pip 安装即可

1

pip install pyspider

如果你是 Ubuntu 用户，请提前安装好以下支持类库

1

sudoapt-getinstallpythonpython-devpython-distributepython-piplibcurl4-openssl-devlibxml2-devlibxslt1-devpython-lxml

测试

如果安装过程没有提示任何错误，那就证明一些OK。

命令行输入

1

pyspiderall

然后浏览器访问 http://localhost:5000

观察一下效果，如果可以正常出现 PySpider 的页面，那证明一切OK

在此附图一张，这是我写了几个爬虫之后的界面。

好，接下来我会进一步介绍这个框架的使用。