linux下安装scrapy
来源:互联网 发布:手机photoshop软件 编辑:程序博客网 时间:2024/05/16 05:18
scrapy的网站:http://scrapy.org/
简单的来说,scrapy是python开发的一个快速,高层次的屏幕抓取和web抓取框架。
按照官方文档,只是需要easy_install Scrapy即可,但是安装的时候遇到了lxml的编译错误,只好自己解决错误。
我的安装过程:
1. 首先确定机器上有easy_install。
2. 安装lxml:(1)安装libxml2; (2)安装libxslt;如果报错,可能需要configure加上额外信息(--with-libxml-prefix=/home/img/sbin/libxml2-2.9.1/)(3)然后再安装lxml(python setup.py build --with-xslt-config=/home/img/soft/python/lxml-master/libxslt-1.1.27/) (4)执行 python setup.py install.
3. 执行easy_install Scrapy,安装。
4. 执行scrapy startproject tutorial,报错如下:
使用easy_install是很方便,依赖的配置都可以自动下载,但是对于没有外网的环境来说,单独下载还是很麻烦的,而它的windows版本基本把依赖的库都包含了,直接安装即可。要是提供代码的时候的顺便把依赖包也提供一份就好了,就像ogre3D提供的dependencies那样,我要做项目,会提供出建议的依赖包,方便小白用户使用。
简单的来说,scrapy是python开发的一个快速,高层次的屏幕抓取和web抓取框架。
按照官方文档,只是需要easy_install Scrapy即可,但是安装的时候遇到了lxml的编译错误,只好自己解决错误。
我的安装过程:
1. 首先确定机器上有easy_install。
2. 安装lxml:(1)安装libxml2; (2)安装libxslt;如果报错,可能需要configure加上额外信息(--with-libxml-prefix=/home/img/sbin/libxml2-2.9.1/)(3)然后再安装lxml(python setup.py build --with-xslt-config=/home/img/soft/python/lxml-master/libxslt-1.1.27/) (4)执行 python setup.py install.
3. 执行easy_install Scrapy,安装。
4. 执行scrapy startproject tutorial,报错如下:
ImportError: /home/img/sbin/python2.7/lib/python2.7/site-packages/lxml-3.2.3-py2.7-linux-x86_64.egg/lxml/etree.so: undefined symbol: exsltStrXpathCtxtRegister这个错误是因为so没有找到的原因,因为我把libxml2,libxslt都安装在了自己的文件夹下,所以需要修改一下环境变量LD_LIBRARY_PATH的值,把包含两个库so的目录加入,再次执行scrapy startproject tutorial,可以成功建立工程了。
使用easy_install是很方便,依赖的配置都可以自动下载,但是对于没有外网的环境来说,单独下载还是很麻烦的,而它的windows版本基本把依赖的库都包含了,直接安装即可。要是提供代码的时候的顺便把依赖包也提供一份就好了,就像ogre3D提供的dependencies那样,我要做项目,会提供出建议的依赖包,方便小白用户使用。
- linux下安装scrapy
- Linux下安装scrapy
- Linux 下Scrapy的安装
- linux redhat 6.4 下安装Scrapy 1.0
- linux下安装python、scrapy、redis、mysql
- Linux下scrapy安装问题汇总
- ubuntu下安装scrapy
- Ubuntu 下安装Scrapy
- windows下安装scrapy
- Windows下安装Scrapy
- windows下 scrapy 安装
- windows下安装Scrapy
- Windows下安装scrapy
- Windows下Scrapy安装
- windows下scrapy安装
- ubantu下安装scrapy
- Anaconda下安装Scrapy
- Centos下安装Scrapy
- vmware安装后ubuntu 进入Vmware Easy Install的问题
- dp怎么看还是很纠结的。。。。
- Java Thread 总结
- zigbee 端点描述符
- zigbee 案例实验
- linux下安装scrapy
- zigbee cc2530 adc转换
- hashmap 和 linkedhashmap区别
- 初始化:变量和数组
- unity4.x_error(一)
- Zigbee 获取设备地址信息
- zigbee 协议栈数据类型及转换
- wp-启动器与选择器
- 【Python】在Python中自定义迭代器Iterator