Python3安装Scrapy
来源:互联网 发布:制作livephoto的软件 编辑:程序博客网 时间:2024/06/07 23:22
最近学习Python爬虫的过程中,在视频中安装Scrapy都是使用Python2作为示例的,因为视频比较老旧,当时Scrapy还不支持Python3.但是我比较懒,又不想重新安装Python2,所以搜了一下Python3安装Scrapy,官方也说明已经Python3.所以尝试了一下安装,将过程记录一下。
官方文档对于Windows建议如下:
大概就是说推荐安装Anaconda或者Miniconda来避免安装过程中的一些问题。我是直接安装的。
我的Python版本:
网站说明安装Scrapy需要安装一些其他依赖的库:
下面开始安装--
切换到Python安装目录中的Scripts目录下
1. 安装parsel
执行pip install parsel 命令
出现了上图结果,我猜可能是因为黄色字体提示的pip版本较低的缘故,所以按照提示对pip、进行了升级:python -m pip install --upgrade pip
之后,在此运行pip install parsel 命令,出现下面的结果:
可以看到,这一条命令中,pip自动给我们安装了lxml、parsel、six、w3lib,虽然多安装了一些包,这也免了我们自己再另行安装lxml的麻烦,因为之前pip安装lxml是会出错误的。
2. 安装pyOpenSSL。
使用pip install pyOpenSSL安装。
pip又自动给多安装了好几个,其中包括我们需要的cryptography。
3. 安装twisted
以前的教程说twisted与lxml使用pip安装都会出现错误,既然pip都能把lxml安装了,那这个呢?所以我还是抱着偷懒的心理试了一下,因为官网说使用 pip install Twisted[windows_platform]
会安装Windows平台的环境,但是:
果然报错了!乖乖自己下载安装:twisted 注意下载时要选择自己操作系统位数和python软件位数对应的进行下载,
其中,cp后面的数字就是Python的版本号。还要注意要跟自己系统是否匹配。
下载下来后,使用pip installTwisted-XXXX.whl就可以了。
4. 最后,我们就可以来安装Scrapy了。
执行命令:pip install scrapy
pip会自动安装Scrapy的依赖库,但是像上面那样,使用pip是不能直接安装twisted的,所以需要我们自己手动下载安装。
5. 安装成功,来看一下我们的成果吧
大功告成!
- python3.5 安装scrapy
- python3 pip安装scrapy
- python3.5 安装scrapy
- python3下安装Scrapy
- Python3安装Scrapy
- Python3 Scrapy 安装方法
- Python3 Scrapy 安装方法
- python3.6安装scrapy
- Python3如何安装scrapy
- python3 安装scrapy
- Python3.6 安装Scrapy
- Python3.5安装Scrapy
- Python3 Scrapy 安装方法
- python3.+安装scrapy框架
- Python3安装Scrapy
- Centos7 安装Python3 Scrapy
- Mac 安装 Scrapy (python3)
- python3.5安装Scrapy
- 博客开通
- Java学习笔记(33)-- Java 多态的详解
- 位运算之左移右移运算之详解
- 浏览器内核详解
- leetcode Reshape the Matrix 重置矩阵
- Python3安装Scrapy
- 第4周【项目1
- 欢乐上墙的使用手册
- ERROR: Cannot load message class for [自己定义的message]. Are your messages built?
- Elasticsearch Kibana (Beats Logstash) X-Pack Angular
- Linux监控相关技术
- 文本特征提取方法研究
- 无言的时光
- JPA中因双向依赖而造成的json怪相 相互访问造成溢出