scrapy顺序执行多个爬虫
来源:互联网 发布:淘宝网如何盈利模式 编辑:程序博客网 时间:2024/05/17 22:58
爬虫的时候写了一个main.py,里面使用下面代码:
import sysimport osfrom scrapy.cmdline import executesys.path.append(os.path.dirname(os.path.abspath(__file__)))execute(["scrapy", "crawl", "shanghaione"])time.sleep(30)sys.path.append(os.path.dirname(os.path.abspath(__file__)))execute(["scrapy", "crawl", "shanghaitwo"])
本来以为可以运行,但是执行完第一句爬虫就停了。
于是有了我找到了新方法:
import sysimport osimport timefrom scrapy.cmdline import executeimport osos.system("scrapy crawl shanghaione")time.sleep(300)os.system("scrapy crawl shanghaitwo")这样一来就可以了
阅读全文
0 0
- scrapy如何顺序执行多个爬虫
- scrapy顺序执行多个爬虫
- python爬虫框架scrapy一次执行多个爬虫文件
- python爬虫scrapy之如何同时执行多个scrapy爬行任务
- scrapy爬虫多个条件获取字段
- Scrapy爬虫(六):多个爬虫组合实例
- scrapy的第一个爬虫
- windows中同时运行多个scrapy爬虫
- 利用scrapyd管理scrapy的多个爬虫
- 多个makefie执行顺序
- 同时运行多个scrapy爬虫的几种方法(自定义scrapy项目命令)
- 同时运行多个scrapy爬虫的几种方法(自定义scrapy项目命令)
- python实现scrapy定时执行爬虫
- 用Swing写个scrapy爬虫图形界面
- 纪念第一个scrapy小爬虫
- Scrapy-爬虫多开技能
- Scrapy爬虫多开技能
- 爬虫框架Scrapy的第一个爬虫示例入门教程
- TP5 控制器间跳转传参
- Oracle密码过期及账户解锁的问题
- this指向及应用
- elasticsearch5.5.2手动创建索引并配置ik中文分词器
- map换算
- scrapy顺序执行多个爬虫
- 校级
- jboss与jersey依赖冲突问题解决
- 第二次考试前端
- 抽象类和接口
- ie8中textarea的编辑,滚动条等问题
- 51nod 1181 质数中的质数(质数筛法)
- unity设置屏幕不锁屏
- 计算机原理学习ing(1)