关于开源框架Scrapy运行命令Crawl
来源:互联网 发布:c语言经典小游戏编程 编辑:程序博客网 时间:2024/05/22 16:46
翻遍百度上找的博客,都说是用Crawl + spidername(这个是类里面申明name变量) 运行.结果给我表示出这样一个错误:
cmd.run(args, opts) File "c:\python27\lib\site-packages\scrapy\commands\crawl.py", line 57, in run self.crawler_process.crawl(spname, **opts.spargs) File "c:\python27\lib\site-packages\scrapy\crawler.py", line 167, in crawl crawler = self.create_crawler(crawler_or_spidercls) File "c:\python27\lib\site-packages\scrapy\crawler.py", line 195, in create_crawler return self._create_crawler(crawler_or_spidercls) File "c:\python27\lib\site-packages\scrapy\crawler.py", line 199, in _create_crawler spidercls = self.spider_loader.load(spidercls) File "c:\python27\lib\site-packages\scrapy\spiderloader.py", line 71, in load raise KeyError("Spider not found: {}".format(spider_name))KeyError: 'Spider not found: fuckSpider'这是我写的一个代码:
-- encoding: UTF-8 --
import scrapy
class fuckSpider(scrapy.Spider):
name = “fuckSpider”
# start_urls是我们准备爬的初始页
start_urls = [
“https://tieba.baidu.com/p/4145325475“,
]
def parse(self, response): #Callback Function print response.body.decode('UTF-8')
后来我又改变了运行命令:
C:\Users\Administrator\Desktop\Python\spider\scrapy\spridr_test\spridr_test>scra
py runspider fuckSpider.py
“`
结果真的运行成功了,运行效果太长不展示了!!!(注意:这种方法文件中的类名必须与文件名一样,但不要把扩展名也写进类名)
阅读全文
0 0
- 关于开源框架Scrapy运行命令Crawl
- scrapy源码学习 - 启动一个crawl命令
- scrapy crawl xxx 利用scrapy.shell.inspect_response 输出爬虫运行信息
- 关于scrapy爬虫框架
- 爬虫只能在命令行用scrapy crawl 运行而不能用pycharm run
- Scrapy执行crawl命令报错:ModuleNotFoundError: No module named 'win32api'
- nutch之crawl命令
- 关于Scrapy框架的解读
- scrapy 的crawl模板模拟登陆
- python 网络爬虫开源框架scrapy
- scrapy运行
- scrapy遇到的常见错误-Unknown command: crawl
- 执行scrapy crawl spider_name出现错误 pywinapi不在
- python scrapy crawl csdnblog出现importError:No modul named items
- scrapy遇到的常见错误-Unknown command: crawl
- 运行scrpay crawl时传递参数
- Python开源爬虫框架:Scrapy架构分析
- Python开源爬虫框架:Scrapy架构分析
- 10.4 指针与内存
- 串口驱动程序设计
- LeetCode(22)--Generate Parentheses
- 位运算与其简单应用
- 老司机告诉你打斗牛需要注意的技巧
- 关于开源框架Scrapy运行命令Crawl
- 十进制转换二,八,十六进制 及 二,八,十六进制转十进制
- 并发容器ConcurrentLinkedQueue的offer() 和add() 的区别
- 01 HBASE 概述
- 区别:新旧C/C++之间的头文件
- nodeJs express允许跨域代码
- dubbox rest学习
- 【原创】Java+solrJ实现对solr索引的增删改查
- 物联网资源