如何使scrapy爬取信息不打印在命令窗口中

来源:互联网 发布:软件项目介绍 编辑:程序博客网 时间:2024/05/24 03:38
通常,我们使用这条命令运行自己的scrapy爬虫:
scrapy crawl spider_name

        但是,由这条命令启动的爬虫,会将所有爬虫运行中的debug信息及抓取到的信息打印在运行窗口中。很乱,也不方便查询。所以,可使用该命令代替:

scrpay crawl spider_name  -s LOG_FILE=all.log

就会将原本打印在窗口的所有信息保存在all.log的文件里了。可以在项目根目录中找到该文件,查看所有爬取信息。

0 0
原创粉丝点击