爬虫 Filtered offsite request to XXX.com 错误.

来源:互联网 发布:创业软件股份 编辑:程序博客网 时间:2024/06/05 02:58

原因:request的地址和allow_domain里面的冲突,从而被过滤掉。

解决方法:可以停用过滤功能。


yield Request(url, callback=self.parse_item, dont_filter=True)

阅读全文
0 0
原创粉丝点击