pycharm下打开、执行并调试scrapy爬虫程序

1. 首先得有一个Scrapy项目，我在Desktop上新建一个Scrapy的项目叫test，在Desktop目录打开命令行，键入命令：scrapy startproject test1 
   

   
    
   
   目录结构如下： 
   
    
    
    
   

2. 打开Pycharm，选择open 
   

   
    
   

3. 选择项目，ok 
   

   

4. 打开如下界面之后，按alt + 1， 打开project 面板 
   

   
    

5. 在test1/spiders/，文件夹下，新建一个爬虫spider.py， 注意代码中的name="dmoz"。这个名字后面会用到。 
   

   

6. 在test1目录和scrapy.cfg同级目录下面，新建一个begin.py文件（便于理解可以写成main.py），注意箭头2所指的名字和第5步中的name='dmoz' 名字是一样的。

    from scrapy import cmdline    cmdline.execute("scrapy crawl dmoz".split())
1
2
3
1
2
3

7. 上面把文件搞定了，下面要配置一下pycharm了。点击Run->Edit Configurations

8. 新建一个运行的python模块 

9. Name：改成spider； script：选择刚才新建的那个begin.py文件；Working Direciton：改成自己的工作目录 

10. 至此，大功告成了，点击下图，右上角的按钮就能运行了。 

调试

可以在其他代码中设置断点，就可以debug运行

Paste_Image.png

转载1：http://www.jianshu.com/p/f85120fcbca0

转载2：http://blog.csdn.net/wangsidadehao/article/details/52911746