Question

如何在eclipse中使用scrapy

Answer 1

一、创建项目

如果安装了最新的pydev，创建一个新项目会有三个选项，这里直接选择一个普通的Python项目即可，此时查看项目目录，目录项只有两个工程文件。

此时，需要使用scrapy命令创建一个scrapy项目到这个目录下，当然也可以把一个现有的工程拷贝到这里。

我这里使用一个之前创建过的scrapy项目复制到这个eclipse创建的工程目录。

二、配置Debug Configurations

1、进入run——>Debug Configurations-——>Main

name中输入这个配置的名称；

Projecct选择你的Scrapy项目

Main Module 中填入scrapy库下的cmdline.py文件

2、进入run——>Debug Configurations-——>Arguments

在Program arguments中输入 crawl example，需要注意这个example是你的爬虫的名称

这个名字并不是你的项目名称，而是在你所写的类似于xxxSpider()类中的name的值。

在Working directory中选择other 选择你的爬虫工作目录

如图：

配置完成，点击Debug按钮，如果能正常显示类似于下面的信息则说明配置成功。

2015-07-04 00:10:10 [scrapy] INFO: Closing spider (finished)
2015-07-04 00:10:10 [scrapy] INFO: Dumping Scrapy stats:

唯一麻烦一点的就是每次debug都需要通过run进行，而不能使用鼠标右键运行。

至此eclipse + pydev开发环境debug Scrapy就全部完成了。