Question

scrapy怎么多次向一个url请求信息，然后获取返回数据

Answer 1

有些网站的数据是通过ajax请求获取的，或者提供了json格式的api。
比如对于如下的数据：
[javascript] view plain copy
{
{
"url": "http://www.techbrood.com/news/1",
"author": "iefreer",
"title": "techbrood Co. test 1"
},
{
"url": "http://www.techbrood.com/news/2",
"author": "ryan.chen",
"title": "techbrood Co. test 2"
}
}
在Scrapy里，只要简单改写下parse函数就行：
[python] view plain copy
def parse(self, response):
sites = json.loads(response.body_as_unicode())
for site in sites:
print site['url']
调用body_as_unicode()是为了能处理unicode编码的数据。