对于处理不同页面结构的文章如何进行爬取
展开全部
如果你要的数据量很小的话，python2自带的urllib2写爬虫就可以，如果你要的数据量比较大，就需要专门的爬虫框架scrapy了。一个爬虫，你首先要分析你要爬取的网页的页面结构，也就是你需要知道在DOM树种你要的元素在哪，然后用能操作DOM的包，比如beautifulsoup或者xpath等，解析DOM，获取你想要的值，然后保存起来
已赞过
已踩过<
评论
收起
你对这个回答的评价是？
推荐律师服务：
若未解决您的问题，请您详细描述您的问题，通过百度律临进行免费专业咨询
