Question

如何入门 Python 爬虫

Answer 1

　　“入门”是良好的动机，但是可能作用缓慢。如果你手里或者脑子里有一个项目，那么实践起来你会被目标驱动，而不会像学习模块一样慢慢学习。

　　另外如果说知识体系里的每一个知识点是图里的点，依赖关系是边的话，那么这个图一定不是一个有向无环图。因为学习A的经验可以帮助你学习B。因此，你不需要学习怎么样“入门”，因为这样的“入门”点根本不存在！你需要学习的是怎么样做一个比较大的东西，在这个过程中，你会很快地学会需要学会的东西的。当然，你可以争论说需要先懂python，不然怎么学会python做爬虫呢？但是事实上，你完全可以在做这个爬虫的过程中学习python :D

　　看到前面很多答案都讲的“术”——用什么软件怎么爬，那我就讲讲“道”和“术”吧——爬虫怎么工作以及怎么在python实现。

　　先长话短说summarize一下：
　　你需要学习

　　基本的爬虫工作原理
　　基本的http抓取工具，scrapy
　　Bloom Filter: Bloom Filters by Example
　　如果需要大规模网页抓取，你需要学习分布式爬虫的概念。其实没那么玄乎，你只要学会怎样维护一个所有集群机器能够有效分享的分布式队列就好。最简单的实现是python-rq:https //github com/nvie/rq
　　rq和Scrapy的结合：darkrho/scrapy-redis · GitHub
　　后续处理，网页析取(grangier/python-goose · GitHub)，存储(Mongodb)

Answer 2

先熟悉一下http协议
然后就是熟悉urllib，urllib2这些包 ，就可以自己写爬虫了
再找个Python爬虫框架如Scrapy学习一下 ，看看别人是如何写的