Question

python爬虫入门需要哪些基础

Answer 1

现在之所以有这么多的小伙伴热衷于爬虫技术，无外乎是因为爬虫可以帮我们做很多事情，比如搜索引擎、采集数据、广告过滤等，以Python为例，Python爬虫可以用于数据分析，在数据抓取方面发挥巨大的作用。
　　但是这并不意味着单纯掌握一门Python语言，就对爬虫技术触类旁通，要学习的知识和规范还有喜很多，包括但不仅限于HTML 知识、HTTP/HTTPS 协议的基本知识、正则表达式、数据库知识，常用抓包工具的使用、爬虫框架的使用等。而且涉及到大规模爬虫，还需要了解分布式的概念、消息队列、常用的数据结构和算法、缓存，甚至还包括机器学习的应用，大规模的系统背后都是靠很多技术来支撑的。
　　零基础如何学爬虫技术？对于迷茫的初学者来说，爬虫技术起步学习阶段，最重要的就是明确学习路径，找准学习方法，唯有如此，在良好的学习习惯督促下，后期的系统学习才会事半功倍，游刃有余。
　　用Python写爬虫，首先需要会Python，把基础语法搞懂，知道怎么使用函数、类和常用的数据结构如list、dict中的常用方法就算基本入门。作为入门爬虫来说，需要了解 HTTP协议的基本原理，虽然 HTTP 规范用一本书都写不完，但深入的内容可以放以后慢慢去看，理论与实践相结合后期学习才会越来越轻松。关于爬虫学习的具体步骤，我大概罗列了以下几大部分，大家可以参考：
　　网络爬虫基础知识:
　　爬虫的定义
　　爬虫的作用
　　Http协议
　　基本抓包工具(Fiddler)使用
　　Python模块实现爬虫：
　　urllib3、requests、lxml、bs4 模块大体作用讲解
　　使用requests模块 get 方式获取静态页面数据
　　使用requests模块 post 方式获取静态页面数据
　　使用requests模块获取 ajax 动态页面数据
　　使用requests模块模拟登录网站
　　使用Tesseract进行验证码识别
　　Scrapy框架与Scrapy-Redis：
　　Scrapy 爬虫框架大体说明
　　Scrapy spider 类
　　Scrapy item 及 pipeline
　　Scrapy CrawlSpider 类
　　通过Scrapy-Redis 实现分布式爬虫
　　借助自动化测试工具和浏览器爬取数据：
　　Selenium + PhantomJS 说明及简单实例
　　Selenium + PhantomJS 实现网站登录
　　Selenium + PhantomJS 实现动态页面数据爬取
　　爬虫项目实战：
　　分布式爬虫+ Elasticsearch 打造搜索引擎

Answer 2

据不完全统计，世界上80%的爬虫都是基于Python开发的。Python简单易学，对编程初学者十分友好，而且具有丰富而强大的库，开发效率奇高，因此很多编程爱好者都对Python爬虫十分感兴趣。要知道学好爬虫对工作大有裨益，可为今后入门大数据分析、挖掘、机器学习等领域提供重要的数据源，从而奠定一定的技术根基。
那么究竟爬虫是什么？首先来看看官方定义：
网络爬虫，是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫
换做通俗易懂的话术解释就是：通过程序在web页面上获取和筛选我们自己想要的数据，为我们所有，也就是自动抓取数据方式或者功能实现。

其实爬虫涉及的技术非常之广，包括但不仅限于熟练掌握Python一门编程语言，如： HTML知识、HTTP/HTTPS 协议的基本知识、正则表达式、数据库知识，常用抓包工具的使用、爬虫框架的使用、涉及到大规模爬虫，还需要了解分布式的概念、消息队列、常用的数据结构和算法、缓存，甚至还包括机器学习的应用，大规模的系统背后都是靠很多技术来支撑的。爬虫其实只是获取数据的手段，深入分析、挖掘这些数据才能收获更多的价值。

用Python写爬虫，首先需要会Python，把基础语法搞懂，知道怎么使用函数、类和常用的数据结构如list、dict中的常用方法就算基本入门。作为入门爬虫来说，需要了解 HTTP协议的基本原理，虽然 HTTP 规范用一本书都写不完，但深入的内容可以放以后慢慢去看，理论与实践相结合后期学习才会越来越轻松。关于Python爬虫需要学习哪些知识，为了方便大家学习，小编特意整理了一张Python爬虫学习线路图，希望对大家的学习能有一定的借鉴意义。

Answer 3

1.抓取2.抓回3.分析4.展示。慕课网实战搜一下课程，讲的很细致。

Answer 4

从爬虫基本要求来看：
1 抓取：抓取最基本就是拉网页回来，所以第一步就是拉网页回来，慢慢会发现各种问题待优化；
2 存储：抓回来一般会用一定策略存下来，可以选择存文件系统开始，然后以一定规则命名。
3 分析：对网页进行文本分析，可以用认为最快最优的办法，比如正则表达式；
4 展示：要是做了一堆事情，一点展示输出都没有，如何展现价值。
-引用回答，供参考

Answer 5

python基础知识