Question

爬虫抓取究竟是什么？

Answer 1

就是从网页中，提取出结构化数据。另外的特点，就是自动化，节省人力。通过访问网站 然后获取到你想要的信息。

简要地说爬虫抓取的是数据或信息。根据不同的行业及应用，爬虫所抓取的数据各有不同的偏重，一般来说是业务需要那些数据，那抓取对应的数据回来，再经过清洗、转化等步骤促进业务增长与辅助决策。

抓取目标分类

抓取目标的描述和定义是决定网页分析算法与URL搜索策略如何制订的基础。而网页分析算法和候选URL排序算法是决定搜索引擎所提供的服务形式和爬虫网页抓取行为的关键所在。这两个部分的算法又是紧密相关的。

现有聚焦爬虫对抓取目标的描述可分为基于目标网页特征、基于目标数据模式和基于领域概念3种。

1、基于目标网页特征

基于目标网页特征的爬虫所抓取、存储并索引的对象一般为网站或网页。根据种子样本获取方式可分为：

（1）预先给定的初始抓取种子样本。

（2）预先给定的网页分类目录和与分类目录对应的种子样本，如Yahoo!分类结构等。

（3）通过用户行为确定的抓取目标样例，分为：用户浏览过程中显示标注的抓取样本；通过用户日志挖掘得到访问模式及相关样本。

其中，网页特征可以是网页的内容特征，也可以是网页的链接结构特征，等等。

2、基于目标数据模式

基于目标数据模式的爬虫针对的是网页上的数据，所抓取的数据一般要符合一定的模式，或者可以转化或映射为目标数据模式。

3、基于领域概念

另一种描述方式是建立目标领域的本体或词典，用于从语义角度分析不同特征在某一主题中的重要程度。