Question

搜索引擎的蜘蛛爬虫是怎么样抓取页面的

Answer 1

搜索引擎把蜘蛛分为三种级别：1、初级蜘蛛;2、中级蜘蛛;3，高级蜘蛛。 这三种蜘蛛分别具有不同的权限，我们一一讲解。

　　①、高级蜘蛛。
　　高级蜘蛛负责去爬行权重比较高的网站，高级蜘蛛有专门的权限，就是秒收。这就是为什么你去权重比较高的论坛发帖，会被搜索引擎直接秒收了。高级蜘蛛爬行深度也是非常的高，他几乎能够爬行到你网站的所有链接页面，高级蜘蛛的来访频率也很高，几乎每天都会来访，这样就完全加快了百度快照的更新频率。这就是为什么这么多站长一直在不断努力的提高权重的原因。

　　②、中级蜘蛛。
　　中级蜘蛛通过爬行外链和反链(友情链接)来到你的网站，然后再从你的网站爬行，从而抓取你网站的内容，然后把抓取的到的内容，和搜索引擎数据库中原来的数据一一进行对比，看看是否是原创内容、伪原创内容、还是直接采集的内容，从而确定要不要放出来。所以说，我们在高权重的论坛发软文和有锚文本签名是可以很有效的引来蜘蛛的光顾。

　　③、初级蜘蛛。
　　初级蜘蛛就简单了，它一般情况只去爬行新站，爬行深度也很低，它抓取到网页的内容后，会一级一级的提交到搜索引擎数据库，然后先把数据存放起来，再过几天再来爬行，直到搜索引擎觉得爬行到的内容是有价值的才会被放出来。这就是为什么新站都有一个考核期，因为都是一些初级蜘蛛在光顾，所以特别的慢，一般情况爬行深度也很低，有时候只爬了一个首页就完事了。

　　搜索引擎蜘蛛对搜索引擎来说就是信息来源所在，对于网站站长，总是希望网站对搜索引擎蜘蛛友好，希望蜘蛛能在自己的网站多待会多抓取点网页。其实这些蜘蛛又何尝不想多抓取点页面，多更新点页面呢，只不过互联网信息过于巨大，有时候蜘蛛也是力不能及。这就引出了对搜索引擎蜘蛛的一个考核，蜘蛛每天也是在苦逼的干活的，也是需要考核评价的，其中有3个最主要的考核标准:抓取网页覆盖率、抓取网页时效性及抓取网页的重要性。