Question

蜘蛛是如何爬取页面内容的？

Answer 1

学过SEO的同学们都知道蜘蛛有两种爬行方式：深度和广度，又叫横向抓取和纵向抓取，那么这个蜘蛛到底是怎么运作的呢？

如果真的想要了解这方面的东西，就必须要了解程序，数据库，编程语言。以PHP为例，其中有一个函数叫作file_get_contents，这个函数的作用就是获取URL里面的内容，并以文本的方式返回结果，当然也可以用CURL。

然后，就可以利用程序里面的正则表达式，对链接的数据进行提取、合并、去重等复杂操作，并将数据存入数据库。数据库有很多，比如：索引库、收录库等等。

当抓取数据完成上面操作后，自然也就得到了数据库里面不存在的链接，接着，程序会发出另一个指令，抓取这些库里面没存的URL。直致页面全部完成抓取。当然更有可能的是抓取完成后，不再抓取。

在百度站长平台会有抓取频次及抓取时间的数据，你应该可以见到，每个蜘蛛抓取是毫无规律可言，但你通过日常观察可以发现，页面深度越深，被抓取到的概率越低。

蜘蛛虽然有随机性和时效性，但也还是有许多规律可寻，比如流量对于蜘蛛有非常直接的正向作用，所以日常的操作当中你也会发现，一旦有流量进入到站点，蜘蛛也会随着增多，这种蜘蛛表现尤其是在一些违规操作里面表现的更为明显，比如百度刷排名！