Question

爬虫技术是做什么的

Answer 1

简单来讲， 爬虫 就是一个探测机器，它的基本操作就是模拟人的行为去各个网站溜达，从这个链接跳到那个链接，查查数据，或者把看到的信息传输回去。就像一只蜘蛛在互联网这张大网上不知疲倦的爬来爬去。

你每天使用的百度，其实就是利用了这种爬虫技术：每天放出无数 爬虫 到各个网站，把他们的信息抓回来，然后化好淡妆排着小队等你来检索。

抢票软件，就相当于撒出去无数个分身，每一个分身都帮助你不断刷新 12306 网站的火车余票。一旦发现有票，就马上拍下来，然后对你喊：土豪快来付款。

这些都可以使用 爬虫 来实现，爬虫其实可以代替人类完成一些重复无聊的工作，例如：你想将小明的网站博客搬到自己网站，但是你又不想一篇一篇的复制，于是你用爬虫批量采集，完成这项工作可能需要人工3天左右的时间，而使用爬虫只需要1-2分钟左右，大大节省了人力。

当然大部分爬虫技术还是用来采集数据的，之后对数据进行清洗，符合项目要求。