Question

使用爬虫抓取网站,对方会察觉吗？

Answer 1

如果对方没有特意去检测的话，是不会察觉的。

简单来讲，爬虫就是一个探测机器，它的基本操作就是模拟人的行为去各个网站溜达，点点按钮，查查数据，或者把看到的信息背回来。像一只虫子在一幢楼里不知疲倦地爬来爬去。我们每天使用的百度其实就是利用了这种爬虫技术。

每天放出无数爬虫到各个网站，把他们的信息抓回来，然后化好淡妆排着小队等你来检索。再比如抢票软件，就相当于撒出去无数个分身，每一个分身都在帮助你不断刷新12306网站的火车余票。一旦发现有票。

就马上拍下来，然后对你喊：土豪快来付款。九道门丨关于“爬虫”，你知道多少？爬虫也分善恶善意爬虫：像搜索引擎的爬虫，被爬过的网站获得了免费的曝光机会，给网站带去了流量，而被爬虫方也很愿意并高兴数据被发现。

因此，这种爬虫是善意的，并且严格遵守Robots协议规范爬取网页数据（如URL）。