为什么一些网站不会屏蔽搜索引擎的爬虫?

 我来答
猪八戒网
2023-04-03 · 百度认证:重庆猪八戒网络有限公司官方账号
猪八戒网
猪八戒网(zbj.com)创建于2006年,现已形成猪八戒网、天蓬网和线下八戒工场的“双平台+一社区”服务模式,是中国领先的人才共享平台。
向TA提问
展开全部

您好!

不是一些网站不会屏蔽搜索引擎的爬虫,而是绝大部分网站都不会屏蔽的。除非你是特定行业,像淘宝就屏蔽了搜索引擎抓取内页,这个也很好理解,淘宝如果不屏蔽的话,就会造成商家的店铺以及商品被抓取,那么商家就会去做百度竞价,而不会做淘宝联盟的推广,这样淘宝岂不是得不偿失?

一般的网站都不屏蔽搜索引擎的抓取,主要是因为需要搜索引擎带来流量呀!!!!

推荐律师服务: 若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询

为你推荐:

下载百度知道APP,抢鲜体验
使用百度知道APP,立即抢鲜体验。你的手机镜头里或许有别人想知道的答案。
扫描二维码下载
×

类别

我们会通过消息、邮箱等方式尽快将举报结果通知您。

说明

0/200

提交
取消

辅 助

模 式