在静态页面上使用动态参数,会造成spider多次和重复抓取 怎么办?

这样能解决吗?我试了一下可是百度蜘蛛还是会抓取我的动态页面!... 这样能解决吗? 我试了一下 可是百度蜘蛛还是会抓取我的动态页面! 展开
 我来答
JovenShao
2013-05-14 · TA获得超过514个赞
知道小有建树答主
回答量:1161
采纳率:80%
帮助的人:619万
展开全部
User-agent: *
Disallow: /
Storm代理
2023-08-29 广告
"StormProxies是全球大数据IP资源服务商,其住宅代理网络由真实的家庭住宅IP组成,可为企业或个人提供满足各种场景的代理产品。点击免费测试(注册即送1G流量)StormProxies有哪些优势?1、IP+端口提取形式,不限带宽,I... 点击进入详情页
本回答由Storm代理提供
推荐律师服务: 若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询

为你推荐:

下载百度知道APP,抢鲜体验
使用百度知道APP,立即抢鲜体验。你的手机镜头里或许有别人想知道的答案。
扫描二维码下载
×

类别

我们会通过消息、邮箱等方式尽快将举报结果通知您。

说明

0/200

提交
取消

辅 助

模 式