百度蜘蛛不抓取内容页?

两个月的网站,今天检测了一下日志发下百度蜘蛛的抓取只抓取主题里的assets/fonts和首页,而内容页从来就没抓取过,网站上线20天收的首页现在又过了一个月了还没收录内... 两个月的网站,今天检测了一下日志发下百度蜘蛛的抓取只抓取主题里的assets/fonts和首页,而内容页从来就没抓取过,网站上线20天收的首页现在又过了一个月了还没收录内页所以查看了一下发现从来就没抓过内页,这是哪里出的问题?每天都按时定量发布内容的。 展开
 我来答
帐号已注销
2020-07-10 · TA获得超过4259个赞
知道小有建树答主
回答量:381
采纳率:87%
帮助的人:28.9万
展开全部

百度蜘蛛不抓取页面的解决方法

1.网站及页面权重。

这个肯定是首要的了,权重高、资格老、有权威的网站蜘蛛是肯定特殊对待的,这样的网站抓取的频率非常高,而且大家知道搜索引擎蜘蛛为了保证高效,对于网站不是所有页面都会抓取的,而网站权重越高被爬行的深度也会比较高,相应能被抓取的页面也会变多,这样能被收录的页面也会变多。

2.网站的更新频率。

蜘蛛每次爬行都会把页面数据存储起来。如果第二次爬行发现页面与第一次收录的完全一样,说明页面没有更新,蜘蛛也就没有必要经常抓取了。页面内容经常更新,蜘蛛就会更加频繁的访问页面,但是蜘蛛不是你一个人的,不可能就在这蹲着等你更新,所以我们要主动向蜘蛛示好,有规律的进行文章更新,这样蜘蛛就会根据你的规律有效的过来抓取,不仅让你的更新文章能更快的抓取到,而且也不会造成蜘蛛经常性的白跑一趟。

3.文章的原创性。

优质的原创内容对于百度蜘蛛的诱惑力是非常巨大的,蜘蛛存在的目的就是寻找新东西,所以网站更新的文章不要采集、也不要每天都是转载,我们需要给蜘蛛真正有价值的原创内容,蜘蛛能得到喜欢的,自然会对你的网站产生好感,经常性的过来觅食。

4.内链建设。

蜘蛛的爬行是跟着链接走的,所以内链的合理优化可以要蜘蛛抓取到更多的页面,促进网站的收录。内链建设过程中要给用户合理推荐,除了在文章中增加锚文本之外,可以设置相关推荐,热门文章,更多喜欢之类的栏目,这是很多网站都在利用的,可以让蜘蛛抓取更大范围的页面。

5.首页推荐。

首页是蜘蛛来访次数最多的页面,也是网站权重最高的页面,可以在首页设置更新版块,这样不仅能让首页更新起来,促进蜘蛛的来访频率,而且可以促进更新页的抓取收录。同理在栏目页也可以进行此操作。

6.检查死链,设置404页面

搜索引擎蜘蛛是通过链接来爬行搜索,如果太多链接无法到达,不但收录页面数量会减少,而且你的网站在搜索引擎中的权重会大大降低。蜘蛛在遇见死链就像进了死胡同,又得折返重新来过,大大降低蜘蛛在网站的抓取效率,所以一定要定期排查网站的死链,向搜索引擎提交,同时要做好网站的404页面,告诉搜索引擎错误页面。

7.检查robots文件

很多网站有意无意的直接在robots文件屏蔽了百度或网站部分页面,却整天在找原因为什么蜘蛛不来抓取我的页面,这能怪百度吗?你都不让别人进门了,百度是怎么收录你的网页?所以有必要时常去检查一下网站robots文件是否正常。

8.建设网站地图。

搜索引擎蜘蛛非常喜欢网站地图,网站地图是一个网站所有链接的容器。很多网站的链接层次比较深,蜘蛛很难抓取到,网站地图可以方便搜索引擎蜘蛛抓取网站页面,通过抓取网站页面,清晰了解网站的架构,所以建设一个网站地图不仅提高抓取率还能获得蜘蛛好感。

北京伟景智能科技
2024-11-19 广告
做智能抓取可以找北京伟景智能科技有限公司的智能专用抓取3D相机智光眼,智光眼与3D视觉智能抓取引导应用平台 —— 飞虎强强联合,能够轻松应对各种复杂的抓取任务,并在不同的应用场景中展现出卓越的性能。... 点击进入详情页
本回答由北京伟景智能科技提供
品牌策划圈
2020-07-08 · 总经理,镇平县盒创智能科技服务中心
品牌策划圈
采纳数:19 获赞数:2234

向TA提问 私信TA
展开全部
百度蜘蛛不榨取内容确实也很常见,原因也很多,比如服务器不稳定,写的代码robots禁止抓取,其次看一下自己的URL,尽量短好收录,最后,看网站发布的内容是不是重复率很高,尽量做到原创,更新频率稳定,这样有利于抓取。
已赞过 已踩过<
你对这个回答的评价是?
评论 收起
微讯运势网
2020-07-10 · 百度认证:蒲县蒲城玖壹微讯广告经营部官方账号,科技领域爱好者
微讯运势网
seo导航为个人站长与企业网络提供全面的一站式网站导航推广服务,我们一直致力于为站长提供动力。
向TA提问
展开全部
首先看下网站布局,网站首页是否调用的最新文章。
面包屑导航是否有做。
文章是否有及时的提交百度。
文章质量如何,
望采纳
已赞过 已踩过<
你对这个回答的评价是?
评论 收起
高考文化课集训
2020-07-06
知道答主
回答量:33
采纳率:0%
帮助的人:9095
展开全部
首先先检查下robots有没有禁止抓取,其次看一下自己的URL会不会层级太深,不利于抓取,最后,每天发布内容质量会不会太低,导致百度蜘蛛不抓取。希望可以帮到你!
已赞过 已踩过<
你对这个回答的评价是?
评论 收起
收起 更多回答(2)
推荐律师服务: 若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询

为你推荐:

下载百度知道APP,抢鲜体验
使用百度知道APP,立即抢鲜体验。你的手机镜头里或许有别人想知道的答案。
扫描二维码下载
×

类别

我们会通过消息、邮箱等方式尽快将举报结果通知您。

说明

0/200

提交
取消

辅 助

模 式