在用spyder学python爬虫,发现有些网站的一些东西用审查元素查的到,但是打开源代码没有 50

在用spyder学python爬虫,发现有些网站的一些东西用审查元素查的到,但是打开源代码没有在用spyder学python爬虫,发现有些网站的一些东西用审查元素查的到,... 在用spyder学python爬虫,发现有些网站的一些东西用审查元素查的到,但是打开源代码没有在用spyder学python爬虫,发现有些网站的一些东西用审查元素查的到,但是打开源代码没有,于是无法用基础方法爬到,这种信息应该怎么爬? 展开
 我来答
灰色52056
2016-11-22 · TA获得超过514个赞
知道小有建树答主
回答量:494
采纳率:100%
帮助的人:361万
展开全部

有js渲染咯,好粗戚我一友陵般处理这种情况是看post能不能解决,不能解决就用虚拟浏览器,我的教程:

无界面mechanicalsoup:http://www.cnblogs.com/TTyb/p/6039411.html
无界面RoboBrowser_test:http://www.cnblogs.com/TTyb/p/6033620.html
有界面selenium:http://www.cnblogs.com/TTyb/p/5842015.html

无界面的快,但是封装得好用吧,如果是py2就可以用mechanize玩,py3我用selenium,有界面加载慢,可以用firebox无图插件加快加载时间,具体问题具体分析,凳春你看着搞吧

55120187
2016-11-23 · TA获得超过181个赞
知道小有建树答主
回答量:212
采纳率:0%
帮助的人:142万
展开全部
你这种情况烂尺拿,是因为浏览的是动态页面,源码是困亩动态生饥搭成的,需要找到那个隐藏的url才能抓取。采用这种方式的网站很多,是为了快速显示相应的内容。解决方法要么找到可以显示内容的隐藏url,要么采用python的插件,将全部的内容显示出来后,读取源码,再抓取。
本回答被网友采纳
已赞过 已踩过<
你对这个回答的评价是?
评论 收起
中唱q4
2016-11-22 · TA获得超过125个赞
知道答主
回答量:142
采纳率:0%
帮助的人:17.3万
展开全部
已赞过 已踩过<
你对这个回答的评价是?
评论 收起
收起 1条折叠回答
推荐律师服务: 若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询

为你推荐:

下载百度知道APP,抢鲜体验
使用百度知道APP,立即抢鲜体验。你的手机镜头里或许有别人想知道的答案。
扫描二维码下载
×

类别

我们会通过消息、邮箱等方式尽快将举报结果通知您。

说明

0/200

提交
取消

辅 助

模 式