Question

动态生成的页面该怎么抓取

Answer 1

可以考虑用phantonjs或者它的衍生物casperjs以及spookyjs。phontonjs是个无界面的浏览器，通过js代码来控制浏览器的浏览行为。casper在它上面封装了很多好用的API，很方便的实现点击、等待某元素出现等动作。

Answer 2

很早之前，学习Python web编程的时候，就涉及一个Python的urllib。可以用urllib.urlopen("url").read()可以轻松读取页面上面的静态信息。但是，随着时代的发展，也来越多的网页中更多的使用javascript、jQuery、PHP等语言动态生成页面信息。