Question

Python可以做大数据吗

Python是数据科学家十分喜爱的编程语言，其内置了很多由C语言编写的库，操作起来更加方便，Python在网络爬虫的传统应用领域，在大数据的抓

Answer 1

Python是数据科学家十分喜爱的编程语言，其内置了很多由C语言编写的库，操作起来更加方便，Python在网络爬虫的传统应用领域，在大数据的抓取方面具有先天优势，目前，最流行的爬虫框架Scrapy，HTTP工具包urlib2，HTML解析工具beautifulsoup，XML解析器lxml，等等，都是能够独当一面的Python类库。

相关推荐：《Python基础教程》

Python十分适合数据抓取工作，对于大数据的处理，具有一定的局限性：

Python在大数据处理方面的优势：

1. 异常快捷的开发速度，代码量少；

2. 丰富的数据处理包，使用十分方便；

3. 内部类型使用成本低；

4. 百万级别数据可以采用Python处理。

Python在大数据处理方面的劣势：

1. python线程有gil，多线程的时候只能在一个核上跑，浪费了多核服务器；

2. python执行效率不高，在处理大数据的时候，效率不高；

3. 10亿级别以上的数据Python效率低。

Python适合大数据的抓取、载入和分发，相比于其他语言更加简单、高效；求一些常用的统计量和求一些基本算法的结果，Python也有现成的高效的库，但是针对大数据处理，Python具有一定的局限于，因此，涉及大数据处理时，可以用Python做整个流程的框架，核心CPU密集操作可以采用C语言等编程语言！