Question

大数据系统的数据如何获取?

无论是公司内部的数据还是外部的数据都可以构成我们大数据平台的来源数据，大数据平台的数据来源主要有1、从数据库导入;2、日志导入;3、前端埋点;4、爬虫。

Answer 1

1、从数据库导入

在大数据技术风靡起来前，关系型数据库(RDMS)是主要的数据分析与处理的途径。发展至今数据库技术已经相当完善，当大数据出现的时候，行业就在考虑能否把数据库数据处理的方法应用到大数据中，于是 Hive、Spark SQL 等大数据 SQL 产品就这样诞生。

2、日志导入

日志系统将我们系统运行的每一个状况信息都使用文字或者日志的方式记录下来，这些信息我们可以理解为业务或是设备在虚拟世界的行为的痕迹，通过日志对业务关键指标以及设备运行状态等信息进行分析。

3、前端埋点

为什么需要埋点?现在的互联网公司越来越关注转化、新增、留存，而不是简单的统计 PV、UV。这些分析数据来源通过埋点获取，前端埋点分为三种：手工埋点、可视化埋点、自动化埋点。

4、爬虫

时至至今， 爬虫的数据成为公司重要战略资源，通过获取同行的数据跟自己的数据进行支撑对比，管理者可以更好的做出决策。而且越难爬虫获取竞争对手的数据，对于公司来说是越有价值。

Answer 2

时代在发展，在目前这个大数据时代，谁能掌握大数据，谁就有可能会获得商机，谁就有可能会...如何获取大数据。