Question

大数据分析的技术有哪些？

Answer 1

大数据分析的具体内容可以分为四步：1、数据获取：需要把握对问题的商业理解，转化成数据问题来解决，直白点讲就是需要哪些数据，从哪些角度来分析，界定问题后，再进行数据采集。这样，就需要数据分析师具备结构化的逻辑思维。2、数据处理：数据的处理需要掌握有效率的工具，例如：Excel基础、常用函数和公式、数据透视表、VBA程序开发等式必备的；其次是Oracle和SQLsever。这是企业大数据分析不可缺少的技能。还有Hadoop之类的分布式数据库，也应该掌握。3、分析数据：分析数据需要各类统计分析模型，如关联规则、聚类、分类、预测模型等等。SPSS…

Answer 2

简单说有三大核心技术：拿数据，算数据，卖数据。
首先做为大数据，拿不到大量数据都白扯。现在由于机器学习的兴起，以及万金油算法的崛起，导致算法地位下降，数据地位提高了。举个通俗的例子，就好比由于教育的发展，导致个人智力重要性降低，教育背景变重要了，因为一般人按标准流程读个书，就能比牛顿懂得多了。谷歌就说：拿牛逼的数据喂给一个一般的算法，很多情况下好于拿傻傻的数据喂给牛逼的算法。而且知不知道弄个牛逼算法有多困难？一般人连这个困难度都搞不清楚好不好……拿数据很重要，巧妇难为无米之炊呀！所以为什么好多公司要烧钱抢入口，抢用户，是为了争夺数据源呀！不过运营，和产品更关注这个，我是程序员，我不管……
其次就是算数据，如果数据拿到直接就有价值地话，那也就不需要公司了，政府直接赚外快就好了。苹果落地都能看到，人家牛顿能整个万有引力，我就只能捡来吃掉，差距呀……所以数据在那里摆着，能挖出啥就各凭本事了。算数据就需要计算平台了，数据怎么存（HDFS, S3, HBase, Cassandra），怎么算（Hadoop, Spark）就靠咱们程序猿了……
再次就是卖得出去才能变现，否则就是搞公益了，比如《疑犯追踪》里面的李四和大锤他们……见人所未见，预测未来并趋利避害才是智能的终极目标以及存在意义，对吧？这个得靠大家一块儿琢磨。
其实我觉得最后那个才是“核心技术”，什么Spark，Storm，Deep-Learning，都是第二梯队的……当然，没有强大的算力做支撑，智能应该也无从说起吧。
NoSQL，分布式计算，机器学习，还有新兴的实时流处理，可能还有别的。
数据采集，数据存储，数据清洗，数据挖掘，数据可视化。数据采集有硬件采集，如OBD，有软件采集，如滴滴，淘宝。数据存储就包括NOSQL，hadoop等等。数据清洗包括语议分析，流媒体格式化等等。数据挖掘包括关联分析，相似度分析，距离分析，聚类分析等等。数据可视化就是WEB的了。