Question

关键的大数据技术有哪些

Answer 1

预测分析：随着现在硬件和软件解决方案的成熟，许多公司利用大数据技术来收集海量数据、训练模型、优化模型，并发布预测模型来提高业务水平或者避免风险；
NoSQL数据库：非关系型数据库包括Key-value型（Redis）数据库、文档型（MonogoDB）数据库、图型（Neo4j）数据库；
搜索和知识发现：支持信息的自动抽取，可以从多数据源洞察结构化数据和非结构化数据；
流式分析：软件可以对多个高吞吐量的数据源进行实时的清洗、聚合和分析；
内存数据结构：通过动态随机内存访问（DRAM）、Flash和SSD等分布式存储系统提供海量数据的低延时访问和处理；
分布式存储系统：分布式存储是指存储节点大于一个、数据保存多副本以及高性能的计算网络；
数据可视化：数据可视化技术是指对各类型数据源（包括Hadoop上的海量数据以及实时和接近实时的分布式数据）进行显示；
数据整合：通过亚马逊弹性MR（EMR）、Hive、Pig、Spark、MapReduce、Couchbase、Hadoop和MongoDB等软件进行业务数据整合；
数据预处理：数据整合是指对数据源进行清洗、裁剪，并共享多样化数据来加快数据分析；
数据校验：对分布式存储系统和数据库上的海量、高频率数据集进行数据校验，去除非法数据，补全缺失。