数据处理一般包括哪四个过程?

中学数学问题... 中学数学问题 展开
 我来答
派可数据PackingData
2021-08-04 · 百度认证:北京派可数据科技有限公司官方账号
派可数据PackingData
向TA提问
展开全部

数据治理流程是从数据规划、数据采集、数据储存管理到数据应用整个流程的无序到有序的过程,也是标准化流程的构建过程。

根据每一个过程的特点,我们可以将数据治理流程总结为四个字,即“理”、“采”、“存”、“用”。



1.理:梳理业务流程,规划数据资源

对于企业来说,每天的实时数据都会超过TB级别,需要采集用户的哪些数据,这么多的数据放在哪里,如何放,以什么样的方式放?

这些问题都是需要事先进行规划的,需要有一套从无序变为有序的流程,这个过程需要跨部门的协作,包括了前端、后端、数据工程师、数据分析师、项目经理等角色的参与。

2.采:ETL采集、去重、脱敏、转换、关联、去除异常值

前后端将采集到的数据给到数据部门,数据部门通过ETL工具将数据从来源端经过抽取(extract)、转换(transform)、加载(load)至目的端的过程,目的是将散落和零乱的数据集中存储起来。

3.存:大数据高性能存储及管理

这么多的业务数据存在哪里?这需要有一高性能的大数据存储系统,在这套系统里面将数据进行分门别类放到其对应的库里面,为后续的管理及使用提供最大的便利。

4.用:即时查询、报表监控、智能分析、模型预测

数据的最终目的就是辅助业务进行决策,前面的几个流程都是为最终的查询、分析、监控做铺垫

这个阶段就是数据分析师的主场,分析师们运用这些标准化的数据可以进行即时的查询、指标体系和报表体系的建立、业务问题的分析,甚至是模型的预测。

美林数据技术股份有限公司
2020-10-29 广告
Tempo大数据分析平台,是一款面向企业用户的数据分析与应用工具,为用户提供报表设计、可视化分析、机器学习、文本分析等自助式数据分析与探索。平台基于大数据架构,集数据接入、数据分析探索、成果管理与应用为一体,面向企业全民用户提供从数据到业务... 点击进入详情页
本回答由美林数据技术股份有限公司提供
匿名用户
2013-09-07
展开全部
数据处理技术的发展经历了从低级到高级的四个发展阶段,它们分别是手工管理、文件管理 、数据库管理 和分布式数据库系统阶段。
已赞过 已踩过<
你对这个回答的评价是?
评论 收起
匿名用户
2013-09-07
展开全部
手工管理、文件管理 、数据库管理 和分布式数据库系统阶段。
已赞过 已踩过<
你对这个回答的评价是?
评论 收起
匿名用户
2013-09-07
展开全部
1分组
2排序
3分类
4编码

绝对对!!你放心
已赞过 已踩过<
你对这个回答的评价是?
评论 收起
匿名用户
2013-09-07
展开全部
收集 处理 分类 画图(列表)
已赞过 已踩过<
你对这个回答的评价是?
评论 收起
收起 更多回答(5)
推荐律师服务: 若未解决您的问题,请您详细描述您的问题,通过百度律临进行免费专业咨询

为你推荐:

下载百度知道APP,抢鲜体验
使用百度知道APP,立即抢鲜体验。你的手机镜头里或许有别人想知道的答案。
扫描二维码下载
×

类别

我们会通过消息、邮箱等方式尽快将举报结果通知您。

说明

0/200

提交
取消

辅 助

模 式