大数据工程师干什么工作 职责是什么
大数据工程师负责创建和维护分析基础架构,该基础架构几乎可以支持数据世界中的所有其他功能。他们负责大数据架构的开发、构建、维护和测试,例如数据库和大数据处理系统。大数据工程师还负责创建用于建模,挖掘,获取和验证数据集合等流程。
大数据工程师的工作职责
1、负责公司大数据平台产品的技术工作,包括需求分析、架构设计、研发、以及性能分析工作;
2、负责整体提升Hadoop集群的高可用性、高性能、高扩展特性,已有的大数据平台架构的维护工作;
3、负责海量数据的导入优化工作;
4、整理和完善各类文档。
大数据工程师需要具有良好的沟通能力、优秀的分析问题和问题解决能力;具备强烈的进取心和团队合作精神;具备数据库系统的基本理论知识。
大数据工程师需要学习的知识
1、linux
大数据集群主要建立在linux操作系统上,Linux是一套免费使用和自由传播的类Unix操作系统。而这部分的内容是大家在学习大数据中必须要学习的,只有学好Linux才能在工作中更加的得心应手。
2、Hadoop
我觉的大家听过大数据就一定会听过hadoop。Hadoop是一个能够对大量数据进行离线分布式处理的软件框架,运算时利用maprebaice对数据进行处理。
3、Java
只需要学习Java的标准版JavaSE就可以了,像Servlet、JSP、Tomcat、Struts、Spring、Hibernate,Mybatis都是JavaEE方向的技术在大数据技术里用到的并不多,只需要了解就可以了,当然Java怎么连接数据库还是要知道的,像JDBC一定要掌握一下。