大数据开发-职位分类

本文介绍了大数据开发的职位分类及工作流程。从数据采集、数据同步、数据开发到数据展示,涵盖了数据工程师、架构师、分析师的角色。基础平台团队包括数据开发、架构和运维,数据平台团队涉及数据开发和挖掘,数据分析团队则包含业务和建模分析师。各角色在Hadoop、Spark等技术基础上,进行数据处理和业务决策支持。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

如何跟一个非相关性的人解释你是做大数据的,你是做大数据的哪一部分工作,从求职者角度,如何从jd描述中估摸大概率做哪一块,从猎头角度,如何从一份简历中看出你更匹配哪个jd

1.相关技术

大数据开发的技术名词无非是下面几种,

Hadoop,Hive,Spark,Kafka,Sqoop,Flink,Oozie,Hbase,hue

但是大数据架构根据每个厂的基础建设不同,可能会有不同的方案,但是总的流程是大致一致的

涉及的语言一般是:Java, Scala, Python, Go 其中前两者是必须掌握的主语言,后两者是平台或者业务多

2.流程

粗略地来讲,应用角度,最终有两种服务去向,一种是返回给用户,一种是做业务决策,虽说业务决策最终大概率也是返回给用户,但是这是一个隐含的很长的链,所以假设不考虑这个,返给用户又包括:实时返回,定时返回,运营结果返回,

其他就是辅助上面数据流转的框架引擎,监控系统等等,调度系统

file

数据采集

自己后台业务数据,埋点数据,第三方数据

数据同步

将业务数据库数据或者kafka等日志拉到数仓

数据开发

将原始ods层数据根据数仓划分一层层加工

数据展示

将最后的数据再导入到业务数据库

3.岗位分类

基础平台团队

主要负责搭建稳定、可靠的大数据存储和计算平台。

核心成员包括:

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值