皮学网 范文大全 办公文秘 岗位职责内容

大数据开发工程师的主要职责精选

由 张三君 分享 时间:2025-01-12 阅读:0
大数据开发工程师的主要职责精选

职责:

1、负责公司项目应用监测数据,分析软件大数据平台的代码开发;

2、负责大数据体系架构设计和应用产品的研究;

3、负责大数据平台及应用场景的构建、部署、测试;

、编写软件研发相关技术文档;

5、编写产品研发相关任务单计划,阶段性代码、技术方案和软件产品及时提交至配置管理理库;

6、Spark程序的研发,sqoop脚本开发和商家用户行为等离线分析数据;

7、kudu,kylin等技术调研,编写软件研发相关技术文档;

8、SUNMI数仓设计架构以及ETL流程开发;

9、建立多维度,多体系的用户标签体系以及用户行为数据库。

岗位要求:

1、本科以上学历,4年以上?工作经验,2年以上Hadoop平台的相关研发经验,具有良好的需求分析,方案设计,架构设计,程序编写、测试能力;

2、熟悉J2EE或Python平台开发,有良好的Java或Python语言功底;

3、了解Linux/Unix操作系统,了解脚本编程(Shell/Python其中一种);

、具备数据中心资源管理(YARN)、监控(ClouderaManage)、调度(Azkaban)等系统研发经验者优先,具备分布式系统研发经验者优先;

5、熟悉hadoop以及其?生态圈系统上的hive、hbase、sqoop、spark、spark-streaming等技

术,懂hadoop源码者优先;

6、熟悉Kylin有OLAP平台设计和开发经验优先;

7、具有应用大数据技术处理TB级以上数据的项目开发经验者优先;

8、有较清晰的代码编写规范,逻辑性强,工作态度认真,良好沟通能力和团队合作精神。

质管部工作职责质管部门职能汇总

电商销售专员岗位的职责模板

最新更新

更多