职位描述
1、参与大数据能力平台建设过程、包括数据采集、清洗、处理、展示、输出等环节;
2、参与业务需求分析和功能开发、基于大数据能力为业务提供价值;
3、基于大数据平台技术的实时数仓和离线数仓的应用落地;
任职资格:
1、精通Java、熟悉数据结构及设计模式、熟悉多线程、SPI、JVM等相关原理、能够熟练进行服务端开发;
2、精通IoC原理、能够熟练使用spring进行开发;
3、熟悉数据库原理、熟练标准SQL的使用及优化、JDBC熟练
4、掌握常用大数据技术和主流技术框架、工具的使用、包括但不限于:sqoop、kettle、oozie、azkaban、clickhouse、hive、hbase、impala、es等;
5、熟练掌握Flink基础、对算子、watermark、state、join、savepoint等基础API熟练;熟练掌握connectors的使用及实现;熟悉任务物理执行计划原理及优化;有flink源码贡献者优先;
6、熟悉Hadoop生态、熟练掌握Kafka、HDFS、HBase、Hive等开源技术的使用及调优;
7、熟悉SQL优化和类sql的数据查询优化方案;
8、有K8S开发经验者可加分;