岗位职责
1.负责现有大数据平台的整体架构维护、研发及优化,确保系统的高性能、高可用性和可扩展性。
2.深入理解客户需求,主导技术方案设计,并在现场与客户进行技术对接,提供专业的技术支持,负责项目技术文档的编写。
3.负责大数据相关技术的选型、调优及问题排查,包括但不限于Hadoop、Spark、Flink、Kafka等组件的优化。
4.管理和指导开发团队,制定技术规范,推动项目高质量交付。
5.了解大数据平台的容器化部署及运维(Docker/Kubernetes/Rancher),确保系统稳定运行。
6.负责数据存储方案的设计与优化,熟练使用MySQL、Redis、PostgreSQL、Nebula、ClickHouse等数据库。
7.持续跟踪大数据领域的前沿技术,推动技术创新与落地。
任职要求
1.学历要求:本科及以上学历,计算机、软件工程、大数据等相关专业。
2.工作经验:
(1)5年以上大数据开发经验,3年以上大数据平台架构或团队管理经验。
(2)有大型大数据平台从0到1的搭建经验,熟悉分布式计算、存储及实时数据处理技术。
3.技术要求:
(1)大数据生态:精通Hadoop、Spark、Flink、Kafka、Minio、Elasticsearch等大数据组件的使用及调优。
(2)数据库:熟练掌握MySQL、Redis、PostgreSQL、ClickHouse、Doris等数据库的使用及优化。了解Nebula等数据库的使用。
(3)容器化与云原生:了解Docker、Kubernetes(K8s)、Rancher的使用,能进行容器化部署及管理。
(4)后端开发:掌握SpringBoot、MyBatis等框架,具备良好的Java开发能力。
(5)数据治理:熟悉数据仓库、数据湖、数据治理等相关技术者优先。
4.软技能:
(1)具备优秀的沟通能力,能够高效对接客户需求,推动项目落地。
(2)具备较强的团队管理能力,能够带领技术团队完成复杂项目。
(3)具备良好的问题分析与解决能力,能够应对高并发、海量数据的挑战。