岗位职责:
1.设计、开发和维护大数据平台,包括离线平台、实时平台和算法平台的核心组件和功能;
2.确保平台的高可用性、扩展性和性能,满足公司业务需求和数据处理需求;
3.参与架构设计、技术选型和系统优化工作,持续提升平台的稳定性和效率;
4.与数据科学家、软件工程师和团队紧密合作,支持大规模数据处理和机器学习模型的部署;
5.设计并实现自动化工具和流程,简化数据处理流程和任务调度,提高团队工作效率。
职位要求:
1.本科或以上学历,计算机科学、信息技术或相关专业;
2.5年以上大数据平台开发经验,熟悉离线、实时和算法平台的设计和开发;
3.精通分布式框架,如Hadoop、Spark、Hive、Flink、K8S、Doris等,具有大数据组件容器化经验优先;
4.具备良好的沟通能力和团队合作精神,能够跨部门协作解决复杂问题;
5.具备自我驱动、学习能力强,适应快速发展的技术环境。