工作依据:基于企业业务需求与技术发展趋势
工作内容:规划大数据架构体系、搭建高性能平台、优化数据流转与共享
工作成果:支撑数据挖掘、实时决策等业务目标,提升数据处理效率与质量
1. 架构规划与设计
-设计涵盖存储、计算、传输的大数据架构,规划数仓分层(ODS/DW/DM/ADS);
-运用维度建模方法,满足数据挖掘、实时决策等复杂需求
2. 大数据平台搭建与优化
-基于Starrocks/Doris部署集群,整合Hadoop/Spark等组件,优化性能
-调优JVM参数、存储格式,保障数据快速处理
3. 数据建模与管理。设计规范灵活的数据仓库模型,建立质量管理体系(DataX/Informatica)
4. 数据集成与流处理。 设计Kafka消息队列与Flink实时流处理系统
5. 技术选型与评估。评估新技术成熟度与性能,引入适用技术(如新组件测试与场景验证)
6. 团队协作与技术指导。组织技术交流与培训,提升团队技能(Java/Spark/数仓设计)
任职资格:
教育背景与职业/执业资格:
计算机相关专业本科及以上学历
工作经验及行业背景:
7年以上大数据架构经验,3年以上0-1搭建经验,主导≥2个大型数仓项目
能力要求(专业技能/语言要求):
技术能力:精通Starrocks/Doris、Hadoop/Spark/Flink,熟悉Java开发与调优
数据建模:掌握维度建模方法,熟悉数仓分层设计(ODS/DW/DM/ADS)
工具使用:熟练使用DataX/Informatica/Kafka,熟悉SQL优化与机器学习基础
人才核心特质要求(除通用标准外):
问题解决能力强、沟通协作高效、学习创新意识突出