大数据架构师

工作依据:基于企业业务需求与技术发展趋势

工作内容:规划大数据架构体系、搭建高性能平台、优化数据流转与共享

工作成果:支撑数据挖掘、实时决策等业务目标,提升数据处理效率与质量

1. 架构规划与设计

-设计涵盖存储、计算、传输的大数据架构,规划数仓分层(ODS/DW/DM/ADS);

-运用维度建模方法,满足数据挖掘、实时决策等复杂需求

2. 大数据平台搭建与优化

-基于Starrocks/Doris部署集群,整合Hadoop/Spark等组件,优化性能

-调优JVM参数、存储格式,保障数据快速处理

3. 数据建模与管理。设计规范灵活的数据仓库模型,建立质量管理体系(DataX/Informatica)

4. 数据集成与流处理。 设计Kafka消息队列与Flink实时流处理系统

5. 技术选型与评估。评估新技术成熟度与性能,引入适用技术(如新组件测试与场景验证)

6. 团队协作与技术指导。组织技术交流与培训,提升团队技能(Java/Spark/数仓设计)

任职资格:

教育背景与职业/执业资格:

计算机相关专业本科及以上学历

工作经验及行业背景:

7年以上大数据架构经验,3年以上0-1搭建经验,主导≥2个大型数仓项目

能力要求(专业技能/语言要求):

技术能力:精通Starrocks/Doris、Hadoop/Spark/Flink,熟悉Java开发与调优

数据建模:掌握维度建模方法,熟悉数仓分层设计(ODS/DW/DM/ADS)

工具使用:熟练使用DataX/Informatica/Kafka,熟悉SQL优化与机器学习基础

人才核心特质要求(除通用标准外):

问题解决能力强、沟通协作高效、学习创新意识突出

公司地点:上海黄浦区华旭国际大厦1611

公司简介:

职位发布者:孟经理

上海倍通医疗器械管理咨询有限公司

融资阶段:

公司规模:

相似职位: