大数据运维工程师
【职位概述】
负责维护和优化公司的大数据平台,确保数据的准确性、可用性和安全性。通过对数据模型的深入理解,优化数据处理流程,提高数据质量。
【主要职责】
1、监控和维护大数据平台的稳定性和性能,包括但不限于Hadoop、Spark、Hive等。
2、管理和优化数据存储解决方案,确保数据的高可用性和灾难恢复能力。
3、与数据科学家和分析师合作,理解数据需求,优化数据模型和数据流。
4、定期进行数据质量检查和数据清洗,确保数据的准确性和一致性。
5、编写和维护数据相关的脚本和自动化工具,提高运维效率。
6、跟踪和分析大数据平台的日志,及时发现并解决潜在的问题。
7、参与数据安全策略的制定和实施,确保数据的安全性和合规性。
8、编写技术文档,为团队成员提供技术支持和培训。
【基本要求】
1、计算机科学、信息技术或相关专业,统招全日制本科及以上学历。
2、熟悉Linux操作系统和Shell脚本编程。
3、熟悉至少一种大数据技术栈,如Hadoop、Spark、Flink等。
4、熟悉SQL和NoSQL数据库,如MySQL、MongoDB、Cassandra等。
5、熟悉数据仓库和数据湖的概念和架构。
6、熟悉数据安全和隐私保护的相关法规和最佳实践。
【加分项】
1、对数据敏感,能够快速理解和分析复杂的数据模型。
2、有使用机器学习或人工智能技术处理数据的经验。
3、有中大型分布式系统设计和优化的经验。
4、有云平台(如AWS、Azure、Google Cloud)的运维经验。
公司地点:深圳阳光科创中心深圳南山区阳光科创中心B座1205
公司简介:
职位发布者:周女士
紫荆数谷(深圳)信息科技有限公司
融资阶段:
公司规模:
相似职位: