岗位职责:
1、负责公司日常数据采集任务开发,解析,清洗,存储工作
2、不断完善和重构现有的数据采集集群,通过对抓取,解析,调度,存储模块拆分和优化,逐步完善统一的数据采集服务平台
3、必须熟悉一套爬虫框架;例如Scrapy,Feapder框架等
任职资格:
1、计算机相关专业本科及以上学历,2年以上工作经验
2、熟练掌握Python语言,对数据敏感,具有良好的逻辑分析能力
3、熟悉Cookie登录原理,熟练掌握xpath,CSS,正则等常用的信息抽取技术
4、熟练掌握SQL语言,熟悉主流数据库开发,有使用MySQL,ElasticSearch,Redis经验
5、学习能力强,能够独立解决问题,并且善于总结分享
6、拥有良好的团队合作及沟通能力
7、有一定的JS逆向能力,APP数据采集能力(加分项)
8、有相关数据平台工作经验