1、负责系统架构设计和模块开发,保证服务稳定、可靠、可扩展
2、研究爬虫策略和规则,解决抓取过程中的技术难点,提升抓取能力
3、负责数据抓取、清洗、处理和数据接口服务等相关的开发工作
岗位要求:
1、本科及以上学历,计算机相关专业
2、熟悉python,能够熟练在Linux环境下进行开发、调试和部署
3. 熟悉SQL,熟练使用Redis、MySQL、MongoDB等数据库工具进行开发
4、熟悉HTTP、TCP等网络协议,掌握fiddler、charles等抓包工具
5、熟悉基于Web或App的常用爬虫和反爬技术
6、具备优秀的逻辑思维能力、学习能力、沟通能力,善于分析问题/解决问题
7. 有过分布式爬虫或熟悉app逆向、反编译经验者优先