岗位职责:
1、负责分布式采集系统架构和数据存储设计和实现。
2、建立完整的数据获取、解析、入库和监控流程,并不断优化迭代完善。
3、负责各类网络请求分析,探索和研究高效的解决方安条。
4、理解系统数据处理流程以及业务功能需求。
5、保证数据的完整性和准确性,保障数据采集的稳定
性。
任职要求:
1、1-2年及以上数据采集经验。
2、熟悉 TCP/IP、HTTP、HTTPS等网络协议,熟悉
web前端,熟悉js、css、html等。
3、熟练使用Python/java/C++语言,熟悉常用采集框架和工具。
4、有Mysql、Mongodb、Redis使用经验。