IT人力外包人才简历库

返回列表

数据采集与爬虫开发工程师

驻场外包人员
工作年限:1年 意向城市:杭州 浏览:4次 发布时间:近期

技能标签

Python Scrapy MongoDB MySQL Selenium 数据采集 爬虫开发 数据存储 数据库优化 前端基础 Vue框架 数据处理 自动化脚本 数据清洗 信息抓取

专业技能

精通Python编程语言,熟练掌握Scrapy框架进行分布式爬虫开发,熟悉MongoDB与MySQL数据库设计与优化,具备Selenium自动化测试能力。掌握数据清洗、存储与可视化技术,熟悉前端基础开发及Vue框架。具备网络请求分析、反爬策略识别与应对能力,熟悉HTTP协议及常见请求头配置。

工作履历(脱敏处理)

作为数据开发实习生,主要负责数据采集系统的开发与维护工作。参与设计并实现多个数据采集项目,包括房源信息采集、游戏数据采集及彩票数据采集等。主导开发基于Scrapy框架的分布式爬虫系统,优化数据存储方案,提升数据处理效率。完成MySQL与MongoDB数据库的结构设计与性能调优,确保数据存储的稳定性与扩展性。通过Selenium实现网页自动化操作,解决动态内容采集难题。参与前端数据展示模块开发,使用Vue框架实现数据可视化展示。

项目经验(脱敏处理)

LOL英雄数据采集系统:基于Scrapy框架构建分布式爬虫架构,采集英雄出场次数、KDA等核心数据。通过分析官网反爬机制,采用动态请求头配置与代理IP池技术突破限制。设计MySQL数据库表结构,实现数据分表存储与索引优化,支持百万级数据高效查询。开发数据清洗模块,处理异常数据并建立数据校验规则,确保数据准确性。项目成果实现英雄强度分析数据可视化展示,为游戏数据分析提供基础数据支持。

双色球彩票数据采集系统:设计多线程爬虫架构,采集双色球历史开奖数据。采用MongoDB进行数据分片存储,实现数据的高效读写与备份。开发数据处理模块,完成红蓝球号码的统计分析与趋势预测。通过Selenium模拟浏览器操作,解决动态加载内容的采集难题。项目成果构建彩票数据可视化看板,支持历史数据多维度分析。

驻场外包优势

服从性高

严格遵守甲方管理制度

技术扎实

1年项目实战经验

可长期驻场

接受异地项目外派

快速响应

24小时内可到岗

企业人才对接

专业IT人力外包服务

如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。

合作热线

18969108718

商务邮箱

ntit@163.com

微信扫码咨询

微信咨询二维码

扫描二维码添加商务对接

立即申请人才对接