技能标签
专业技能
精通Hadoop全栈技术体系,包括HDFS分布式存储、YARN资源调度、Spark流批一体计算框架、Hive数据仓库引擎及HBase分布式数据库。熟练掌握Kafka实时数据管道构建技术,具备Zookeeper分布式协调服务部署经验。精通Python数据清洗与ETL开发,熟悉Hive SQL优化与调优。Java开发领域掌握Spring Boot微服务架构及MyBatis持久层框架,具备Oracle数据库高并发场景开发经验。熟悉Linux系统运维及Shell脚本开发。
工作履历(脱敏处理)
专注大数据平台开发与架构设计,主导搭建分布式计算平台,完成多源异构数据整合与实时分析系统。深入优化Hive查询性能,提升数据处理效率30%。设计Kafka+Spark-Streaming实时数据管道,实现日均千万级数据处理。开发数据清洗ETL流程,构建标准化数据仓库模型。基于Spring Boot开发数据服务接口,支撑多业务系统数据调用。维护Oracle数据库高并发场景,优化SQL执行计划提升查询性能。
项目经验(脱敏处理)
味全云数仓项目:基于腾讯云EMR集群搭建分布式计算平台,整合ERP、CRM、供应链等多源异构数据,构建统一的数据仓库架构。采用Hive进行数据仓库建模,通过Spark-Streaming实现实时数据处理,利用Kafka构建高吞吐量数据管道。解决海量数据存储瓶颈问题,通过HDFS分布式存储方案提升数据读取效率。优化Hive查询性能,采用分区表与索引技术将复杂查询响应时间缩短50%。设计数据ETL流程自动化方案,实现日均千万级数据清洗与加载,支撑业务系统实时数据可视化分析。
驻场外包优势
服从性高
严格遵守甲方管理制度
技术扎实
1年项目实战经验
可长期驻场
接受异地项目外派
快速响应
24小时内可到岗
企业人才对接
专业IT人力外包服务
如果贵公司有IT项目人手缺口、需要工程师驻场开发、短期人力支援需求,欢迎联系洽谈合作。
合作热线
18969108718
商务邮箱
ntit@163.com
微信扫码咨询
扫描二维码添加商务对接