大数据工程师

hadoop大数据工程师

1、搭建数据采集平台,通过对数据的抓取、解析、调度、存储等模块的拆分与优化,构建和完善统一的抓取服务平台; 2、设计爬取、调度和抽取算法,优化系统; 3、熟识Hadoop生态圈技术体系对离线计算、内存计算和流式计算均有深刻理解如Hadoop、Hive、Spark、Flink、Impala 等; 4、解决爬虫和数据库出现的问题并不断维护、优化程序。 任职资格: 1、本科及以上学历,计算机相关专业,2年左右相关经验; 2、Python 开发的经验,爬虫开发经验,熟识MySQL或了解PostgreSQL 数据库能协助检查数据入库环节; 3、熟识整个爬虫的设计及实现流程.精通网页抓取原理及技术,精通正则表达式从结构化的和非结构化的数据中获取信息; 4、具有搜寻相关技术研发、数据挖掘、数据处理、自然语言处理、信息检索、机器学习背景者优先。 职位福利:五险一金、加班补助、周末双休、员工旅游、定期体检
更新于 2024-10-17
查看更多岗位职责
岗位的主要条件:
1、本科及以上学历,计算机、数学、统计等相关专业;
2、熟悉C、C++、java、Python等一门或多门编程语言;
3、3年及以上Hadoop开发与应用经验,熟悉MapReduce、Spark、Storm、HBase、Hive等主流大数据技术;
4、熟悉各种特征提取、数据降维等数据处理技术;
5、熟练应用各种分类聚类算法;熟悉各种相关性算法、回归算法;了解常用的分析模型;
6、了解典型数据挖掘工具,具有数据挖掘算法开发经验;
7、工作有计划性,责任心和执行能力强,具备高度的责任心、诚信的工作作风、优秀沟通能力及团队精神;
8、能够阅读英文技术文档及论文,具有良好的自学能力,可以快速学习和掌握新的方法和技术。

工作内容:
1.负责hadoop平台上的数据存储、数据维护和优化
2.参与大规模数据系统的架构和调度设计
3.参与实时、离线海量数据分析平台的开发
更新于 2024-09-30
查看更多岗位职责

工资待遇区别

岗位名称
平均工资
较上年
¥23.8K
持平
说明:大数据工程师和hadoop大数据工程师哪个工资高?大数据工程师高于hadoop大数据工程师。大数据工程师平均工资¥23.8K/月,2024年工资¥23.9K,与2023年持平,hadoop大数据工程师平均工资¥23.5K/月,2024年工资¥23.4K,2024年工资高于2023年,统计依赖于各大平台发布的公开数据,系统稳定性会影响客观性,仅供参考。

就业前景区别(历年招聘趋势)

岗位名称
2023年职位量
较2022年
说明:大数据工程师和hadoop大数据工程师哪个就业前景好?大数据工程师2023年招聘职位量 1.6K,较2022年下降了 18%。hadoop大数据工程师2023年招聘职位量 22,较2022年增长了 5%。统计依赖于各大平台发布的公开数据,系统稳定性会影响客观性,仅供参考。

学历要求区别

本科 76.6%
硕士 10.1%
不限学历 6.9%
大专 6.0%
博士 0.46%
本科 66.7%
硕士 33.3%
说明:大数据工程师和hadoop大数据工程师的区别? 大数据工程师需要什么学历?本科占76.6%,硕士占10.1%,不限学历占6.9%,大专占6.0%,博士占0.46%。 hadoop大数据工程师需要什么学历?本科占66.7%,硕士占33.3%。

经验要求区别

3-5年 37.6%
不限经验 25.2%
5-10年 20.2%
1-3年 16.5%
应届毕业生 0.46%
3-5年 66.7%
5-10年 33.3%
说明:大数据工程师和hadoop大数据工程师的区别? 大数据工程师经验要求哪个最多?3-5年占37.6%,不限经验占25.2%,5-10年占20.2%,1-3年占16.5%,应届毕业生占0.46%。 hadoop大数据工程师经验要求哪个最多?3-5年占66.7%,5-10年占33.3%。