本期话题,带你了解“Data Engineer 需要具备哪些技能?”
大家好!欢迎观看由AI聘Youtube频道发布的全新改版后的北美职场分析类栏目“北美求职60秒”。关注北美市场,聚焦数据、软件类求职,60秒解析北美求职疑惑,助力求职成功!
Data Engineer 需要具备哪些技能?
随着数据产生速度的进一步加快,公司对于数据工程师(Data Engineer)的需求也越来越大。总的来说,数据工程师应该具备下列技能:
理解并熟练掌握编程语言。要成为一名成功的数据工程师,你需要成为一名熟练的程序员,SQL和Python都是职位列表中列出的最常见的技术。我们生活在Python时代,它仍然是一个标准的入门点。这种编程语言非常适合网站、脚本和数据。SQL是数据语言,与自动化、脚本和数据库建模有关。虽然年代久远,但它仍然在管理和处理数据方面发挥着关键作用。
了解如何查找、使用仓储解决方案、以及ETL工具。包括了ETL(提取、转换、加载)和ELT,它们能让你把数据从一个点带到另一个点,而这一过程通常会使用到工具或编程。数据要经过处理、提取、经常地转换,然后加载到数据湖或数据库中。想要了解移动数据对于下一组数据集的影响,不但跟数据仓库、数据湖有关,有时还和数据湖屋的技能有关。
对云计算技术、数据可视化等有深入了解。等你获得更多经验以后,这一层背后的基础知识就相当简单了。首先从无服务计算、云数据仓库等方面了解云;DevOps能帮你把环境中的代码引入生产环境。熟悉Git—一种用于源代码管理的工具;在学习数据可视化时,你会选择用Tableau这类工具,同时还要学习最佳实践。
流数据、分布式计算和专业化。在了解了前三层以及其中的概念之后,你就可以更具体地使用自己的方法了。因为你拥有了ETL和数据仓库方面的背景,并且会习惯使用云计算,所以,在AWS Kinesis上设置一些东西对你来说会更容易。在这一阶段,你还可以更深入地研究分布式处理,以及使用这种系统的利弊。熟悉最基本的程序,根据你的专业知识构建特定的软件技能。比如,针对于Redshift、Azure、Apache等的技能。
AI聘-独家数据类岗位追踪
我们来看一下进入2022年9月最后一周,AI聘团队对于北美数据类岗位的每日发布情况的追踪数据:
- Data Analyst 数据分析师平均周中日更岗位数量达到19957,比前一周日均减少了550个岗位;降幅2.68%;
- Business Analyst 商业分析师达到4666,比前一周日均减少了699个岗位;降幅13.04%;
- Product Analyst 产品分析师达到3843,比前一周日均减少了681个岗位;降幅15.04%;
- Marketing Analyst营销分析师达到3736,比前一周日均减少了455个岗位;降幅10.86%;
- Data Scientist 数据科学家达到16786,比前一周日均减少了371个岗位;降幅2.16%;
数据类岗位上一周整体数量有所下降,Data Analyst和Data Scientist岗位基本持平,但是Business Analyst,Product Analyst和Marketing Analyst均出现了超过10%的降幅,也是连续三周数量下降。进入到十月份,秋招岗位招聘会逐渐进入尾声,整体岗位需求会有所减少,所以对于有求职需求的小伙伴,需要抓紧时间来进行申请了。