原创 成为数据工程师需要具备哪些技能？

成为数据工程师需要具备哪些技能？数据工程工作存在于各个行业，在银行业、医疗保健业、大型科技企业、初创企业和其他行业找到工作机会。许多职位描述要求数据工程师、拥有数学或工程学位，但如果有合适的经验学位往往没那么重要。

那么如何获得数据开发相关岗位的工作经验？如果是应届毕业生争取获得一个数据工程师的实习机会。门槛最低雇主们愿意找一个没有工作经验的人；另一种是侧面获得该职位，即使你没有计算机科学或数学背景，仍然可以通过获得分析师或项目经理的职位进入数据工程领域，开始着手越来越多的数据工程领域的工作。不仅需要做自己份内的工作，也要做一些额外的数据工程工作，试着争取与数据工程师非常接近的职位，如数据分析师。

数据工程师应具备哪些技能？高水平的数据工程师将数据从A点传输到B点，并将其重新构建为分析师和数据科学家可以轻松使用的格式。从技能的角度来看，数据工程师需要ETLs(提取、转换、加载)、自动化(通常使用Python或其他编程语言)、数据建模或者数据仓库、SQL和NoSQL数据操作以及数据可视化等专业技能。ETLs和数据仓库是一种新技能，在获得学士学位后，会在硕士或证书课程中得到更多的涉猎。

数据工程师应该能够熟练的使用各种工具，从编程语言到拖放工具，从云数据仓库到数据可视化程序。可供数据工程师使用的工具比一个人一生可能掌握的工具要多得多。如数据工程工具包括SSIS、Azuredata Factory、Tableau、Informatica、Matillion、Fivetran、Snowflake、Redshift和Databricks等。大数据工程师的技术要求如下：

1、掌握至少一种数据库开发技术：Oracle、Teradata、DB2、Mysql等，灵活运用SQL实现海量数据ETL加工处理；

2、熟悉Linux系统常规shell处理命令，灵活运用shell做的文本处理和系统操作；

3、有从事分布式数据存储与计算平台应用开发经验，熟悉Hadoop生态相关技术并有相关实践经验着优先，重点考察Hdfs、Mapreduce、Hive、Hbase；

4、熟练掌握一门或多门编程语言，并有大型项目建设经验者优先，重点考察Java、Python、Perl；

5、熟悉数据仓库领域知识和技能者优先，包括但不局限于：元数据管理、数据开发测试工具与方法、数据质量、主数据管理；

6、掌握实时流计算技术，有storm开发经验者优先。

数据工程师的目标着眼于全局和开发。数据工程师建立自动化系统和模型数据结构以使数据得到有效处理。数据工程师的目标是创建及开发表和数据管道，以支持分析仪表板和其他数据客户(如数据科学家、分析师和其他工程师)。与大多数工程师很相似，有很多设计、假设、限制和开发，能够创建某种最终的强健系统。这个系统可能是一个数据仓库和ETL或者流式管道。

大数据学习潮流已成必然，“超高薪、高大上、前景光明”成为大数据行业的代名词。随着数据开发工程师成为炙手可热的职位，与之相关各项条件水涨船高：录取标准、人才需求、以及，薪资待遇，因此想要学习大数据掌握相关技能才是自身最大的核心竞争力。