原创 ETL工程师是干什么的？ETL工程师工作内容介绍

随着大数据时代的来临，ETL工程师逐渐出现在大众的视野中，那么ETL工程师是干什么的呢？直白一点说，ETL工程师又叫数据库工程师，需要掌握各种流行的编程语言，每天的工作就是和数据库打交道，下面详细介绍一下ETL工程师的工作内容，以便于大家进一步了解这个职业。

ETL是什么意思？

ETL中三个字母分别代表的是Extract、Transform、Load，即抽取、转化、加载。数据抽取：从源数据系统抽取目的数据系统需求的数据；数据转换：将从源数据源获取的数据按照业务需求，转换成目的数据源要求的形式，并对错误、不一致的数据进行清洗和加工；数据加载：将转换后的数据装载到目的数据源。

ETL工程师主要干什么？

ETL工程师的主要工作内容有：从事系统编程、数据库编程与设计。ETL原本是作为构建数据仓库的一个环节，负责将分布的、异构数据源中的数据如关系数据、平面数据文件等抽取到临时中间层后进行清洗、转换、集成，最后加载到数据仓库或数据集市中，成为联机分析处理、数据挖掘的基础。因为以前经常是将业务系统的数据取出来放到数仓中，按照星型或雪花型建模。

ELT 的核心思想就是要利用下游数据存储性能大幅提升和机器学习应用的灵活性的优势，在数据流转的过程中不做过于复杂的计算。ETL负责将分布的、异构数据源中的数据如关系数据、平面数据文件等抽取到临时中间层后进行清洗、转换、集成，最后加载到数据仓库或数据集市中，成为联机分析处理、数据挖掘的基础。

ETL是数据仓库中的非常重要的一环。它是承前启后的必要的一步。相对于关系数据库，数据仓库技术没有严格的数学理论基础，它更面向实际工程应用。所以从工程应用的角度来考虑，按着物理数据模型的要求加载数据并对数据进行一些系列处理，处理过程与经验直接相关，同时这部分的工作直接关系数据仓库中数据的质量，从而影响到联机分析处理和数据挖掘的结果的质量。

数据仓库是一个独立的数据环境，需要通过抽取过程将数据从联机事务处理环境、外部数据源和脱机的数据存储介质导入到数据仓库中；在技术上，ETL主要涉及到关联、转换、增量、调度和监控等几个方面；数据仓库系统中数据不要求与联机事务处理系统中数据实时同步，所以ETL可以定时进行。但多个ETL的操作时间、顺序和成败对数据仓库中信息的有效性至关重要。

ETL工程师岗位职责：

1、海量数据的ETL开发，抽取成各种数据需求。

2、参与数据仓库架构的设计及开发 。

3、参与数据仓库ETL流程优化及解决ETL相关技术问题。

4、熟悉主流数据库技术，如oracle、Sql server、PostgeSQL等。

5、精通etl架构，有一定的etl开发经验，了解日常作业的部署和调度。

6、会数据etl开发工具，如Datastage,Congos,Kettle等。

以上就是ETL工程师的工作内容介绍，希望大家看完以上的内容，能够大概明白ETL工程师是干什么的。相信依靠着大数据技术，ETL工程师在市场上会越来越吃香，