O que é um ETL?

You are currently viewing O que é um ETL?

O ETL é um sistema que captura, manipula e padroniza dados para que sejam armazenados ou usados por outros sistemas e o n8n é um dos sistemas mais populares para executar essas ações.

Segundo a Wikipédia:

ETL, do inglês Extract Transform Load (Extrair Transformar Carregar), são ferramentas cuja função é a extração de dados de diversos sistemas, transformação desses dados conforme regras de negócios e por fim o carregamento dos dados geralmente para um Data Mart e/ou Data Warehouse, porém nada impede que também seja para enviar os dados para um determinado sistema da organização.

Para que um sistema seja considerado um ETL, a extração e carregamento são obrigatórios para o processo, sendo a transformação/limpeza opcional, mas que são boas práticas, tendo em vista que os dados serão encaminhados para o sistema de destino. É considerada uma das fases mais críticas do Data Warehouse e/ou Data Mart.

Por que devo usar um ETL?

O n8n é um exemplo de sucesso de aplicação de ETL. Você pode simplesmente usar esse tipo de sistema para integrar aplicativos que não possuem integração nativa, padronizar as informações para garantir uma consistência e armazenar em qualquer formato adequado, seja um banco de dados, uma planilha ou até mesmo um outro sistema.

As etapas de um ETL

O ETL clássico funciona basicamente em 3 etapas, que são as mesmas que você usará com o n8n para construir fluxos de trabalho.

Extração

A primeira parte do processo de ETL é a extração de dados de um sistemas de origem e você pode usar várias fontes de dados como input num processo de ETL e cada sistema pode também utilizar um formato ou organização de dados específico.

Formatos de dados comuns são API REST, bases de dados relacionais e flat files (também conhecidos como arquivos texto), além de webhooks onde o sistema origem faz uma requisição HTTP para enviar dados.

Transformação

O estágio de transformação aplica uma série de regras ou funções aos dados extraídos para derivar os dados a serem carregados, ou seja, aplicamos uma padronização e até mesmo uma junção de informações de outros sistemas.

Algumas fontes de dados necessitarão de muito pouca manipulação de dados. Em outros casos, podem ser necessários um ou mais de um dos seguintes tipos de transformação:

  • Tradução de valores codificados (se o sistema de origem armazena 1 para sexo masculino e 2 para feminino, mas o data warehouse armazena M para masculino e F para feminino, por exemplo), o que é conhecido como limpeza de dados.
  • Codificação de valores de forma livre (mapeando “Masculino”,“1” e “Sr.” para M, por exemplo)
  • Derivação de um novo valor calculado
  • Junção de dados provenientes de diversas fontes
  • Resumo de várias linhas de dados para cálculos
  • Transposição ou rotação (transformando múltiplas colunas em múltiplas linhas ou vice-versa)
  • Quebra de uma coluna em diversas colunas

Este processo de transformação faz com que o um sistema de ETL seja um dos mais desejados por Equipes de Marketing no mundo todo, pois pode facilmente enriquecer informações de contatos e possíveis clientes.

Além disso, no caso do N8N, você pode criar suas próprias regras de transformação, enviar e receber dados de outros sistemas e tudo isso dentro do seu próprio servidor, obedecendo regras de GDPR e garantindo a segurança da informação.

Carregamento (envio, armazenamento)

A fase de carregamento consiste na colocação dos dados em um Data Warehouse (DW) ou o envio de dados para outros sistemas. Dependendo das necessidades da organização, este processo varia amplamente.

É nessa etapa que um Lead que veio de um outro sistema e passou por várias transformações e enriquecimento na etapa anterior é enviado para um CRM ou uma plataforma de Automação de Marketing.

O n8n faz esse processo de envio ou armazenamento muito fácil, pois possui mais de 200 integrações e pode facilmente salvar o resultado de um processamento em:

  • Um Banco de Dados MySQL, Postgres, etc
  • Um json no AWS S3
  • Sistemas de Automação como Mautic, Hubspot, etc

Finalizando

Neste artigo apresentei o conceito de ETL e como você pode usar o N8N em diversos cenários de manipulação de dados.

Dúvidas? Deixe nos comentários!

Deixe uma resposta