Pular para o conteúdo

Processamento de dados · tema 7 de 30

ETL e ELT

30 min · 2 vídeos · 11 cards · 1 drill

Por que cai

É a pergunta que separa quem sabe a sigla de quem sabe decidir. A banca não quer ouvir 'no ELT o T vem depois'; quer ouvir por que o mercado migrou, o que se ganha guardando o bruto e em que situação, num banco, você ainda transforma antes de aterrissar.

Pré-teste · 1 de 2

responda antes de ver

Qual é a diferença essencial entre ETL e ELT?

Confiança:

Vídeo · português · 8 min

Trata o assunto como decisão de arquitetura, que é o ângulo da banca. Assista tentando antecipar, a cada vantagem citada, qual é o custo que vem junto.

Em uma frase

ETL transforma o dado em trânsito, antes de gravar no destino; ELT grava o dado bruto no destino e transforma lá dentro.

O que realmente muda

A ordem das letras é consequência. A decisão é sobre duas coisas: quem paga a conta da computação e o que fica gravado no destino.

AspectoETLELT
Onde transformaMotor intermediário, entre origem e destinoNo próprio destino, depois do pouso
O que aterrissaDado já limpo, tipado e conformadoDado bruto, como veio da origem
CustoCapacidade do motor de ETL, dimensionada para o picoComputação elástica no destino, recorrente
Reprocessar regra novaDepende de a origem ainda ter o históricoRecalcula a partir do bruto guardado
Dado sensívelPode ser mascarado antes de gravarAterrissa cru, exige controle na zona bruta
EsquemaRígido: definido antes da cargaFlexível: interpretado na leitura

Por que o ELT ganhou espaço

Duas mudanças econômicas. Armazenamento de objetos ficou barato o suficiente para guardar tudo, inclusive o que talvez nunca seja usado. E a computação no destino ficou elástica: em vez de dimensionar um servidor de ETL para o pico do fechamento, você liga um cluster por vinte minutos e desliga.

Somado a isso, a variedade cresceu. JSON de API, log de aplicação e arquivo de parceiro não cabem num esquema fixo definido antes da carga. Pousar primeiro e interpretar depois deixou de ser gambiarra e virou desenho.

O bruto é uma apólice

Guardar o bruto custa armazenamento. Não guardar custa a impossibilidade de corrigir o passado. No banco, onde regra de segmentação, de provisão e de risco muda com frequência, essa apólice se paga.

Os riscos do ELT

  1. 1Dado sensível entra cru: CPF, renda e dado de saúde passam a existir numa cópia dentro do lake, fora do perímetro da origem.
  2. 2Custo migra para o destino: transformação vira consumo recorrente de computação, e consulta ruim sobre tabela crua grande aparece na fatura.
  3. 3Governança vira gargalo: sem catálogo, dono, contrato e linhagem, o bruto acumula e ninguém sabe o que é cada tabela.

As mitigações são conhecidas e você deve saber citá-las: tokenização dos campos críticos já na ingestão, controle de acesso por coluna na zona bronze, retenção definida, particionamento e formato colunar para o custo, e contrato mais teste de qualidade como condição para promover de bronze para prata.

Quando ETL ainda é a resposta

Quatro situações resistem, e todas aparecem em banco:

  1. Mascarar PII antes do pouso. Se a exigência é que nenhum campo identificável exista na zona bruta, a transformação tem que acontecer antes de gravar. Não há como corrigir isso depois.
  2. Contrato rígido. Data mart contábil e reporte regulatório precisam que o registro ruim seja rejeitado no caminho, não descoberto três camadas adiante.
  3. Origem que não pode ser lida duas vezes. Fila que consome a mensagem, arquivo de parceiro disponível por 24 horas, janela contratada de extração de mainframe.
  4. Destino sem capacidade de computação. Se o alvo é um banco operacional que não aguenta transformação pesada, empurrar o T para lá é criar incidente.

Como responder em voz alta

Comece pela diferença em uma frase — onde a transformação roda. Explique a economia que fez o ELT ganhar. Defenda o bruto pelo reprocessamento. Liste os três riscos com uma mitigação cada. Feche com as situações em que você ainda faria ETL. Isso mostra decisão, e não preferência.

Se quiser outro ângulo

Revisão curta e no vocabulário de pipeline, boa para consolidar antes de responder em voz alta.

Como cai na sabatina

Vocês vão usar ELT no Lakehouse. Quais os riscos disso?

Erros comuns

  • Resumir a diferença a 'a ordem das letras'. A pergunta real é onde a computação da transformação acontece e o que fica gravado no destino, porque é isso que muda custo, governança e capacidade de reprocessar.
  • Dizer que ELT é sempre melhor porque é moderno. Sem contrato e sem catálogo, ELT vira despejo de tabela crua que ninguém entende, e o lake vira pântano.
  • Esquecer que ELT joga o custo para o destino. Transformação pesada no warehouse aparece na fatura de computação todo mês, e não em um servidor de ETL comprado uma vez.
  • Ignorar LGPD ao defender ELT. Carregar CPF, dado de saúde ou biometria cru na zona bronze cria uma cópia de dado sensível fora do perímetro de controle da origem.
  • Achar que guardar o bruto é bagunça. O bruto é o que permite recalcular seis anos de indicador quando a regra de negócio muda; sem ele, você depende da origem ainda ter o histórico.
  • Tratar ETL como legado. Origem que só pode ser lida uma vez, contrato rígido com o consumidor e mascaramento obrigatório antes do pouso continuam pedindo transformação em trânsito.

Flashcards

Card 1 de 11

0 certos · 0 a rever

Drill

ETL ou ELT para esse cenário?

Para cada situação do banco, escolha a abordagem e justifique em uma frase pelo requisito que manda na decisão.

  1. 1.Cadastro com CPF e renda, com exigência de que nada identificável fique na zona bruta.

  2. 2.Log de eventos do aplicativo, em JSON, cujo esquema muda a cada release.

  3. 3.Arquivo de uma bandeira de cartão, disponível por 24 horas e depois apagado.

  4. 4.Histórico de transações que o time de risco quer reprocessar sempre que a regra de segmentação muda.

  5. 5.Carga para um data mart contábil com esquema fixo, validado e assinado pela área de controles.

  6. 6.Ingestão de várias origens novas para exploração, sem consumidor definido ainda.

Quiz · 1 de 2

Qual é o principal ganho operacional de guardar o dado bruto no destino?

Explique para um gerente

Explique para o gerente de risco por que guardar o dado cru custa dinheiro e mesmo assim vale a pena — e em que caso não vale.

Responda em voz alta antes de seguir. Se travar numa palavra técnica, é sinal de que ainda não entendeu essa parte.

Perguntas de sabatina deste tema

  • · O time vai adotar ELT no Lakehouse. Quais os riscos e como você os mitigaria?
  • · Se ELT é tão vantajoso, por que ainda se faz ETL?
Responder no simulado

Para ir além