Processamento de dados · tema 7 de 30
ETL e ELT
30 min · 2 vídeos · 11 cards · 1 drill
Por que cai
É a pergunta que separa quem sabe a sigla de quem sabe decidir. A banca não quer ouvir 'no ELT o T vem depois'; quer ouvir por que o mercado migrou, o que se ganha guardando o bruto e em que situação, num banco, você ainda transforma antes de aterrissar.
Pré-teste · 1 de 2
responda antes de verQual é a diferença essencial entre ETL e ELT?
Vídeo · português · 8 min
Em uma frase
ETL transforma o dado em trânsito, antes de gravar no destino; ELT grava o dado bruto no destino e transforma lá dentro.
O que realmente muda
A ordem das letras é consequência. A decisão é sobre duas coisas: quem paga a conta da computação e o que fica gravado no destino.
| Aspecto | ETL | ELT |
|---|---|---|
| Onde transforma | Motor intermediário, entre origem e destino | No próprio destino, depois do pouso |
| O que aterrissa | Dado já limpo, tipado e conformado | Dado bruto, como veio da origem |
| Custo | Capacidade do motor de ETL, dimensionada para o pico | Computação elástica no destino, recorrente |
| Reprocessar regra nova | Depende de a origem ainda ter o histórico | Recalcula a partir do bruto guardado |
| Dado sensível | Pode ser mascarado antes de gravar | Aterrissa cru, exige controle na zona bruta |
| Esquema | Rígido: definido antes da carga | Flexível: interpretado na leitura |
Por que o ELT ganhou espaço
Duas mudanças econômicas. Armazenamento de objetos ficou barato o suficiente para guardar tudo, inclusive o que talvez nunca seja usado. E a computação no destino ficou elástica: em vez de dimensionar um servidor de ETL para o pico do fechamento, você liga um cluster por vinte minutos e desliga.
Somado a isso, a variedade cresceu. JSON de API, log de aplicação e arquivo de parceiro não cabem num esquema fixo definido antes da carga. Pousar primeiro e interpretar depois deixou de ser gambiarra e virou desenho.
O bruto é uma apólice
Guardar o bruto custa armazenamento. Não guardar custa a impossibilidade de corrigir o passado. No banco, onde regra de segmentação, de provisão e de risco muda com frequência, essa apólice se paga.
Os riscos do ELT
- 1Dado sensível entra cru: CPF, renda e dado de saúde passam a existir numa cópia dentro do lake, fora do perímetro da origem.
- 2Custo migra para o destino: transformação vira consumo recorrente de computação, e consulta ruim sobre tabela crua grande aparece na fatura.
- 3Governança vira gargalo: sem catálogo, dono, contrato e linhagem, o bruto acumula e ninguém sabe o que é cada tabela.
As mitigações são conhecidas e você deve saber citá-las: tokenização dos campos críticos já na ingestão, controle de acesso por coluna na zona bronze, retenção definida, particionamento e formato colunar para o custo, e contrato mais teste de qualidade como condição para promover de bronze para prata.
Quando ETL ainda é a resposta
Quatro situações resistem, e todas aparecem em banco:
- Mascarar PII antes do pouso. Se a exigência é que nenhum campo identificável exista na zona bruta, a transformação tem que acontecer antes de gravar. Não há como corrigir isso depois.
- Contrato rígido. Data mart contábil e reporte regulatório precisam que o registro ruim seja rejeitado no caminho, não descoberto três camadas adiante.
- Origem que não pode ser lida duas vezes. Fila que consome a mensagem, arquivo de parceiro disponível por 24 horas, janela contratada de extração de mainframe.
- Destino sem capacidade de computação. Se o alvo é um banco operacional que não aguenta transformação pesada, empurrar o T para lá é criar incidente.
Como responder em voz alta
Comece pela diferença em uma frase — onde a transformação roda. Explique a economia que fez o ELT ganhar. Defenda o bruto pelo reprocessamento. Liste os três riscos com uma mitigação cada. Feche com as situações em que você ainda faria ETL. Isso mostra decisão, e não preferência.
Se quiser outro ângulo
Como cai na sabatina
“Vocês vão usar ELT no Lakehouse. Quais os riscos disso?”
Erros comuns
- Resumir a diferença a 'a ordem das letras'. A pergunta real é onde a computação da transformação acontece e o que fica gravado no destino, porque é isso que muda custo, governança e capacidade de reprocessar.
- Dizer que ELT é sempre melhor porque é moderno. Sem contrato e sem catálogo, ELT vira despejo de tabela crua que ninguém entende, e o lake vira pântano.
- Esquecer que ELT joga o custo para o destino. Transformação pesada no warehouse aparece na fatura de computação todo mês, e não em um servidor de ETL comprado uma vez.
- Ignorar LGPD ao defender ELT. Carregar CPF, dado de saúde ou biometria cru na zona bronze cria uma cópia de dado sensível fora do perímetro de controle da origem.
- Achar que guardar o bruto é bagunça. O bruto é o que permite recalcular seis anos de indicador quando a regra de negócio muda; sem ele, você depende da origem ainda ter o histórico.
- Tratar ETL como legado. Origem que só pode ser lida uma vez, contrato rígido com o consumidor e mascaramento obrigatório antes do pouso continuam pedindo transformação em trânsito.
Flashcards
Card 1 de 11
0 certos · 0 a reverDrill
ETL ou ELT para esse cenário?
Para cada situação do banco, escolha a abordagem e justifique em uma frase pelo requisito que manda na decisão.
1.Cadastro com CPF e renda, com exigência de que nada identificável fique na zona bruta.
2.Log de eventos do aplicativo, em JSON, cujo esquema muda a cada release.
3.Arquivo de uma bandeira de cartão, disponível por 24 horas e depois apagado.
4.Histórico de transações que o time de risco quer reprocessar sempre que a regra de segmentação muda.
5.Carga para um data mart contábil com esquema fixo, validado e assinado pela área de controles.
6.Ingestão de várias origens novas para exploração, sem consumidor definido ainda.
Quiz · 1 de 2
Qual é o principal ganho operacional de guardar o dado bruto no destino?
Explique para um gerente
Explique para o gerente de risco por que guardar o dado cru custa dinheiro e mesmo assim vale a pena — e em que caso não vale.
Responda em voz alta antes de seguir. Se travar numa palavra técnica, é sinal de que ainda não entendeu essa parte.
Perguntas de sabatina deste tema
- · O time vai adotar ELT no Lakehouse. Quais os riscos e como você os mitigaria?
- · Se ELT é tão vantajoso, por que ainda se faz ETL?
Para ir além