Pular para o conteúdo

Tema

Data Mesh · tema 35 de 40

Arquiteturas de dados

35 min · 2 vídeos · 14 cards · 2 drill

Por que cai

Arquitetura é onde a banca mede senioridade. Qualquer pessoa lista nomes; o que separa é dizer o que cada escolha custa e em que condição você mudaria de ideia. A pergunta sobre fonte da verdade é a que mais expõe quem nunca conciliou número com área de negócio.

Pré-teste · 1 de 2

responda antes de ver

Qual é o custo característico da arquitetura Lambda?

Quanta certeza você tem?

Vídeo · português · 9 min

Contrasta as duas arquiteturas em pouco tempo e com desenho de camadas. Ignore o recorte de produto Azure e fique com o raciocínio: o que some quando você tira a camada batch.

Em uma frase

Arquitetura de dados é a escolha de onde o dado mora, quem manda nele e quantas vezes a mesma regra é escrita — e cada opção cobra num lugar diferente.

Lambda contra Kappa

Lambda tem duas camadas de processamento. A batch reprocessa o histórico inteiro e produz o número correto, com latência de horas. A speed processa o que chega agora e produz um número aproximado, em segundos. A camada de serviço junta as duas na hora da consulta: histórico da batch, últimas horas da speed.

Kappa elimina a camada batch. Tudo é stream, e reprocessar histórico é reler o log de eventos desde o começo com o código novo.

LambdaKappa
Caminhos de processamentoDois: batch e speedUm: stream
Custo principalA mesma regra escrita duas vezes, que diverge com o tempoDepender do log reter histórico e reprocessar volume grande por stream
Quando faz sentidoRegra batch complexa que não se traduz bem para streamLógica que cabe em stream e log com retenção suficiente

Warehouse, Lake e Lakehouse

Data WarehouseData LakeLakehouse
SchemaOn write: modela antes de carregarOn read: aplica na leituraOn read com contrato de tabela por cima
Dado que aceitaEstruturadoQualquer formatoQualquer formato, com tabelas governadas sobre os arquivos
TransaçãoACID nativoNão tem: escrita parcial é visívelACID pela camada Delta, Iceberg ou Hudi
Custo de armazenamentoAltoBaixo (objetos)Baixo (objetos)
Risco típicoRigidez e fila de modelagemVirar pântano sem catálogo e qualidadeComplexidade de operar a camada de tabela
Uso no bancoRelatório regulatório estávelPayload cru de PIX, log, áudioTabelas de transação com MERGE e time travel para auditoria

Data Mesh

Mesh responde a um gargalo organizacional: um time central de dados que não dá conta da fila de pedidos de quatro áreas de negócio. Quatro princípios:

  1. 1Propriedade descentralizada por domínio: quem gera o dado responde por ele
  2. 2Dado como produto: dono, consumidor, contrato, SLA, documentação, descoberta
  3. 3Plataforma de dados self-serve: o domínio publica sem depender do time central
  4. 4Governança federada computacional: regras globais decididas em conjunto e aplicadas por automação

Um data product não é uma tabela publicada. É uma tabela com dono nomeado, consumidor conhecido, SLA de atualização, qualidade medida e presença no catálogo. O contrato de dados é o acordo explícito de schema, semântica, frequência e política de mudança — o que transforma quebra silenciosa em violação detectável.

Source of Record e Source of Truth

Este par é o que mais derruba candidato, porque parece sinônimo e não é.

Source of RecordO sistema onde o dado nasce e que é autoritativo sobre o fato original. O core bancário é o SoR do lançamento. O sistema de cadastro é o SoR do endereço. Se a base analítica discorda do SoR sobre o que aconteceu, é a base analítica que se explica.

Source of TruthA visão consolidada, tratada e governada que a organização usa para decidir. A SoT reúne vários SoRs, resolve duplicidade, aplica regra de negócio e corte temporal, e é a referência do relatório e do indicador.

Elas divergem por bons motivos. Corte temporal diferente (o core é agora, o relatório é o fechamento de ontem às 23h59). Regra distinta (lançamento em contingência que a contabilidade ainda não reconhece). Atraso de ingestão. E, às vezes, defeito real.

A resposta profissional não é eleger um número, é reconciliar: comparar o mesmo corte, isolar a causa, documentar a explicação e configurar alerta para quando a diferença sair da faixa esperada. Divergência explicada é operação normal; divergência sem explicação é incidente.

Modern data stack, em uma frase

Conjunto de ferramentas gerenciadas e desacopladas — ingestão, armazenamento em nuvem, transformação em SQL, orquestração, catálogo e BI — montadas por integração em vez de por plataforma única.

Se quiser outro ângulo1 vídeo
Resumo curto dos princípios do Mesh. Assista já perguntando quais deles exigem mudança de organograma, porque é aí que a banca costuma cutucar.

Como cai na sabatina

O saldo no core diverge do saldo no relatório. Qual é a fonte da verdade?

Erros comuns

  • Descrever Lambda e Kappa como opções equivalentes. Lambda cobra caro em manter a mesma regra escrita duas vezes; Kappa cobra em reprocessamento de histórico pelo próprio stream. Sem citar esse custo, a resposta vira lista.
  • Tratar Lakehouse como marketing de Data Lake. O que muda é concreto: formato de tabela com transação, evolução de schema e time travel sobre armazenamento de objetos.
  • Dizer que Data Mesh é arquitetura técnica. Os quatro princípios são organizacionais antes de tudo; sem times de domínio com dono, o Mesh vira lake bagunçado com nome novo.
  • Confundir Source of Record com Source of Truth. SoR é onde o dado nasce; SoT é a visão consolidada e governada usada para decidir. Podem ser sistemas diferentes sem que ninguém esteja errado.
  • Responder que a fonte da verdade é sempre o core bancário. Para saldo em tempo real, sim; para o número do relatório regulatório de fechamento, a verdade é a visão consolidada e datada, não a tela do momento.
  • Propor Data Mesh para uma empresa com um time de dados de oito pessoas. Governança federada e plataforma self-serve exigem escala organizacional; abaixo dela, é overhead.

Flashcards

Card 1 de 14

0 certos · 0 a rever

Drill

SoR ou SoT?

Para cada afirmação, classifique o papel do sistema descrito.

  1. 1.O core bancário, que registra o lançamento no instante em que a transação de cartão é autorizada.

  2. 2.A tabela gold de posição consolidada de clientes, usada pelo relatório regulatório e pela diretoria.

  3. 3.O sistema de cadastro, onde o cliente informa o endereço no onboarding.

  4. 4.A visão unificada de cliente que resolve duplicidade entre cadastro, cartão e seguros e escolhe o endereço vigente.

  5. 5.O extrator do PIX, que grava na zona raw o payload cru recebido do SPI.

Drill

Qual arquitetura responde ao cenário?

Escolha a arquitetura mais adequada e prepare uma frase justificando o custo que você aceita.

  1. 1.Relatório regulatório mensal sobre dados estruturados, com modelagem estável há anos e exigência forte de rastreabilidade.

  2. 2.Guardar por sete anos o payload cru de PIX, log de app e áudio de call center, sem saber ainda que perguntas serão feitas.

  3. 3.Tabelas de transação que precisam de atualização corretiva, leitura concorrente por Spark e SQL, e reconstrução de um estado passado para auditoria.

  4. 4.Um conglomerado com áreas de cartão, seguros, crédito e câmbio, cada uma com time de engenharia próprio, e uma fila de meses no time central de dados.

  5. 5.Uma fintech com doze pessoas no total, sendo duas de dados, e um único banco transacional.

Quiz · 1 de 2

O que o Lakehouse acrescenta a um Data Lake?

Explique para um gerente

Explique para o diretor de operações, em um minuto, por que o número do relatório de saldo pode legitimamente diferir do número da tela do gerente, sem que nenhum dos dois esteja errado.

Se travar numa palavra técnica, é sinal de que ainda não entendeu essa parte.

Prefiro falar em voz alta

00:00

Toque para gravar, ou responda em voz alta sem gravar

Perguntas de sabatina deste tema2
  • · O saldo no core diverge do saldo no relatório gerencial. Qual é a fonte da verdade?
  • · A diretoria leu sobre Data Mesh e quer adotar. Vocês têm quatro domínios grandes, um time central de dados com fila de três meses e nenhuma plataforma self-serve. O que você recomenda?
Responder no simulado
Para ir além5 artigos