As 11 camadas — visão geral

TL;DR

Um sistema de IA em produção se monta em onze camadas: Purpose, Prompt, Context, Output, Retrieval, Tool, Workflow vs Agent, Evaluation, Guardrail, Logging, Improvement. As três primeiras definem o que o sistema é, como se comporta e o que sabe. As quatro do meio executam — produzem output, puxam conhecimento, chamam tools, escolhem entre caminho fixo e agent. As três seguintes controlam — medem, restringem, registram. A última fecha o loop e transforma o sistema one-off em sistema que aprende. Esta nota é o mapa; cada camada tem sua própria nota nesta trilha.

Por que a maioria dos demos de IA não vai a produção

Você viu a demo: o chatbot responde perguntas com fluência, o executivo fica impressionado, o time fica animado. Três meses depois, o projeto está no freezer. O que deu errado?

Quase sempre é a mesma coisa: o time construiu modelo chamando coisas — mas não construiu o sistema. O modelo responde, mas não há critério de sucesso definido (então não há como saber se está funcionando). Não há guardrail (então o modelo pode prometer coisas que o negócio não pode entregar). Não há logging (então quando algo der errado em produção, não existe trace para debugar). Não há melhoria estruturada (então cada ajuste é tentativa-e-erro cega).

Um AI engineering stack é o conjunto de decisões que transforma esse demo em sistema confiável. São onze camadas. Cada uma responde uma pergunta específica e produz um artefato concreto — um documento, um schema, uma rubrica, um arquivo de configuração. Juntos, formam o blueprint do sistema antes de uma linha de código ser escrita.

A formalização das 11 camadas usada nesta trilha vem da série Become an AI Engineer do @hooeem. Outras taxonomias existem — Lilian Weng fala de planning/memory/tool use; Anthropic fala de building blocks/workflows/agents — mas as 11 camadas têm a virtude de serem operacionais: cada uma é um template que você preenche, não um conceito que você aprecia.

As camadas, em uma frase cada

#CamadaPergunta que respondeArtefato produzido
1PurposeO que esse sistema é, pra quem, e o que ele NÃO fazDocumento de escopo versionado
2PromptComo o modelo deve se comportarSystem prompt versionado
3ContextO que o modelo precisa saber pra decidir bemTemplate de contexto por execução
4OutputEm que formato o modelo entrega a respostaSchema + seções obrigatórias
5RetrievalQuando puxar informação externa, de quais fontesPolítica de retrieval + hierarquia de fontes
6ToolO que o modelo pode fazer (ações no mundo)Catálogo de tools + política de aprovação
7Workflow vs AgentCaminho fixo ou descoberto dinamicamente?Diagrama de fluxo ou loop agentic
8EvaluationComo saber se o output está bomRubrica de avaliação + dataset de regressão
9GuardrailO que o sistema NÃO pode fazer; quando pararKill switches + regras de escalação
10LoggingO que registrar de cada run pra debugar e melhorarSchema de trace + backend de logs
11ImprovementComo o sistema evolui a partir do que aprendeCadência de revisão + changelog de prompts

Como as camadas se conectam


graph TB
    classDef definition fill:#4A90D9,stroke:#2171B5,color:#fff
    classDef execution fill:#2CA05A,stroke:#1A7A3F,color:#fff
    classDef control fill:#F5A623,stroke:#C47D0A,color:#000
    classDef evolution fill:#9B59B6,stroke:#7D3C98,color:#fff

    P["① Purpose"]:::definition
    PR["② Prompt"]:::definition
    CT["③ Context"]:::definition
    OUT["④ Output"]:::execution
    RT["⑤ Retrieval"]:::execution
    TL["⑥ Tool"]:::execution
    WA["⑦ Workflow vs Agent"]:::execution
    EV["⑧ Evaluation"]:::control
    GR["⑨ Guardrail"]:::control
    LG["⑩ Logging"]:::control
    IM["⑪ Improvement"]:::evolution

    P --> WA
    WA --> PR
    WA --> CT
    PR --> OUT
    CT --> OUT
    RT --> CT
    TL --> OUT
    OUT --> EV
    OUT --> GR
    EV --> LG
    GR --> LG
    LG --> IM
    IM -. feedback .-> P
    IM -. feedback .-> PR
    IM -. feedback .-> CT

Azul = definição do sistema · Verde = execução · Âmbar = controle · Roxo = evolução.

Como ler o grafo:

  1. Purpose vem primeiro porque sem critério de escopo, qualquer outra decisão é opinião pessoal.
  2. Workflow vs Agent é a bifurcação arquitetural — define se o restante do stack monta um pipeline fixo ou um loop autônomo. É a segunda decisão, não a sétima.
  3. Prompt, Context, Retrieval, Tool alimentam a geração. Output é o que sai do outro lado.
  4. Evaluation e Guardrail rodam em paralelo sobre o output: uma mede qualidade, a outra checa segurança.
  5. Logging captura tudo que passou pelas camadas anteriores.
  6. Improvement lê os logs e retroalimenta as camadas de definição — fechando o loop.

A seta de feedback pontilhada vinda do Improvement para Purpose, Prompt e Context é o que separa um sistema estático de um sistema que aprende.

A ordem de construção na prática

A numeração canônica é a ordem de dependência lógica — não a ordem de construção. Construir nessa ordem evita retrabalho:

1. Purpose primeiro, sempre. Sem saber o que o sistema é e o que ele não faz, qualquer outra camada pode ser construída de qualquer jeito. O not_in_scope da Purpose é o que permite recusar pedido fora de escopo — sem ele, você aceita tudo.

2. Workflow vs Agent segundo. Esta decisão define a arquitetura inteira. Pipeline fixo (workflow) tem uma engenharia; loop autônomo (agent) tem outra. Reverter essa decisão no meio do projeto é caro.

3. Output terceiro. Sabendo o que sai, você sabe o que precisa entrar. Definir o schema do output antes do system prompt evita prompts que prometem formatos que o modelo vai ignorar.

4. Prompt + Context juntos, em quarto. Instrução de comportamento (Prompt) + o que o modelo precisa saber pra esta execução específica (Context). Prompt é estático; Context muda a cada chamada.

5. Retrieval + Tool se necessário. Entram apenas se o sistema precisa de fontes externas ou de ações no mundo. Sistemas simples de Q&A talvez não precisem de nenhum dos dois.

6. Evaluation + Guardrail antes de qualquer ambiente compartilhado. Sem rubrica de qualidade, você não sabe o que está medindo. Sem guardrail, você não sabe o que está prevenindo. Esses dois não são “pra depois”.

7. Logging antes do primeiro usuário real. Log pós-incidente é tão útil quanto airbag depois do acidente.

8. Improvement após a primeira semana de dados reais. Qualquer melhoria antes disso é chute. Melhoria baseada em dados reais é sistema vivo.

O stack por nível de maturidade do time

Nem todo time precisa das 11 camadas no dia 1. A pergunta é: o que é inegociável para o seu nível atual de maturidade?

NívelO que montarO que pode esperar
Protótipo / PoCPurpose + Prompt + OutputRetrieval, Tool, Workflow, Evaluation completa, Guardrail, Logging, Improvement
Piloto (10–50 usuários internos)+ Evaluation básica (rubrica + 20 exemplos) + Guardrail mínimo + Logging de errosImprovement Loop, Retrieval avançado
Beta aberto+ Logging completo (trace por run) + Guardrail com kill switch de custo + Evaluation automatizadaImprovement Loop baseado em dados (ainda poucos)
ProduçãoStack completo. Improvement Loop rodando com dados reaisNada é opcional em produção

A coluna “O que pode esperar” não significa “não precisa” — significa “ainda não tem dados para calibrar”. Você vai adicionar Retrieval Layer quando souber quais lacunas de contexto causam respostas ruins; vai adicionar Improvement Loop quando tiver 2+ semanas de logs reais.

O erro clássico é inverter: construir Improvement Loop antes de ter Logging, ou construir Retrieval antes de ter Purpose. Cada camada herda artefatos das anteriores — construir na ordem errada é retrabalho garantido.

Casos práticos

Cenário 1 — O sistema sem blueprint

Time de e-commerce lança um assistente de atendimento com um prompt genérico (“seja útil e amigável”). Sem Purpose Layer, o sistema não tem not_in_scope — quando um usuário pede desconto fora da política, o modelo improvisa. Sem Evaluation, “parece bom” é o critério de qualidade. Sem Guardrail, o modelo às vezes promete coisas que a empresa não pode entregar. Sem Logging, quando o cliente reclama que “o atendente disse que poderia trocar sem nota fiscal”, não há trace para reproduzir e auditar.

Resultado: rollback após três semanas, reputação de suporte degradada, time desmotivado.

Cenário 2 — O blueprint antes do código

Mesmo time, segunda tentativa. Semana 1: Purpose Layer define primary_job (“responder dúvidas de rastreamento e trocas”), not_in_scope (descontos acima de 10% escalam para humano), success_criteria (resolve sem escalar em ≥80% dos casos). Semana 2: Output schema + Prompt + Context template definidos como artefatos versionados em Git. Semana 3: Evaluation com rubrica de 5 dimensões + 50 tickets históricos como dataset de regressão. Guardrail com kill switch de custo e palavras proibidas. Logging configurado antes do primeiro beta user.

Mês 2: Improvement Loop com os primeiros dados reais → identificou que 30% das escalações vinham de uma categoria específica → adicionou known_failure_modes no Context → escalações dessa categoria caíram 60%.

O que o stack não é

Vale demarcar o que as 11 camadas não são, para não aplicar onde não cabe:

Não é um processo de desenvolvimento. As 11 camadas são decisões arquiteturais, não fases de sprint. Você pode iterar dentro de cada camada enquanto o sistema está rodando. A Prompt Layer pode mudar na semana 3 sem tocar na Tool Layer.

Não é obrigatório ser sequencial na execução. A ordem de dependência é rígida (Purpose antes de Prompt, Logging antes de Improvement). A ordem de implementação pode ter paralelismo: dois engenheiros construindo Retrieval e Tool Layer em paralelo é perfeitamente normal.

Não substitui arquitetura de software. O stack define o que o sistema de IA precisa ser; a arquitetura de software define como o sistema vai ser construído (serviços, APIs, banco de dados, deploy). São camadas ortogonais. Um sistema de IA pode rodar num monolito Django, num conjunto de funções serverless, ou num cluster Kubernetes — o AI Engineering Stack é agnóstico a isso.

Não escala linearmente para cada feature. Se você tem um sistema de IA com 5 features diferentes (busca, geração de relatório, extração de dados, atendimento, alertas), cada feature pode ter Purpose e Evaluation distintos — mas elas podem compartilhar a mesma Tool Layer, o mesmo backend de Logging, e o mesmo Improvement Loop. O stack se aplica ao sistema, não a cada feature individualmente.

Armadilhas comuns

Começar pelo Prompt Layer

O erro mais frequente: a primeira reunião de arquitetura vira uma discussão sobre “como escrever o system prompt”. A resposta certa é: você não escreve o system prompt sem ter a Purpose Layer fechada. O Prompt herda o primary_job da Purpose. Sem Purpose, você escreveu um prompt sem critério — e vai reescrevê-lo dez vezes porque não há como avaliar se ficou bom.

Pular as três camadas de controle

Evaluation, Guardrail e Logging formam um bloco. Você pode lançar sem Retrieval (se o sistema não precisa de fontes externas). Não pode lançar sem o bloco de controle. Sem Evaluation não há critério de qualidade; sem Guardrail não há limite de dano; sem Logging não há como diagnosticar o próximo incidente. As três juntas são o que transforma demo em produto.

Confundir Context Layer com Retrieval Layer

Context Layer é o que você monta pra cada execução: goal da sessão, audience, histórico de decisões, modos de falha conhecidos. Retrieval Layer é o mecanismo que buscou parte desse conteúdo em fontes externas. Um documento puxado de um vector DB é Context — o pipeline de busca é Retrieval. Camadas distintas, decisões distintas, artefatos distintos.

Improvement sem Logging

“Vamos melhorar o prompt” sem dados de log é chute disfarçado de melhoria. O Improvement Loop só funciona quando há scores de avaliação, guardrails disparados, latência e custo de runs anteriores para analisar. Improvement Layer lê Logging Layer — sem a segunda configurada, a primeira não tem o que ler.

Como explicar em inglês

The AI Engineering Stack is an 11-layer framework for building LLM-powered systems that actually hold up in production. Each layer answers a specific architectural question and produces a concrete artifact — a versioned document, a schema, a rubric, or a configuration file. The three control layers (Evaluation, Guardrail, Logging) are the difference between a demo and a product: without a quality rubric, you can’t measure success; without guardrails, you can’t limit damage; without logging, you can’t debug incidents after they happen.

The 11-layer taxonomy comes from the Become an AI Engineer series. Other frameworks exist — Anthropic speaks of building blocks, workflows, and agents; Lilian Weng speaks of planning, memory, and tool use — but the 11-layer approach is operational: each layer is a template you fill out, not a concept you admire.

In a technical interview, you might say:

“When designing an LLM-powered system, I use an 11-layer stack framework: Purpose defines what the system does and what it explicitly doesn’t do; Prompt and Context carry behavioral instructions and per-call knowledge; Output, Retrieval, Tool, and Workflow/Agent handle execution. The three control layers — Evaluation, Guardrail, Logging — are non-negotiable before any real user touches the system. Improvement closes the loop. The order matters: you write the Prompt after the Purpose, not before, because the Prompt inherits its constraints from the Purpose’s scope definition.”

PTEN
Camada de propósitoPurpose Layer
Camada de promptPrompt Layer
Camada de contextoContext Layer
Camada de saídaOutput Layer
Camada de recuperaçãoRetrieval Layer
Camada de ferramentasTool Layer
Fluxo de trabalho vs AgenteWorkflow vs Agent
Camada de avaliaçãoEvaluation Layer
Camada de guardrailGuardrail Layer
Camada de loggingLogging Layer
Camada de melhoriaImprovement Layer
Blueprint do sistemaSystem blueprint
Escopo fora do sistemaOut of scope
Critério de sucessoSuccess criterion / success criteria

O que vem a seguir

A primeira camada a montar é a Purpose Layer — não por ordem numérica, mas porque ela é a única que não pode herdar nada de nenhuma outra camada. Todo o restante do stack — o que o Prompt instrui, o que a Evaluation mede, o que a Guardrail proíbe — herda do que a Purpose define.

Veja também

Fontes

  • @hooeemBecome an AI Engineer (thread), chapter #18 “Building your AI engineering stack”. X/Twitter, 2025.
  • AnthropicBuilding effective agents (2024). Taxonomia building blocks → workflows → agents.
  • Lilian WengLLM-powered Autonomous Agents (2023). Planning + memory + tool use como componentes de agent.