What is an AI Agent Harness? 5 Core Pillars and How to build — Duc Nguyen (Dwight)
TL;DR
O harness é a infraestrutura de software que cerca o modelo e gerencia tarefas de longa duração — o modelo é a CPU (cognição bruta), o harness é o sistema operacional (contexto, drivers de tool, governança de execução). O artigo defende que o harness, não o modelo, é o verdadeiro diferenciador competitivo em IA empresarial, e o decompõe em 5 pilares de produção: orquestração de tools com sandbox, compactação de contexto/memória, delegação a sub-agentes efêmeros, guardrails/HITL e observabilidade com recuperação de erro.
Pontos-chave
- Modelo ≠ agente. O LLM é “engine cognitiva” que decide o que fazer; o harness é a infraestrutura que executa no mundo real e devolve feedback. “The harness does not reason; it executes” — quando o agente decide ler um arquivo ou consultar um banco, o modelo não realiza a ação, ele pede e o harness orquestra.
- Analogia do SO. Modelo = CPU; harness = sistema operacional que curou o contexto, faz o “boot”, provê drivers (tool handling) e governa a execução. Um harness leve abstrai a infra do LLM, permitindo trocar a “CPU” sem reescrever o “SO”.
- Harness ≠ framework. Frameworks (LangChain, AutoGen) são blocos de construção pro desenvolvedor — focam em como o código é escrito. O harness gerencia a execução viva, restrições de segurança e loops de feedback do mundo real — foca em como o agente interage com o host.
- 5 pilares. (1) Orquestração de tools + execução sandbox (Docker efêmero, sem tocar a raiz do host); (2) compactação de contexto e gestão de memória (sumarização/poda + offload pra storage durável tipo vector DB); (3) delegação a sub-agentes efêmeros (isolamento de contexto + execução paralela); (4) guardrails/segurança/HITL (permission boundaries + validação por linters/testes + pausa pra aprovação humana antes de ações destrutivas); (5) observabilidade e recuperação (retry escalonado, detecção de loop, telemetria profunda de cada tool call e custo de tokens).
- Autonomia total raramente cabe na empresa. Guardrails são as regras determinísticas que impedem ações nocivas; o harness pausa em junções críticas (dropar tabela, enviar e-mail) pra exigir sign-off humano via Slack/Teams/CLI.
- “Build to Delete”. Mantenha o harness modular; não superengenheire o control flow — confie no raciocínio do modelo e deixe o harness pronto pra adaptar quando a próxima geração de modelos chegar.
- NLAHs (Natural-Language Agent Harnesses). Padrão emergente em que o comportamento do harness — fronteiras de papel, semântica de estado, tratamento de falha — vive em linguagem natural editável em texto puro, derrubando a barreira de adoção empresarial.
Citações
“An agent harness is the software infrastructure surrounding an AI model that manages long-running tasks.”
“The harness does not reason; it executes. When an AI agent decides it needs to read a file or query a database, the model itself cannot perform the action.”
“A lightweight harness abstracts the infrastructure away from the LLM, allowing developers to easily swap out the underlying ‘CPU’ without rewriting the ‘Operating System.‘”
“The true differentiator for enterprise AI solution providers is the agent harness.”
“Full AI autonomy is rarely appropriate in enterprise settings. Guardrails are the deterministic rules that prevent agents from taking harmful actions.”
Meu comentário
Escreva aqui sua reação, surpresas, discordâncias.