Retrieval — hybrid search, BM25, query rewriting

TL;DR

Pure vector search é o default ingênuo. Em produção, ninguém ganha. Padrão profissional em 2026: hybrid search (BM25 + vector) + query rewriting + reranking. BM25 pega exact match (nomes, IDs, termos técnicos); vector pega semântica. Combinados via Reciprocal Rank Fusion (RRF). Query rewriting (incluindo HyDE) transforma a pergunta do usuário em queries melhores. Pesquisa mostra: hybrid bate pure vector em ~95% dos casos.

Por que pure vector falha

Vector embeddings perdem em casos específicos:

Caso	Por que vector falha
Nome próprio	”Maria Silva” e “Maria Souza” embedam parecido
ID, código	”ABC-123” não tem semântica útil
Termo técnico raro	Embedding genérico não captura
Negação	”não suporta X” e “suporta X” embedam similar
Match exato	Usuário quer a palavra exata, embedding aproxima

BM25 (variante do TF-IDF) ganha em todos esses. Vector ganha em queries semânticas, sinônimos, paráfrases.

Hybrid usa os dois.

BM25 em 30 segundos

Algoritmo clássico de information retrieval:

score(doc, query) = sum_for_each_term_in_query(
    IDF(term) × (TF(term, doc) × (k1 + 1)) / (TF(term, doc) + k1 × (1 - b + b × |doc| / avg_dl))
)

Não precisa entender a fórmula — entender que:

• TF: quantas vezes o termo aparece no doc
• IDF: termos raros valem mais
• k1, b: parâmetros (defaults k1=1.2, b=0.75)

Implementação: Elasticsearch, OpenSearch, Postgres ts_vector, ou rank_bm25 (Python).

Hybrid search — combinando BM25 e vector

Duas abordagens:

1. Reciprocal Rank Fusion (RRF) — recomendado

def rrf(rankings, k=60):
    """rankings: lista de listas com IDs ordenados por relevância"""
    scores = {}
    for ranking in rankings:
        for rank, doc_id in enumerate(ranking):
            scores[doc_id] = scores.get(doc_id, 0) + 1 / (k + rank + 1)
    return sorted(scores.items(), key=lambda x: -x[1])
 
# Uso
vector_top50 = vector_search(query)        # IDs ordenados por similarity
bm25_top50 = bm25_search(query)            # IDs ordenados por BM25
final = rrf([vector_top50, bm25_top50])    # combinação

Vantagem: sem tunar pesos. RRF é robusto, funciona out-of-the-box.

2. Weighted score — alternativa

def weighted_score(doc, query, alpha=0.5):
    return alpha * vector_score(doc, query) + (1 - alpha) * bm25_score(doc, query)

Vantagem: tunável. Desvantagem: scores em escalas diferentes (vector 0-1, BM25 sem limite) → precisa normalizar. Difícil acertar alpha.

Query rewriting — pergunta ≠ query ótima

Pergunta do usuário tipicamente:

• Tem typos
• Usa pronomes (“isso”, “ele”)
• É vaga (“como faço aquilo?“)
• Mistura múltiplas perguntas

Técnicas para melhorar:

1. LLM-based rewrite

prompt = f"""
Reescreva a pergunta abaixo como uma query de busca melhor.
Substitua pronomes por substantivos. Remova ambiguidade.
 
Pergunta: {user_question}
Query: """
 
rewritten = llm.complete(prompt)
results = retrieve(rewritten)

2. HyDE (Hypothetical Document Embeddings)

Em vez de embedar a pergunta, gera uma resposta hipotética e embeda essa.

prompt = f"""
Imagine que você está respondendo a pergunta abaixo.
Escreva 1 parágrafo respondendo (mesmo que invente).
 
Pergunta: {user_question}
Resposta: """
 
hypothetical = llm.complete(prompt)
results = retrieve(embed(hypothetical))  # embed da resposta, não pergunta

Razão: respostas geralmente são mais similares a docs relevantes do que perguntas. Funciona bem em queries abertas.

3. Multi-query

Gera N queries variantes e une os resultados:

prompt = "Gere 3 queries diferentes para a pergunta abaixo..."
queries = llm.complete(prompt)
all_results = []
for q in queries:
    all_results.append(retrieve(q))
final = rrf(all_results)

Vantagem: cobre formulações diferentes. Custo: 3-5x embedding queries.

4. Subquestion decomposition

Pergunta complexa → várias simples:

"Como o produto X se compara com Y em performance e custo?"
                    ↓
- "Performance do produto X"
- "Custo do produto X"
- "Performance do produto Y"
- "Custo do produto Y"

Útil em multi-hop. Custo: N retrievals + sintetizador final.

Metadata filtering

Reduzir espaço de busca antes de retrieve:

SELECT * FROM chunks
WHERE doc_date > '2026-01-01'
  AND lang = 'pt-br'
  AND doc_type = 'manual'
ORDER BY embedding <=> query_embedding
LIMIT 50;

Vantagens:

• Reduz custo de search
• Melhor recall em filtros disjuntos
• Permite multi-tenancy (filtrar por user_id)

Indexar metadata frequentemente filtrada (B-tree em Postgres, payload index em Qdrant).

Top-k — quanto pegar

Retrieve top-50 → Rerank → top-5 ao prompt

Por quê:

• Top-5 do retrieval direto perde recall
• Top-50 reraqueado combina recall (do top-50) com precision (do reranker)
• Top-50 sem rerank mete ruído no prompt

Default: retrieve 50, rerank para 5-10.

Pipeline ideal — exemplo

def retrieve_with_quality(user_question, k=5):
    # 1. Rewrite
    rewritten = rewrite_with_llm(user_question)
 
    # 2. HyDE (opcional)
    hypothetical = generate_hypothetical(rewritten)
 
    # 3. Hybrid retrieval — top-50 cada
    vector_top50 = vector_search(embed(hypothetical), k=50)
    bm25_top50 = bm25_search(rewritten, k=50)
 
    # 4. RRF
    fused = rrf([vector_top50, bm25_top50])  # ~70-80 únicos
 
    # 5. Rerank
    top_k = rerank(rewritten, fused[:50])[:k]  # ver [[07 - Reranking]]
 
    return top_k

Latência total: ~500-1500ms.

Quando NÃO precisa de hybrid

• Domínio sem termos técnicos / nomes / IDs
• Volume muito alto + custo crítico (BM25 adiciona ~50ms)
• Já tem ranking sinal forte (votos, recência)

Métricas

Métrica	Alvo
Recall@50 (retrieval)	>90%
Latência retrieval (hybrid + rewrite)	<500ms
Cost por query	<$0.001
% queries com rewrite que mudou top-k	20-50%

Anti-patterns

• Pure vector em produção — perde em ~30% dos casos
• Tunar alpha sem validar — RRF é mais robusto
• Query rewriting sempre — em queries simples, adiciona latência sem ganho
• HyDE em domínio onde modelo não tem conhecimento — gera hipótese ruim
• Sem metadata filtering — busca em corpus inteiro quando podia filtrar 90%
• Top-k = 5 sem rerank — perde recall

Veja também

• 02 - Anatomia do pipeline RAG
• 05 - Vector databases — pgvector, Pinecone, Qdrant
• 07 - Reranking — Cohere, Voyage, cross-encoders
• 09 - Evaluation de RAG

Referências

• Anthropic — Contextual Retrieval (2024)
• Gao et al. — HyDE: Precise Zero-Shot Dense Retrieval without Relevance Labels (2022)
• Cormack et al. — Reciprocal Rank Fusion (2009)
• Pinecone — Hybrid search guide (2026)
• Robertson & Walker — BM25 paper (1994)