RAG pode ser mais simples: comece com busca full-text e reescrita por LLM

Muita gente monta sistemas RAG de forma “over-engineered”, indo direto para embeddings, bases vetoriais e pipelines de reranking, mas o texto defende que o ponto de partida pode ser mais direto. A recomendação é escolher a abordagem conforme necessidades como atualização dos dados, características do corpus, padrões de consulta, escala de uso e capacidade do time.

O guia sugere começar pelo “MVP” com busca full-text usando BM25 (como Elasticsearch ou Postgres full-text search) quando as consultas são mais baseadas em palavras-chave e a prioridade é evitar complexidade de ML. Para consultas conversacionais ou com vocabulário desalinhado, a proposta é usar um LLM para reescrever a pergunta em uma busca keyword, e, quando fizer sentido, evoluir para busca híbrida combinando BM25 para candidatos e embeddings para reranking.