Workflow de IA “agnóstico”: dura em prod e roda rápido em eval

Uma equipe da Brex descreveu um padrão para construir workflows de IA que funcionam tanto em produção quanto em rotinas de avaliação (evals) offline. A ideia é separar a “lógica de orquestração” (passos, ordem e ramificações) do runtime: a mesma lógica roda sem mudanças em ambientes duráveis e também em loops leves para testar centenas de variações. O artigo explica por que engines focadas em execução durável (com persistência e replay) tornam as evals caras e lentas, enquanto harnesses leves não garantem resiliência para agentes longos.

Na prática, isso reduz bugs causados por divergência entre o que foi avaliado e o que vai para o ar—já que existe apenas uma versão da lógica. Para devs, a arquitetura precisa “forçar” o caminho correto (build falha se alguém escrever código não-agnóstico) e aceitar um custo: a orquestração perde acesso direto a recursos nativos de cada runtime, exigindo uma camada intermediária para novas capacidades. O resultado é um fluxo mais confiável para ajustar prompts e modelos sem sacrificar estabilidade em produção.